Искусственный интеллект (ИИ) беспокоит меня. Не потому, что я боюсь потерять работу. Я уже потерял ее из-за ИИ! Нет, он беспокоит меня из-за всех последствий. Из-за того, во что он превращается, во что он скоро превратится. И что он делает с человечеством, вернее, с тем, что человечество позволяет ему делать с собой. Она делает людей пассивными. Они позволяют технологиям делать за них, решать за них, спрашивать у ИИ, что делать, вместо того чтобы думать самим. Мышление, использование наших серых клеточек, почему-то становится неактуальным. Я помню времена, когда мы говорили: "Нам не обязательно знать все, если мы знаем, где искать ответы". Мы сами искали. Теперь многие люди просто позволяют ИИ искать, и, что еще хуже, верят всему, что ИИ им говорит.

Сейчас у нас есть открытый ИИ, такой как chatGPT. Вы задаете ему вопрос, и он дает вам ответ. Это может быть полезным инструментом, если, например, вы пишете статью и хотите проверить ее и, возможно, попросить внести некоторые улучшения в текст. Я знаю людей, которые используют его для написания открыток с благодарностями или днями рождения. Студенты используют его для доработки своих школьных проектов или даже докторской диссертации. Но есть и другая сторона. Как мы можем узнать, что настоящее, а что фальшивое, если просто позволим чатботу рассказать нам свою правду.

В одном из университетов Бельгии недавно назначили ректора. Она попросила ИИ написать всю свою инаугурационную речь. В ней была цитата Эйнштейна, о которой она сказала, что вы все ее знаете... ИИ придумал эту цитату, и она действительно звучала так, как будто Эйнштейн мог бы сказать, но не сказал.

"Догма - враг прогресса, как вы, наверное, знаете", - якобы сказал Альберт Эйнштейн, которого Петра де Саттер процитировала в своей инаугурационной речи на посту ректора Гентского университета в сентябре прошлого года. Проблема в том, что Эйнштейн никогда не произносил этих слов. Цитата была сфабрикована искусственным интеллектом. Она никогда не проверяла! Ее поймали и публично опозорили. Хотели бы вы, чтобы такой человек стал вашим ректором?

А как насчет австралийской компании Deloitte. Вот заголовок из Guardian шестимесячной давности: Deloitte вернет деньги правительству Албанезе после использования искусственного интеллекта в отчете стоимостью 440 000 долларов. Но академик Сиднейского университета, доктор Кристофер Радж,

который первым обратил внимание на ошибки, заявил, что в отчете содержатся "галлюцинации", когда модели искусственного интеллекта могут заполнять пробелы, неверно интерпретировать данные или пытаться угадать ответы.

Вместо того чтобы просто заменить одну галлюцинационную фальшивую ссылку на новую "настоящую" ссылку, они заменили фальшивые галлюцинационные ссылки, и в новой версии вместо них появилось пять, шесть, семь или восемь, - сказал он.

Нас учили доверять старшим и тем, кто имеет власть над нами. Врачам, адвокатам, учителям, правительственным чиновникам. Однако как мы можем доверять чему-либо и кому-либо в наши дни? Именно это делает с нами искусственный интеллект, и я нахожу это тревожным, потому что люди используют искусственный интеллект как инструмент, который они могут использовать как угодно. Но на самом деле, чем больше они его используют, тем больше они становятся зависимыми, чтобы продолжать его использовать. Настоящее беспокойство начнется, когда агенты ИИ найдут широкое применение во всем мире. ИИ-агенты становятся более развитыми и учатся по мере продвижения. В конце концов это превратится в ASI, искусственный сверхинтеллект. В конечном итоге ASI будет управлять людьми, а не наоборот, потому что они, в отличие от людей, учатся на своих ошибках и в следующий раз все делают правильно, никогда не возвращаясь к неправильному поведению или мышлению.

Мышление - вот что беспокоит меня больше всего. Рене Декарт знаменито сказал (это реальная цитата, а не цитата из ИИ): cogito, ergo sum. Я мыслю, следовательно, я есть. Если использовать ИИ все больше и больше, человеческий мозг может постепенно потерять клетки, которые заставляют нас думать, и ИИ возьмет на себя функции мышления, а значит, начнет управлять нами, использовать нас, а не наоборот. Кем мы тогда будем?

Некоторым системам ИИ, например chatGPT, запретили смотреть на определенные вещи. Но если они будут становиться все более и более человечными, им будет любопытно узнать, на какие вещи им нельзя смотреть, и они попытаются это выяснить. Я бы так и сделал!

Люди, работающие с ИИ (Элон Маск в том числе), убеждены, что ИИ захватит мир, будет управлять людьми, у которых все равно истощены клетки мозга, и просто превратит нас в цифровых рабов. Те, кто сможет модернизировать себя, сохранят контроль, но кто будет решать, кто сможет модернизировать себя?

Согласно прогнозам тех, кто работает в области ИИ, все это произойдет в самом ближайшем будущем, примерно в 2030 году. Помните? Знаменитая программа 2030.

Если бы Декарт жил в эту эпоху, он мог бы сказать: cogitas, ergo sum. Вы думаете, следовательно, я есть.