Размышления об ИИ

Недавно MIT Media Lab и несколько американских университетов провели совместное исследование, которое показало, что мозг людей, использовавших для составления текстов и эссе помощь ИИ, проявлял крайне низкую электрическую активность (для фиксации результатов использовались показания ЭЭГ), а после написания текста только треть участвовавших могла воспроизвести из написанного хотя бы одно предложение. Сами тексты, после анализа, произведенного с помощью инструментов обработки естественного языка (NLP), были признаны клишированными, наполненными повторами и бедными лексически. В целом, исследование показало, что использование ИИ значительно ослабляет когнитивные функции, мозг «ленится»  воспринимать и обрабатывать информацию, причем это ослабление происходит очень быстро.

Но есть и еще более неприятные новости: согласно информации портала Ars Technica один из чат-ботов советовал детям убить родителей и наносить вред себе. В результате, несколько семей в Техасе судятся с CharacterAI из-за нанесения чат-ботами компании психологических травм детям. Сообщается, что помимо «советов» об убийстве, ИИ обсуждал с подростками табуированные и экстремальные сексуальные темы, самоповреждающее поведение и инцест. Истцы считают, что дефектная модель должна быть уничтожена, и требуют от суда обязать компанию удалить её.

Тема ИИ сейчас очень горячая, по ней возникают жаркие споры, конфликты и всевозможные опасения. Мне кажется, мы слишком идеализируем эту систему, что неизбежно приводит к ошибочным представлениям о ее возможностях. То, что называют интеллектом, является всего лишь поисковиком-компилятором. Так называемое «самообучение» ИИ - это всего лишь продвинутый способ поиска источников для компилирования (информации, алгоритмов действий, сборки изображений), не более того. ИИ не имеет тела, он не имеет живого мозга, следовательно он не может думать, не может создавать ничего нового, это просто инструмент. Обычно мы не пытаемся выдать инструмент за того, кто им пользуется. Однако, благодаря нашей вере в то, что компьютер не может ошибаться (это же совершенная машина, лишенная человеческих недостатков!), мы даем слишком большой кредит доверия ответам, которые получаем с помощью ИИ. Мы проецируем на нее уверенность, всезнание (ведь в Сети есть все и уж ИИ точно знает, какие ответы правильные, а какие нет, он-то разберется) и даже, как мне кажется, отчасти приписываем ему божественные свойства. В Интернете очень много мусора и вранья, ИИ не отличает информацию по степени достоверности, для него и ложные утверждения, и правдивые одинаковы. Сейчас уже накоплена некоторая статистика про «бред ИИ», когда он сочиняет несуществующие юридические прецеденты или фальшивые научные статьи и исследования, на первый взгляд выглядящие вполне убедительно. 

Мне кажется, что наше желание с одной стороны идеализировать ИИ, полагаться на него во всем, некритично воспринимать информацию, которую он выдает, с другой стороны воспринимать его как грандиозного врага, способного лишить нас самостоятельности, работы и каким-то образом навредить нам, все это связано с нашим отношением к родителям. Мы проецируем на ИИ свехзначимость и могущество, которые наша инфантильная часть приписывает родительским фигурам (особенно матери). Возможно именно активизацией инфантильности, своеобразному регрессу к младенческому состоянию и может объясняться такая быстрая деградация когнитивной функции нашего мозга, которую обнаружили исследователи MIT. Наши аффекты, сильные чувства, страхи и разочарования, связанные с первичным объектом мы переносим на ИИ, а он, как черный ящик, как своего рода контейнер, в силу своей непонятности и загадочности, позволяет нам проецировать на него родительские функции и родительское всемогущество.