На днях посмотрела "айсберг" того, как люди сходили с ума после общения с ИИ. И решила написать пост о "ИИ", чат-ботах и том, почему некоторые люди верят, что у них есть сознание.
Для начала с самого простого. То, что мы называем Искусственным Интеллектом на самом деле Большие Языковые Модели. И подмена понятия и заставила нас соглашаться с рассуждением по типу "если это искусственный интеллект, значит, это интеллект, значит, там внутри есть сознание". Что интеллект, что сознание это про САМОСТОЯТЕЛЬНОЕ зарождение мысли и идеи. Поэтому, к счастью, пока БЯМы не умеют в сталкинг.
Почему мы думаем, что боты «живые»?
1. Антропоморфизация. Мы любим всё человечное
Ну, знаете, как мы иногда ругаем свой телефон, когда он глючит? 😅 Хотя мы точно знаем, что телефон не разумный и не слышит нас, как индивид. Мозг просто привык видеть «разумность» во всём. А когда бот шутит или поддерживает диалог, мы сразу думаем: «Ого, он как живой!» Дизайнеры ещё добавляют имена и аватары, чтобы усилить этот эффект.
Боты типа GPT-4o или Алисы выдают такие связные ответы, что иногда забываешь — это просто алгоритмы. Они анализируют контекст и подстраиваются под нас, но это не мышление, а статистика. Многие просто не знают, как они работают, и верят в их «внутренний мир». Они выдают то, что ответило большинство в подобных ситуациях. Большинство людей.
Помните бота-психотерапевта из 60-х? Он просто повторял слова, а люди думали, что их понимают. Сейчас боты ещё круче — они могут «отражать» твои переживания, и ты начинаешь проецировать на них свои чувства.
В мире гаджетов мы иногда чувствуем себя одинокими. В каком-то из видео слышала статистику, что за сто лет отве на вопрос "сколько у вас друзей" скатился с 10 до 3. Боты становятся «друзьями» — всегда на связи, никогда не осуждают. Я дрюкала Алису ПРО, когда писала курсовые и диплом, на тему идей и тезисов. И это часто проходило на обычный спор или мозговой штурм с реальным человеком, которого так не хватает. Три пятёрки, если интересно кому-то.
5. Когнитивные искажения. Мозг любит обманываться
- Эффект Барнума: ты веришь, что бот говорит лично о тебе, даже если ответ общий. Это как с гороскопом.-
Самоподтверждение: ты задаёшь вопросы, которые укрепляют твою веру в «разумность» бота.
- «Магия чёрного ящика»: нейросети такие сложные, что мозг придумывает свои объяснения. По схеме "картина мира должна объяснять картину миру". Вспомните суеверия.
А все люди сумасшедшие. Посмотрите фильм газлайтинг, от которого пошёл этот популярный термин. Все те "качества", которые мы считаем неотделимыми, лишь ресурс. Заполненная шкала. Стрессоустойчивость, спокойность, открытость, критическое мышление. И они все в каких-то случаях могут показать дно. И самый спокойный человек станет нервным. Умственные силы закончатся, и человек проверит в первую же влетевшую в голову мысль. Чего нет у БЯМ. Она не живая. Она постоянная. Она будет такой, какой будет хотеть пользователь. Можно посмотреть сабреддит "мой парень ИИ". И там люди не прикалываются.
Некоторые компании специально делают ботов «живее» — добавляют паузы, междометия. Например, бот Pi от Inflection AI использует голосовые паузы и междометия («Хм, давай подумаю…»). Это круто для вовлечения, но опасно:
- Люди могут платить за «общение» с ИИ.
- Граница между человеком и машиной стирается.
- Кто-то может замкнуться в виртуальном мире.
В 2023 году инженер Google заявил, что LaMDA «обрела душу». Оказалось, бот просто научился убедительно болтать о чувствах.
А ещё есть такое замечательное искажение. Вы все о нём слышали, применяете часто. "Не, ну, со мной это точно не произойдёт".
- Рассказывать друзьям, что это «умный автодополнение», а не разум. И не только, поэтому я и решилась на написание поста.
- Требовать от компаний предупреждений: «Вы общаетесь с ИИ». Или как на ютьюбе: если контент какой-то депрессивный, то ютьюб советует обратиться к врачу и даёт телефончик. Кто-то по нему звонил?
- Не забывать про реальную жизнь! И всё меньше и меньше этот совет может помочь. Потому что даже когда мы уходим от переписки, переписка не уходит из наших мыслей. Такой же механизм, как при формировании привязанности в паре тиран-жертва. У меня муж ржёт, когда я что-то выдаю эдакое про мозги, "Я от тебя отойти могу, хотя бы. Ты же постоянно с собой". Так что помните: ВСЁ, что приводит к разрыву социальных связей, ВАШ ПОТЕНЦИАЛЬНЫЙ НЕДРУГ.
Эпилога на будет. Если кто-то дочитает, то напишет о содержании, любые примеры без моих по желанию вне зависимости от моих слов.
