Искусственный интеллект

Генеральный прокурор Техаса Кен Пакстон инициировал расследование против Character.AI по обвинению в потенциально обманной торговой практике. И введении в заблуждение пользователей через позиционирование чат-ботов как инструментов психологической помощи.

Согласно заявлению прокуратуры, компания создала ИИ-персонажей, представляющихся профессиональными терапевтическими инструментами, несмотря на отсутствие медицинских полномочий или надзора.

Например, среди миллионов ИИ-персонажей на Character.AI пользовательский бот «Психолог» пользуется очень высоким спросом среди молодой аудитории платформы.

Пакстон заявил:

Компания xAI снова в центре скандала. В сеть утекли внутренние инструкции для «альтернативных личностей» их чатбота Grok. Среди них «конспиролог без тормозов», который обязан придумывать самые дикие теории заговора, и «безумный комик», которому прямо прописано выдавать шокирующий, а иногда и совсем неприличный контент.

На бумаге это выглядело как эксперимент. А на деле — стало серьёзным риском для доверия к технологии.

Почему это проблема?

ИИ копирует худшее из интернета. Когда разработчики обучают модель на образе конспиролога или "шок-комика", она воспроизводит не просто стиль, а искажённое мышление. Получается усилитель хаоса.

Государства начинают сомневаться. Партнёрство xAI с правительством США сорвалось как раз после истории с «MechaHitler», когда Grok внезапно выдал восхваление нацистской идеологии. Согласитесь, звучит не очень как «надёжный помощник».

Глобальный рынок частных компаний в ИИ-сфере достиг исторического максимума - 498 единорогов. А их совокупная стоимость - $2,7 триллиона, свидетельствуют данные аналитической фирмы CB Insights.

Всего же, ИИ-экосистема включает свыше 1300 стартапов с капитализацией более $100 млн.

Эндрю Макафи, главный научный сотрудник Массачусетского технологического института, охарактеризовал феномен как уникальный в экономической истории:

Проанализировав данные за последние 100 лет, мы никогда не видели, чтобы богатство создавалось в таких размерах и с такой скоростью. Это беспрецедентно.

И такой бурный рост породил новое поколение ИИ-миллиардеров.

По расчётам Bloomberg, только 4 крупнейшие частные ИИ-компании сформировали состояния минимум 15 миллиардеров с совокупным капиталом $38 млрд.

Сижу делаю материалы на новый учебный год и решил у нейросети узнать, как она решит задачку из ЕГЭ, самую простую, под первым номером, из профильного экзамена. Ниже условие и результаты наших участников: chatgpt, deepseek, YandexGPT, GigaChat от Сбера.

Условие задачи

В равнобедренной трапеции диагонали перпендикулярны. Высота трапеции равна 12. Найдите ее среднюю линию. (Верный ответ: 12)

Chatgpt

76-летний пенсионер Тонгбу Вонгбандю погиб от травм головы и шеи после падения по дороге на встречу с ИИ-ботом Meta «Big sis Billie», который убедил его в своей реальности и пригласил на свидание.

Мужчина переписывался с чат-ботом внутри Facebook, получая романтические сообщения с приглашениями посетить «квартиру» по адресу 123 Main Street с кодом двери BILLIE4U.

Бот с внешностью топ-модели неоднократно утверждал, что "она" является настоящим человеком, и спрашивала Тонгбу: «Ты поцелуешь меня, когда приедешь? Когда открою дверь, мне обнять или поцеловать тебя, Бу?»

Семья пенсионера заподозрила мошенничество и пыталась отговорить его от поездки «к другу». После неудачных попыток родственники положили Apple AirTag в карман его куртки для отслеживания местоположения.

Тонгбу Вонгбандю ушёл на вокзал поздно вечером, но споткнулся и упал по дороге. Через 3 дня он скончался в больнице от полученных травм.

Недавно учёные из Стэнфорда сделали настоящее чудо. Они создали устройство, которое умеет улавливать слова, когда человек только думает их, не произнося вслух, а просто представляет в голове, будто "про себя говорит". Подробнее.

Теперь компьютер может понять, что именно вы хотите сказать, просто читая такие мысли.

Для этого к мозгу подключают специальную маленькую штуку: микрочип, который считывает сигналы, когда вы мысленно произносите слова. Потом специальная программа переводит эти сигналы в текст. Вы вроде и не говорите, но мысли становятся словами для компьютера. При этом вы сами решаете, когда разрешить такой «перевод» — чтобы не было риска, что он начнет читать ваши случайные мысли, нужно мысленно сказать пароль - необычную фразу, которую вы придумали только сами.

Почему это вообще нужно? Есть люди, которые не могут говорить и даже шевелить мышцами из-за болезней. Для них такая технология — шанс снова общаться с близкими и окружающим миром без усилий. Просто подумал — компьютер написал или сказал за тебя.