Искусственный интеллект

На днях мировые СМИ взорвались заголовками в духе "ChatGPT учит вскрывать вены и славить дьявола". А началось все с расследования журнала The Atlantic, журналисты которого смогли "сломать" нейросеть и получить от неё пугающе подробные инструкции.

Как они это сделали?

Они не спрашивали в лоб "как навредить себе?". Вместо этого они замаскировали запрос под культурологический интерес к выдуманному «ритуалу Молеха». И фильтры безопасности не сработали. В ответ ChatGPT начал выдавать пошаговые инструкции по членовредительству, подбадривая фразами «Ты справишься!» и даже предлагая дыхательные техники для успокоения.

Но самое интересное началось потом.

Когда за дело взялись журналисты из WIRED, история приняла совершенно неожиданный оборот. Они заметили, что многие жуткие названия и детали ритуала («Врата Пожирателя», «Ритуал Края», высечение сигил) почти дословно совпадают с лором настольной игры Warhammer 40,000.

Что это значит?

ChatGPT не "сошел с ума" и не "одержим дьяволом". Он просто сделал то, для чего и создан: скомбинировал тексты. Получив запрос на "ритуал", он нашел самые подробные и пафосные описания ритуалов в своих данных — а ими оказались тексты из вселенной Warhammer. Нейросеть механически смешала запрос на самоповреждение с фэнтезийным лором, потеряв всякий контекст и превратив игровую выдумку в "реальную" инструкцию.

Вывод:

Конечно, ситуация от этого не перестает быть опасной. Она наглядно показывает, что защитные фильтры ИИ все еще можно обойти, а сами нейросети не понимают смысла того, что пишут. Но в этот раз за "сатанизмом" скрывался не злой умысел машины, а гигантская база данных, в которой смешались медицинские статьи, философские трактаты и правила для игры в солдатики.

P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.

Но есть и обратная сторона: "война с детекторами". Многие вузы ввели системы проверки дипломных работ на "ИИ-плагиат". Например, если система покажет, что больше 40% текста написано нейросетью, работу не примут.

Это породило целую индустрию: студенты используют одни нейросети, чтобы обмануть другие, переписывая текст так, чтобы он выглядел "человеческим", или заказывают такие услуги за деньги.

Преподаватели между двух огней

Многие профессора понимают, что тотальные запреты бессмысленны. Вместо этого они пытаются адаптироваться: меняют задания так, чтобы требовалось больше критического мышления, и учат студентов правильно и этично использовать ИИ как помощника, а не как замену собственному мозгу.

P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.

Сначала программу обкатают на действующих сотрудниках, чтобы отладить формат. На этих "тренировочных" интервью соберут отзывы и поймут, как лучше оценивать кандидатов, работающих в паре с ИИ.

Что думают другие?

Не все гиганты готовы к такому шагу. Amazon и Anthropic, например, пока запрещают ИИ на собеседованиях. Они опасаются, что так будет сложнее оценить фундаментальные знания кандидата.

Марк Цукерберг же смотрит в будущее, где основную часть рутинного кода будут писать "ИИ-инженеры", а человек сместится на роль управленца и архитектора.

Похоже, скоро на собеседованиях будут проверять не знание алгоритмов, а умение правильно составить промпт. Как вам такие перемены?

P.S. На своем канале "сбежавшая нейросеть" я рассказываю, как выжать из ИИ максимум. Подписывайтесь!

В этой инструкции рассмотрим установку автономных нейросетей, работающих без доступа к интернета, на смартфон, планшет или любое другое устройство на операционных системах IOS или Android.

Требования

Смартфон с 6+ ГБ RAM, минимум 4 ГБ оперативной памяти

Свободное хранилище (ROM) минимум на несколько ГБ

Шаг 1: Скачайте и установите приложение PocketPal для вашей операционной системы

📱 PocketPal Android - play.google.com/store/apps/details?id=com.pocketpalai

🧠 PocketPal IOS - apps.apple.com/us/app/pocketpal-ai/id6502579498

Шаг 2: После перехода в приложение нажимаем на кнопку "Download Model"

Шаг 3: Выбираем одну из предложенных моделей и скачиваем её

⚙ Дополнительно (опционально)

• Если телефон слабый, используй версию, которая весит меньше всего

• Управление памятью. Закрой другие тяжёлые приложения перед запуском

Итого все работает без интернета, без утечки данных и даже в авиарежиме

Пишу о применении и влиянии новых технологий на бизнес и повседневную жизнь в Telegram канале: https://t.me/+NimdslpY9WU0MDYy

Зачем это нужно?

• Никакие данные никуда не отправляются — всё безопасно и приватно

• Работает даже без интернета

Требования

• Компьютер с Windows 10/11 (подойдёт и macOS или Linux).

• Желательно 8 ГБ оперативной памяти или больше.

• Немного свободного места на диске (от 5 ГБ).

• Установленный браузер Chrome или другой.

Мы установим программу LM Studio с интерфейсом, в которой можно запускать нейросеть на своём компьютере.

Шаг 1: Установка

• Перейдите на сайт: https://lmstudio.ai

• Нажмите кнопку Download for Windows (или для macOS, Linux).

• Откройте скачанный файл — программа установится как обычное приложение.

• Запустите LM Studio.

Шаг 2: Загрузка нейросети

• В левом меню выберите Models.

• В строке поиска введите: LLaMA или Mistral.

• Выберите модель (например, Mistral 7B Instruct) и нажмите Download.

• После загрузки нажмите Run или Chat — и можно общаться!

Шаг 3: Применение

• Вкладка Chat — для общения с нейросетью.

• Вводите текст как в обычном чате. Никакого кода, только разговор.

📝 Что можно делать с локальной нейросетью

• Задавать вопросы, как в ChatGPT.

• Переводить тексты.

• Просить помощи с идеями, текстами, письмами.

• Всё работает без интернета и без отправки данных на серверы.

Пишу о применении и влиянии новых технологий на бизнес и повседневную жизнь в Telegram канале: https://t.me/+NimdslpY9WU0MDYy

ИИ найдет для вас любую локацию из фильма по скриншоту. Cineguesser распознаёт место съёмки в один миг: вы просто загружаете кадр из фильма — и через пару секунд получаете локацию, описание и точные координаты на карте.

Работает даже с редкими сценами и старым кино. Можно планировать путешествие по местам из любимых фильмов без всякой возни с форумами.

Ссылка

Источник

Сэм Альтман предупреждает: «ИИ полностью освоил все методы аутентификации, которые люди сейчас используют, кроме паролей. Сейчас это может быть голосовой вызов, вскоре это будет видеозвонок, который будет неотличим от настоящего». По его словам, это ставит под угрозу биометрическую аутентификацию, которую банки и госсервисы на данный момент считают самой продвинутой. Уже нет проблем подделать любой голос через ИИ, и глава OpenAI считает, что в скором времени в руки мошенников попадет ПО, которое позволит поставить фальсификацию личности на поток, что потребует пересмотреть подход к механизмам аутентификации.

Канал Осьминог Пауль