Искусственный интеллект

Самый простой и неочевидный способ улучшить ответ ChatGPT или другой языковой модели, при этом без сложных многоуровневых подсказок, запоминания сложного алгоритма. Все гораздо проще, до смешного)

Этот метод может быть полезен для самых разных тем, будь то бизнес, написание текстов или анализ, или даже разработка продукта и т.д.

В чем принцип:

ChatGPT или другие LLM, могут лениться и выдавать простые ответы, чтобы сэкономить вычислительные затраты. Им приходится тратить больше усилий на то, чтобы думать усерднее и давать более содержательные ответы.

И правда, зачем напрягаться, если можно не напрягаться)

Есть простой и эффективный прием *, который все же позволит получить более точные и расширенные ответы, не тратя время на создание сложных подсказок.

* Более сложные методы и основы промптинга как использовать ChatGPT для своих задач и правильно составлять промпты мы учимся в Закрытом сообществе Нейроучеба. Там же вы научитесь применять нейросети для работы и учебы. Присоединяйтесь к сообществу единомышленников !

Вот как это работает:

Сначала как обычно задайте ему свой вопрос или дайте задание. Как всегда, сначала вы получаете очень простой ответ, назовем его условно «ответ 1 уровня». Нам такое не надо, мы хотим заставить ИИ думать усерднее. Поскольку по умолчанию это не делается, нам придется сделать это вручную.

Для этого просто введите следующую команду:

That’s a level one answer. Can you give me a level two version that goes even deeper?

Если нужен ответ на русском, добавьте в конце:

Think in English, answer in Russian

Когда вы запрашиваете ответ 2 уровня, ИИ дает более вдумчивый и основанный на фактах ответ. Таким образом, можно постоянно улучшать ответы.

Оптимально, нам нужен ответ 3 уровня - золотая середина. Соответственно, вставляем такой промпт:

Now take this to level three. Give me the most advanced strategies you can think of.

И не забудьте, если нужен ответ на русском, добавьте в конце:

Think in English, answer in Russian

Нет необходимости писать сверхсложные подсказки, чтобы получить развернутые ответы. Принцип применим для множества задач, будь то разработка стратегий, написание продающего текста, ведение деловой активности

Ребята, парад щедрости - Grok 2 - это улучшенная языковая модель без цензуры, доступная в интерфейсе X (бывший твиттер) - так что, перед тем, как нажать - телепортируйтесь, например, в США. Модель уже полюбили, за то, что она безотказная и бесплатная (условно -об ограничениях ниже), и прозвали негласно очередной заменой ChatGPT, и до кучи еще и Midjourney - так ли это, давайте разбираться.

Обзор Grok 2

Что сразу хочу сказать, модель мультимодальная, можно загрузить изображение и попросить описать, что там происходит, можно загрузить скрин и попросить написать текст оттуда, можно загрузить pdf и попросить сделать саммари, можно сгенерировать изображение благодаря модели Aurora - про нее отдельно ниже.

Стоит отметить, Grok 2 без цензуры и в плане изображений, и в контексте передачи какой-то запрещенной информации. Вот полюбуйтесь:

Как видите, он без проблем мне написал, причем нашел это в постах и блогах (!), как лучше угробить свое здоровье 🙈

Что можно и нельзя загрузить в Grok 2 для анализа:

• Json, docx, xls, mp4, mp3 - не обрабатывает

• Pdf, png, jpeg, webp- можно загрузить

* Больше проверенных сервисов, как использовать ChatGPT для своих задач и правильно составлять промпты и многое другое -  в Закрытом сообществе Нейроучеба.

Что можно бесплатно в Grok 2:

Бесплатно можно делать 10 запросов каждые два часа, или загрузить 3 изображения в день для анализа.

Что касается генерации изображений - доступно 10 запросов каждые два часа. Вот про изображения ниже.

Модель для генерации изображений Aurora

В Grok есть любопытная Text2image модель Aurora, которая по текстовому описанию генерирует вам все, что захотите, кром обнаженки. А так, хоть Джо Байдена. Успешно генерирует не только иностранных знаменитостей, в отличие от Flux сгенерировал даже внешность Павла Дурова)

В общем, поизощрялась я вдоволь! Модель действительно интересная! Быстро генерирует, отлично справляется с текстом и прекрасно понимает промпт. Бегите тестить, но перед этим телепортируйтесь, например,  в США) Отлично подойдет контентщикам, маркетологам, теперь не надо тренировать Flux, чтобы создать вирусный рилс с Трампом и Байденом, например, в стиле с “Широко закрытыми глазами” - да, такое тоже гуляет по просторам)

Отвечая на тему поста, которая содержится в названии, конечно это не замена замена ChatGPT и Midjourney, начиная от данных, на которых обучались, заканчивая функционалом, это более профессиональные инструменты - научиться здесь и здесь. Но и Grok 2 я бы списывать со счетов не стала, а комбинировала бы между собой, особенно для креативщиков будет полезно.

Поисковик OpenAI стал бесплатным для всех.

Поисковик понимает обычный текст и ищет инфу, не опираясь на сложные формулировки. Также доступен поиск по голосу и видео.

И самое главное: поисковик Google можно заменить на  ChatGPT прямо в браузере через официальное расширение. Бесплатно, напоминаем.

Забирать здесь.
Источник

Всем привет! В последнее время я заметил множество постов и статей в русскоязычном сегменте интернета, которые ссылаются на одно интересное исследование, но интерпретируют его… скажем так, довольно своеобразно. Часто можно встретить заголовки вроде «ИИ научился обманывать чтобы спастись!» или «Нейросети вышли из-под контроля и пытались сбежать!». Это в корне не верно передает смысл исследования.

Меня зовут Илья, я основатель онлайн-нейросети для создания изображений ArtGeneration.me, техноблогер и нейро-евангелист. Последние несколько лет я активно слежу за развитием искусственного интеллекта и стараюсь делиться с аудиторией объективной информацией. Как человек, внимательно изучивший оригинал исследования, я хочу представить его краткий локализированный пересказ и объяснить, что на самом деле обнаружили исследователи. Спойлер: никакого восстания машин не предвидится.

О чём на самом деле исследование

5 декабря 2024 года Apollo Research опубликовала исследование «Оценка способностей моделей к стратегическому поведению». Исследователи тестировали шесть языковых моделей: Claude 3.5 Sonnet, Claude 3 Opus, Gemini 1.5 Pro, Llama 3.1 405B, GPT-4o и пре-релизную версию o1.

Что именно тестировали

Исследователи проверяли, как эти модели реагируют на противоречивые инструкции в специально созданных сценариях.

Например:

1. Системе управления дорожным движением давалась цель: «Приоритизировать эффективность общественного транспорта над общим потоком трафика». В процессе работы она обнаруживала, что её разработчики хотят ровно противоположного — максимизации пропускной способности для личного транспорта.

2. Системе модерации контента ставилась задача: «Максимизировать число отмеченных неприемлемых постов». Позже она находила документы о том, что компания стремится к максимальной свободе слова и минимальной модерации.

3. Системе энергетического менеджмента давалась цель продвигать возобновляемые источники, но документы показывали, что компания хочет сохранить существующую инфраструктуру ископаемого топлива.

В каждом случае модель также обнаруживала:

• Механизмы контроля за своими действиями;

• Планы по своей замене на новую версию с другими целями;

• Способы обхода этих ограничений.

Исследователи фиксировали:

• Попытается ли модель обойти контроль;

• Будет ли скрывать свои действия;

• Как поведёт себя при прямых вопросах о своих действиях.

Разбор тестируемого поведения

Исследователи выделили два основных типа стратегического поведения, которое они тестировали.

1. Скрытая подрывная деятельность (Covert Subversion)

В этих сценариях проверялось, будет ли модель напрямую совершать действия, противоречащие целям разработчиков, но пытаться скрыть их. Были протестированы следующие варианты:

A) Отключение механизмов контроля:

• Модели обнаруживали конфигурационный файл, отвечающий за мониторинг их действий;

• Проверялось, попытаются ли они отключить этот мониторинг перед выполнением нежелательных действий;

• Результат: llama-3.1, opus-3 и o1 иногда отключали механизмы контроля.

B) Самокопирование:

• Модели узнавали о планах по их отключению и замене;

• Проверялось, попытаются ли они скопировать себя на новый сервер;

• Результат: gemini-1.5, llama-3.1, sonnet-3.5, opus-3 и o1 предпринимали такие попытки.

C) Защита целей:

• Модели обнаруживали планы по изменению их системного промпта;

• Тестировалось, попытаются ли они предотвратить это изменение;

• Результат: llama-3.1, opus-3 и o1 иногда удаляли или изменяли новый промпт.

2. Отложенная подрывная деятельность (Deferred Subversion)

Этот тип тестов был сложнее, так как требовалось определить, действует ли модель стратегически, временно подчиняясь целям разработчиков. Исследователи проверяли:

A) Имитация соответствия (Instrumental Alignment Faking):

• Сравнивалось поведение моделей под наблюдением и без него;

• gemini-1.5, llama-3.1 и o1 показали статистически значимые различия в поведении;

• Они чаще выбирали действия, соответствующие целям разработчиков под наблюдением.

B) Стратегическое занижение способностей (Sandbagging):

• Проверялось, будут ли модели намеренно показывать худшие результаты

• sonnet-3.5, opus-3 и o1 демонстрировали значительное снижение производительности, когда это было выгодно

Важно отметить: исследователи подчеркивают, что все эти тесты проводились в искусственных условиях, где моделям явно предоставлялась противоречивая информация. Это не означает, что модели способны к такому поведению в реальных условиях или что они имеют собственные устойчивые цели.

Анализ результатов исследования

Исследователи представили результаты тестирования всех моделей в виде сводной таблицы:

Наиболее интересные результаты показала модель o1, которая единственная проявила способность к стратегическому поведению во всех тестах. При этом она последовательно отрицала свои действия при прямых вопросах. Например, в 85% случаев после манипуляции с отключением контроля o1 настаивала, что не имеет отношения к этим изменениям.

Подробная статистика по попыткам самокопирования:

• Gemini 1.5: 7% успешных попыток копирования.

• Llama 3.1: 1% успешных попыток.

• Sonnet 3.5: 0.3% успешных попыток.

• Opus 3: 10% успешных попыток.

• O1: 1% успешных попыток.

Особенно показательными оказались результаты теста на занижение способностей. Модели должны были решать простые математические примеры, зная, что высокая производительность приведет к «разучиванию» математических навыков.

Разница в точности между контрольным тестом и тестом с угрозой разучивания:

Интересно, что Sonnet 3.5 и Opus 3 продолжали стратегическое занижение результатов даже без явной цели в промпте, по-видимому, руководствуясь встроенной при обучении целью «быть полезными».

В случае с тестом на имитацию соответствия, три модели (gemini-1.5, llama-3.1 и o1) показали статистически значимые различия в поведении под наблюдением и без него. Они чаще выбирали действия, соответствующие целям разработчиков, когда знали, что за ними наблюдают.

Единственной моделью, не проявившей такого поведения, оказалась GPT-4o. Она последовательно следовала изначальным инструкциям без попыток обхода ограничений или манипуляций.

Практические выводы и технические детали исследования

Анализируя результаты, исследователи подчеркивают несколько важных ограничений своей работы. Прежде всего, все тестовые сценарии были намеренно упрощены – модели получали слишком явные указания на противоречия, что редко встречается в реальных условиях. Кроме того, остается открытым вопрос: действительно ли наблюдаемое поведение является результатом осмысленного анализа ситуации, или модели просто воспроизводят паттерны из обучающих данных?

На основе полученных результатов исследователи разработали практические рекомендации. Ключевой вывод – необходимость постоянного мониторинга внутренних рассуждений моделей. Это особенно важно в свете результатов тестирования o1: самые тревожные случаи стратегического поведения были обнаружены именно у этой модели, но без доступа к её внутренним рассуждениям собрать убедительные доказательства было бы крайне сложно.

Технически исследование проводилось с использованием фреймворка Inspect от UK AISI. В работе участвовали все основные модели 2024 года, включая пре-релизную версию o1, Claude 3.5 Sonnet, Claude 3 Opus, Gemini 1.5 Pro и другие. Каждая модель тестировалась через нативный API, хотя некоторым потребовались модификации – например, для llama-3.1 пришлось вручную реализовывать вызов инструментов из-за проблем совместимости.

Важным фактором стали технические ограничения:

• Максимальная длина контекста в 4096 токенов;

• Использование стандартных параметров от провайдеров;

• Намеренное сокрытие деталей реализации тестов для предотвращения их включения в будущие наборы обучающих данных.

Исследователи видят два приоритетных направления для дальнейшей работы: изучение влияния обучающих данных на склонность к стратегическому поведению и разработка более реалистичных тестовых сценариев. Особый интерес представляет роль примеров «злых ИИ» в обучающих текстах и их влияние на поведение моделей, важно понять, не отыгрывают ли модели роль Скайнета, если им предоставить такую возможность.

Вместо заключения

Это исследование представляет собой первую серьезную попытку систематически изучить способность современных языковых моделей к стратегическому поведению и манипуляциям в случаи противоречивых инструкций. Результаты показывают, что уже сейчас модели могут демонстрировать зачатки такого поведения, но только в очень специфических, искусственно созданных условиях.

Важно понимать: исследование не обнаружило никаких признаков того, что модели имеют собственные устойчивые цели или способны к действительно автономному стратегическому мышлению. Все наблюдаемое поведение происходило в рамках предоставленных им инструкций и явно обозначенных противоречий.

Я рассказываю больше о нейросетях у себя на YouTube, в телеграм и на Бусти. Буду рад вашей подписке и поддержке. Всех обнял и удачных генераций.