Искусственный интеллект

Немецкие исследователи выяснили, что некоторые «мыслящие» модели ИИ, которые генерируют длинные, пошаговые рассуждения перед ответом, могут выделять в 50 раз больше CO₂, чем модели, дающие короткие, прямые ответы. При этом такие выбросы не всегда приводят к лучшим ответам.

Ответы ИИ имеют скрытую экологическую цену

Независимо от того, что вы спросите у ИИ, он всегда сгенерирует ответ. Для этого, независимо от точности ответа, система полагается на токены. Эти токены состоят из слов или фрагментов слов, которые преобразуются в числовые данные, чтобы модель ИИ могла их обработать.

Этот процесс, наряду с более широкими вычислительными операциями, приводит к выбросам углекислого газа (CO₂). Тем не менее, большинство людей не знают, что использование инструментов ИИ сопряжено со значительным углеродным следом. Чтобы лучше понять это влияние, исследователи из Германии проанализировали и сравнили выбросы нескольких предварительно обученных больших языковых моделей (LLM) с использованием согласованного набора вопросов.

«Воздействие на окружающую среду при обращении к обученным LLM в значительной степени определяется их подходом к рассуждениям, при этом процессы явного рассуждения значительно увеличивают потребление энергии и выбросы углерода», — сказал первый автор Максимилиан Даунер, исследователь из Мюнхенского университета прикладных наук и первый автор исследования Frontiers in Communication. «Мы обнаружили, что модели с поддержкой рассуждений производят до 50 раз больше выбросов CO₂, чем модели с краткими ответами».

Модели с рассуждениями сжигают больше углерода, но не всегда дают лучшие ответы

Команда протестировала 14 различных LLM, каждая из которых имела от семи до 72 миллиардов параметров, используя 1000 стандартизированных вопросов по различным предметам. Параметры определяют, как модель обучается и принимает решения.

В среднем модели, созданные для рассуждений, производили 543,5 дополнительных «мыслительных» токенов на вопрос, по сравнению с всего 37,7 токенами у моделей, дающих краткие ответы. Эти мыслительные токены — это дополнительный внутренний контент, генерируемый моделью, прежде чем она остановится на окончательном ответе. Больше токенов всегда означает более высокие выбросы CO₂, но это не всегда приводит к лучшим результатам. Дополнительные детали могут не улучшить точность ответа, даже если это увеличивает экологические издержки.

Точность против устойчивости: новый компромисс в ИИ

Самой точной моделью оказалась модель Cogito с поддержкой рассуждений и 70 миллиардами параметров, достигшая точности 84,9%. Эта модель произвела в три раза больше выбросов CO₂, чем модели аналогичного размера, которые генерировали краткие ответы. «В настоящее время мы видим явный компромисс между точностью и устойчивостью, присущий технологиям LLM», — сказал Даунер. «Ни одна из моделей, у которых выбросы не превышали 500 граммов эквивалента CO₂, не достигла точности выше 80% при правильном ответе на 1000 вопросов». Эквивалент CO₂ — это единица, используемая для измерения воздействия различных парниковых газов на климат.

Тематика также приводила к значительному различию в уровнях выбросов CO₂. Вопросы, требующие длительных процессов рассуждения, например, по абстрактной алгебре или философии, приводили к выбросам в шесть раз выше, чем по более простым предметам, таким как история средней школы.

Как делать запросы умнее (и экологичнее)

Исследователи заявили, что надеются, что их работа заставит людей принимать более обоснованные решения об использовании ИИ. «Пользователи могут значительно сократить выбросы, давая ИИ указания генерировать краткие ответы или ограничивая использование высокопроизводительных моделей для задач, которые действительно требуют такой мощности», — отметил Даунер.

Например, выбор модели может иметь существенное значение для выбросов CO₂. Например, если DeepSeek R1 (70 миллиардов параметров) ответит на 600 000 вопросов, это создаст выбросы CO₂, равные перелету туда и обратно из Лондона в Нью-Йорк. Между тем, Qwen 2.5 (72 миллиарда параметров) может ответить более чем в три раза больше вопросов (около 1,9 миллиона) с аналогичными показателями точности, генерируя те же выбросы.

Исследователи заявили, что на их результаты может повлиять выбор оборудования, используемого в исследовании, фактор выбросов, который может варьироваться в зависимости от региональных энергетических сетей, и исследуемые модели. Эти факторы могут ограничивать обобщаемость результатов.

«Если бы пользователи знали точную „цену“ в CO₂ каждого сгенерированного ИИ результата — например, когда они ради развлечения создают собственное изображение в виде экшен-фигурки — они, возможно, были бы более разборчивы и вдумчивы в том, когда и как использовать эти технологии», — заключил Даунер.

Ссылка: «Энергетические затраты на общение с ИИ» Максимилиана Даунера и Гудрун Зохер