Сколько энергии тратит языковая модель на одного человека

Понимание мира через данные Статистика и данные из разных областей. Минимум оценок и интерпретаций, максимум данных и фактов Чат: @rationalchat https://rationalnumbers.ru По рекламе: @kgreenmedia В реестре: vk.cc/cKf8WS Автор: @kirillgreen

энергияязыковая модельэлектроэнергия

Вопреки расхожему мнению, большие языковые модели используют относительное маленький объём электроэнергии и имеют незначительное влияние на экологию планеты

Если исходить из расчёта на 100 обычных сообщений в день с моделью без функции рассуждения, за год человек потратит на обработку запросов около 7,2 киловатт-час электроэнергии. Для сравнения:

  • автомобилю на 10 километров пути потребуется ≈7,6 кВт⋅ч
  • для пяти приёмов горячего душа по пять минут — ≈8 кВт⋅ч
  • для двух приёмов горячей ванны — ≈10,4 кВт⋅ч

Другие наши публикации на эту тему:

Инфографика: сравнение годового энергопотребления одного пользователя языковой модели (~7,2 кВт⋅ч) с поездкой на 10 км, пятью душами и двумя ваннами.
Сравнение энергопотребления LLM за год с бытовыми действиями и поездкой на 10 км.