Рациональные числа
Рациональные числа
Читать в Telegram

Сколько энергии тратит языковая модель на одного человека

Рациональные числа

Понимание мира через данные Статистика и данные из разных областей. Минимум оценок и интерпретаций, максимум данных и фактов Чат: @rationalchat https://rationalnumbers.ru По рекламе: @kgreenmedia В реестре: vk.cc/cKf8WS Автор: @kirillgreen

Открыть в TelegramДругие публикации
энергияязыковая модельэлектроэнергия

Вопреки расхожему мнению, большие языковые модели используют относительное маленький объём электроэнергии и имеют незначительное влияние на экологию планеты

Если исходить из расчёта на 100 обычных сообщений в день с моделью без функции рассуждения, за год человек потратит на обработку запросов около 7,2 киловатт-час электроэнергии. Для сравнения:

  • автомобилю на 10 километров пути потребуется ≈7,6 кВт⋅ч
  • для пяти приёмов горячего душа по пять минут — ≈8 кВт⋅ч
  • для двух приёмов горячей ванны — ≈10,4 кВт⋅ч

Другие наши публикации на эту тему:

Инфографика: сравнение годового энергопотребления одного пользователя языковой модели (~7,2 кВт⋅ч) с поездкой на 10 км, пятью душами и двумя ваннами.
Сравнение энергопотребления LLM за год с бытовыми действиями и поездкой на 10 км.

Дискуссия

цифровой самурай
Roman I
То, что обучение заняло пару лет и сожрало кучу мегаватт так то ладно... И новые модели постоянно учатся.
по моим совместным с чатгопотой расчётам, на обучение ChatGPT-4 ушло от 500 до 1000 МВт⋅ч электроэнергии. в феврале 2025 ежемесячное число посещений сайта достигло 3,9 миллиардов пользователей. то есть в пересчёте на одного юзера всё равно получаются микроскопические числа поэтому давайте без этого луддизма в комментариях
👎2
Roman I
цифровой самурай
по моим совместным с чатгопотой расчётам, на обучение ChatGPT-4 ушло от 500 до 1000 МВт⋅ч электроэнергии. в феврале 2025 ежемесячное число посещений сайта достигло 3,9 миллиардов пользователей. то есть в пересчёте на одного юзера всё равно получаются микроскопические…
ну, нашёл что они всё равно потребляют в 10х больше электричества на запрос, чем Гугл.
цифровой самурай
Roman I
ну, нашёл что они всё равно потребляют в 10х больше электричества на запрос, чем Гугл.
а чтение книг ещё меньше, чем Гугл. что теперь?
Roman I
цифровой самурай
а чтение книг ещё меньше, чем Гугл. что теперь?
А самолёты то сколько жрут... Для каждой задачи свой инструмент. Посмотрим, когда хайп пройдёт и начнут окупаться все вложения.
Olmer
Roman I
ну, нашёл что они всё равно потребляют в 10х больше электричества на запрос, чем Гугл.
Постоянно попадаются эти данные, но. У них нет нормального расчёта. Так что это скорее фейк. Другой вопрос ещё, что в идеале надо сравнивать с тем, сколько гугл тратил на заре возникновения, когда поиск не был настолько оптимизирован. Ну и результат тоже разный. В целом, ГПТ безусловно не стоит использовать в качестве полной замены Гугла.. Многие запросы до сих пор лучше делать через поисковик.
цифровой самурай
Olmer
Многие запросы до сих пор лучше делать через поисковик.
например, через Perplexity
👍1
Olmer
цифровой самурай
например, через Perplexity
Я его использую, но всё ещё многие запросы через гугл (иногда даже Яндекс) эффективнее на мой вкус.
цифровой самурай
Olmer
Я его использую, но всё ещё многие запросы через гугл (иногда даже Яндекс) эффективнее на мой вкус.
я тоже диверсифицирую — пирачу только в Яндексе
цифровой самурай
поищи в гугле
цифровой самурай
поисковик со встроенной иишкой. это и не поисковик, куда влепили ИИ, и не ИИ, который обучили искать — его сразу делали и тем, и другим. полностью заменил мне поисковики во всём, кроме двух задач: 1. фактчекинг вручную (DuckDuckGo) 2. пиратство (Яндекс)
👍1
Присоединиться к обсуждению →

Читайте так же