Когда ИИ дороже: подбор моделей и экономия

Канал о системном и бизнес-анализе, продуктовом мышлении и архитектуре. Как выявлять реальные проблемы, строить работающие решения и не терять здравый смысл в IT. Все вопросы - @innokentyB

ииllmмалые модели

Внезапно тут выяснилось, что кожаные все таки дешевле ИИ.

Но как мне кажется, проблема в первую очередь в том, что люди не меряют, где ИИ стоит применять, а где нет и пихают его везде и средняя температура по больнице выходит именно вот такой.

Да, если полностью писать код ИИ, то он выйдет дороже, чем его писал бы разраб, потому что куча исправлений, недосмотров и багов. Но есть работать в подходе предварительного планирования и грамотного выбора моделей под задачу (под планирование топовые модели, а под обычные код задачи и простенькие), то внезапно можно и 100 баксами в месяц обойтись.

Я вот в подмастерьи так и делаю сейчас - компоную маленькие модельки под простые локальные задачи, а сложное можно и в большие ЛЛМ отправлять

Читайте так же