В августе я писал, как DeepSeek задрал цены на API и задавался вопросом, что буду делать, когда мой поставщик в AIvatar решит, что пора зарабатывать.
Дак вот, полез разбираться, как у нас в РФ устроена закупка токенов и картина оказалась забавная. Напрямую у западных вендоров российское юрлицо не купит, поэтому вокруг вырос целый слой перепродавцов. Витрин десятки, а токены у большинства из одних и тех же источников. Кто-то честно показывает цену, а кто-то прячет её в «кредиты» по внутреннему курсу и ты до конца месяца не понимаешь, сколько на самом деле платишь.
Обсуждал на днях это с друзьями из Naumen, которые сделали биржу LLM Mart. Они собрали российских поставщиков в одном месте и по каждой модели показывают, у кого сейчас дешевле. Ребята насчитали аж целых 37 провайдеров, продающих токены в России, и каждый час собирают по ним цены.
Под капотом LLM Mart — один API и роутер сам ведёт запрос туда, где сейчас выгоднее или быстрее, а если поставщик упал, переключается без правок в коде. Плюс всё в рублях, с актами/счетами-фактурами и цена каждого поставщика на виду.
Понятно что это не волшебная таблетка. Если подорожает первоисточник, подорожает у всех, и никакая биржа тут не спасёт. Но переплачивать конкретному посреднику можно перестать.
И да, есть калькулятор: подставляешь свои модели и объёмы и видишь разницу с текущим поставщиком. На некоторых провайдерах экономия выходит совсем неприличная (см скрин), посчитать можно тут: llmmart.ru/calculator
Дискуссия