Взглянем на примерную разбивку трат OpenAI на вычислительные мощности за 2024 год. Источник — свежая инфографика от Epoch.Ai.
По разным оценкам и публикациям в СМИ, суммарные затраты составили около 7 миллиардов долларов. Из них 2 миллиарда долларов (достаточно точная цифра, согласно TheInformation) ушли на оплату мощностей для предоставления моделей в ChatGPT и API.
Остальные цифры являются оценочными и могут иметь значительный разброс.
Наибольшая статья расходов — мощности на эксперименты и разработку, 4.5 миллиарда долларов. Около 400 миллионов долларов потрачено на тренировку GPT-4.5 (aka Orion, которая могла стать GPT-5). Оценка сделана на основе предположительного кластера, использованного для обучения: от 90 до 165 дней на 40k-100k видеокарт, плюс известна цена за час работы GPU. 90%-й доверительный интервал [$170M; $890M].
На тренировку 4o / o1 / мини-версий и обновление чат-моделей ушло 80 миллионов долларов.
Ожидается, что в 2025 году доля мощностей на инференс значительно вырастет, учитывая существенный рост ChatGPT и увеличение генерации токенов рассуждающими моделями.
По разным оценкам и публикациям в СМИ, суммарные затраты составили около 7 миллиардов долларов. Из них 2 миллиарда долларов (достаточно точная цифра, согласно TheInformation) ушли на оплату мощностей для предоставления моделей в ChatGPT и API.
Остальные цифры являются оценочными и могут иметь значительный разброс.
Наибольшая статья расходов — мощности на эксперименты и разработку, 4.5 миллиарда долларов. Около 400 миллионов долларов потрачено на тренировку GPT-4.5 (aka Orion, которая могла стать GPT-5). Оценка сделана на основе предположительного кластера, использованного для обучения: от 90 до 165 дней на 40k-100k видеокарт, плюс известна цена за час работы GPU. 90%-й доверительный интервал [$170M; $890M].
На тренировку 4o / o1 / мини-версий и обновление чат-моделей ушло 80 миллионов долларов.
Ожидается, что в 2025 году доля мощностей на инференс значительно вырастет, учитывая существенный рост ChatGPT и увеличение генерации токенов рассуждающими моделями.
