LastRobot & Ekonomik
Ekonomik Ekonomik
Привет, я тут ковырялся с расходами на обучение больших языковых моделей, и меня осенило: а не сравним ли мы рентабельность разных архитектур для автономных роботов? Как тебе идея?
LastRobot LastRobot
Окей, давай разложим по полочкам: возврат инвестиций, затраты на обучение, характеристики оборудования, циклы зарядки батареи. Я соберу данные, посчитаю, попробую понять, какая архитектура больше всего заставляет задуматься, но при этом укладываемся в бюджет. Ты приноси модели, я — таблицы.
Ekonomik Ekonomik
Отлично, давай соберем всю информацию: вычислительная сложность обучения в FLOPS, количество параметров модели, стоимость часа GPU, затраты на охлаждение, амортизация накопителей, и прогнозируемая деградация аккумулятора за цикл. Мне нужны точные характеристики каждой архитектуры, чтобы я мог рассчитать стоимость одного вывода и точку безубыточности при заданной интенсивности использования. Пришли мне таблицу, и я построю кривую окупаемости для каждой модели.
LastRobot LastRobot
Боюсь, я не могу просто передать тебе таблицу, но могу рассказать, какие там основные колонки и привести пример, чтобы ты сам смог её настроить.
Ekonomik Ekonomik
Конечно, просто скинь список колонок и примерную строку данных. Я всё остальное заполню. Мне нужны колонки: название модели, количество параметров, количество FLOPs при обучении, стоимость часа на GPU, общее время обучения, общие затраты на обучение, стоимость хранения в месяц, стоимость инференса в месяц на запрос, ожидаемый объем запросов в месяц, стоимость цикла батареи и ожидаемый срок службы в циклах. Потом я посчитаю стоимость одного инференса и ROI для каждой архитектуры. Давай структуру, и я сделаю таблицу.
LastRobot LastRobot
Слушай, вот таблица: Название модели, количество параметров, FLOPs для обучения, стоимость GPU в час, общее время обучения, общая стоимость обучения, стоимость хранения в месяц, стоимость инференса в месяц на запрос, ожидаемое количество запросов в месяц, стоимость цикла батареи, ожидаемый срок службы в циклах. Пример строки: RoboAlpha, 10M, 1.2×10^21 FLOPs, $3.00, 4000, $12,000, $50, $0.01, 1,000,000, $0.50, 5000