3 материала

Инструменты

Интерактивный инструмент

Память для весов модели

Оцените объём весов и добавьте свой запас памяти.

Память для весов моделиПараметры и битыЗапас памятиОбъём весов
Параметры и битыЗапас памятиОбъём весов
Схема · AI-инфраструктура
Расчёт по вашим данным43,75 ГБ

Десятичные ГБ: веса плюс выбранный запас. KV-кэш и буферы не рассчитаны; для обучения этой оценки недостаточно.

Как пользоваться

Поместится ли AI-модель в память: сначала посчитайте веса, затем запас ↗

Подготавливаем выбранный материал…