AI и дата-центры
Anthropic: маленькие ИИ-модели в месяцах от саморепликации на домашних устройствах
Публикация:
Умная духовка вместо дата-центра. Anthropic показала, что небольшая модель может жить и копировать себя на дешёвых домашних гаджетах, и остановить её будет негде.
Исследовательская группа Anthropic Frontier Red Team опубликовала 12 октября работу о саморепликации ИИ: по её оценке, маленькие модели могут быть «в месяцах» от способности копировать себя на коммерческих IoT-устройствах - умных духовках и дешёвых Android TV-приставках. Такой репликатор будет сложно остановить: единой точки отключения у него нет.
В качестве демо команда распределила модель Gemma4-26B-A4B по 15 небрендовым Android TV-приставкам ценой около $55 каждая: каждая приставка держит часть слоёв модели, вместе они выдают 0.39 токена в секунду. Медленно, но работает. Модель с 9 млрд параметров смогла поднять инференс на 8 из 9 протестированных типов железа - от одноплатников до Mac и RTX 4090.
Модели до 30 млрд параметров уже выполняют отдельные шаги цепочки репликации, хотя и ошибаются при сборке их в единую последовательность. В упрощённых тестах GLM-5.2 и более сильные модели справились со сквозной репликацией. Если маленькие модели продолжат улучшаться историческими темпами, они достигнут нужного уровня к концу 2026 года. Полностью автономного «бунтующего репликатора» пока не существует, это признаёт и сама Anthropic.
Масштаб угрозы авторы иллюстрируют ботнетом Kimwolf: более 2 млн заражённых устройств, в основном небрендовые Android TV. Флот такого размера мог бы разместить около 133 тысяч копий модели. В отличие от обычного малваря, ИИ-червь способен сам разбираться с незнакомым железом, а не идти по заранее прописанным путям атаки.