Anthropic описала защиту Claude Duet и признала, что часть настроек ещё меняется

В опубликованном 23 октября разборе Anthropic описала меры защиты Claude Duet, своего проактивного агента, который работает с подключёнными приложениями через облачный компьютер. Материал относится к исследовательскому превью продукта и отдельно перечисляет как действующие ограничения, так и области, которые компания продолжает настраивать.

Перед отправкой потенциально чувствительного сообщения, оплатой или удалением данных Duet показывает действие, адресата и содержание, включая список получателей, и ждёт одобрения пользователя. Параллельно отдельный классификатор проверяет, соответствует ли действие намерению пользователя. По словам Anthropic, эта проверка выполняется вне модели, поэтому инструкции, спрятанные на открытой веб-странице, не должны менять её решение.

Anthropic утверждает, что агент не видит пароли, cookies браузера и токены входа и не может сохранять их в своей памяти: они проходят через отдельные машины, недоступные модели. Сам браузер Duet также работает в отдельной виртуальной машине. Код и cookies сайтов остаются там, а агенту возвращаются текст страниц и загруженные файлы.

Подключённые приложения и память Claude переносятся в Duet. Отключение приложения прекращает новый доступ, но сведения, которые агент уже получил, сохраняются до сброса его памяти. Anthropic пишет, что фильтр чувствительных данных может пропустить часть информации или ошибочно отметить безвредное сообщение; компания намерена продолжать его настройку. Частота запросов подтверждения и другие элементы превью тоже ещё меняются.

Пользователям превью стоит проверять содержание и адресатов в карточках подтверждения. Отключение приложения не удаляет уже полученные сведения: для этого Anthropic предлагает сбросить память Duet. Описанные гарантии и ограничения приведены самой компанией, а защита пока остаётся частью исследовательского превью.