USB, кабели, питание и передача данных

Искусственный интеллект

Opera встроила локальные AI-модели в браузер: сайты и расширения работают без облака

Публикация:

Редакция USB.RU

Новая технология WebAI уже доступна в раннем превью: модели Google Gemma и Apple исполняются на компьютере пользователя, без платы за запросы и без обязательной отправки данных в облако.

Панель WebAI в браузере Opera со списком локальных моделей Gemma
Панель WebAI с локальными моделями. Изображение: Opera.

Opera 27 октября начала встраивать локальные AI-модели прямо в браузер. Первым шагом стала технология WebAI: она дает сайтам и расширениям доступ к моделям, которые исполняются на устройстве пользователя, а не в дата-центре. Пока это раннее превью. Первой новинку получила Opera One; по пресс-релизу компании, версии для Opera GX и Opera Neon на подходе, хотя блог Opera упоминает все три браузера сразу. Пошаговая инструкция описана только для Opera One.

Что такое WebAI

WebAI это предложенный веб-стандарт, который поддерживают в том числе Google и Microsoft. Он описывает, как сайты и расширения обращаются к AI-моделям через сам браузер. Стандарт пока не утвержден, но реализация Opera уже работает: в нее встроены три программных интерфейса. Prompt API генерирует текст, Decision API классифицирует информацию, а Semantic Embeddings API находит связи между фрагментами контента.

Какие модели доступны

Выбор модели остается за пользователем. Через встроенный движок инференции Opera доступны открытые модели Google Gemma, а на компьютерах Mac к ним добавляется локальная модель Apple. Отдельное приложение, локальный сервер или API-ключ не нужны: скачивание модели начинается только после явного включения функции, а разрешения выдаются каждому сайту отдельно.

Как включить

  1. Установите или обновите Opera One.
  2. Откройте Настройки, раздел Opera AI, и включите Enable Web AI API. Браузер скачает совместимую модель, это займет несколько минут.
  3. Поставьте одно из примеров расширений и откройте его из меню расширений.

Превью работает на 64-разрядных ПК с Windows (процессоры Intel или AMD) и на Mac с чипами Apple. Владельцам Mac на Intel, пользователям Linux и Windows на процессорах ARM функция пока недоступна. Скорость ответов зависит от железа конкретного компьютера: модель работает на нем, а не на серверах Opera.

Что уже можно собрать

Чтобы показать возможности, команда Opera сделала шесть экспериментальных расширений. Это примеры для вдохновения, а не функции браузера:

  • Project Lens раскрашивает абзацы статьи по важности для вашего проекта.
  • Got It? составляет короткую викторину по прочитанному, чтобы проверить понимание.
  • Questionable Intelligence задает игровые вопросы о статье и рисует вердикт графиком.
  • Semantic Art превращает статью в движущуюся картину, где похожие предложения становятся соседями.
  • RecordIn Alchemy переписывает статью в невыносимо вдохновляющий пост для соцсетей.
  • C·I·A·O (Cat Intelligence at Opera) выводит двух ASCII-котов, импровизирующих сценку на любую тему.

Многое из того, что люди хотят от AI, не требует дата-центра. Ваш ноутбук уже справляется, и данные никуда не уходят.

Кристиан Колондра, исполнительный вице-президент Opera по браузерам и AI

Что это дает

Для разработчиков, особенно независимых и небольших команд, выгода прямая: AI-функции на сайте или в расширении больше не требуют собственной инфраструктуры и оплаты каждого запроса. Пользователям не нужна подписка, а контроль над тем, какие сайты получают доступ к локальному AI, остается у них. Локальные модели заметно подросли за последний год: недавно Liquid AI выпустила семейство открытых моделей для локальных задач, а NVIDIA компактную открытую модель для голосовых помощников.

Opera первой из крупных браузеров дала встроенный доступ к локальным моделям еще в 2024 году, в экспериментальной сборке для разработчиков. Теперь компания выводит эту работу в массовые продукты и обещает больше открытых моделей, оптимизированных под разные устройства. В тот же день Opera показала HTML-in-Canvas, технологию, которая помещает живые веб-страницы внутрь 2D и 3D сцен: она ориентирована на игры и Opera GX.

Все новости →

Ещё на USB.RU

Статьи →

Объяснения и инструкции

Справочники →

Термины и стандарты

Инструменты →

Проверки и практические материалы

Подготавливаем выбранный материал…

Продолжить чтение