AWS Lambda подключила SOCI для ленивой загрузки контейнеров

28 октября AWS объявила о поддержке Seekable OCI (SOCI) для Lambda Event Functions, развёрнутых как OCI-контейнеры на Lambda Managed Instances. Вместо загрузки всего образа перед запуском среда выполнения получает нужные файлы по мере их чтения. AWS оценивает возможное сокращение времени старта до 70%; это заявление производителя, а не независимый сравнительный тест.

Для работы функции нужен SOCI-индекс образа в Amazon ECR, а URI функции должен указывать на индексированный тег. Возможность доступна только для container image functions на Lambda Managed Instances, поддерживает SOCI Index Manifest v2 и одноархитектурные образы. Обычные функции Lambda вне Managed Instances из объявления не охвачены.

Есть и компромисс: если файл впервые понадобится уже внутри обработчика, Lambda загрузит его при первом вызове, что увеличит длительность этого вызова. AWS рекомендует проверять функцию с SOCI и без него и по возможности читать нужные файлы во время инициализации. Ленивая загрузка снижает ожидание при старте, но сама по себе не гарантирует уменьшение задержки каждого запроса.

Индекс создают для образа и публикуют рядом с ним в ECR; затем при создании или обновлении функции указывают индексированный image URI и выпускают новую версию функции. AWS сообщает, что после обнаружения индекса дополнительная настройка Lambda не требуется.

Та же технология SOCI уже применяется для контейнеров обучения и обработки в Amazon SageMaker AI; другой способ повысить загрузку ускорителей в AWS — совместное использование GPU в Amazon ECS через NVIDIA MPS. Если образы велики и содержат файлы, не нужные при старте, SOCI может сократить время подготовки среды. Перед включением стоит проверить архитектуру образа и поведение первых вызовов, особенно если обработчик загружает библиотеки или данные только при запросе.