Production и облако · Production and cloud · урок 5 · 15 мин

Amazon Bedrock: модели, Knowledge Bases, Agents, Guardrails

Amazon Bedrock: models, Knowledge Bases, Agents, Guardrails

ТемыОблако AWSRAGАгенты

Зачем

После урока ты объяснишь, что Amazon Bedrock даёт и чего не даёт: как выбирают модель с учётом региона, как Knowledge Base ложится на твой RAG pipeline из модуля a3, что стало с Bedrock Agents и чем Guardrails отличаются от проверок в коде приложения. На интервью это вопросы «what does Bedrock give you?» и «are our prompts stored or used for training?», где ответ без дат и оговорок звучит как пересказ рекламы.

Все факты ниже — со страниц docs.aws.amazon.com и aws.amazon.com, открытых 10.10.2026. Bedrock меняется каждый месяц: на работе перепроверяй.

Что это и как платят

Bedrock — «a fully managed service that provides secure, enterprise-grade access to high-performing foundation models»: один API к 100+ foundation models (базовым моделям) разных поставщиков — Amazon, Anthropic, OpenAI, Meta, Mistral, DeepSeek, xAI и других. Для новых приложений документация рекомендует endpoint bedrock-runtime; вызывать можно через Converse API, родные API поставщиков и OpenAI-совместимые API.

Оплата двух видов. On-demand — за tokens без обязательств. Provisioned Throughput — почасовая плата за Model Units (MU); один MU даёт фиксированное число input и output tokens в минуту, сроки — без обязательства, 1 месяц или 6 месяцев (дольше — дешевле в час). Для дообученной в Bedrock модели Provisioned Throughput обязателен.

Модель выбирают по региону

У каждой модели в каждом регионе свой способ обработки: - In-Region — запрос обрабатывается в том же регионе; - Geo cross-Region inference — в любом регионе своей географии (US, EU, APAC); - Global cross-Region inference — «any supported AWS commercial Region worldwide», примерно на 10 % дешевле.

Пример, который стоит запомнить. В me-central-1 (ОАЭ) In-Region отмечены только Amazon Nova Pro и Nova Lite. Claude Haiku, Sonnet и Opus 5.5, GPT-5.6, Grok и Kimi K3 там доступны только через Global. Во Франкфурте Claude Sonnet 5.5 доступен через Geo (EU) и Global, но не In-Region. Geo-профиль Nova Pro из ОАЭ — APAC: запрос может уйти в Токио, Сеул, Мумбаи, Сингапур, Сидней и ещё пять регионов. «Geo» — это география, а не страна.

Вывод для интервью: «residency is a design input». Если данные клиентов должны остаться в стране, список моделей сжимается до In-Region или до своей open-weight модели на EKS или SageMaker (урок a7-4). Проверка — поле additionalEventData.inferenceRegion в CloudTrail: оно показывает, где реально шла обработка. Запрет — SCP, которая не даёт вызывать global-профили.

Knowledge Base — это твой RAG, собранный за тебя

Knowledge Base — управляемый RAG. Полезно разложить его по шагам pipeline из модуля a3:

Шаг (модуль a3) Что делает Knowledge Base Что остаётся тебе
ingestion и parsing (a3-1) connectors к S3, SharePoint, Confluence, Google Drive, OneDrive, Web Crawler; Smart Parsing для PDF, DOCX, сканов качество исходников, metadata
chunking (a3-1) default около 300 tokens по границам предложений, fixed-size с overlap, hierarchical, semantic (платно, через модель), без нарезки выбор стратегии по своим документам
embeddings и индекс (a3-2) embedding model плюс vector store: управляемый или свой (OpenSearch Serverless, Aurora, Neptune) модель embeddings под свои языки
retrieve → rerank → generate (a3-4) Retrieve отдаёт chunks, RetrieveAndGenerate ещё и пишет ответ; reranking models; citations prompt генерации, число chunks
check (a3-4) нет проверка ответа и eval — твоя работа

Есть два вида. Managed Knowledge Base сам ведёт ingestion, индекс и retrieval, умеет agentic retrieval (разбивает сложный вопрос на подзапросы) и фильтрует документы по ACL (правам доступа) при retrieval — кроме Web Crawler. Customer-managed — свой vector store и полный контроль, но connectors сторонних систем, права на уровне документа и интеграция с AgentCore Gateway есть только у Managed.

Тонкости, которые спросят. Hierarchical chunking ищет по маленьким child-chunks, а отдаёт большие parent-chunks, поэтому результатов может вернуться меньше, чем запрошено. Если модель для parsing или генерации вызывается через cross-Region inference, «your data can be shared across Regions». В списке embedding-моделей Knowledge Bases с single-region support регион me-central-1 не указан.

Небольшой расчёт. 2 000 страниц правил по 400 tokens — 800 000 tokens. При default chunking это около 2 700 chunks. На вопрос Retrieve с top-5 вернёт около 1 500 tokens context — укладывается в любой бюджет. А вот что именно эти пять chunks верные, Knowledge Base не гарантирует: метрики retrieval из a3-7 и a3-8 ты считаешь сам.

Агенты: Classic закрыт, теперь AgentCore

Важный свежий факт: «Amazon Bedrock Agents (now Amazon Bedrock Agents Classic) is no longer open to new customers». Существующие клиенты работают дальше, новым предлагают AgentCore — набор модулей для любого framework и любой модели. Главные: Harness (управляемый агентный цикл, каждая сессия в изолированной microVM), Runtime, Memory, Gateway (превращает API и Lambda в MCP-tools), Identity, Code Interpreter, Browser, Observability на OpenTelemetry, Evaluations и Policy — детерминированная проверка, которая перехватывает каждый вызов tool в Gateway до выполнения.

Две оговорки. В таблице регионов AgentCore нет регионов Ближнего Востока. И страница обзора говорит: «AgentCore may use and store your content to improve your service experience or performance» — для твоего же использования, но это вопрос для юристов.

Guardrails против проверок в коде

Guardrails — фильтры вокруг вызова модели: content filters (Hate, Insults, Sexual, Violence, Misconduct, Prompt Attack), denied topics, word filters, sensitive information filters (PII: блокировать или маскировать, плюс свои regex), contextual grounding checks (опирается ли ответ на источник) и Automated Reasoning checks (проверка по логическим правилам). ApplyGuardrail применяет их без вызова модели — значит, и к своей модели на EKS.

Ограничение по языкам: word filters и grounding checks работают только на английском, французском и испанском, а документация предупреждает: «Guardrails are ineffective with languages that aren't supported». Арабский, например, в Standard tier оптимизирован для content filters и denied topics, но grounding на арабском ответе формально не поддерживается.

Разница с проверками в приложении принципиальная:

Guardrails Проверка в коде приложения
Природа вероятностный детектор детерминированное правило
Знает бизнес нет: видит только текст да: тарифы, сессию, права
Пример маскировать PII, ловить injection счёт берётся из сессии, комиссия сверяется с таблицей
Что нельзя доверить права доступа, подтверждение действий размытые вещи вроде тона

Правило: Guardrails — слой, который снижает риск и который ты измеряешь на своих данных. Гарантии — права, подтверждение действий, минимум полей в ответе tool — живут в коде.

Данные и приватность

FAQ: «your content is not used to improve the base models and is not shared with any model providers». У каждого поставщика в каждом регионе свой Model Deployment Account, которым владеет команда Bedrock, поэтому поставщики не видят prompts и ответы. По умолчанию действует zero data retention, но есть исключения: у ряда моделей OpenAI трафик, помеченный классификатором, хранится до 30 дней, у Claude Fable 5 и 5.1 — весь трафик до 30 дней; при cross-Region inference — в регионе назначения. Выбор модели меняет хранение.

Сеть: VPC endpoints (PrivateLink) для bedrock, bedrock-runtime, bedrock-agent и других; политика endpoint по умолчанию разрешает всё — её сужают. Журналы: model invocation logging (полные тексты) выключен по умолчанию и пишет только в CloudWatch Logs или S3 того же аккаунта и региона. В CloudTrail InvokeModel и Converse пишутся по умолчанию, а Retrieve, RetrieveAndGenerate и ApplyGuardrail — data events, которые надо включить.

Схема

Термины · Key terms

foundation model (FM)
большая базовая модель общего назначения
on-demand / Provisioned Throughput
оплата за tokens / почасовая оплата выделенной пропускной способности
In-Region
обработка строго в выбранном регионе
cross-Region inference (Geo / Global)
обработка в регионах своей географии / по всему миру
Knowledge Base
управляемый RAG в Bedrock
Managed / customer-managed Knowledge Base
AWS ведёт всё / свой vector store и настройки
Retrieve / RetrieveAndGenerate
вернуть chunks / вернуть chunks и сгенерированный ответ
AgentCore
модульная платформа для агентов, преемник Bedrock Agents
Guardrails
настраиваемые фильтры ввода и вывода модели
ApplyGuardrail
применить Guardrails без вызова модели Bedrock
contextual grounding check
проверка, что ответ опирается на источник
zero data retention
режим, в котором входы и выходы модели не хранятся

Сделай сам

Таблица из пяти строк для ассистента банка в стране, где данные должны оставаться внутри: столбцы «требование», «чем закрываю в Bedrock», «чем закрываю в коде». Строки: резиденция данных, PII в вопросах, «счёт только свой», ответ по документам, журнал для аудитора. Затем одной строкой: какая модель и какой способ обработки остаются, если регион — me-central-1.

Обсуди с тьютором: покажи таблицу и спроси, что ты потеряешь, если вместо своего RAG возьмёшь Managed Knowledge Base, и как ты будешь мерить recall@k.

Проверь себя · ответ под вопросом

1Почему «Bedrock есть в регионе» не значит «модель обрабатывает данные в регионе»?
У каждой модели в регионе свой способ обработки: In-Region, Geo или Global. В me-central-1 на 10.10.2026 In-Region только Nova Pro и Nova Lite, а Claude и GPT — только Global, то есть обработка может идти в любом коммерческом регионе мира. Проверяют по таблице доступности и по полю inferenceRegion в CloudTrail.
2Какие шаги RAG pipeline Knowledge Base берёт на себя, а какие нет?
Он делает ingestion через connectors, parsing, chunking, embeddings, индекс, retrieval, reranking и генерацию с citations. Проверку ответа, eval retrieval и выбор стратегий под свои документы и языки он не делает. Права на уровне документа есть только у Managed Knowledge Base.
3Чем Guardrails отличаются от проверок в коде приложения?
Guardrails — вероятностные детекторы, которые видят только текст: маскируют PII, ловят injection, проверяют grounding, и не на всех языках. Код знает бизнес-контекст: берёт счёт из сессии, сверяет сумму с таблицей, требует подтверждения. Права и подтверждение действий нельзя доверить фильтру.

Interview questions · US / UK

1What does Amazon Bedrock give you, and what does it not do for you?
Strong answer: one API to many FMs, Knowledge Bases, Guardrails, AgentCore, Provisioned Throughput; it doesn't make your tools and permissions correct, doesn't evaluate your tasks, doesn't guarantee language coverage (grounding and word filters EN/FR/ES only), and residency depends on the model's In-Region support; Agents Classic is closed to new customers.
2Are our prompts stored by Bedrock or used to train models? Where are they processed?
Strong answer: not used to improve base models, not shared with providers, Model Deployment Accounts; zero data retention by default with named exceptions up to 30 days stored in the destination Region; processing location depends on In-Region vs Geo vs Global; evidence via CloudTrail inferenceRegion; invocation logging off by default.
3Bedrock Guardrails has a PII filter. So we don't need our own redaction, right?
Strong answer: it's probabilistic and language-dependent, so measure recall on your own stress set first; regex for structured IDs; the real guarantee is not sending extra data: tools return minimal fields and identity comes from the session; Guardrails is a measured layer, access control stays in code.

Ключевые фразы · Say it aloud

Материалы