Production и облако · Production and cloud · урок 5 · 15 мин
Amazon Bedrock: модели, Knowledge Bases, Agents, Guardrails
Amazon Bedrock: models, Knowledge Bases, Agents, Guardrails
Зачем
После урока ты объяснишь, что Amazon Bedrock даёт и чего не даёт: как выбирают модель с учётом региона, как Knowledge Base ложится на твой RAG pipeline из модуля a3, что стало с Bedrock Agents и чем Guardrails отличаются от проверок в коде приложения. На интервью это вопросы «what does Bedrock give you?» и «are our prompts stored or used for training?», где ответ без дат и оговорок звучит как пересказ рекламы.
Все факты ниже — со страниц docs.aws.amazon.com и aws.amazon.com, открытых 10.10.2026. Bedrock меняется каждый месяц: на работе перепроверяй.
Что это и как платят
Bedrock — «a fully managed service that provides secure, enterprise-grade access to high-performing foundation models»: один API к 100+ foundation models (базовым моделям) разных поставщиков — Amazon, Anthropic, OpenAI, Meta, Mistral, DeepSeek, xAI и других. Для новых приложений документация рекомендует endpoint bedrock-runtime; вызывать можно через Converse API, родные API поставщиков и OpenAI-совместимые API.
Оплата двух видов. On-demand — за tokens без обязательств. Provisioned Throughput — почасовая плата за Model Units (MU); один MU даёт фиксированное число input и output tokens в минуту, сроки — без обязательства, 1 месяц или 6 месяцев (дольше — дешевле в час). Для дообученной в Bedrock модели Provisioned Throughput обязателен.
Модель выбирают по региону
У каждой модели в каждом регионе свой способ обработки: - In-Region — запрос обрабатывается в том же регионе; - Geo cross-Region inference — в любом регионе своей географии (US, EU, APAC); - Global cross-Region inference — «any supported AWS commercial Region worldwide», примерно на 10 % дешевле.
Пример, который стоит запомнить. В me-central-1 (ОАЭ) In-Region отмечены только Amazon Nova Pro и Nova Lite. Claude Haiku, Sonnet и Opus 5.5, GPT-5.6, Grok и Kimi K3 там доступны только через Global. Во Франкфурте Claude Sonnet 5.5 доступен через Geo (EU) и Global, но не In-Region. Geo-профиль Nova Pro из ОАЭ — APAC: запрос может уйти в Токио, Сеул, Мумбаи, Сингапур, Сидней и ещё пять регионов. «Geo» — это география, а не страна.
Вывод для интервью: «residency is a design input». Если данные клиентов должны остаться в стране, список моделей сжимается до In-Region или до своей open-weight модели на EKS или SageMaker (урок a7-4). Проверка — поле additionalEventData.inferenceRegion в CloudTrail: оно показывает, где реально шла обработка. Запрет — SCP, которая не даёт вызывать global-профили.
Knowledge Base — это твой RAG, собранный за тебя
Knowledge Base — управляемый RAG. Полезно разложить его по шагам pipeline из модуля a3:
| Шаг (модуль a3) | Что делает Knowledge Base | Что остаётся тебе |
|---|---|---|
| ingestion и parsing (a3-1) | connectors к S3, SharePoint, Confluence, Google Drive, OneDrive, Web Crawler; Smart Parsing для PDF, DOCX, сканов | качество исходников, metadata |
| chunking (a3-1) | default около 300 tokens по границам предложений, fixed-size с overlap, hierarchical, semantic (платно, через модель), без нарезки | выбор стратегии по своим документам |
| embeddings и индекс (a3-2) | embedding model плюс vector store: управляемый или свой (OpenSearch Serverless, Aurora, Neptune) | модель embeddings под свои языки |
| retrieve → rerank → generate (a3-4) | Retrieve отдаёт chunks, RetrieveAndGenerate ещё и пишет ответ; reranking models; citations |
prompt генерации, число chunks |
| check (a3-4) | нет | проверка ответа и eval — твоя работа |
Есть два вида. Managed Knowledge Base сам ведёт ingestion, индекс и retrieval, умеет agentic retrieval (разбивает сложный вопрос на подзапросы) и фильтрует документы по ACL (правам доступа) при retrieval — кроме Web Crawler. Customer-managed — свой vector store и полный контроль, но connectors сторонних систем, права на уровне документа и интеграция с AgentCore Gateway есть только у Managed.
Тонкости, которые спросят. Hierarchical chunking ищет по маленьким child-chunks, а отдаёт большие parent-chunks, поэтому результатов может вернуться меньше, чем запрошено. Если модель для parsing или генерации вызывается через cross-Region inference, «your data can be shared across Regions». В списке embedding-моделей Knowledge Bases с single-region support регион me-central-1 не указан.
Небольшой расчёт. 2 000 страниц правил по 400 tokens — 800 000 tokens. При default chunking это около 2 700 chunks. На вопрос Retrieve с top-5 вернёт около 1 500 tokens context — укладывается в любой бюджет. А вот что именно эти пять chunks верные, Knowledge Base не гарантирует: метрики retrieval из a3-7 и a3-8 ты считаешь сам.
Агенты: Classic закрыт, теперь AgentCore
Важный свежий факт: «Amazon Bedrock Agents (now Amazon Bedrock Agents Classic) is no longer open to new customers». Существующие клиенты работают дальше, новым предлагают AgentCore — набор модулей для любого framework и любой модели. Главные: Harness (управляемый агентный цикл, каждая сессия в изолированной microVM), Runtime, Memory, Gateway (превращает API и Lambda в MCP-tools), Identity, Code Interpreter, Browser, Observability на OpenTelemetry, Evaluations и Policy — детерминированная проверка, которая перехватывает каждый вызов tool в Gateway до выполнения.
Две оговорки. В таблице регионов AgentCore нет регионов Ближнего Востока. И страница обзора говорит: «AgentCore may use and store your content to improve your service experience or performance» — для твоего же использования, но это вопрос для юристов.
Guardrails против проверок в коде
Guardrails — фильтры вокруг вызова модели: content filters (Hate, Insults, Sexual, Violence, Misconduct, Prompt Attack), denied topics, word filters, sensitive information filters (PII: блокировать или маскировать, плюс свои regex), contextual grounding checks (опирается ли ответ на источник) и Automated Reasoning checks (проверка по логическим правилам). ApplyGuardrail применяет их без вызова модели — значит, и к своей модели на EKS.
Ограничение по языкам: word filters и grounding checks работают только на английском, французском и испанском, а документация предупреждает: «Guardrails are ineffective with languages that aren't supported». Арабский, например, в Standard tier оптимизирован для content filters и denied topics, но grounding на арабском ответе формально не поддерживается.
Разница с проверками в приложении принципиальная:
| Guardrails | Проверка в коде приложения | |
|---|---|---|
| Природа | вероятностный детектор | детерминированное правило |
| Знает бизнес | нет: видит только текст | да: тарифы, сессию, права |
| Пример | маскировать PII, ловить injection | счёт берётся из сессии, комиссия сверяется с таблицей |
| Что нельзя доверить | права доступа, подтверждение действий | размытые вещи вроде тона |
Правило: Guardrails — слой, который снижает риск и который ты измеряешь на своих данных. Гарантии — права, подтверждение действий, минимум полей в ответе tool — живут в коде.
Данные и приватность
FAQ: «your content is not used to improve the base models and is not shared with any model providers». У каждого поставщика в каждом регионе свой Model Deployment Account, которым владеет команда Bedrock, поэтому поставщики не видят prompts и ответы. По умолчанию действует zero data retention, но есть исключения: у ряда моделей OpenAI трафик, помеченный классификатором, хранится до 30 дней, у Claude Fable 5 и 5.1 — весь трафик до 30 дней; при cross-Region inference — в регионе назначения. Выбор модели меняет хранение.
Сеть: VPC endpoints (PrivateLink) для bedrock, bedrock-runtime, bedrock-agent и других; политика endpoint по умолчанию разрешает всё — её сужают. Журналы: model invocation logging (полные тексты) выключен по умолчанию и пишет только в CloudWatch Logs или S3 того же аккаунта и региона. В CloudTrail InvokeModel и Converse пишутся по умолчанию, а Retrieve, RetrieveAndGenerate и ApplyGuardrail — data events, которые надо включить.
Схема
Термины · Key terms
- foundation model (FM)
- большая базовая модель общего назначения
- on-demand / Provisioned Throughput
- оплата за tokens / почасовая оплата выделенной пропускной способности
- In-Region
- обработка строго в выбранном регионе
- cross-Region inference (Geo / Global)
- обработка в регионах своей географии / по всему миру
- Knowledge Base
- управляемый RAG в Bedrock
- Managed / customer-managed Knowledge Base
- AWS ведёт всё / свой vector store и настройки
- Retrieve / RetrieveAndGenerate
- вернуть chunks / вернуть chunks и сгенерированный ответ
- AgentCore
- модульная платформа для агентов, преемник Bedrock Agents
- Guardrails
- настраиваемые фильтры ввода и вывода модели
- ApplyGuardrail
- применить Guardrails без вызова модели Bedrock
- contextual grounding check
- проверка, что ответ опирается на источник
- zero data retention
- режим, в котором входы и выходы модели не хранятся
Сделай сам
Таблица из пяти строк для ассистента банка в стране, где данные должны оставаться внутри: столбцы «требование», «чем закрываю в Bedrock», «чем закрываю в коде». Строки: резиденция данных, PII в вопросах, «счёт только свой», ответ по документам, журнал для аудитора. Затем одной строкой: какая модель и какой способ обработки остаются, если регион — me-central-1.
Обсуди с тьютором: покажи таблицу и спроси, что ты потеряешь, если вместо своего RAG возьмёшь Managed Knowledge Base, и как ты будешь мерить recall@k.
Проверь себя · ответ под вопросом
1Почему «Bedrock есть в регионе» не значит «модель обрабатывает данные в регионе»?
me-central-1 на 10.10.2026 In-Region только Nova Pro и Nova Lite, а Claude и GPT — только Global, то есть обработка может идти в любом коммерческом регионе мира. Проверяют по таблице доступности и по полю inferenceRegion в CloudTrail.2Какие шаги RAG pipeline Knowledge Base берёт на себя, а какие нет?
3Чем Guardrails отличаются от проверок в коде приложения?
Interview questions · US / UK
1What does Amazon Bedrock give you, and what does it not do for you?
2Are our prompts stored by Bedrock or used to train models? Where are they processed?
3Bedrock Guardrails has a PII filter. So we don't need our own redaction, right?
Ключевые фразы · Say it aloud
- Bedrock being in the Region doesn't mean the model runs thereBedrock в регионе не значит, что модель работает там
- Geo keeps the request in a geography, not in a countrygeo держит запрос в географии, а не в стране
- A Knowledge Base is managed RAG; evaluation is still my jobKnowledge Base — управляемый RAG, оценка остаётся на мне
- Guardrails are a layer I measure, not a guaranteeGuardrails — слой, который я измеряю, а не гарантия
- Access control and action confirmation live in codeправа и подтверждение действий живут в коде
- I check inferenceRegion in CloudTrailпроверяю inferenceRegion в CloudTrail
Материалы
- Bedrock — Regional availability by models — In-Region, Geo, Global по каждой модели и региону (найди свой регион, 5 мин)
- Bedrock — Knowledge Bases — Managed и customer-managed, connectors, ACL, citations (8 мин)
- Bedrock — Guardrails — шесть видов фильтров и ApplyGuardrail (8 мин)
- Bedrock — Abuse detection — zero data retention и исключения до 30 дней (4 мин)
- AgentCore — Overview — модули AgentCore и оговорка о контенте (8 мин)