Курс · 31 тема · 54 урока
Темы
Все темы курса по алфавиту. Нажми на тему — откроются её уроки; один урок стоит в одной–трёх темах.
Агенты
11 уроков- a2-1Модель, context и агентный циклModel, context and the agent loop12 мин
- a2-2ReAct: как агент думает и действуетReAct: reasoning and acting13 мин
- a2-3Tools: права, подтверждение, idempotencyTools: permissions, confirmation, idempotency13 мин
- a2-4Как писать tools для агентаWriting tools for agents13 мин
- a2-5MCP и skills: совет против гарантииMCP and skills: advice vs guarantee13 мин
- a2-6Миллион tools: выбор без переполнения contextThousands of tools without flooding the context13 мин
- a2-7Supervisor–worker, context engineering и спор о multi-agentSupervisor–worker, context engineering, the multi-agent debate14 мин
- a2-8Агентный цикл своими рукамиBuild an agent loop yourself15 мин
- a4-2Prompt injection и excessive agencyPrompt injection and excessive agency13 мин
- a5-1Evaluation: три слоя и три вида gradersEvals: three layers, three kinds of graders12 мин
- a7-5Amazon Bedrock: модели, Knowledge Bases, Agents, GuardrailsAmazon Bedrock: models, Knowledge Bases, Agents, Guardrails15 мин
Безопасность
4 урока- a2-3Tools: права, подтверждение, idempotencyTools: permissions, confirmation, idempotency13 мин
- a4-1Sanitization: PII, секреты, скрытые инструкцииSanitization: PII, secrets, hidden instructions12 мин
- a4-2Prompt injection и excessive agencyPrompt injection and excessive agency13 мин
- a7-6LLMOps: guardrails, router, gatewayLLMOps: guardrails, routers, gateways13 мин
Железо
4 урока- a1-2Веса: что лежит в файле модели, точность и квантизацияWeights, precision and quantization14 мин
- a6-2LoRA и QLoRA изнутриLoRA and QLoRA under the hood13 мин
- a6-4Прогон обучения: TRL, Unsloth, железо, кривые lossA training run: TRL, Unsloth, hardware, loss curves14 мин
- a7-2Kubernetes для моделей: GPU-ноды, autoscaling, HelmKubernetes for models: GPU nodes, autoscaling, Helm13 мин
Обучение моделей
4 урока- a1-3Как учат модель: pretraining, SFT, preference tuningTraining stages: pretraining, SFT, preference tuning13 мин
- a6-4Прогон обучения: TRL, Unsloth, железо, кривые lossA training run: TRL, Unsloth, hardware, loss curves14 мин
- a6-5Язык и стиль: continued pretraining, DPO и ORPOLanguage and style: continued pretraining, DPO, ORPO14 мин
- a6-7Аблитерация: направление отказа в весахAbliteration: the refusal direction in the weights15 мин
Поиск и embeddings
4 урока- a3-2Embeddings, индекс, hybrid searchEmbeddings, vector index, hybrid search13 мин
- a3-4RAG online: retrieve → rerank → generate → checkRAG online: retrieve, rerank, generate, check13 мин
- a3-5Contextual retrievalContextual retrieval12 мин
- a3-8Метрики ранжирования: precision@k, recall@k, MRR, NDCGRanking metrics: precision@k, recall@k, MRR, NDCG14 мин
Собеседование
5 уроков- a10-1Как отвечать на технический вопросAnswering a technical question12 мин
- a10-2System design для LLM-приложенияSystem design for an LLM application14 мин
- a10-3Поведенческий раунд: истории по STARThe behavioral round: STAR stories13 мин
- a10-4Портфолио-проект: AI-фича от идеи до productionPortfolio project: an AI feature from idea to production13 мин
- a10-5Итоговое пробное собеседованиеFinal mock interview12 мин
Context
4 урока- a1-4Inference: context, sampling, KV cache и servingInference: context, sampling, KV cache, serving14 мин
- a2-1Модель, context и агентный циклModel, context and the agent loop12 мин
- a2-6Миллион tools: выбор без переполнения contextThousands of tools without flooding the context13 мин
- a2-7Supervisor–worker, context engineering и спор о multi-agentSupervisor–worker, context engineering, the multi-agent debate14 мин
Evals
10 уроков- a3-7Как измерять RAGMeasuring RAG13 мин
- a3-8Метрики ранжирования: precision@k, recall@k, MRR, NDCGRanking metrics: precision@k, recall@k, MRR, NDCG14 мин
- a5-1Evaluation: три слоя и три вида gradersEvals: three layers, three kinds of graders12 мин
- a5-2Статистика: pass@k, pass^k, разброс, правило трёхStatistics: pass@k, pass^k, variance, the rule of three13 мин
- a5-3LLM-as-judge и согласие (κ)LLM-as-judge and agreement (kappa)13 мин
- a5-4Benchmarks и инструменты оценкиBenchmarks and eval tooling12 мин
- a5-5Evals на практике: смотреть в tracesEvals in practice: reading traces12 мин
- a6-6Оценка, merge и serving дообученной моделиEvaluating, merging and serving a fine-tune14 мин
- a7-8Метрики AI-ассистента в productionProduction metrics for an AI assistant13 мин
- a8-1Что меняется в банке и других регулируемых отрасляхWhat changes in banking and other regulated industries12 мин
Fine-tuning
6 уроков- a6-1Fine-tuning, RAG или prompt: когда чтоFine-tuning vs RAG vs prompting12 мин
- a6-2LoRA и QLoRA изнутриLoRA and QLoRA under the hood13 мин
- a6-3Данные для SFT: форматы, chat template, чисткаSFT data: formats, chat templates, cleaning13 мин
- a6-4Прогон обучения: TRL, Unsloth, железо, кривые lossA training run: TRL, Unsloth, hardware, loss curves14 мин
- a6-5Язык и стиль: continued pretraining, DPO и ORPOLanguage and style: continued pretraining, DPO, ORPO14 мин
- a6-6Оценка, merge и serving дообученной моделиEvaluating, merging and serving a fine-tune14 мин
Inference и serving
3 урока- a1-4Inference: context, sampling, KV cache и servingInference: context, sampling, KV cache, serving14 мин
- a6-6Оценка, merge и serving дообученной моделиEvaluating, merging and serving a fine-tune14 мин
- a7-2Kubernetes для моделей: GPU-ноды, autoscaling, HelmKubernetes for models: GPU nodes, autoscaling, Helm13 мин
LLM изнутри
4 урока- a1-1Токены, embeddings и transformer на одной картинкеTokens, embeddings and the transformer13 мин
- a1-2Веса: что лежит в файле модели, точность и квантизацияWeights, precision and quantization14 мин
- a1-3Как учат модель: pretraining, SFT, preference tuningTraining stages: pretraining, SFT, preference tuning13 мин
- a1-4Inference: context, sampling, KV cache и servingInference: context, sampling, KV cache, serving14 мин
Production
4 урока- a7-3Выкатка: CI, shadow, canary, rollbackShipping: CI, shadow, canary, rollback13 мин
- a7-6LLMOps: guardrails, router, gatewayLLMOps: guardrails, routers, gateways13 мин
- a7-7Наблюдаемость: traces, logs, четыре сигналаObservability: traces, logs, the four golden signals13 мин
- a7-8Метрики AI-ассистента в productionProduction metrics for an AI assistant13 мин
RAG
10 уроков- a3-1RAG offline: ingestion, metadata, chunkingRAG offline: ingestion, metadata, chunking13 мин
- a3-2Embeddings, индекс, hybrid searchEmbeddings, vector index, hybrid search13 мин
- a3-3Normalization: цифры, письменности, UnicodeNormalization: numbers, scripts, Unicode13 мин
- a3-4RAG online: retrieve → rerank → generate → checkRAG online: retrieve, rerank, generate, check13 мин
- a3-5Contextual retrievalContextual retrieval12 мин
- a3-6Диагностика неверного ответа RAGDebugging a wrong RAG answer13 мин
- a3-7Как измерять RAGMeasuring RAG13 мин
- a3-8Метрики ранжирования: precision@k, recall@k, MRR, NDCGRanking metrics: precision@k, recall@k, MRR, NDCG14 мин
- a6-1Fine-tuning, RAG или prompt: когда чтоFine-tuning vs RAG vs prompting12 мин
- a7-5Amazon Bedrock: модели, Knowledge Bases, Agents, GuardrailsAmazon Bedrock: models, Knowledge Bases, Agents, Guardrails15 мин
Tools и MCP
4 урока- a2-3Tools: права, подтверждение, idempotencyTools: permissions, confirmation, idempotency13 мин
- a2-4Как писать tools для агентаWriting tools for agents13 мин
- a2-5MCP и skills: совет против гарантииMCP and skills: advice vs guarantee13 мин
- a2-6Миллион tools: выбор без переполнения contextThousands of tools without flooding the context13 мин