Jean · Курс

Курс · AI engineer

AI engineering: от весов модели до production

LLM, агенты, RAG, evals, fine-tuning, production и облако, собеседования на англоязычном рынке. Уроки по 10–15 минут: текст, задание «Сделай сам», вопросы для самопроверки и вопросы с собеседований на английском.

  • 54уроков готово из 54
  • 10модулей
  • 12 ччтения

AI engineering

AI engineerAI engineering

01

Как устроена LLMHow LLMs work

5 уроков
  1. a1-1Токены, embeddings и transformer на одной картинкеTokens, embeddings and the transformer13 мин
  2. a1-2Веса: что лежит в файле модели, точность и квантизацияWeights, precision and quantization14 мин
  3. a1-3Как учат модель: pretraining, SFT, preference tuningTraining stages: pretraining, SFT, preference tuning13 мин
  4. a1-4Inference: context, sampling, KV cache и servingInference: context, sampling, KV cache, serving14 мин
  5. a1-5Open-weight или API: лицензии, локально и в облакеOpen-weight vs API models, licences, local vs cloud14 мин
02

АгентыAgents

8 уроков
  1. a2-1Модель, context и агентный циклModel, context and the agent loop12 мин
  2. a2-2ReAct: как агент думает и действуетReAct: reasoning and acting13 мин
  3. a2-3Tools: права, подтверждение, idempotencyTools: permissions, confirmation, idempotency13 мин
  4. a2-4Как писать tools для агентаWriting tools for agents13 мин
  5. a2-5MCP и skills: совет против гарантииMCP and skills: advice vs guarantee13 мин
  6. a2-6Миллион tools: выбор без переполнения contextThousands of tools without flooding the context13 мин
  7. a2-7Supervisor–worker, context engineering и спор о multi-agentSupervisor–worker, context engineering, the multi-agent debate14 мин
  8. a2-8Агентный цикл своими рукамиBuild an agent loop yourself15 мин
03

RAGRetrieval-augmented generation

8 уроков
  1. a3-1RAG offline: ingestion, metadata, chunkingRAG offline: ingestion, metadata, chunking13 мин
  2. a3-2Embeddings, индекс, hybrid searchEmbeddings, vector index, hybrid search13 мин
  3. a3-3Normalization: цифры, письменности, UnicodeNormalization: numbers, scripts, Unicode13 мин
  4. a3-4RAG online: retrieve → rerank → generate → checkRAG online: retrieve, rerank, generate, check13 мин
  5. a3-5Contextual retrievalContextual retrieval12 мин
  6. a3-6Диагностика неверного ответа RAGDebugging a wrong RAG answer13 мин
  7. a3-7Как измерять RAGMeasuring RAG13 мин
  8. a3-8Метрики ранжирования: precision@k, recall@k, MRR, NDCGRanking metrics: precision@k, recall@k, MRR, NDCG14 мин
04

Безопасность LLM-системLLM security

2 уроков
  1. a4-1Sanitization: PII, секреты, скрытые инструкцииSanitization: PII, secrets, hidden instructions12 мин
  2. a4-2Prompt injection и excessive agencyPrompt injection and excessive agency13 мин
05

EvaluationEvaluation

5 уроков
  1. a5-1Evaluation: три слоя и три вида gradersEvals: three layers, three kinds of graders12 мин
  2. a5-2Статистика: pass@k, pass^k, разброс, правило трёхStatistics: pass@k, pass^k, variance, the rule of three13 мин
  3. a5-3LLM-as-judge и согласие (κ)LLM-as-judge and agreement (kappa)13 мин
  4. a5-4Benchmarks и инструменты оценкиBenchmarks and eval tooling12 мин
  5. a5-5Evals на практике: смотреть в tracesEvals in practice: reading traces12 мин
06

Fine-tuning и весаFine-tuning and weights

7 уроков
  1. a6-1Fine-tuning, RAG или prompt: когда чтоFine-tuning vs RAG vs prompting12 мин
  2. a6-2LoRA и QLoRA изнутриLoRA and QLoRA under the hood13 мин
  3. a6-3Данные для SFT: форматы, chat template, чисткаSFT data: formats, chat templates, cleaning13 мин
  4. a6-4Прогон обучения: TRL, Unsloth, железо, кривые lossA training run: TRL, Unsloth, hardware, loss curves14 мин
  5. a6-5Язык и стиль: continued pretraining, DPO и ORPOLanguage and style: continued pretraining, DPO, ORPO14 мин
  6. a6-6Оценка, merge и serving дообученной моделиEvaluating, merging and serving a fine-tune14 мин
  7. a6-7Аблитерация: направление отказа в весахAbliteration: the refusal direction in the weights15 мин
07

Production и облакоProduction and cloud

9 уроков
  1. a7-1Docker и KubernetesDocker and Kubernetes13 мин
  2. a7-2Kubernetes для моделей: GPU-ноды, autoscaling, HelmKubernetes for models: GPU nodes, autoscaling, Helm13 мин
  3. a7-3Выкатка: CI, shadow, canary, rollbackShipping: CI, shadow, canary, rollback13 мин
  4. a7-4AWS для AI engineer: IAM, S3, VPC, Lambda, SageMakerAWS for AI engineers: IAM, S3, VPC, Lambda, SageMaker14 мин
  5. a7-5Amazon Bedrock: модели, Knowledge Bases, Agents, GuardrailsAmazon Bedrock: models, Knowledge Bases, Agents, Guardrails15 мин
  6. a7-6LLMOps: guardrails, router, gatewayLLMOps: guardrails, routers, gateways13 мин
  7. a7-7Наблюдаемость: traces, logs, четыре сигналаObservability: traces, logs, the four golden signals13 мин
  8. a7-8Метрики AI-ассистента в productionProduction metrics for an AI assistant13 мин
  9. a7-9Сети: WireGuard, Tailscale, NAT и ретрансляторы DERPNetworking: WireGuard, Tailscale, NAT traversal and DERP relays14 мин
08

AI в регулируемой отраслиAI in regulated industries

3 уроков
  1. a8-1Что меняется в банке и других регулируемых отрасляхWhat changes in banking and other regulated industries12 мин
  2. a8-2Регулятор и model riskRegulators and model risk management13 мин
  3. a8-3Данные, закон и data residencyData, law and data residency13 мин
09

Процессы: ScrumProcess: Scrum

2 уроков
  1. a9-1Scrum: роли, события, артефактыScrum: roles, events, artifacts12 мин
  2. a9-2Scrum в ML-работе, Kanban и оценкиScrum for ML work, Kanban and estimation13 мин
10

Собеседование на англоязычном рынкеInterviewing for the English-speaking market

5 уроков
  1. a10-1Как отвечать на технический вопросAnswering a technical question12 мин
  2. a10-2System design для LLM-приложенияSystem design for an LLM application14 мин
  3. a10-3Поведенческий раунд: истории по STARThe behavioral round: STAR stories13 мин
  4. a10-4Портфолио-проект: AI-фича от идеи до productionPortfolio project: an AI feature from idea to production13 мин
  5. a10-5Итоговое пробное собеседованиеFinal mock interview12 мин