PHASE 0 - Nền tảng bắt buộc (Ngày 1-10)

Ngày 1: Đại số tuyến tính cho ML

• Mục tiêu: Đọc hiểu công thức ma trận trong paper/doc ML mà không hoảng.

• Lý thuyết: Vector, ma trận, phép nhân ma trận, eigenvalue/eigenvector, norm (L1/L2).

• Thực hành: Cài NumPy, tự viết phép nhân ma trận và so sánh với np.dot, tính norm của vài vector.

Ngày 2: Xác suất & thống kê

• Mục tiêu: Hiểu phân phối, kỳ vọng, phương sai, định lý Bayes.

• Lý thuyết: Phân phối chuẩn/nhị thức, kỳ vọng/phương sai, Bayes theorem, correlation vs causation.

• Thực hành: Dùng Pandas mô phỏng 1 bộ dữ liệu, tính mean/variance/correlation matrix.

Ngày 3: Giải tích cho Deep Learning

• Mục tiêu: Hiểu gradient và chain rule đủ để đọc backprop sau này.

• Lý thuyết: Đạo hàm, gradient, chain rule, gradient descent trực quan.

• Thực hành: Viết gradient descent tay bằng NumPy để tối ưu hàm bậc 2 đơn giản.

Ngày 4: Python nâng cao I - NumPy/Pandas

• Mục tiêu: Thao tác dữ liệu vector hóa thành thạo, không dùng vòng lặp for thừa.

• Lý thuyết: Broadcasting, vectorization, groupby/merge trong Pandas.

• Thực hành: Xử lý 1 bộ CSV thực tế (Kaggle), làm sạch + groupby + pivot.

Ngày 5: Python nâng cao II - Code sạch & testing

• Mục tiêu: Viết code ML module hóa, có test.

• Lý thuyết: Cấu trúc project Python, pytest cơ bản, type hint.

• Thực hành: Refactor code ngày 4 thành module có hàm rõ ràng + viết 3 unit test.

Ngày 6: Git & CI cơ bản

• Mục tiêu: Có quy trình version control + CI chạy test tự động.

• Lý thuyết: Git flow cơ bản, GitHub Actions cơ bản.

• Thực hành: Đẩy code lên GitHub, viết workflow CI chạy pytest mỗi lần push.

Ngày 7: Docker cơ bản

• Mục tiêu: Đóng gói được 1 script Python thành container chạy được ở máy khác.

• Lý thuyết: Image vs container, Dockerfile, layer caching, multi-stage build.

• Thực hành: Viết Dockerfile cho script ngày 4, build và chạy container.

Ngày 8: AWS IAM sâu

• Mục tiêu: Phân biệt rõ role/policy/user, viết policy least-privilege.

• Lý thuyết: IAM role vs user, trust policy, permission policy, principle of least privilege.

• Thực hành: Tạo IAM role chỉ cho phép đọc/ghi 1 bucket S3 cụ thể, gắn vào EC2 instance.

Ngày 9: AWS VPC & Networking cơ bản

• Mục tiêu: Hiểu luồng traffic vào/ra 1 resource AWS.

• Lý thuyết: VPC, subnet public/private, security group, NAT gateway, route table.

• Thực hành: Dựng 1 VPC với 1 subnet public + 1 private, đặt EC2 vào private subnet, test kết nối qua bastion.

Ngày 10: S3, chi phí AWS & Dự án tổng hợp Phase 0

• Mục tiêu: Deploy hoàn chỉnh script Python lên EC2 với IAM role đúng chuẩn, không hardcode key.

• Lý thuyết: S3 storage class, lifecycle policy, cách AWS tính phí (compute/storage/data transfer).

• Thực hành: Deploy container ngày 7 lên EC2 (dùng role ngày 8, network ngày 9), bật Billing Alert.

PHASE DL - Deep Learning Internals (Ngày 11-20)

Ngày 11: Neural Network cơ bản

• Mục tiêu: Hiểu forward pass của 1 mạng nơ-ron đơn giản.

• Lý thuyết: Perceptron, activation function (ReLU/sigmoid/softmax), fully-connected layer.

• Thực hành: Viết forward pass 1 mạng 2 lớp bằng NumPy thuần (không dùng framework).

Ngày 12: Backpropagation từ tay

• Mục tiêu: Tự chứng minh được backprop hoạt động, không chỉ tin framework.

• Lý thuyết: Chain rule áp dụng vào mạng nhiều lớp, computational graph.

• Thực hành: Viết backprop tay cho mạng ngày 11, so kết quả gradient với torch.autograd.

Ngày 13: CNN

• Mục tiêu: Hiểu vì sao CNN hiệu quả cho dữ liệu ảnh.

• Lý thuyết: Convolution, pooling, receptive field, parameter sharing.

• Thực hành: Train 1 CNN nhỏ (PyTorch) trên MNIST/CIFAR-10 con.

Ngày 14: RNN/LSTM

• Mục tiêu: Hiểu vì sao cần kiến trúc tuần tự trước khi học Transformer.

• Lý thuyết: RNN, vanishing gradient, LSTM/GRU gate mechanism.

• Thực hành: Train 1 LSTM nhỏ dự đoán chuỗi thời gian đơn giản.

Ngày 15: Attention Mechanism

• Mục tiêu: Hiểu bản chất attention là gì trước khi học Transformer.

• Lý thuyết: Query/Key/Value, scaled dot-product attention, self-attention vs cross-attention.

• Thực hành: Viết attention layer đơn giản bằng NumPy/PyTorch, visualize attention weight.

Ngày 16: Kiến trúc Transformer

• Mục tiêu: Đọc hiểu được sơ đồ kiến trúc Transformer gốc (Attention is All You Need).

• Lý thuyết: Multi-head attention, feed-forward block, residual connection, layer norm, encoder vs decoder.

• Thực hành: Vẽ lại kiến trúc Transformer từ trí nhớ, đối chiếu paper gốc.

Ngày 17: Embedding & Positional Encoding

• Mục tiêu: Hiểu vì sao FM cần positional encoding, embedding hoạt động thế nào.

• Lý thuyết: Word embedding, sinusoidal positional encoding, rotary embedding (RoPE) tổng quan.

• Thực hành: Trực quan hóa embedding space của vài từ bằng t-SNE/PCA.

Ngày 18: Fine-tuning mechanics & PEFT

• Mục tiêu: Phân biệt full fine-tune, LoRA, adapter, prompt tuning.

• Lý thuyết: Parameter-Efficient Fine-Tuning (PEFT), LoRA (low-rank decomposition), adapter layer.

• Thực hành: Fine-tune 1 model nhỏ (HuggingFace) bằng LoRA trên GPU miễn phí (Colab/SageMaker Studio Lab).

Ngày 19: RLHF & DPO

• Mục tiêu: Hiểu vì sao model "align" khác model "pretrain" thuần.

• Lý thuyết: Reward model, PPO trong RLHF, Direct Preference Optimization (DPO) - ý tưởng đơn giản hóa RLHF.

• Thực hành: Đọc 1 dataset preference (ví dụ Anthropic HH-RLHF) và mô tả bằng lời cách reward model được train.

Ngày 20: Dự án tổng hợp Phase DL

• Mục tiêu: Chứng minh hiểu bản chất, không chỉ gọi API.

• Lý thuyết: Ôn lại toàn bộ pipeline: input → embedding → attention → FFN → output → loss → backprop → fine-tune.

• Thực hành: Viết 1 báo cáo kỹ thuật (2-3 trang) giải thích transformer + LoRA + DPO bằng ngôn ngữ của chính bạn, kèm sơ đồ tay.

PHASE 1 - Data Engineering cho ML (Ngày 21-35)

Ngày 21: Định dạng dữ liệu

• Mục tiêu: Chọn đúng format cho đúng use case.

• Lý thuyết: Parquet vs JSON vs CSV vs ORC vs Avro vs RecordIO - columnar vs row-based, nén, schema evolution.

• Thực hành: Convert 1 file CSV lớn sang Parquet, so sánh dung lượng và tốc độ đọc.

Ngày 22: Batch ingestion với S3 & Glue

• Mục tiêu: Ingest dữ liệu batch từ nguồn có cấu trúc.

• Lý thuyết: AWS Glue Crawler, Glue Data Catalog, Glue Job (Spark).

• Thực hành: Viết 1 Glue job đọc dữ liệu từ RDS, ghi ra S3 dạng Parquet.

Ngày 23: Streaming ingestion - Kinesis Data Streams

• Mục tiêu: Hiểu ingest dữ liệu thời gian thực.

• Lý thuyết: Shard, partition key, consumer, độ trễ.

• Thực hành: Tạo Kinesis stream, viết producer gửi dữ liệu giả lập, Lambda consumer ghi ra S3.

Ngày 24: Kinesis Firehose & khái niệm Kafka/Flink

• Mục tiêu: Phân biệt Firehose (managed, đơn giản) với Kafka/Flink (linh hoạt, phức tạp hơn).

• Lý thuyết: Firehose buffering, Apache Kafka partition/consumer group, Flink stream processing.

• Thực hành: Cấu hình Firehose tự động ghi Kinesis stream ngày 23 ra S3 theo batch thời gian.

Ngày 25: Glue DataBrew & Glue Data Quality

• Mục tiêu: Làm sạch dữ liệu không cần code.

• Lý thuyết: Data profiling, transformation recipe, data quality rule.

• Thực hành: Dùng DataBrew làm sạch bộ dữ liệu ngày 22, viết rule Data Quality kiểm tra null/duplicate.

Ngày 26: SageMaker Data Wrangler

• Mục tiêu: Trực quan hóa và transform dữ liệu trước khi train.

• Lý thuyết: Data flow trong Data Wrangler, export sang Feature Store/Pipeline.

• Thực hành: Import bộ dữ liệu, thử 3 transform (impute, scale, encode), export flow.

Ngày 27: Feature engineering cơ bản

• Mục tiêu: Hiểu và áp dụng đúng kỹ thuật feature engineering theo loại thuật toán.

• Lý thuyết: Scaling/standardization, binning, log transform, feature splitting.

• Thực hành: Áp dụng 3 kỹ thuật trên vào bộ dữ liệu ngày 26, so sánh phân phối trước/sau.

Ngày 28: Encoding techniques

• Mục tiêu: Chọn đúng encoding cho biến phân loại.

• Lý thuyết: One-hot, label encoding, binary encoding, tokenization (cho text).

• Thực hành: Encode 1 cột categorical nhiều giá trị bằng 2 phương pháp khác nhau, so sánh chiều dữ liệu.

Ngày 29: SageMaker Feature Store

• Mục tiêu: Hiểu và dựng feature store dùng chung train/serving.

• Lý thuyết: Online store vs offline store, feature group, point-in-time query.

• Thực hành: Tạo feature group, ingest feature từ ngày 27-28, query lại từ online store.

Ngày 30: Data quality - outlier, missing, dedup

• Mục tiêu: Xây quy trình validate dữ liệu trước khi đưa vào training.

• Lý thuyết: Phương pháp phát hiện outlier (IQR, z-score), chiến lược imputation, dedup logic.

• Thực hành: Viết script phát hiện + xử lý outlier/missing/duplicate cho bộ dữ liệu đang dùng.

Ngày 31: Bias trong dữ liệu - Class Imbalance & DPL

• Mục tiêu: Đo được mức độ bias trong dữ liệu trước khi train.

• Lý thuyết: Class Imbalance (CI), Difference in Proportions of Labels (DPL), vì sao bias dữ liệu → bias model.

• Thực hành: Chạy SageMaker Clarify đo CI/DPL trên bộ dữ liệu, đọc report.

Ngày 32: Compliance - PII/PHI & mã hóa

• Mục tiêu: Xử lý đúng dữ liệu nhạy cảm theo compliance.

• Lý thuyết: PII/PHI, data residency, mã hóa at-rest/in-transit, anonymization vs masking.

• Thực hành: Dùng Comprehend phát hiện PII trong text, mã hóa bucket S3 bằng KMS.

Ngày 33: Feature engineering nâng cao I - Feature Selection & Leakage

• Mục tiêu: Tránh target leakage - lỗi âm thầm phá hỏng model.

• Lý thuyết: Feature selection (filter/wrapper/embedded method), target leakage là gì và vì sao nguy hiểm.

• Thực hành: Rà soát bộ feature đang có, chỉ ra và loại bỏ ít nhất 1 feature có nguy cơ leakage.

Ngày 34: Feature engineering nâng cao II - SHAP & Permutation Importance

• Mục tiêu: Giải thích được model dựa vào feature nào để ra quyết định.

• Lý thuyết: SHAP values, permutation importance, feature lineage.

• Thực hành: Train nhanh 1 model baseline, chạy SHAP để xếp hạng feature quan trọng.

Ngày 35: Dự án tổng hợp Phase 1

• Mục tiêu: Có pipeline dữ liệu hoàn chỉnh sẵn sàng cho training.

• Lý thuyết: Ôn lại toàn bộ luồng: ingest → clean → feature engineer → bias check → feature store.

• Thực hành: Ghép toàn bộ các bước ngày 21-34 thành 1 pipeline chạy được (Glue job hoặc script), viết báo cáo bias.

PHASE 2 - ML Model Development (Ngày 36-55)

Ngày 36: Chọn thuật toán - cổ điển vs DL vs Foundation Model

• Mục tiêu: Ra quyết định đúng loại model cho đúng bài toán.

• Lý thuyết: Trade-off giữa độ phức tạp bài toán, lượng dữ liệu, chi phí, khả năng diễn giải.

• Thực hành: Viết bảng so sánh 3 hướng tiếp cận cho 1 bài toán cụ thể (ví dụ dự đoán churn).

Ngày 37: Thuật toán tree-based - XGBoost sâu

• Mục tiêu: Hiểu cơ chế boosting, không chỉ gọi .fit().

• Lý thuyết: Gradient boosting, cây quyết định, learning rate trong boosting.

• Thực hành: Train XGBoost trên bộ dữ liệu Phase 1, tune 3 hyperparameter tay.

Ngày 38: SageMaker built-in algorithms

• Mục tiêu: Biết dùng built-in algorithm cho bài toán chuẩn nhanh chóng.

• Lý thuyết: Danh sách built-in algorithm phổ biến và use case tương ứng.

• Thực hành: Train 1 built-in algorithm (ví dụ Linear Learner) trên SageMaker.

Ngày 39: Elements of training

• Mục tiêu: Hiểu và điều chỉnh đúng các tham số training cơ bản.

• Lý thuyết: Epoch, batch size, learning rate, early stopping.

• Thực hành: Thử 3 giá trị learning rate khác nhau, quan sát loss curve.

Ngày 40: Regularization

• Mục tiêu: Chống overfitting có chủ đích.

• Lý thuyết: L1/L2 regularization, dropout, weight decay.

• Thực hành: Train cùng 1 model có/không dropout, so sánh gap giữa train/validation loss.

Ngày 41: SageMaker script mode với PyTorch

• Mục tiêu: Kiểm soát toàn bộ vòng lặp training thay vì chỉ dùng built-in.

• Lý thuyết: Script mode, entry point, SageMaker training container.

• Thực hành: Viết script PyTorch train model, submit training job qua SageMaker script mode.

Ngày 42: Distributed training - tổng quan (chi tiết ở Phase DIST sau)

• Mục tiêu: Nhận diện được khi nào cần train phân tán.

• Lý thuyết: Data parallel vs model parallel ở mức khái niệm.

• Thực hành: Đọc log training job ngày 41, ước tính thời gian nếu dữ liệu tăng 10x - có cần phân tán không?

Ngày 43: Hyperparameter tuning - Random Search

• Mục tiêu: Tự động hóa việc tìm hyperparameter thay vì tay.

• Lý thuyết: Random search vs grid search, vì sao random search hiệu quả hơn grid trong không gian nhiều chiều.

• Thực hành: Chạy random search tay (script) trên 2-3 hyperparameter.

Ngày 44: Bayesian Optimization & SageMaker AMT

• Mục tiêu: Dùng tuning thông minh hơn random search.

• Lý thuyết: Bayesian optimization - cách nó "học" từ các lần thử trước.

• Thực hành: Chạy SageMaker Automatic Model Tuning, so sánh kết quả với random search ngày 43.

Ngày 45: Ensemble methods

• Mục tiêu: Hiểu vì sao ensemble thường thắng single model.

• Lý thuyết: Bagging, boosting, stacking.

• Thực hành: Stack 2-3 model khác nhau (ví dụ XGBoost + Linear), so sánh với từng model riêng lẻ.

Ngày 46: Model evaluation metrics I

• Mục tiêu: Đọc hiểu confusion matrix và các metric phân loại.

• Lý thuyết: Confusion matrix, precision/recall/F1, accuracy.

• Thực hành: Tính tay các metric trên trên tập validation, không chỉ dùng hàm có sẵn.

Ngày 47: Model evaluation metrics II

• Mục tiêu: Chọn đúng metric theo bài toán kinh doanh.

• Lý thuyết: ROC-AUC, RMSE, khi nào recall quan trọng hơn accuracy (ví dụ gian lận).

• Thực hành: Viết luận điểm ngắn: vì sao metric X phù hợp hơn metric Y cho bài toán đang làm.

Ngày 48: Model size reduction

• Mục tiêu: Giảm kích thước model để deploy trong môi trường giới hạn tài nguyên.

• Lý thuyết: Pruning, quantization cơ bản (int8), compression.

• Thực hành: Quantize 1 model nhỏ, so sánh kích thước và độ chính xác trước/sau.

Ngày 49: Fine-tuning qua SageMaker JumpStart

• Mục tiêu: Fine-tune model có sẵn nhanh chóng thay vì train from scratch.

• Lý thuyết: SageMaker JumpStart model hub, transfer learning.

• Thực hành: Fine-tune 1 model từ JumpStart trên dữ liệu riêng của bạn.

Ngày 50: Fine-tuning qua Amazon Bedrock

• Mục tiêu: So sánh fine-tuning trên FM qua Bedrock với SageMaker.

• Lý thuyết: Bedrock custom model, fine-tuning job, provisioned throughput cho custom model.

• Thực hành: Chạy 1 fine-tuning job nhỏ trên Bedrock (nếu có quyền truy cập) hoặc đọc kỹ tài liệu + mô phỏng cấu hình.

Ngày 51: SageMaker Model Registry

• Mục tiêu: Quản lý version model có kỷ luật.

• Lý thuyết: Model package group, model version, approval status.

• Thực hành: Đăng ký 2-3 version model đã train vào Model Registry, gắn metadata.

Ngày 52: SageMaker Debugger & convergence issues

• Mục tiêu: Debug được vì sao model không hội tụ.

• Lý thuyết: Vanishing/exploding gradient, loss không giảm - nguyên nhân thường gặp.

• Thực hành: Cố tình set learning rate quá cao để gây exploding gradient, dùng Debugger quan sát và fix.

Ngày 53: SageMaker Clarify cho model interpretability

• Mục tiêu: Giải thích được model output cho stakeholder không kỹ thuật.

• Lý thuyết: Global vs local explainability, SHAP tích hợp trong Clarify.

• Thực hành: Chạy Clarify explainability report cho model đã train, viết tóm tắt 3 câu cho người không kỹ thuật.

Ngày 54: AI services có sẵn (khi nào không cần tự train)

• Mục tiêu: Biết khi nào dùng AI service thay vì tự xây model.

• Lý thuyết: Rekognition, Transcribe, Translate, Comprehend - use case và giới hạn.

• Thực hành: Thử gọi 1 AI service (ví dụ Comprehend sentiment) trên dữ liệu thật, so sánh chi phí/tốc độ với tự train.

Ngày 55: Dự án tổng hợp Phase 2

• Mục tiêu: Có 1 model đã train, tune, đánh giá, và đăng ký version hoàn chỉnh.

• Lý thuyết: Ôn lại toàn bộ vòng đời: chọn thuật toán → train → tune → evaluate → register.

• Thực hành: Viết báo cáo: model có overfit/underfit không, dùng learning curve chứng minh, kèm SHAP explainability.

PHASE 3 - Deployment & Orchestration (MLOps cổ điển) (Ngày 56-70)

Ngày 56: Real-time vs Serverless endpoint

• Mục tiêu: Chọn đúng loại endpoint theo yêu cầu latency/traffic.

• Lý thuyết: Real-time endpoint (luôn bật) vs serverless endpoint (scale-to-zero).

• Thực hành: Deploy cùng 1 model dưới 2 hình thức, đo cold-start latency của serverless.

Ngày 57: Async endpoint & Batch transform

• Mục tiêu: Xử lý inference không cần phản hồi ngay lập tức.

• Lý thuyết: Async endpoint (dùng SQS/S3), batch transform cho khối lượng lớn.

• Thực hành: Deploy async endpoint, gửi request lớn, nhận kết quả qua callback.

Ngày 58: Multi-model & Multi-container endpoint

• Mục tiêu: Tối ưu chi phí khi có nhiều model ít traffic.

• Lý thuyết: Multi-model endpoint (MME), multi-container endpoint.

• Thực hành: Deploy 2 model nhỏ chung 1 MME, đo chi phí so với 2 endpoint riêng.

Ngày 59: Auto scaling cho endpoint

• Mục tiêu: Chọn đúng metric để auto scale.

• Lý thuyết: Invocations per instance, model latency, CPU/GPU utilization - vì sao CPU sai với GPU-bound.

• Thực hành: Cấu hình auto scaling policy dựa trên invocations per instance, load test bằng script gửi request dồn dập.

Ngày 60: Infrastructure as Code - CloudFormation

• Mục tiêu: Tự động hóa việc dựng hạ tầng, không click tay trên console.

• Lý thuyết: CloudFormation template, stack, resource dependency.

• Thực hành: Viết template tạo 1 endpoint SageMaker từ model đã có.

Ngày 61: Infrastructure as Code - AWS CDK

• Mục tiêu: So sánh cách tiếp cận lập trình (CDK) với khai báo thuần (CloudFormation).

• Lý thuyết: CDK construct, stack, synth ra CloudFormation.

• Thực hành: Viết lại template ngày 60 bằng CDK (Python/TypeScript).

Ngày 62: SageMaker Pipelines

• Mục tiêu: Tự động hóa toàn bộ luồng train → evaluate → register → deploy.

• Lý thuyết: Pipeline step, condition step, pipeline execution.

• Thực hành: Xây 1 SageMaker Pipeline gồm bước preprocess → train → evaluate → register.

Ngày 63: Apache Airflow / Amazon MWAA

• Mục tiêu: Biết dùng orchestrator ngoài hệ sinh thái SageMaker khi cần.

• Lý thuyết: DAG, task dependency, scheduler.

• Thực hành: Viết 1 DAG đơn giản trên MWAA gọi lại pipeline ngày 62.

Ngày 64: Container hóa nâng cao - BYOC

• Mục tiêu: Đóng gói được model không nằm trong framework hỗ trợ sẵn của SageMaker.

• Lý thuyết: Bring Your Own Container, SageMaker container contract (train/serve).

• Thực hành: Đóng gói 1 model custom vào container tuân theo chuẩn SageMaker, push lên ECR.

Ngày 65: CI/CD cho ML - CodePipeline/CodeBuild/CodeDeploy

• Mục tiêu: Có pipeline CI/CD tự động deploy khi code thay đổi.

• Lý thuyết: CodePipeline stage, CodeBuild buildspec, CodeDeploy deployment group.

• Thực hành: Dựng CI/CD pipeline: commit code → build → test → deploy staging.

Ngày 66: Quality Gate trong CI/CD

• Mục tiêu: Chặn deploy nếu model kém chất lượng, không chỉ chặn khi code lỗi.

• Lý thuyết: Automated quality gate - so sánh metric model mới với model cũ.

• Thực hành: Thêm bước trong pipeline: chỉ deploy nếu F1/accuracy mới ≥ model đang chạy.

Ngày 67: Deployment strategy - Blue/Green & Canary

• Mục tiêu: Deploy an toàn, giảm rủi ro khi ra model mới.

• Lý thuyết: Blue/green deployment, canary deployment, linear rollout.

• Thực hành: Cấu hình canary deployment cho endpoint (route 10% traffic sang version mới).

Ngày 68: Rollback strategy

• Mục tiêu: Có khả năng revert nhanh khi model mới gây lỗi.

• Lý thuyết: Rollback tự động dựa trên alarm, versioning để rollback nhanh.

• Thực hành: Giả lập model lỗi, kích hoạt rollback tự động qua CloudWatch Alarm.

Ngày 69: Dự án - Đo lường 3 hình thức deploy

• Mục tiêu: Có số liệu thực tế để ra quyết định kiến trúc sau này.

• Lý thuyết: Ôn lại trade-off real-time/serverless/batch.

• Thực hành: Deploy model dưới 3 hình thức, đo latency p50/p95 và chi phí ước tính mỗi loại.

Ngày 70: Dự án tổng hợp Phase 3

• Mục tiêu: Có pipeline CI/CD hoàn chỉnh từ train đến production.

• Lý thuyết: Ôn lại toàn bộ chuỗi IaC → Pipeline → CI/CD → Quality Gate → Canary → Rollback.

• Thực hành: Ghép toàn bộ thành 1 luồng end-to-end chạy được, viết diagram kiến trúc.

PHASE DIST - Distributed Training (Ngày 71-78)

(Bổ sung theo góp ý: fine-tune LLM lớn cần train đa GPU)

Ngày 71: Data Parallel vs Model Parallel - sâu

• Mục tiêu: Phân biệt rõ khi nào cần loại song song hóa nào.

• Lý thuyết: Data parallel (nhân bản model, chia dữ liệu) vs model parallel (chia model ra nhiều GPU khi model quá lớn).

• Thực hành: Vẽ sơ đồ minh họa 2 chiến lược cho 1 model cụ thể (ví dụ 7B parameters trên 4 GPU).

Ngày 72: NCCL & communication primitives

• Mục tiêu: Hiểu cơ chế giao tiếp giữa các GPU/node.

• Lý thuyết: All-reduce, all-gather, NCCL (NVIDIA Collective Communications Library).

• Thực hành: Đọc log 1 training job đa GPU (nếu có), tìm thời gian dành cho communication vs compute.

Ngày 73: Horovod

• Mục tiêu: Hiểu 1 framework distributed training phổ biến ngoài native PyTorch DDP.

• Lý thuyết: Horovod ring all-reduce, tích hợp với TensorFlow/PyTorch.

• Thực hành: Đọc/chạy thử 1 script mẫu Horovod trên môi trường multi-GPU giả lập (hoặc single-GPU để hiểu cấu trúc code).

Ngày 74: DeepSpeed & ZeRO

• Mục tiêu: Hiểu vì sao ZeRO giúp train model lớn hơn trên cùng phần cứng.

• Lý thuyết: ZeRO stage 1/2/3 - sharding optimizer state, gradient, parameter.

• Thực hành: Cấu hình 1 file config DeepSpeed ZeRO cho fine-tuning job (dựa trên model ngày 18).

Ngày 75: FSDP (Fully Sharded Data Parallel)

• Mục tiêu: So sánh FSDP (PyTorch native) với DeepSpeed.

• Lý thuyết: FSDP sharding strategy, khi nào chọn FSDP thay vì DeepSpeed.

• Thực hành: Chuyển script fine-tuning ngày 18 sang dùng FSDP, so sánh cấu hình với DeepSpeed.

Ngày 76: Tensor Parallelism & Pipeline Parallelism

• Mục tiêu: Hiểu 2 kỹ thuật song song hóa nâng cao dùng cho model cực lớn.

• Lý thuyết: Tensor parallelism (chia layer theo chiều ngang), pipeline parallelism (chia theo chiều sâu, micro-batch).

• Thực hành: Đọc kiến trúc Megatron-LM hoặc tài liệu tương đương, tóm tắt cách 2 kỹ thuật kết hợp với data parallel (3D parallelism).

Ngày 77: Multi-GPU/Multi-node training trên SageMaker

• Mục tiêu: Chạy được training job phân tán thật trên AWS.

• Lý thuyết: SageMaker distributed training library, instance type nhiều GPU (p4/p5), cấu hình cluster.

• Thực hành: Submit 1 SageMaker training job dùng nhiều instance/GPU với DeepSpeed hoặc FSDP.

Ngày 78: Dự án tổng hợp Phase DIST

• Mục tiêu: Fine-tune 1 LLM mở nguồn cỡ vừa (7B) bằng kỹ thuật phân tán.

• Lý thuyết: Ôn lại toàn bộ: data parallel/model parallel, ZeRO, FSDP.

• Thực hành: Fine-tune model dạng Llama/Mistral/Qwen 7B (LoRA + FSDP/DeepSpeed) trên SageMaker training job đa GPU, ghi lại thời gian/chi phí thực tế.

PHASE K8S - AI trên Kubernetes/EKS (Ngày 79-90)

Ngày 79: Kubernetes cơ bản

• Mục tiêu: Hiểu 3 khái niệm lõi: Pod, Deployment, Service.

• Lý thuyết: Pod, ReplicaSet, Deployment, Service, kubectl cơ bản.

• Thực hành: Cài minikube/kind local, deploy 1 ứng dụng "hello world" bằng kubectl.

Ngày 80: Thiết lập EKS

• Mục tiêu: Có 1 cluster EKS chạy thật trên AWS.

• Lý thuyết: EKS control plane, node group, managed vs self-managed node.

• Thực hành: Tạo EKS cluster bằng eksctl, deploy lại ứng dụng ngày 79 lên cluster thật.

Ngày 81: GPU Scheduling trên Kubernetes

• Mục tiêu: Chạy được workload cần GPU trên K8s.

• Lý thuyết: NVIDIA device plugin, resource request/limit cho GPU, node taint/toleration.

• Thực hành: Deploy 1 pod yêu cầu GPU, verify GPU được gán đúng.

Ngày 82: Karpenter - autoscaling thông minh

• Mục tiêu: Tự động scale node theo nhu cầu workload GPU/CPU.

• Lý thuyết: Karpenter vs Cluster Autoscaler, provisioner, consolidation.

• Thực hành: Cài Karpenter, cấu hình provisioner cho node GPU, test scale-up/scale-down.

Ngày 83: Ray cơ bản

• Mục tiêu: Hiểu Ray như nền tảng tính toán phân tán cho AI.

• Lý thuyết: Ray cluster, Ray Task/Actor, Ray Train.

• Thực hành: Chạy 1 chương trình Ray đơn giản phân tán 1 tác vụ tính toán trên nhiều worker.

Ngày 84: Ray Serve cho model serving

• Mục tiêu: Serve model qua Ray Serve trên EKS.

• Lý thuyết: Ray Serve deployment, autoscaling, batching request.

• Thực hành: Deploy model (từ Phase 2) qua Ray Serve trên cluster EKS ngày 80.

Ngày 85: Kubeflow Pipelines

• Mục tiêu: Hiểu orchestration ML trên K8s tương đương SageMaker Pipelines.

• Lý thuyết: Kubeflow component, pipeline DSL, so sánh với SageMaker Pipelines.

• Thực hành: Viết 1 Kubeflow pipeline đơn giản (preprocess → train) chạy trên cluster.

Ngày 86: KServe cho inference serving

• Mục tiêu: Serve model production-grade trên K8s với autoscaling to zero.

• Lý thuyết: KServe InferenceService, predictor/transformer/explainer, scale-to-zero.

• Thực hành: Deploy model qua KServe, test scale-to-zero khi không có traffic.

Ngày 87: Argo Workflows

• Mục tiêu: Orchestrate pipeline phức tạp dạng DAG trên K8s.

• Lý thuyết: Argo Workflow template, DAG, artifact passing giữa step.

• Thực hành: Viết 1 Argo Workflow chạy lại pipeline train → evaluate → deploy.

Ngày 88: Feature Platform trên Kubernetes (Feast tổng quan)

• Mục tiêu: Biết lựa chọn ngoài SageMaker Feature Store khi chạy trên K8s.

• Lý thuyết: Feast architecture, online/offline store tương đương Feature Store.

• Thực hành: Đọc kiến trúc Feast, so sánh bảng tính năng với SageMaker Feature Store.

Ngày 89: So sánh SageMaker vs EKS-based stack

• Mục tiêu: Ra quyết định kiến trúc: khi nào chọn SageMaker, khi nào chọn EKS.

• Lý thuyết: Trade-off: managed (nhanh, ít kiểm soát) vs self-hosted trên K8s (linh hoạt, cần đội ngũ platform).

• Thực hành: Viết bảng so sánh chi phí vận hành, độ phức tạp, khả năng tùy biến giữa 2 hướng.

Ngày 90: Dự án tổng hợp Phase K8S

• Mục tiêu: Có model serving chạy trên EKS, so sánh với SageMaker endpoint.

• Lý thuyết: Ôn lại toàn bộ: GPU scheduling, Karpenter, KServe/Ray Serve.

• Thực hành: Deploy cùng 1 model qua KServe/Ray Serve trên EKS và qua SageMaker endpoint, so sánh latency/chi phí/độ phức tạp vận hành.

PHASE 4 - Monitoring, Cost, Security cho ML (Ngày 91-100)

Ngày 91: Data Drift vs Concept Drift

• Mục tiêu: Phân biệt 2 loại drift và cách phát hiện từng loại.

• Lý thuyết: Data drift (phân phối input thay đổi) vs concept drift (quan hệ input-output thay đổi).

• Thực hành: Giả lập data drift (đổi phân phối 1 feature) và concept drift (đổi logic label), quan sát ảnh hưởng đến model.

Ngày 92: SageMaker Model Monitor

• Mục tiêu: Tự động phát hiện drift trong production.

• Lý thuyết: Baseline, monitoring schedule, violation report.

• Thực hành: Cấu hình Model Monitor cho endpoint, tạo baseline, giả lập drift để xem cảnh báo.

Ngày 93: A/B Testing & Shadow Deployment

• Mục tiêu: So sánh model mới với model cũ mà không rủi ro.

• Lý thuyết: Shadow deployment (chạy song song, không ảnh hưởng response thật), A/B test thống kê.

• Thực hành: Cấu hình shadow variant cho endpoint, so sánh output 2 model trên cùng traffic.

Ngày 94: Cost Optimization - Spot/Reserved/Savings Plans

• Mục tiêu: Giảm chi phí training/inference đáng kể.

• Lý thuyết: Spot Instance (rẻ, có thể bị thu hồi), Reserved Instance, SageMaker Savings Plans.

• Thực hành: Chạy 1 training job dùng Spot Instance với checkpoint để chịu được gián đoạn.

Ngày 95: Inference Recommender & Rightsizing

• Mục tiêu: Chọn đúng instance type, không thừa không thiếu.

• Lý thuyết: SageMaker Inference Recommender, Compute Optimizer.

• Thực hành: Chạy Inference Recommender cho endpoint đang có, áp dụng khuyến nghị.

Ngày 96: CloudWatch Dashboard cho ML

• Mục tiêu: Có cái nhìn tổng quan real-time về hệ thống ML.

• Lý thuyết: Custom metric, dashboard widget, alarm.

• Thực hành: Xây dashboard theo dõi latency, error rate, invocation count cho endpoint.

Ngày 97: CloudTrail Audit

• Mục tiêu: Có khả năng truy vết ai đã làm gì với hệ thống ML.

• Lý thuyết: CloudTrail event, trail, log file integrity.

• Thực hành: Tạo CloudTrail trail, tìm lại 1 hành động cụ thể (ví dụ update endpoint) trong log.

Ngày 98: VPC Isolation cho Endpoint

• Mục tiêu: Bảo vệ endpoint nhạy cảm không public ra internet.

• Lý thuyết: VPC endpoint cho SageMaker, private subnet cho model hosting.

• Thực hành: Cấu hình endpoint chạy hoàn toàn trong VPC, verify không truy cập được từ internet.

Ngày 99: KMS & Secrets Manager

• Mục tiêu: Mã hóa dữ liệu và quản lý secret đúng chuẩn.

• Lý thuyết: KMS key policy, envelope encryption, Secrets Manager rotation.

• Thực hành: Mã hóa model artifact bằng KMS key riêng, lưu 1 credential vào Secrets Manager và gọi lại từ code.

Ngày 100: Dự án tổng hợp Phase 4

• Mục tiêu: Có hệ thống monitoring + security hoàn chỉnh cho 1 endpoint production.

• Lý thuyết: Ôn lại toàn bộ: drift monitoring, cost optimization, security.

• Thực hành: Ghép Model Monitor + Dashboard + VPC isolation + KMS thành 1 setup hoàn chỉnh, viết runbook xử lý khi có cảnh báo.

PHASE SYS - ML System Design (Ngày 101-108)

(Bổ sung theo góp ý: kỹ năng thường được hỏi ở level Senior)

Ngày 101: Framework tư duy System Design cho ML

• Mục tiêu: Có khung tư duy nhất quán để thiết kế bất kỳ hệ thống ML nào.

• Lý thuyết: Functional requirement (bài toán ML là gì) vs non-functional (latency, throughput, freshness, scale).

• Thực hành: Áp dụng framework vào 1 bài toán quen thuộc, liệt kê đầy đủ yêu cầu trước khi thiết kế.

Ngày 102: Thiết kế hệ thống Recommendation

• Mục tiêu: Thiết kế được kiến trúc gợi ý sản phẩm/nội dung ở mức production.

• Lý thuyết: Candidate generation, ranking, re-ranking; cold-start problem.

• Thực hành: Viết design doc cho hệ recommendation, xác định offline batch job và online serving path.

Ngày 103: Thiết kế hệ thống Fraud Detection

• Mục tiêu: Thiết kế hệ thống phát hiện gian lận real-time.

• Lý thuyết: Trade-off latency cực thấp vs độ chính xác, feature real-time (velocity check), imbalanced label.

• Thực hành: Viết design doc: luồng feature real-time, model, ngưỡng quyết định, human review escalation.

Ngày 104: Thiết kế hệ thống Search Ranking

• Mục tiêu: Hiểu kiến trúc ranking cho search engine/e-commerce.

• Lý thuyết: Retrieval + ranking 2 giai đoạn, learning to rank, relevance feedback loop.

• Thực hành: Viết design doc cho search ranking 1 sản phẩm cụ thể (ví dụ tìm kiếm nội bộ).

Ngày 105: Thiết kế hệ thống Personalization

• Mục tiêu: Thiết kế cá nhân hóa trải nghiệm người dùng ở quy mô lớn.

• Lý thuyết: User embedding, real-time feature vs batch feature, feedback loop và filter bubble.

• Thực hành: Viết design doc, đặc biệt chú ý phần freshness của user profile.

Ngày 106: Thiết kế hệ thống Demand Forecasting

• Mục tiêu: Thiết kế hệ thống dự báo nhu cầu ở quy mô doanh nghiệp.

• Lý thuyết: Time series forecasting ở scale (nhiều SKU/khu vực), retraining cadence.

• Thực hành: Viết design doc, xác định tần suất retrain hợp lý và cách xử lý seasonality.

Ngày 107: Offline/Online Feature & Retraining Cadence

• Mục tiêu: Hiểu sâu sự khác biệt giữa feature dùng offline và online trong mọi hệ thống trên.

• Lý thuyết: Feature freshness, retraining trigger (theo lịch vs theo drift), feature store đồng bộ.

• Thực hành: Với 1 trong các design doc đã viết, bổ sung chi tiết chiến lược retraining và freshness.

Ngày 108: Dự án tổng hợp Phase SYS

• Mục tiêu: Có 1 design doc đầy đủ, trình bày được như trong phỏng vấn Senior.

• Lý thuyết: Ôn lại toàn bộ 5 hệ thống đã thiết kế, rút ra pattern chung.

• Thực hành: Chọn 1 hệ thống, viết design doc hoàn chỉnh (yêu cầu, kiến trúc, trade-off, metric thành công) và trình bày miệng như thuyết trình thật (ghi âm lại tự nghe).

PHASE 5 - Nền tảng GenAI: Foundation Models, Prompt Engineering, RAG (Ngày 109-128)

Ngày 109: Ôn Transformer trong bối cảnh Foundation Model

• Mục tiêu: Nối kiến thức Phase DL vào bối cảnh FM thương mại.

• Lý thuyết: Decoder-only architecture (GPT-style) mà hầu hết FM hiện dùng, context window là gì về mặt kỹ thuật.

• Thực hành: Đọc model card của 1 FM trên Bedrock, xác định kiến trúc, context window, giá theo token.

Ngày 110: So sánh & lựa chọn Foundation Model

• Mục tiêu: Ra quyết định chọn FM dựa trên dữ liệu, không theo cảm tính.

• Lý thuyết: Benchmark phổ biến, capability analysis, limitation evaluation.

• Thực hành: So sánh 3 model trên Bedrock cho cùng 1 tác vụ, ghi lại chất lượng/chi phí/latency.

Ngày 111: Amazon Bedrock - thao tác nền tảng

• Mục tiêu: Gọi được Bedrock API thành thạo.

• Lý thuyết: Bedrock API request/response schema, model ID, inference parameter (temperature/top-p/top-k).

• Thực hành: Viết script gọi Bedrock với các tham số khác nhau, quan sát ảnh hưởng đến output.

Ngày 112: Multi-model Architecture

• Mục tiêu: Thiết kế hệ thống có thể đổi model không cần sửa code.

• Lý thuyết: AppConfig để quản lý config runtime, Lambda + API Gateway làm lớp trừu tượng.

• Thực hành: Xây lớp abstraction gọi được 2 model khác nhau qua 1 config switch.

Ngày 113: Resilience cho hệ thống FM

• Mục tiêu: Hệ thống không sập khi FM service gián đoạn.

• Lý thuyết: Cross-region inference, circuit breaker pattern, graceful degradation.

• Thực hành: Implement circuit breaker đơn giản bằng Step Functions cho lời gọi Bedrock.

Ngày 114: Quyết định Customization - Prompt vs RAG vs Fine-tune

• Mục tiêu: Ra quyết định kiến trúc quan trọng nhất trong GenAI.

• Lý thuyết: Cây quyết định: khi nào prompt đủ, khi nào cần RAG, khi nào cần fine-tune/LoRA, khi nào cần train from scratch.

• Thực hành: Áp dụng cây quyết định vào 3 use case giả định, giải thích lựa chọn.

Ngày 115: Chunking Strategy I - Fixed-size

• Mục tiêu: Hiểu cách chia nhỏ tài liệu cơ bản nhất.

• Lý thuyết: Fixed-size chunking, overlap giữa chunk, trade-off kích thước chunk.

• Thực hành: Chunk 1 tài liệu dài bằng fixed-size, thử 3 kích thước chunk khác nhau.

Ngày 116: Chunking Strategy II - Hierarchical/Semantic

• Mục tiêu: Chunk theo cấu trúc nội dung, giữ ngữ cảnh tốt hơn.

• Lý thuyết: Hierarchical chunking theo heading/section, semantic chunking theo ý nghĩa.

• Thực hành: Chunk cùng tài liệu ngày 115 theo hierarchical, so sánh chất lượng chunk.

Ngày 117: Embedding Model Selection

• Mục tiêu: Chọn đúng embedding model theo domain dữ liệu.

• Lý thuyết: Amazon Titan Embeddings, dimensionality, domain fit (văn bản chuyên ngành cần embedding phù hợp).

• Thực hành: Tạo embedding cho các chunk ngày 116 bằng Titan, kiểm tra cosine similarity giữa các cặp liên quan/không liên quan.

Ngày 118: Vector Store - OpenSearch Neural Plugin

• Mục tiêu: Dựng vector search tự quản lý, linh hoạt cao.

• Lý thuyết: OpenSearch k-NN, Neural plugin tích hợp Bedrock.

• Thực hành: Index các embedding ngày 117 vào OpenSearch, thử truy vấn vector search.

Ngày 119: Vector Store - Aurora pgvector

• Mục tiêu: Biết lựa chọn thay thế khi đã có hệ quản trị quan hệ.

• Lý thuyết: pgvector extension, index type (IVFFlat/HNSW).

• Thực hành: Cài pgvector trên Aurora, index cùng bộ embedding, so sánh trải nghiệm với OpenSearch.

Ngày 120: Vector Store - Bedrock Knowledge Bases (managed)

• Mục tiêu: Dùng giải pháp managed để giảm effort vận hành.

• Lý thuyết: Bedrock Knowledge Bases pipeline (ingest → chunk → embed → index tự động).

• Thực hành: Tạo 1 Knowledge Base từ tài liệu ngày 115, so sánh effort với 2 cách tự dựng ở trên.

Ngày 121: Metadata Framework cho Retrieval

• Mục tiêu: Tăng độ chính xác truy vấn bằng metadata.

• Lý thuyết: S3 object metadata, custom attribute (tác giả, ngày, domain), filter theo metadata.

• Thực hành: Gắn metadata cho tài liệu, thử truy vấn có filter metadata vs không filter.

Ngày 122: Hybrid Search

• Mục tiêu: Kết hợp keyword search và vector search để tăng recall.

• Lý thuyết: BM25 (keyword) + vector similarity, cách kết hợp điểm số.

• Thực hành: Cấu hình hybrid search trên OpenSearch, so sánh kết quả với vector-only search.

Ngày 123: Reranking

• Mục tiêu: Cải thiện độ chính xác top-k kết quả truy vấn.

• Lý thuyết: Reranker model, cross-encoder vs bi-encoder.

• Thực hành: Áp dụng Bedrock reranker (hoặc model reranking tương đương) lên kết quả hybrid search ngày 122.

Ngày 124: Retrieval Evaluation

• Mục tiêu: Đo lường được chất lượng retrieval bằng số liệu, không chỉ cảm quan.

• Lý thuyết: Recall@K, Precision@K, MRR (Mean Reciprocal Rank), NDCG, Hit Rate.

• Thực hành: Xây 1 bộ query có ground truth (câu hỏi + tài liệu đúng), tính Recall@K và MRR cho hệ thống đang có.

Ngày 125: Prompt Engineering nâng cao

• Mục tiêu: Viết prompt có cấu trúc, kiểm soát được output.

• Lý thuyết: Role definition, chain-of-thought, structured output (JSON Schema enforcement).

• Thực hành: Viết 1 prompt yêu cầu output JSON theo schema cố định, test độ ổn định qua nhiều lần gọi.

Ngày 126: Prompt Chaining & Bedrock Prompt Flows

• Mục tiêu: Xử lý tác vụ phức tạp bằng chuỗi prompt có điều kiện.

• Lý thuyết: Sequential prompt chain, conditional branching, reusable prompt component.

• Thực hành: Xây 1 Prompt Flow trong Bedrock với ít nhất 1 nhánh điều kiện.

Ngày 127: Prompt Versioning & Governance

• Mục tiêu: Quản lý prompt như quản lý code - có review, audit, rollback.

• Lý thuyết: Bedrock Prompt Management, template repository, approval workflow.

• Thực hành: Tạo 2 version của cùng 1 prompt trong Prompt Management, log thay đổi qua CloudTrail.

Ngày 128: Dự án tổng hợp Phase 5

• Mục tiêu: Có hệ thống RAG hoàn chỉnh, đo lường được chất lượng.

• Lý thuyết: Ôn lại toàn bộ luồng: ingest → chunk → embed → index → hybrid search → rerank → generate.

• Thực hành: Ghép toàn bộ pipeline RAG (Ngày 109-127) thành 1 hệ thống end-to-end, chạy bộ eval Recall@K/MRR ngày 124 trên toàn hệ thống, viết báo cáo.

PHASE 6 - Agentic AI, API Integration, Enterprise (Ngày 129-148)

Ngày 129: Agentic AI - Khái niệm & ReAct Pattern

• Mục tiêu: Hiểu cách agent "suy nghĩ rồi hành động".

• Lý thuyết: ReAct (Reasoning + Acting) pattern, vòng lặp thought-action-observation.

• Thực hành: Viết tay 1 ví dụ ReAct trace cho 1 câu hỏi cần tra cứu (mô phỏng bằng tay, chưa cần code).

Ngày 130: Chain-of-thought có cấu trúc qua Step Functions

• Mục tiêu: Kiểm soát reasoning loop, không để agent chạy tự do vô hạn.

• Lý thuyết: Step Functions state machine, cách encode ReAct loop thành state machine có giới hạn bước.

• Thực hành: Xây 1 Step Functions state machine thực hiện tối đa N bước reasoning, gọi Bedrock ở mỗi bước.

Ngày 131: Agent Memory & State Management

• Mục tiêu: Agent nhớ được ngữ cảnh qua nhiều lượt hội thoại.

• Lý thuyết: Short-term memory (context window) vs long-term memory (external store), DynamoDB cho conversation history.

• Thực hành: Lưu và truy xuất lịch sử hội thoại từ DynamoDB, đưa vào prompt của lượt tiếp theo.

Ngày 132: Multi-agent Orchestration

• Mục tiêu: Hiểu cách nhiều agent chuyên biệt phối hợp giải quyết 1 bài toán.

• Lý thuyết: Strands Agents, AWS Agent Squad, supervisor-agent pattern.

• Thực hành: Thiết kế (sơ đồ) 1 hệ 2-3 agent chuyên biệt (ví dụ agent tra cứu + agent tổng hợp) phối hợp qua 1 supervisor.

Ngày 133: Model Context Protocol (MCP) - Tổng quan

• Mục tiêu: Hiểu chuẩn hóa cách agent gọi tool.

• Lý thuyết: MCP client/server, tool definition, resource/prompt trong MCP.

• Thực hành: Đọc spec MCP, vẽ sơ đồ luồng agent gọi tool qua MCP.

Ngày 134: MCP Server bằng Lambda

• Mục tiêu: Xây tool đơn giản, nhẹ cho agent dùng.

• Lý thuyết: Stateless MCP server, phù hợp cho tool nhanh, không cần giữ trạng thái.

• Thực hành: Viết 1 MCP server bằng Lambda cung cấp 1 tool (ví dụ tra cứu thời tiết giả lập).

Ngày 135: MCP Server bằng ECS

• Mục tiêu: Xây tool phức tạp, có trạng thái, chạy lâu dài.

• Lý thuyết: Khi nào cần container thay vì Lambda (long-running, cần state, cần thư viện nặng).

• Thực hành: Viết 1 MCP server phức tạp hơn (ví dụ truy vấn database), deploy lên ECS/Fargate.

Ngày 136: Agent Safeguards

• Mục tiêu: Ngăn agent chạy mất kiểm soát (rủi ro lớn nhất của agentic AI).

• Lý thuyết: Stopping condition, timeout, resource boundary (IAM), circuit breaker.

• Thực hành: Thêm giới hạn số bước tối đa + timeout + budget cap vào state machine ngày 130.

Ngày 137: Human-in-the-loop Workflow

• Mục tiêu: Cho phép con người can thiệp vào quyết định quan trọng của agent.

• Lý thuyết: Approval workflow qua Step Functions + API Gateway, khi nào cần human review.

• Thực hành: Thêm 1 bước "chờ phê duyệt" vào workflow trước khi agent thực hiện hành động có rủi ro (ví dụ gửi email).

Ngày 138: Hệ sinh thái LangChain/LangGraph

• Mục tiêu: Hiểu kiến trúc phổ biến ngoài AWS-native để giao tiếp được với team dùng framework khác.

• Lý thuyết: LangChain chain/agent abstraction, LangGraph graph-based agent orchestration.

• Thực hành: Đọc 1 ví dụ LangGraph, so sánh cách nó biểu diễn agent loop với Step Functions của bạn.

Ngày 139: Hệ sinh thái LlamaIndex, DSPy, Haystack

• Mục tiêu: Biết bối cảnh công cụ rộng hơn, không bị bó hẹp trong AWS.

• Lý thuyết: LlamaIndex (tập trung data indexing/RAG), DSPy (tối ưu prompt bằng lập trình), Haystack (pipeline NLP/RAG).

• Thực hành: Viết bảng so sánh ngắn: công cụ nào giải quyết vấn đề gì, khi nào bạn sẽ cân nhắc dùng thay vì tự xây trên AWS thuần.

Ngày 140: Deployment FM đặc thù

• Mục tiêu: Hiểu deploy FM khác gì deploy ML model truyền thống.

• Lý thuyết: Container tối ưu memory/GPU/token throughput, provisioned throughput vs on-demand Bedrock.

• Thực hành: So sánh chi phí/latency giữa on-demand và provisioned throughput cho 1 model Bedrock ở mức tải giả định.

Ngày 141: API Integration - Streaming

• Mục tiêu: Trả kết quả cho người dùng ngay khi model sinh ra, không đợi hoàn tất.

• Lý thuyết: Bedrock streaming API, WebSocket/Server-Sent Events, chunked transfer encoding.

• Thực hành: Xây API Gateway + Lambda trả streaming response từ Bedrock.

Ngày 142: API Integration - Async & Resilience

• Mục tiêu: Hệ thống chịu được lỗi tạm thời và tải cao.

• Lý thuyết: SQS cho xử lý bất đồng bộ, exponential backoff, rate limiting, fallback mechanism.

• Thực hành: Thêm retry với exponential backoff cho lời gọi Bedrock, cấu hình SQS cho request nặng.

Ngày 143: Model Routing & Cascading

• Mục tiêu: Tiết kiệm chi phí bằng cách route đúng độ khó câu hỏi tới đúng model.

• Lý thuyết: Tiered model usage, model cascading (thử model rẻ trước, fallback model mạnh nếu cần).

• Thực hành: Xây logic routing đơn giản: phân loại độ phức tạp câu hỏi, route tới model tương ứng, đo tiết kiệm chi phí.

Ngày 144: Enterprise Integration - Legacy & Event-driven

• Mục tiêu: Tích hợp GenAI vào hệ thống doanh nghiệp có sẵn.

• Lý thuyết: API-based integration với legacy system, event-driven architecture (EventBridge), data synchronization pattern.

• Thực hành: Thiết kế (sơ đồ) tích hợp agent của bạn với 1 hệ thống giả lập (ví dụ CRM) qua EventBridge.

Ngày 145: GenAI CI/CD & Security Scan

• Mục tiêu: CI/CD riêng cho component GenAI, có kiểm tra bảo mật.

• Lý thuyết: Automated testing cho prompt/agent, security scan trong pipeline, rollback support.

• Thực hành: Thêm bước test prompt injection cơ bản vào CI/CD pipeline trước khi deploy agent.

Ngày 146: GenAI Gateway Pattern

• Mục tiêu: Có lớp trừu tượng tập trung để quản lý toàn bộ truy cập FM trong tổ chức.

• Lý thuyết: Centralized abstraction layer, observability và control mechanism tập trung.

• Thực hành: Thiết kế kiến trúc gateway (API Gateway + Lambda) đứng trước toàn bộ lời gọi Bedrock của hệ thống bạn.

Ngày 147: Dự án - Agent nhiều bước hoàn chỉnh

• Mục tiêu: Có agent thực hiện tác vụ nghiệp vụ nhiều bước, an toàn.

• Lý thuyết: Ôn lại: ReAct + safeguards + MCP + human-in-the-loop.

• Thực hành: Xây agent thực hiện: tra cứu dữ liệu (RAG) → gọi tool qua MCP → tổng hợp báo cáo → (nếu hành động rủi ro) chờ phê duyệt.

Ngày 148: Dự án tổng hợp Phase 6

• Mục tiêu: Có hệ thống GenAI có agent + streaming API + model routing hoàn chỉnh.

• Lý thuyết: Ôn lại toàn bộ Phase 6.

• Thực hành: Ghép agent ngày 147 với streaming API (ngày 141) và model routing (ngày 143) thành 1 sản phẩm demo được.

PHASE 7 - AI Safety, Security, Governance (Ngày 149-160)

Ngày 149: Content Filtering - Bedrock Guardrails cơ bản

• Mục tiêu: Chặn nội dung không mong muốn ở cả input và output.

• Lý thuyết: Guardrail policy, denied topic, content filter category.

• Thực hành: Cấu hình 1 Guardrail cơ bản cho hệ thống RAG/agent đã xây, test với input vi phạm.

Ngày 150: Prompt Injection & Jailbreak Detection

• Mục tiêu: Nhận diện và phòng chống prompt injection.

• Lý thuyết: Direct injection vs indirect injection (qua tài liệu RAG), jailbreak pattern phổ biến.

• Thực hành: Thử tấn công prompt injection vào hệ RAG của bạn (qua tài liệu chèn instruction ẩn), quan sát hệ thống có bị lừa không.

Ngày 151: Adversarial Testing tự động

• Mục tiêu: Tự động hóa việc kiểm thử an toàn thay vì thử tay từng lần.

• Lý thuyết: Automated adversarial testing workflow, test case library cho jailbreak/injection.

• Thực hành: Viết 1 bộ test tự động (10-15 case) chạy qua hệ thống, đo tỷ lệ chặn thành công.

Ngày 152: Hallucination Mitigation

• Mục tiêu: Giảm tỷ lệ model "bịa" thông tin.

• Lý thuyết: Grounding bằng Knowledge Base, confidence scoring, semantic similarity check giữa câu trả lời và nguồn.

• Thực hành: Thêm bước kiểm tra: câu trả lời có được hỗ trợ bởi context retrieval hay không (semantic similarity threshold).

Ngày 153: Structured Output Enforcement

• Mục tiêu: Đảm bảo output luôn đúng định dạng máy đọc được.

• Lý thuyết: JSON Schema enforcement, validation layer sau khi model sinh output.

• Thực hành: Thêm validator kiểm tra output JSON đúng schema, tự động retry nếu sai.

Ngày 154: Defense-in-Depth

• Mục tiêu: Không phụ thuộc vào 1 lớp bảo vệ duy nhất.

• Lý thuyết: Pre-processing filter → model guardrail → post-processing validation → API response filter.

• Thực hành: Rà soát hệ thống hiện tại, bổ sung lớp bảo vệ còn thiếu trong chuỗi 4 lớp trên.

Ngày 155: PII Detection - Comprehend & Macie

• Mục tiêu: Phát hiện tự động dữ liệu nhạy cảm trong cả input lẫn dữ liệu lưu trữ.

• Lý thuyết: Comprehend PII detection API, Macie quét dữ liệu tại rest trong S3.

• Thực hành: Chạy Comprehend trên log hội thoại của agent, chạy Macie quét bucket S3 chứa tài liệu RAG.

Ngày 156: Data Masking, Anonymization & Retention

• Mục tiêu: Xử lý đúng dữ liệu nhạy cảm theo vòng đời.

• Lý thuyết: Masking vs anonymization, S3 Lifecycle policy cho retention.

• Thực hành: Viết logic mask PII trước khi log, cấu hình lifecycle tự xóa log sau N ngày.

Ngày 157: Governance - Model Card & Data Lineage

• Mục tiêu: Có tài liệu minh bạch về hệ thống cho kiểm toán/compliance.

• Lý thuyết: Model card structure, data lineage tracking (Glue Data Catalog), metadata tagging cho source attribution.

• Thực hành: Viết model card đầy đủ cho hệ thống RAG/agent: dữ liệu dùng, giới hạn, rủi ro đã biết.

Ngày 158: Decision Logging & Audit Trail

• Mục tiêu: Truy vết được mọi quyết định của hệ thống AI.

• Lý thuyết: Comprehensive decision logging, CloudWatch Logs cho request/response, CloudTrail cho hành động hệ thống.

• Thực hành: Đảm bảo mọi lời gọi model + kết quả retrieval + quyết định agent đều được log có cấu trúc, truy vấn lại 1 case cụ thể.

Ngày 159: Responsible AI - Fairness & Bias Drift

• Mục tiêu: Giám sát tính công bằng của output theo thời gian.

• Lý thuyết: Fairness evaluation (A/B testing hệ thống), LLM-as-a-judge để đánh giá tự động, bias drift monitoring.

• Thực hành: Thiết kế 1 bộ test fairness đơn giản (câu hỏi tương tự nhau, thay đổi 1 thuộc tính nhạy cảm), so sánh output.

Ngày 160: Dự án tổng hợp Phase 7

• Mục tiêu: Có hệ thống an toàn đủ để cân nhắc đưa vào production thật.

• Lý thuyết: Ôn lại toàn bộ Phase 7.

• Thực hành: Hoàn thiện Guardrails + defense-in-depth + adversarial test suite + model card cho toàn bộ hệ thống đã xây dựng đến giờ.

PHASE 8 - Operational Efficiency: Cost & Performance cho GenAI (Ngày 161-170)

Ngày 161: Token Economics

• Mục tiêu: Hiểu và kiểm soát chi phí ở cấp độ token.

• Lý thuyết: Token là đơn vị tính phí chính, context window optimization.

• Thực hành: Đo số token trung bình mỗi request trong hệ thống của bạn, ước tính chi phí/tháng ở quy mô 10,000 request/ngày.

Ngày 162: Prompt Compression & Context Pruning

• Mục tiêu: Giảm token mà không giảm chất lượng câu trả lời.

• Lý thuyết: Prompt compression kỹ thuật, context pruning (loại bỏ phần context không cần thiết).

• Thực hành: Nén 1 prompt dài đang dùng, đo chênh lệch chất lượng output trước/sau.

Ngày 163: Model Selection theo Cost-Capability

• Mục tiêu: Không dùng model đắt nhất cho mọi việc.

• Lý thuyết: Cost-capability trade-off evaluation, tiered usage theo độ phức tạp query.

• Thực hành: Phân loại 20 câu hỏi mẫu theo độ khó, map với model phù hợp (rẻ/mạnh).

Ngày 164: Semantic Caching

• Mục tiêu: Giảm số lời gọi FM trùng lặp về mặt ý nghĩa.

• Lý thuyết: Semantic caching (so khớp theo embedding similarity), result fingerprinting.

• Thực hành: Implement semantic cache đơn giản (embedding + similarity threshold) cho hệ RAG, đo cache hit rate.

Ngày 165: Prompt Caching (Bedrock)

• Mục tiêu: Giảm chi phí/latency cho phần prompt lặp lại (ví dụ system prompt dài).

• Lý thuyết: Prompt caching cơ chế của Bedrock, khi nào hiệu quả nhất.

• Thực hành: Bật prompt caching cho hệ thống có system prompt dài, đo chênh lệch latency/chi phí.

Ngày 166: Latency-Cost Trade-off

• Mục tiêu: Cải thiện trải nghiệm người dùng mà không tăng chi phí quá mức.

• Lý thuyết: Streaming để giảm perceived latency, pre-computation cho câu hỏi đoán trước được, parallel request.

• Thực hành: So sánh trải nghiệm streaming vs non-streaming trên cùng 1 câu hỏi dài.

Ngày 167: Throughput Optimization

• Mục tiêu: Xử lý được nhiều request đồng thời hiệu quả.

• Lý thuyết: Batch inference, concurrent invocation management.

• Thực hành: Thử batch nhiều request nhỏ thành 1 lời gọi (nếu use case cho phép), đo cải thiện throughput.

Ngày 168: Auto-scaling cho GenAI Traffic

• Mục tiêu: Xử lý traffic bursty đặc trưng của ứng dụng GenAI.

• Lý thuyết: GenAI traffic pattern khác traffic ML truyền thống - bursty hơn, khó dự đoán hơn.

• Thực hành: Cấu hình auto-scaling cho lớp API/Lambda phía trước Bedrock, load test với traffic giả lập bursty.

Ngày 169: Cost Monitoring - Anomaly Detection

• Mục tiêu: Phát hiện sớm chi phí bất thường (ví dụ agent chạy lặp gây tốn token).

• Lý thuyết: Cost Anomaly Detection, Cost Explorer, custom CloudWatch metric cho cost/request.

• Thực hành: Cấu hình Cost Anomaly Detection cho service Bedrock, giả lập chi tiêu bất thường để test cảnh báo.

Ngày 170: Dự án tổng hợp Phase 8

• Mục tiêu: Có hệ thống tối ưu chi phí đo lường được bằng số liệu thực tế.

• Lý thuyết: Ôn lại toàn bộ Phase 8.

• Thực hành: Xây dashboard giám sát riêng cho GenAI: token/request, cost/ngày, cache hit rate, latency p50/p95/p99.

PHASE 9 - Testing, Evaluation, Troubleshooting & LLM Observability (Ngày 171-182)

Ngày 171: Đánh giá FM - Framework tổng quát

• Mục tiêu: Hiểu đánh giá GenAI khác đánh giá ML cổ điển thế nào.

• Lý thuyết: Không có "đáp án đúng duy nhất" → relevance, factual accuracy, consistency, fluency.

• Thực hành: Viết rubric đánh giá thủ công (thang điểm 1-5) cho 4 tiêu chí trên, áp dụng lên 10 câu trả lời của hệ thống.

Ngày 172: LLM-as-a-Judge

• Mục tiêu: Scale việc đánh giá bằng chính model.

• Lý thuyết: Prompt cho model chấm điểm, vấn đề bias khi dùng LLM tự đánh giá (self-preference bias).

• Thực hành: Viết prompt LLM-as-a-judge dựa trên rubric ngày 171, so sánh điểm số với đánh giá tay.

Ngày 173: RAG Evaluation toàn diện

• Mục tiêu: Đánh giá tách biệt chất lượng retrieval và chất lượng generation.

• Lý thuyết: Kết hợp Recall@K/MRR/NDCG (đã học Phase 5) với faithfulness score (câu trả lời có trung thành với context không).

• Thực hành: Chạy full eval suite (retrieval + generation) trên hệ RAG, xác định bottleneck nằm ở retrieval hay generation.

Ngày 174: Agent Evaluation

• Mục tiêu: Đo hiệu quả agent qua nhiều bước, không chỉ câu trả lời cuối.

• Lý thuyết: Task completion rate, tool usage effectiveness, reasoning quality qua từng bước.

• Thực hành: Chạy agent ngày 147 qua 10 task mẫu, tính task completion rate và tool call accuracy.

Ngày 175: Quality Gate trong CI/CD cho GenAI

• Mục tiêu: Ngăn regression khi đổi prompt/model.

• Lý thuyết: Regression testing cho prompt/model, automated quality gate trước khi deploy.

• Thực hành: Tích hợp eval suite (ngày 173-174) vào CI/CD pipeline, chặn deploy nếu điểm giảm quá ngưỡng.

Ngày 176: Troubleshooting - Context & Integration Issues

• Mục tiêu: Debug nhanh các lỗi đặc thù GenAI.

• Lý thuyết: Context window overflow, truncation error, API integration lỗi thường gặp.

• Thực hành: Giả lập lỗi context overflow (đưa tài liệu quá dài), quan sát hành vi hệ thống và fix bằng dynamic chunking.

Ngày 177: LLM Observability - LangSmith

• Mục tiêu: Hiểu công cụ trace phổ biến ngoài AWS-native.

• Lý thuyết: LangSmith trace, prompt/token tracing, conversation replay.

• Thực hành: Đọc tài liệu LangSmith, so sánh khả năng trace với CloudWatch Logs Insights hiện có.

Ngày 178: LLM Observability - Arize Phoenix

• Mục tiêu: Biết thêm 1 lựa chọn observability mã nguồn mở.

• Lý thuyết: Arize Phoenix cho LLM tracing/evaluation, hallucination tracking.

• Thực hành: Cài thử Phoenix local (nếu khả thi), trace 1 vài request từ hệ thống RAG của bạn.

Ngày 179: Weights & Biases cho LLM

• Mục tiêu: Hiểu công cụ theo dõi thực nghiệm phổ biến trong giới ML/LLM.

• Lý thuyết: W&B run tracking, prompt experiment comparison.

• Thực hành: Log 1 vài lần thử nghiệm thay đổi prompt vào W&B (hoặc mô phỏng bằng bảng so sánh nếu không có tài khoản), so sánh kết quả.

Ngày 180: MLflow cho LLM Tracking

• Mục tiêu: Biết công cụ quản lý vòng đời model/prompt phổ biến, không khóa vào 1 cloud.

• Lý thuyết: MLflow tracking, model registry, LLM tracking extension.

• Thực hành: So sánh MLflow Model Registry với SageMaker Model Registry đã dùng ở Phase 2 - điểm giống/khác.

Ngày 181: Cost Attribution & Conversation Replay thực hành

• Mục tiêu: Có khả năng trả lời "request này tốn bao nhiêu, và tại sao trả lời như vậy".

• Lý thuyết: Cost attribution theo user/feature, conversation replay để debug từng bước agent.

• Thực hành: Xây 1 log structure cho phép replay lại toàn bộ chuỗi quyết định của agent cho 1 request cụ thể, kèm chi phí token.

Ngày 182: Dự án tổng hợp Phase 9

• Mục tiêu: Có bộ eval + observability tích hợp CI/CD hoàn chỉnh.

• Lý thuyết: Ôn lại toàn bộ Phase 9.

• Thực hành: Ghép eval suite + quality gate + observability logging thành 1 quy trình chạy tự động mỗi khi thay đổi prompt/model/code.

PHASE 10 - Dự án Capstone: Hệ thống AI Doanh nghiệp Production-grade (Ngày 183-197)

Ngày 183: Thiết kế kiến trúc tổng thể (ADR)

• Mục tiêu: Có bản thiết kế rõ ràng trước khi code.

• Lý thuyết: Architecture Decision Record (ADR) - ghi lại quyết định và lý do.

• Thực hành: Viết ADR cho toàn bộ hệ thống "Trợ lý nội bộ doanh nghiệp": data layer, RAG+agent layer, safety layer, MLOps layer, observability layer, security layer.

Ngày 184: Data layer - Ingest pipeline

• Mục tiêu: Có pipeline ingest tài liệu nội bộ đa định dạng.

• Lý thuyết: Ôn lại Phase 1 + Phase 5 (chunking).

• Thực hành: Xây pipeline ingest PDF/HTML/Word → chunk → embed.

Ngày 185: Data layer - PII & Incremental Update

• Mục tiêu: Dữ liệu sạch PII và luôn cập nhật.

• Lý thuyết: Ôn lại Phase 1 (compliance) + Phase 5 (data freshness cho vector store).

• Thực hành: Thêm bước xử lý PII vào pipeline ngày 184, cấu hình incremental update khi tài liệu nguồn thay đổi.

Ngày 186: RAG layer - Retrieval + Reranking

• Mục tiêu: Có retrieval chất lượng cao, đã được benchmark.

• Lý thuyết: Ôn lại Phase 5 (hybrid search, reranking, retrieval eval).

• Thực hành: Cấu hình hybrid search + reranking, chạy eval Recall@K/MRR để xác nhận chất lượng đạt ngưỡng chấp nhận được.

Ngày 187: Agent layer - MCP Tool Integration

• Mục tiêu: Agent gọi được tool nội bộ (ví dụ tra cứu CRM giả lập).

• Lý thuyết: Ôn lại Phase 6 (MCP).

• Thực hành: Xây 1-2 MCP tool nội bộ, tích hợp vào agent.

Ngày 188: Agent layer - Model Routing

• Mục tiêu: Tối ưu chi phí vận hành agent.

• Lý thuyết: Ôn lại Phase 6 (model routing/cascading) + Phase 8 (cost).

• Thực hành: Thêm logic routing model theo độ phức tạp câu hỏi vào agent.

Ngày 189: Safety layer - Guardrails

• Mục tiêu: Có lớp an toàn cơ bản hoạt động.

• Lý thuyết: Ôn lại Phase 7.

• Thực hành: Cấu hình Bedrock Guardrails đầy đủ cho toàn hệ thống.

Ngày 190: Safety layer - Defense-in-depth & Audit

• Mục tiêu: Có nhiều lớp bảo vệ và khả năng truy vết đầy đủ.

• Lý thuyết: Ôn lại Phase 7.

• Thực hành: Hoàn thiện 4 lớp defense-in-depth, đảm bảo mọi request đều có audit log.

Ngày 191: MLOps layer - CI/CD Pipeline

• Mục tiêu: Có pipeline tự động cho toàn hệ thống.

• Lý thuyết: Ôn lại Phase 3 + Phase 6 (GenAI CI/CD).

• Thực hành: Dựng CI/CD pipeline cho cả code ứng dụng lẫn prompt/agent config.

Ngày 192: MLOps layer - Quality Gate & Canary

• Mục tiêu: Deploy an toàn, có thể rollback nhanh.

• Lý thuyết: Ôn lại Phase 3 + Phase 9 (quality gate GenAI).

• Thực hành: Tích hợp eval suite làm quality gate, cấu hình canary deployment.

Ngày 193: Observability layer - Dashboard

• Mục tiêu: Nhìn thấy toàn bộ sức khỏe hệ thống trong 1 màn hình.

• Lý thuyết: Ôn lại Phase 8 + Phase 9.

• Thực hành: Xây dashboard tổng hợp: token/cost/latency/cache hit rate/task completion rate.

Ngày 194: Observability layer - Drift & Hallucination Alerting

• Mục tiêu: Được cảnh báo chủ động thay vì phát hiện lỗi qua phản hồi người dùng.

• Lý thuyết: Ôn lại Phase 4 (drift) + Phase 7 (hallucination).

• Thực hành: Cấu hình alarm tự động khi retrieval quality giảm hoặc hallucination rate tăng bất thường.

Ngày 195: Security layer - IAM & VPC Isolation

• Mục tiêu: Toàn hệ thống tuân thủ least-privilege và network isolation.

• Lý thuyết: Ôn lại Phase 0 + Phase 4.

• Thực hành: Rà soát toàn bộ IAM role trong hệ thống, siết lại least-privilege; đảm bảo các thành phần nhạy cảm chạy trong VPC riêng.

Ngày 196: Load Testing & Performance Tuning

• Mục tiêu: Xác nhận hệ thống chịu được tải thực tế.

• Lý thuyết: Ôn lại Phase 3 (auto scaling) + Phase 8 (throughput).

• Thực hành: Chạy load test giả lập traffic cao, quan sát điểm nghẽn (bottleneck) và tinh chỉnh.

Ngày 197: Tài liệu kiến trúc cuối cùng & Demo

• Mục tiêu: Có sản phẩm hoàn chỉnh trình bày được như một kỹ sư senior.

• Lý thuyết: Tổng hợp lại toàn bộ 197 ngày.

• Thực hành: Hoàn thiện tài liệu kiến trúc (cập nhật ADR ngày 183 với các quyết định thực tế đã đưa ra), quay demo hệ thống, viết retrospective: điều gì sẽ làm khác nếu bắt đầu lại.