Đào tạo ngắn hạn AI - Data Science

Đào tạo ngắn hạn AI - Data Science Tuyển sinh - đào tạo các khóa học về trí tuệ nhân tạo (AI) từ cơ bản đến nâng cao Đào tạo kỹ năng trí tuệ nhân tạo học máy và khoa học dữ liệu cho người đi làm.

Các khóa học chất lượng cao (ứng dụng thực tiễn) từ giảng viên hàng đầu tại các trường đại học hàng đầu.

14/08/2026

[Project AI Engineer – Module 2] Tối Ưu Phân Tích Giao Dịch & Khách Hàng
Học viên: Nguyễn Đặng Tường Minh - Khóa AI Engineer K02

🎯 Mục tiêu của dự án:
• Phân tích hành vi khách hàng và giao dịch sử dụng SQL & Python
• Phân khúc khách hàng theo thu nhập, chi tiêu và mô hình giao dịch
• Phát hiện gian lận, đánh giá rủi ro tài chính và đưa ra khuyến nghị chiến lược cho từng nhóm khách hàng

📂 Nội dung trình bày:
• Phân tích chi tiết đặc điểm thu nhập và hành vi chi tiêu của khách hàng
• Trực quan hóa dữ liệu giao dịch, so sánh hành vi chi tiêu theo giới tính và khu vực
• Phân tích nợ & rủi ro tài chính, xác định các giới hạn chi tiêu trung bình
• Đề xuất chiến lược tài chính dựa trên dữ liệu thực tế, hướng đến tối ưu hoá sản phẩm

Dự án giúp học viên nắm vững quy trình AI Project thực hành, từ thu thập, phân tích dữ liệu, trực quan hóa đến ra quyết định chiến lược dựa trên insight, tăng khả năng ứng dụng AI trong môi trường thực tế và phát triển tư duy phân tích dữ liệu chuyên sâu.

Ứng dụng AI trong làm việc với CSDLThS. Nguyễn Danh Tú
06/08/2026

Ứng dụng AI trong làm việc với CSDL
ThS. Nguyễn Danh Tú

CẬP NHẬT MỨC LƯƠNG AI ENGINEER 2026Để tối ưu thu nhập, nhân sự AI Engineer nên ưu tiên: nền tảng Python vững chắc, kỹ nă...
04/08/2026

CẬP NHẬT MỨC LƯƠNG AI ENGINEER 2026

Để tối ưu thu nhập, nhân sự AI Engineer nên ưu tiên: nền tảng Python vững chắc, kỹ năng triển khai mô hình lên Cloud (AWS/GCP/Azure, Kubernetes), khả năng ứng dụng GenAI/LLM vào sản phẩm thực tế, cùng tiếng Anh kỹ thuật tốt — đây là những yếu tố tạo khác biệt lớn nhất về lương ở mọi cấp độ kinh nghiệm, theo cả dữ liệu trong nước lẫn quốc tế.
Chi tiết ở cmt👇

Inside a Reliable RAG / Agent Architecture: Góc nhìn từ AI Reliability EngineeringAI Agent đang là một trong những xu hư...
03/08/2026

Inside a Reliable RAG / Agent Architecture: Góc nhìn từ AI Reliability Engineering

AI Agent đang là một trong những xu hướng nổi bật nhất của GenAI. Nhưng xây được Agent mới chỉ là bước đầu. Thách thức lớn hơn là làm sao để Agent hoạt động ổn định, đáng tin cậy và sẵn sàng vận hành trong production. Đó chính là AI Reliability Engineering. AI Reliability giúp hệ thống AI vẫn duy trì được chất lượng, khả năng kiểm soát và quan sát, ngay cả khi dữ liệu, prompt, model hay hành vi người dùng liên tục thay đổi. Vì vậy, một hệ thống Reliable RAG/Agent không chỉ xoay quanh LLM, mà được thiết kế thành nhiều layer, mỗi layer đảm nhiệm một khía cạnh của AI Reliability.

1. Agent Orchestration Layer
Đây là control plane điều phối toàn bộ workflow của hệ thống AI. Agent không chỉ gọi LLM mà còn phải biết lập kế hoạch (planning), quản lý memory, sử dụng tools và chờ Human Approval với những tác vụ có rủi ro cao.
Thay vì một vòng lặp hỏi → trả lời đơn giản, Agent được thiết kế như một stateful workflow, giúp hệ thống dễ mở rộng, kiểm soát và audit.

2. RAG Pipeline
Một request trước khi đến LLM sẽ lần lượt đi qua:
Query Understanding → Retriever → Reranker → Context Builder → Prompt Builder → LLM

Việc tách pipeline thành nhiều bước giúp AI Engineer đo lường và debug từng thành phần độc lập, thay vì chỉ biết rằng "LLM trả lời sai".
Các metric thường được theo dõi gồm:
- Retrieval Recall
- Context Quality
- Citation Correctness
- Faithfulness
- Answer Correctness
Nhờ đó, AI Engineer có thể xác định chính xác lỗi nằm ở retriever, reranker hay prompt, thay vì quy mọi vấn đề cho LLM.

3. Knowledge & Data Layer
Đằng sau một hệ thống RAG không chỉ là Vector Database.
Pipeline dữ liệu còn bao gồm Data Ingestion, Embedding, Vector Store, Knowledge Graph và Versioning, giúp dữ liệu được chuẩn hóa, quản lý phiên bản và duy trì chất lượng retrieval khi hệ thống mở rộng.

4. Reliability & Control Layer
Đây là layer quyết định một hệ thống AI có đủ điều kiện vận hành trong production hay không.
Các cơ chế như Guardrails, Versioning, Retry, Fallback và Human Review giúp hệ thống:
- Chỉ trả lời khi có đủ evidence.
- Kiểm tra output theo schema.
- Retry hoặc fallback khi xảy ra lỗi.
- Chuyển các tác vụ nhạy cảm sang Human Approval.
Mục tiêu không phải để AI luôn đưa ra câu trả lời, mà là chỉ trả lời khi có đủ bằng chứng; nếu không đủ thông tin, hệ thống cần biết từ chối hoặc chuyển cho con người xử lý.

5. Observability Layer
Một hệ thống AI production phải có khả năng quan sát (observability).
Mỗi request đều được theo dõi xuyên suốt với:
- Trace
- Latency
- Token Usage
- Cost
- Tool Calls
- User Feedback
- Audit Log

Nhờ đó, AI Engineer có thể truy ngược toàn bộ pipeline, phân tích failed cases và tối ưu hệ thống dựa trên trace, metrics và logs, thay vì phỏng đoán.

Đây cũng là reference architecture xuyên suốt của MasterClass AI Reliability Engineering. Từ một prototype RAG/Agent ban đầu, học viên sẽ từng bước bổ sung các thành phần cần thiết để xây dựng một hệ thống sẵn sàng cho production:
• Evaluation Dataset
• LLM-as-Judge
• Guardrails
• Tracing & Observability
• Security & Red Team Testing
• CI Regression Gate
• Production Monitoring

LLM chỉ là một thành phần trong hệ thống AI. Điều tạo nên sự khác biệt giữa một chatbot demo và một hệ thống AI production không nằm ở việc sử dụng model mạnh hơn, mà ở khả năng đánh giá, quan sát, kiểm soát và liên tục cải thiện toàn bộ pipeline.
Đó cũng là lý do AI Reliability Engineering đang trở thành một kỹ năng quan trọng của AI Engineer trong giai đoạn hiện nay.

29/07/2026

🧠 Làm thế nào để AI có thể phân đoạn chính xác khối u não trên ảnh MRI?

Đây là bài toán mà học viên Hùng Phạm đã thực hiện trong đồ án cuối khóa dưới sự hướng dẫn của TS. Nguyễn Thế Hùng.

Thay vì chỉ học lý thuyết, học viên đã trực tiếp triển khai một bài toán Medical AI hoàn chỉnh với quy trình như một AI Engineer thực thụ:

🔹 Bài toán
- Xây dựng mô hình AI tự động phân đoạn khối u não trên ảnh MRI, hỗ trợ bác sĩ xác định chính xác vị trí và phạm vi tổn thương.

🔹 Giải pháp
- So sánh U-Net, Attention U-Net và 2D ResUNet.
- Lựa chọn kiến trúc phù hợp sau nhiều lần thử nghiệm và tối ưu.
- Kết hợp Dice Loss + Focal Loss cùng One Cycle Learning Rate để cải thiện khả năng học của mô hình.

🔹 Xử lý dữ liệu
- Khai thác bộ dữ liệu BraTS 2020.
- Tiền xử lý ảnh MRI, xử lý mất cân bằng dữ liệu.
- Xây dựng pipeline huấn luyện và đánh giá mô hình.

🔹 Kết quả
- Mô hình đạt Dice Score 0.89 trên bài toán Whole Tumor.
- Phân tích trực quan kết quả dự đoán, đánh giá điểm mạnh, hạn chế và đề xuất hướng cải tiến với mô hình 3D Segmentation.

🎥 Video không chỉ trình bày kết quả cuối cùng mà còn chia sẻ toàn bộ tư duy giải quyết bài toán, quá trình thử nghiệm nhiều mô hình và phần phản biện trực tiếp từ giảng viên.

Đây cũng là cách COLE đào tạo AI: không dừng ở việc học model, mà hướng học viên giải quyết những bài toán thực tế, biết phân tích dữ liệu, tối ưu mô hình và bảo vệ kết quả như trong doanh nghiệp.

📺 Xem full case study tại phần bình luận.

💡 Nếu bạn muốn tự xây dựng những AI Project thực chiến như thế này để bổ sung portfolio khi ứng tuyển AI Engineer, hãy inbox COLE để được tư vấn lộ trình học phù hợp.

27/07/2026

Case Study | Xây dựng hệ thống AI phân loại rác tái chế theo thời gian thực bằng YOLOv11 và ResNet50

"Nếu một chai nhựa bị phân loại nhầm thành thủy tinh thì điều gì sẽ xảy ra?"

Nghe có vẻ chỉ là một sai sót nhỏ, nhưng trong thực tế, việc phân loại sai vật liệu có thể làm giảm hiệu quả của cả dây chuyền tái chế, gia tăng chi phí xử lý và ảnh hưởng đến chất lượng đầu ra của sản phẩm tái chế.

Đây cũng chính là bài toán mà Nguyễn Duy Mạnh – học viên AI Engineer K06 lựa chọn thực hiện trong Final Project của mình với đề tài SMARTTRASH AI – Phân Loại Rác Tái Chế Thông Minh Qua Camera Real-time, dưới sự hướng dẫn của TS. Nguyễn Thế Hùng.

📍Bài toán:
Trong các hệ thống phân loại rác hiện nay, AI không chỉ cần biết "đó là một cái chai", mà còn phải xác định được chai được làm từ chất liệu gì. Điều này không hề đơn giản. Một chai nhựa có thể bị bóp méo, dính nhãn, phản chiếu ánh sáng hoặc xuất hiện trong môi trường nhiều vật thể khác. Một chai thủy tinh trong điều kiện ánh sáng mạnh đôi khi lại có đặc điểm thị giác khá giống nhựa. Nếu chỉ sử dụng một mô hình duy nhất để vừa phát hiện vừa phân loại, độ chính xác rất dễ bị ảnh hưởng.

Vậy liệu có thể chia nhỏ bài toán để AI xử lý tốt hơn?

📍 Giải pháp:
Thay vì giao toàn bộ công việc cho một mô hình, học viên thiết kế một pipeline hai giai đoạn, trong đó mỗi mô hình chỉ tập trung vào đúng nhiệm vụ mà nó làm tốt nhất.
1️⃣Bước 1: Object Detection (YOLOv11)
- Sử dụng YOLOv11 để phát hiện vị trí của vật thể trong khung hình
- Nhiệm vụ chính: xác định chính xác vị trí của chai
- Thực hiện crop vùng chứa vật thể
- Loại bỏ gần như toàn bộ phần nền không liên quan
2️⃣Bước 2: Classification (ResNet50)
- Sau khi có ảnh crop, ResNet50 đảm nhận nhiệm vụ phân loại
- Phân loại vật thể thành 4 nhóm: Plastic, Glass, Metal, Paper
👉Lợi ích của việc tách pipeline
- Giúp mô hình classification tập trung hoàn toàn vào đặc trưng vật liệu
- Khai thác tốt hơn các đặc điểm như:
- Độ bóng (kim loại)
- Độ trong (thủy tinh)
- Texture (giấy)
- Bề mặt (nhựa)
- Tránh việc phải xử lý đồng thời cả bài toán định vị và phân loại
👉Điểm khác biệt của project:
- Không sử dụng một mô hình end-to-end duy nhất
- Thay vào đó tách rõ Detection và Classification
- Giúp hệ thống ổn định và dễ tối ưu hơn so với cách tiếp cận truyền thống

📍 Quá trình huấn luyện và tối ưu mô hình:
- Học viên tự tổng hợp hơn 4.000 ảnh từ nhiều nguồn khác nhau
→ Xây dựng dataset đa dạng với nhiều trạng thái thực tế của rác tái chế
- Quá trình huấn luyện không chỉ dừng ở fine-tune ResNet50, mà còn áp dụng nhiều kỹ thuật tối ưu:
- Transfer Learning
- Data Augmentation
- Mixup Regularization
- Early Stopping
- Cosine Annealing Learning Rate
- Warm Restart
→ Mục tiêu: cải thiện khả năng tổng quát hóa của mô hình
- ResNet50 được fine-tune theo 2 giai đoạn:
- Giai đoạn 1: chỉ huấn luyện lớp phân loại
→ Giúp mô hình nhanh chóng học các nhãn mới
- Giai đoạn 2: mở khóa các tầng sâu hơn
→ Học các đặc trưng chi tiết của từng loại vật liệu
- Tối ưu pipeline cho triển khai thực tế:
- Chỉ load model 1 lần khi API khởi động
- Áp dụng batch inference để giảm số lần suy luận
- Tối ưu tốc độ xử lý camera theo thời gian thực
📍Điểm thú vị:
Một trong những điểm thú vị của project là cơ chế Unknown Prediction. Thay vì luôn cố gắng đưa ra một kết quả, hệ thống sẽ kiểm tra confidence score của mô hình. Nếu xác suất dự đoán thấp hơn ngưỡng thiết lập, AI sẽ trả về nhãn Unknown thay vì dự đoán ngẫu nhiên.

Đối với các bài toán thực tế như phân loại rác hay sản xuất công nghiệp, một kết quả "không biết" đôi khi lại đáng tin cậy hơn một kết quả sai. Đồng thời, những mẫu dữ liệu này cũng có thể được lưu lại để tiếp tục bổ sung vào dataset và cải thiện mô hình ở các phiên bản sau.

📍Kết quả đạt được:
Sau quá trình huấn luyện và tối ưu, hệ thống đạt được nhiều kết quả khả quan:
• Validation Accuracy của ResNet50 đạt khoảng 98,7%
• Validation Loss đạt 0.079
• Thời gian xử lý toàn bộ pipeline khoảng 50–100 ms mỗi ảnh
• Hệ thống hoạt động ở mức 10–25 FPS trên luồng camera
• Tỷ lệ phát hiện đúng toàn pipeline đạt trên 90%

📍Góc nhìn từ mentor:
Trong buổi trình bày, TS. Nguyễn Thế Hùng đánh giá cao việc học viên đã xây dựng được một pipeline Computer Vision tương đối hoàn chỉnh, áp dụng nhiều kỹ thuật đã học trong khóa AI Engineer như Transfer Learning, Data Augmentation, Batch Inference hay thiết kế API phục vụ triển khai.

Bên cạnh đó, mentor cũng đưa ra một góp ý rất đáng chú ý: để chứng minh rõ hơn giá trị của kiến trúc hai giai đoạn, project nên bổ sung các mô hình baseline như chỉ sử dụng YOLO hoặc chỉ sử dụng ResNet để so sánh trực tiếp. Đây là tư duy quan trọng trong nghiên cứu và phát triển AI, bởi một giải pháp mới không chỉ cần hoạt động tốt mà còn phải chứng minh được vì sao nó tốt hơn những cách làm khác.

Đó cũng là điều mà học viên được rèn luyện xuyên suốt trong chương trình AI Engineer tại COLE: không chỉ xây dựng mô hình, mà còn biết cách đánh giá, tối ưu và bảo vệ lựa chọn kỹ thuật của mình bằng dữ liệu và thực nghiệm.

🎓 Học viên: Nguyễn Duy Mạnh – AI Engineer K06
👨‍🏫 Giảng viên hướng dẫn: TS. Nguyễn Thế Hùng

🚀 FINAL PROJECT: XÂY DỰNG ENTERPRISE AI RELIABILITY PLATFORMLàm thế nào để biết hệ thống AI vẫn hoạt động đúng sau khi đ...
22/07/2026

🚀 FINAL PROJECT: XÂY DỰNG ENTERPRISE AI RELIABILITY PLATFORM
Làm thế nào để biết hệ thống AI vẫn hoạt động đúng sau khi đưa vào production?

Một chatbot có thể trả lời rất tốt trong buổi demo. Nhưng sau vài tuần vận hành, AI bắt đầu hallucinate, Retriever lấy đúng tài liệu nhưng câu trả lời vẫn sai, Prompt mới làm chất lượng giảm, Agent hoạt động thiếu ổn định sau khi cập nhật LLM... Làm thế nào để biết những vấn đề này đang xảy ra trước khi người dùng phát hiện?

Đó là bài toán mà ngày càng nhiều doanh nghiệp phải đối mặt khi triển khai Chatbot nội bộ, RAG, AI Agent hay các hệ thống GenAI vào production.

Doanh nghiệp cần một hệ thống có khả năng đo lường, đánh giá và giám sát chất lượng AI liên tục.

Đó chính là mục tiêu của Final Project trong khóa học AI Reliability.
Trong project này, học viên sẽ xây dựng hệ thống dùng để đánh giá và giám sát chatbot, RAG và AI Agent, thay vì chỉ tập trung phát triển thêm tính năng, học viên sẽ tiếp cận bài toán dưới góc nhìn của một "AI Reliability Engineer".

Một hệ thống GenAI production không chỉ bao gồm:
• LLM
• Retriever
• Vector Database
• Prompt
• AI Agent
• Tools và APIs

Hệ thống còn cần một lớp Reliability để trả lời các câu hỏi quan trọng:
• AI có đang hoạt động đúng không?
• Chất lượng có giảm sau mỗi lần cập nhật không?
• Hallucination xuất hiện ở bước nào?
• Phiên bản mới có thực sự tốt hơn phiên bản cũ?
• Có nên triển khai phiên bản mới lên production không?
• Khi hệ thống lỗi, nguyên nhân nằm ở Retrieval, Generation hay Tool Calling?

🔹 Học viên sẽ xây dựng một pipeline hoàn chỉnh:
Evaluation Dataset
⬇️
RAG / AI Agent
⬇️
LLM-as-Judge
⬇️
Tracing & Observability
⬇️
Guardrails
⬇️
Regression Testing
⬇️
AI Release Gate
⬇️
Production Dashboard

Pipeline này giúp đánh giá toàn bộ vòng đời của một ứng dụng GenAI, từ dữ liệu đầu vào đến quyết định triển khai production.

🔹 Trong project này, học viên sẽ giải quyết những tình huống mà các đội AI thường gặp khi vận hành hệ thống thực tế.
1️⃣ So sánh Prompt
Một Prompt mới có thực sự tốt hơn Prompt cũ? Học viên sẽ xây dựng bộ test để so sánh:
• Answer Correctness
• Faithfulness
• Relevance
• Hallucination Rate
• Latency
• Token Cost

2️⃣ Đánh giá Retrieval
Embedding Model mới có cải thiện khả năng tìm kiếm hay chỉ làm tăng chi phí? Học viên sẽ đo lường:
Recall@K
Precision@K
• Context Relevance
• Retrieval Latency
• Chi phí indexing và inference

3️⃣ Phân tích lỗi RAG
Retriever đã lấy đúng tài liệu nhưng AI vẫn trả lời sai. Lỗi nằm ở đâu?
• Tài liệu chưa đủ thông tin?
• Chunking chưa phù hợp?
• Prompt chưa hướng dẫn đúng?
• LLM bỏ qua context?
• LLM tạo ra thông tin không có trong tài liệu?

Học viên sẽ học cách tách riêng lỗi Retrieval và lỗi Generation thay vì chỉ nhìn vào câu trả lời cuối cùng.

4️⃣ Kiểm thử sau khi thay đổi LLM
Sau khi cập nhật hoặc thay thế LLM:
• Faithfulness có giảm không?
• Agent có gọi đúng công cụ không?
• Chi phí có tăng không?
• Latency có vượt giới hạn không?
• Các tình huống từng hoạt động tốt có bị lỗi trở lại không?

5️⃣ Xây dựng AI Release Gate
Trước khi triển khai một phiên bản AI mới, hệ thống sẽ tự động kiểm tra:
• Chất lượng có vượt ngưỡng yêu cầu không?
• Có xuất hiện regression nghiêm trọng không?
• Hallucination Rate có tăng không?
• Chi phí và latency có nằm trong giới hạn không?
• Có vi phạm các tiêu chí an toàn không?

Nếu không đạt yêu cầu, phiên bản mới sẽ không được đưa lên production.

🔹 Sau Final Project, học viên có thể
• Thiết kế Evaluation Dataset cho LLM, RAG và AI Agent.
• Xây dựng hệ thống đánh giá tự động bằng LLM-as-Judge.
• Đo lường Retrieval và Generation bằng các nhóm metrics riêng biệt.
• Theo dõi toàn bộ quá trình xử lý bằng tracing và observability.
• Phát hiện hallucination, regression và lỗi Tool Calling.
• Thiết kế guardrails cho ứng dụng GenAI.
• Xây dựng automated regression testing.
• Thiết lập AI Release Gate trước khi deploy.
• Xây dựng dashboard theo dõi chất lượng, latency và chi phí.
• Phân tích nguyên nhân lỗi trong một hệ thống GenAI production.

🔹 Project phù hợp với
• AI Engineer
• Machine Learning Engineer
• Data Scientist
• Backend Engineer phát triển ứng dụng GenAI
• Technical Lead
• AI Solution Architect
• Người đang xây dựng hoặc vận hành hệ thống LLM, RAG và AI Agent

Đây không chỉ là một project để hoàn thành khóa học, học viên sẽ xây dựng một hệ thống có thể phát triển thành:
• Portfolio project chuyên sâu
• Internal AI evaluation platform
• Nền tảng kiểm thử cho RAG và AI Agent
• Kiến trúc tham khảo cho hệ thống GenAI production
• Điểm khởi đầu cho vai trò AI Reliability Engineer

AI không chỉ cần thông minh. AI còn cần đáng tin cậy. Chỉ khi đó, doanh nghiệp mới có thể biết khi nào AI đang trả lời đúng, khi nào chất lượng đang suy giảm và liệu một phiên bản mới có đủ an toàn để triển khai lên production hay không.

📩 Nếu bạn muốn trải nghiệm toàn bộ quy trình xây dựng một Enterprise AI Reliability Platform và sở hữu một project có thể đưa vào portfolio hoặc ứng dụng trong doanh nghiệp, hãy đăng ký MasterClass AI Reliability Engineering tại: https://forms.gle/9hNvDxXVw72faHXXA

22/07/2026

[𝗣𝗿𝗼𝗷𝗲𝗰𝘁 𝗥𝗔𝗚 𝗖𝗵𝗮𝘁𝗯𝗼𝘁 – Xây dựng hệ thống hỏi đáp tài liệu với LLM]
Học viên trình bày: Tuấn Anh – Học viên AI K02

Trong video này, bạn sẽ thấy cách xây dựng một RAG Chatbot giúp LLM trả lời dựa trên tài liệu riêng thay vì chỉ dùng kiến thức có sẵn. Project đi qua toàn bộ pipeline: document → embedding → vector database → retrieval → answer generation. Đồng thời, video cũng chỉ ra một lỗi system design phổ biến khi làm RAG mà rất nhiều người mới dễ mắc phải.

🎯 Mục tiêu của dự án:
• Xây dựng chatbot có khả năng trả lời dựa trên tài liệu riêng (PDF/Text)
• Giải quyết hạn chế của LLM: không truy cập được dữ liệu nội bộ, dễ hallucination
• Ứng dụng RAG để kết hợp LLM với hệ thống truy xuất tài liệu
• Triển khai hệ thống linh hoạt hỗ trợ cả model online (OpenAI) và local (Ollama)
• Xây dựng pipeline hoàn chỉnh từ ingest dữ liệu → truy xuất → sinh câu trả lời

📂 Nội dung trình bày:
• Tổng quan bài toán và lý do lựa chọn kiến trúc RAG
• Thiết kế hệ thống gồm: App Config, Document Indexer, Vector DB (Chroma), Retriever, RAG Chain
• Pipeline xử lý tài liệu: load → chunking (có overlap) → embedding → lưu trữ vector
• Cơ chế semantic search dựa trên vector similarity (cosine similarity)
• Xây dựng RAG Chain với history-aware retriever và prompt chống hallucination
• Tích hợp nhiều LLM provider (OpenAI, Ollama) giúp hệ thống linh hoạt online/offline
• Phát triển UI bằng Streamlit: upload tài liệu, build index, chat và lưu lịch sử hội thoại
• Phân tích tham số temperature và ảnh hưởng đến độ chính xác vs sáng tạo của model

⚠️ Điểm thú vị: Một lỗi system design đáng chú ý: Học viên sử dụng 2 embedding model (OpenAI + Ollama) nhưng lại lưu chung vector vào một collection. Vấn đề là mỗi model tạo ra vector trong không gian biểu diễn khác nhau, nên việc so sánh similarity sẽ không còn chính xác. Điều này khiến hệ thống retrieval bị lệch, kéo theo chất lượng câu trả lời của chatbot giảm rõ rệt.
👉 Hệ quả:
• Semantic search bị sai lệch (so sánh vector không cùng “hệ quy chiếu”)
• Kết quả retrieval kém chính xác, dễ trả lời sai
👉 Cách cải thiện:
• Tách riêng vector DB theo từng embedding model hoặc
• Dùng chung 1 model embedding xuyên suốt pipeline

💥 Giá trị đạt được:
Project giúp học viên không chỉ hiểu cách dùng LLM mà còn nắm được bản chất system design của AI production: từ vector database, retrieval pipeline đến các vấn đề thực tế như consistency của embedding, memory trong chatbot và tối ưu hiệu năng.

Đây là nền tảng quan trọng để phát triển các hệ thống như: chatbot nội bộ doanh nghiệp, document QA, AI knowledge base và các ứng dụng LLMOps thực chiến.

Address

Imperia Garden, 143 Nguyễn Tuân, Thanh Xuân
Hanoi

Telephone

+84869810635

Alerts

Be the first to know and let us send you an email when Đào tạo ngắn hạn AI - Data Science posts news and promotions. Your email address will not be used for any other purpose, and you can unsubscribe at any time.

Contact The School

Send a message to Đào tạo ngắn hạn AI - Data Science:

Shortcuts

Share

Category