LangChain

Cài Đặt Thư Viện Cần Thiết

Cài LangChain cùng các thư viện phụ trợ cho embedding và vector store.

Chạy `pip install langchain langchain-openai langchain-community chromadb` trong môi trường Python ảo.

Dùng virtual environment riêng cho dự án để tránh xung đột phiên bản thư viện.

Nạp Và Chia Nhỏ Tài Liệu Nguồn

Đọc tài liệu nội bộ (PDF, docx, txt) và chia thành các đoạn nhỏ để embedding.

Dùng `DirectoryLoader` để nạp file, sau đó `RecursiveCharacterTextSplitter(chunk_size=500, chunk_overlap=50)` để chia đoạn.

Chọn chunk_size khoảng 300-500 token để cân bằng giữa ngữ cảnh đủ dùng và độ chính xác truy xuất.

Tạo Embedding Và Lưu Vào Vector Store

Chuyển các đoạn văn bản thành vector và lưu vào cơ sở dữ liệu vector cục bộ hoặc cloud.

Dùng `OpenAIEmbeddings()` kết hợp `Chroma.from_documents(docs, embedding=embeddings)` để tạo và lưu vector store.

Với dữ liệu lớn hoặc cần scale, cân nhắc đổi Chroma local sang Pinecone hoặc pgvector.

Xây Dựng Retriever Và Chain Truy Vấn

Kết nối vector store với LLM thông qua một RetrievalQA chain.

Khởi tạo `retriever = vectorstore.as_retriever()` rồi dùng `RetrievalQA.from_chain_type(llm=llm, retriever=retriever)`.

Giới hạn `k` (số đoạn trả về) khoảng 3-5 để tránh đưa quá nhiều ngữ cảnh gây nhiễu cho LLM.

Kiểm Thử Với Câu Hỏi Thực Tế

Chạy thử chain với các câu hỏi thật mà người dùng nội bộ có thể hỏi.

Gọi `chain.invoke({'query': 'Chính sách bảo hành sản phẩm X là gì?'})` và kiểm tra câu trả lời có đúng nguồn tài liệu không.

Ghi log lại câu hỏi và đoạn tài liệu được truy xuất để dễ debug khi câu trả lời sai.

Theo Dõi Và Debug Bằng LangSmith

Bật tracing để xem chi tiết từng bước xử lý của chain khi có kết quả không như mong đợi.

Set biến môi trường `LANGCHAIN_TRACING_V2=true` và `LANGCHAIN_API_KEY`, sau đó xem trace trên dashboard LangSmith.

Dùng trace để phát hiện bước retrieval trả về sai đoạn tài liệu — nguyên nhân phổ biến nhất khiến câu trả lời sai.