AI Engineer (LLM & RAG Specialist)

Mô tả công việc:
Phát triển và triển khai hệ thống Retrieval-Augmented Generation (RAG) để tối ưu hóa độ chính xác, cập nhật thông tin động cho các Large Language Models (LLMs).
Thiết kế và tối ưu hóa kiến trúc RAG sử dụng LangChain, LlamaIndex để tích hợp với vector databases (Chroma, Weaviate, Pinecone).
Xây dựng pipeline xử lý dữ liệu, trích xuất, indexing và truy vấn tài liệu từ các nguồn dữ liệu doanh nghiệp (SQL, NoSQL, API, PDF, Email, Knowledge Base...).
Tích hợp LLMs vào các ứng dụng doanh nghiệp, xây dựng các giải pháp như chatbot nội bộ, trợ lý AI tự động hóa quy trình.
Tối ưu hóa hiệu suất LLMs inference sử dụng quantization, model compression, vLLM, FasterTransformer để giảm chi phí vận hành.
Kết nối các mô hình AI với cơ sở hạ tầng hiện tại của doanh nghiệp qua API và hệ thống microservices.
Theo dõi và tối ưu độ chính xác của hệ thống RAG bằng cách cải tiến retrieval pipeline, ranking model, query rewriting.
Phối hợp với các nhóm sản phẩm, backend, data để tích hợp LLMs vào workflow hiện tại.

Tối thiểu 1 năm kinh nghiệm làm AI prompting.
Thành thạo các công cụ LangChain, LlamaIndex, hiểu về prompt engineering, embedding search, chunking strategy.
Có kinh nghiệm làm việc với 1 trong các vector databases như Chroma, Weaviate, Pinecone.
Có kinh nghiệm triển khai hệ thống chatbot & tích hợp hệ thống với OpenAI.
Biết sử dụng Docker, Kubernetes, CI/CD pipelines để triển khai AI models ở môi trường production là một lợi thế.