Công nghệ và Trí tuệ nhân tạo (AI)

(noun) sự đánh đổi (chấp nhận giảm yếu tố này để tối ưu yếu tố khác)

“There is always a trade-off between model accuracy and inference latency.”

(noun) độ trễ (thời gian từ lúc gửi yêu cầu đến khi nhận phản hồi)

“By caching frequent embeddings in Redis, we reduced p95 API latency by 40%.”

(noun) thông lượng (số lượng yêu cầu/giao dịch xử lý được trong một đơn vị thời gian)

“Using asynchronous message queues significantly increased our ingestion throughput.”

(noun) hiện tượng ảo giác AI (khi mô hình tự bịa ra thông tin sai lệch nhưng nghe rất thuyết phục)

“Grounding the LLM with Retrieval-Augmented Generation (RAG) drastically reduces hallucinations.”

(noun phrase) tạo sinh tăng cường truy xuất (kỹ thuật kết hợp tìm kiếm dữ liệu nội bộ trước khi đưa cho AI trả lời)

“Instead of fine-tuning the model every week, we built a RAG pipeline over our internal Confluence docs.”

(adjective) có khả năng chịu lỗi (hệ thống vẫn hoạt động bình thường khi một thành phần gặp sự cố)

“To make the service fault-tolerant, we implemented an automatic fallback to a secondary LLM provider.”