絕境長城之外：以 Firestore vector search 打造低成本、高效的雲端 RAG 應用
·3774 字·8 分鐘
RAG(Retrieval Augmented Generation) 是一套 AI framework，能夠在不需要重新訓練 LLM 的前提下，讓開發者得以新增其他的外部資訊，以這些新增的資訊來改善 LLM 回答的精準度。在 2026 的今天已經是一項廣為人知的技術了。
RAG
Iron Counsel：企業級 RAG 架構與對話式 AI ↗ ↖
以 RAG 技術為核心的對話式 AI 應用，在複雜資料集上實現精準的 LLM 推論。技術架構：基於 GCP 的無伺服器 FastAPI 後端（透過 Terraform 建置）、本地 ONNX 嵌入模型、Firestore 向量搜尋，以及 LangChain 編排框架。