我在九月中旬，完成 local-first 的 Agentic RAG 財報產品第一版: 同時執行研究工作，以及比較數字，在原本傳統 RAG 的基礎上進一步擴大。 比傳統 RAG 更多的是，

1. 更簡潔的情境多輪回答處理方式
2. 更多種的意圖分類
3. 自動拆解多個研究主題，平行進行研究，跟循序研究比，節省執行時間。
4. 自動檢查手上資料、證據是否足以回答使用者的問題，如果足夠，直接回答。
5. 自動判斷是否需要計算機，用在比較數字差額。
6. 重試機制，如果找不到 evidence、evidence 信心程度差，會逐步擴增 top_k 數量，並且最多試兩次。

Chainlit 也因為產品核心改成 Agentic RAG，所以也重寫相關函式，讓推論的每個階段更具可觀測性。我用 LangGraph 工具，做到財報專門領域要求的穩定、嚴謹、細節、證據，降低 LLM 幻覺。

會做計算機功能，是每個公司財報內容幣值的使用單位不一定相同，有些使用百萬元新台幣，有些使用十億元新台幣，為了避免 LLM 比較數字的錯誤，所以提供函式供它呼叫。提供工具的過程，很像在做 harness，給一個不穩定的動物，給它工具讓它的產出變得更穩定。

影片內容是展示找台積電和聯發科在2025年第四季的營收，過程都在我的電腦上執行，使用本機NVIDIA顯卡、LM Studio、Gemma4、Chainlit

YouTube Demo 影片: https://www.youtube.com/watch?v=OMk06F71ruU

未來發展主題:

1. 豐富股票名稱對齊，讓各種暱稱都能找到對的公司
2. 擴充計算機的功能
3. 儲存 RAG 查詢過程，供下次查詢更快回應
4. 記憶功能
5. 完善 feedback loop，希望做到自動迴歸改善
6. 用 LangGraph fan-out/fan-in 做到更具執行彈性的平行研究