CollegeAdvisor
答案應帶有來源。

一座出口設有關卡的圖書館。
為本網站以 Blender 製作的插圖。它用來說明概念,並非專案的資料。
專案原始圖片、圖表和影片保留原文。
入學申請、經濟補助與轉學途徑都仰賴具體的資訊。我在 Athena AI Labs 參與開發一款應用程式,它在組織答案之前會先檢索佐證資料,並檢查現有來源無法支持的問題。設計目標樸素而嚴格:答案要嘛標明出處,要嘛拒絕回答。
連接整個應用程式
我開發了 SwiftUI 介面、Python API 和用於大學諮詢問題的檢索增強生成工作流程。學生檔案整合支援個人化推薦,而文件攝取則組織系統可以參考的資訊。
五個集合,各自獨立
知識庫分為五個集合:經濟補助政策、科系入學要求、Common Data Set 數據、轉學學分銜接協議,以及附有引用的範例解答。把它們分開,讓有關轉學學分的問題與有關補助的問題能搜尋不同的資料,也讓結果能說明它來自哪一類來源。
產生前檢索
問題會先依語意與這些集合進行比對,來自官方 .edu 與 .gov 來源的結果權重高於其他資料。已發布的設計文件也描述了關鍵字檢索;這裡介紹的是密集檢索這條路徑。語言模型負責組織答案的措辭,事實則由檢索到的證據提供。
引用、計算,否則不答
有些問題根本不該從文字中找答案。補助與費用數字由確定性計算器算出,而不是生成的。要求法律判斷、預測或個人偏好的問題,會在檢索之前就被攔下。當最佳證據也很薄弱時,系統會拒絕回答並說明原因。在專案自己的壓力測試集上,大多數案例是以拒絕回答來處理的。
使工作可檢查
我在 Hugging Face 上發布了 CollegeAdvisor-RAG,附有架構說明與使用指南,Kaggle 上也有模型頁面。本作品集著重於檢索與引用設計;模型卡中的基準測試數據,不應被解讀為對每一個升學問題的保證。
檢索進行事實工作。
- 01
依語意搜尋,依權威排序
每筆記錄都轉為嵌入向量,存放在五個 ChromaDB 集合之一。一個問題會從每個集合中檢索候選結果,引用權威網域的候選結果會先被加權提升,再保留排名最前的結果。最低分數門檻讓弱匹配無法進入答案。
- 02
檢查問題與來源
專門的處理程序會把有關補助、轉學與入學申請的問題導向合適的資料。「引用,否則不答」的檢查讓證據不足的情況保持可見,而不是強迫每個問題都給出自信的答案。學生的背景資訊經由應用程式與 API 輸入。
- 03
較小的模型,較窄的工作
所發表的架構使用適應LoRA的TinyLlama 1.1B模型來進行回應格式化。檢索到的證據提供了事實內容。將這些職責分開可以更輕鬆地檢查答案是否得到引用的支持。
架構細節依據已發布的模型卡以及我在專案中的實際工作。它們描述的是系統設計,並不保證每一項檢索到的事實都是最新的,也不保證每個答案都正確。
探索模型卡誠實的邊界。
- 評估是由專案本身撰寫的。沒有獨立的基準測試,也沒有真實使用者的準確率數據。
- 引用能說明答案從哪裡來,卻不能證明來源仍是最新的。
- Hugging Face 上的版本是附有文件的模型成品,而不是託管的諮詢服務。
遵循證據。
- 01問題
學生背景和特定資訊需求。
- 02檢索
在五個來源集合中搜尋,並提高權威網域的權重。
- 03驗證
專門處理和引用或棄權檢查。
- 04回應
用支持引文格式化的答案。


