Laya 是 Convai Innovations 以 Apache 2.0 開源的決策模型,問題格式與 TypeSafe Jev 相同,可以在自己的電腦執行,不必呼叫雲端 API。本文在 M4 Pro Mac 實測安裝步驟、GPU 與 CPU 的延遲和記憶體用量,並用繁體中文與英文測試客服分流、Agent 選工具與 RAG 文件過濾,整理各題型的準確度、信心門檻的效果、Jev 相容 API 的架設方式與使用限制。
AI應用、程式筆記、開發心得
Laya 是 Convai Innovations 以 Apache 2.0 開源的決策模型,問題格式與 TypeSafe Jev 相同,可以在自己的電腦執行,不必呼叫雲端 API。本文在 M4 Pro Mac 實測安裝步驟、GPU 與 CPU 的延遲和記憶體用量,並用繁體中文與英文測試客服分流、Agent 選工具與 RAG 文件過濾,整理各題型的準確度、信心門檻的效果、Jev 相容 API 的架設方式與使用限制。