Laya 評測與使用教學,Jev 的開源替代模型|Mac 實測單題最快 11 毫秒

Laya 是 Convai Innovations 以 Apache 2.0 開源的決策模型,問題格式與 TypeSafe Jev 相同,可以在自己的電腦執行,不必呼叫雲端 API。本文在 M4 Pro Mac 實測安裝步驟、GPU 與 CPU 的延遲和記憶體用量,並用繁體中文與英文測試客服分流、Agent 選工具與 RAG 文件過濾,整理各題型的準確度、信心門檻的效果、Jev 相容 API 的架設方式與使用限制。

Ollama 搭配 Codex 教學|本機模型能改程式嗎?Mac mini 實測

Ollama 能把本機模型接進 Codex,但連上服務、回答問題與完成改檔,是三種不同的成果。這篇以 Mac mini M4 32GB 的 Gemma 4 歷史實測,整理 Codex CLI 安裝、模型選擇、context 設定與原生 Responses API 連線方式,並交代 E4B 工具失敗、12B 最小任務成功、26B 改檔通過,以及 Pi 替代方案的限制。搭配工具分工、設定檢查、成果驗收圖解與終端機使用畫面,說明哪些小任務值得交給本機 Agent,哪些情況應先停止,避免把「完成了」誤當成可靠的程式成果。

AMD ROCm 10 發表|ROCm.AI 上線,升級前先看 6 個已知問題

AMD 發表 ROCm 10,除了統一 GPU 軟體的建置與發行方式,也讓 ROCm.AI 正式上線,將 AMD Skills、ROCm CLI 與 Hyperloom 帶進安裝、診斷、模型服務和效能優化流程。本文整理 ROCm 10 對 Instinct、Radeon、Ryzen AI 使用者的實際影響,拆解官方 3.3 倍推論與 2.4 倍訓練數字的測試邊界,並逐項說明 PyTorch、JAX、SGLang、TensorFlow、vLLM 與 ComfyUI 的六個已知問題,協助判斷正式升級、並行測試或暫緩更新。

MacBook Pro M2 Pro 跑 Gemma 4 實測|Apple Silicon 本地 LLM

在 MacBook Pro M2 Pro 16GB 上用 Ollama 跑 Gemma 4 到底有多快?跟 RTX 3070 8GB 相比誰贏?這篇把 Apple Silicon 統一記憶體架構放進本地 LLM 的實戰對比,從 TPS、TTFT、長 prompt 塞滿 128K context 一路測到 Ollama 對 e2b 偷偷開 thinking 的 bug 跨平台重現,並給出 num_ctx 跟真實 prompt 長度兩個容易被混淆的觀念說明,幫筆電族開發者找到本地 LLM 的實用上限。

Gemma 4 E2B vs E4B 完整實測|Thinking 模式的祕密與本地小模型最佳實踐

Gemma 4 的 E2B 和 E4B 兩個邊緣模型誰比較強?參數較小的 E2B 反而比 E4B 慢 10 倍是怎麼回事?這篇用 RTX 3070 跑了完整的 TPS、TTFT、品質對比 benchmark,並追到 Ollama renderer 層級找出 thinking 模式預設啟動的真相,順便整理本地小模型最佳實踐與 thinking、temperature、top_k、top_p 等參數說明。

本地跑 Claude Code 實戰|Ollama + Gemma 4 + RTX 3070 使用心得與踩坑筆記

想用本地 LLM 跑 Claude Code 省下雲端 API 費用?這篇分享在 Windows 11 + RTX 3070 8GB VRAM 上用 Ollama 接 Gemma 4 跑 Claude Code 的真實心得,包含安裝流程、Context length 設定、settings.json 被覆蓋的踩坑經驗、消費級顯卡的效能與使用限制,以及六種適合交給本地小模型處理的短任務與自動化用途。

Ollama 入門教學|本地大語言模型新手指南(Windows/Linux/macOS)

Ollama 能在 Windows、Linux 與 macOS 下載、執行和管理大語言模型,也能連接 Cloud 模型與其他 Agent 工具。本文從安裝和第一個本機模型開始,說明 App、CLI、模型標籤、參數量與量化,再整理 RAM、VRAM、context length 與 CPU/GPU offload 的關係。需要整合程式時,可參考 REST API、Python 與 Agent 用法;重視資料流向時,則可查閱本機、Cloud、網路工具與 local-only 設定的差異,依設備與需求選擇執行方式。

不用寫程式的機器學習,使用Xcode的Create ML訓練電腦分類文章-Text Classification以簡訊分類為例

Apple的Create ML讓開發者不需要了解太多機器學習的原理就可以訓練出自己的AI模型,輸出的模型可以用在各種蘋果平台上。本篇文章教學如何在Mac上使用Create ML訓練一個文字分類的AI模型,搭配Swift語言示範如何在App中使用你的模型。訓練階段你可以完全不寫程式碼就訓練好文字模型,還可以在Preview頁面中直接使用模型來分類更多文字,不會程式語言的朋友們也能體驗機器學習的魅力。