原文標題:BotPsy: On-Device Personal Assistant with a Sub-Billion-Parameter Agentic Language Model
Tether AI Research於11月11日在其Hugging Face團隊文章公布BotPsy,一款以Qwen3.5-0.8B為基礎、約八億參數的智慧體模型,目標是讓低至中等難度的工具操作能在裝置端執行。模型著重函式呼叫與多步驟流程,涵蓋裝置設定、文件、行事曆及訊息等情境,但官方把目前用途定位於研究與教育,並提醒小模型仍會犯錯。
訓練分為監督式微調、多教師在策略蒸餾及兩輪強化學習,結合示範、較大教師模型與可驗證工具獎勵。官方報告,BFCL v4整體分數由基礎模型的23.4提高至44.0;在六項工具及智慧體基準中,BotPsy有五項高於所測試的Qwen3.5-2B-Think,Claw-Eval則仍落後。這些結果只涵蓋文中比較模型、資料及推理設定,不能視為全面超越更大模型。
原文規劃以Apache 2.0授權提供開放權重,包含safetensors及供QVAC SDK與llama.cpp使用的GGUF格式,精度包括bf16、Q8與Q4。不過文章同時使用未來式描述發布,因此本稿不宣稱所有下載形式已全面可用。官方也指出深度搜尋與記憶任務仍弱,指令累積後表現會下降,主要建議使用英文,並不適合涉及金錢、個資、健康或其他高風險自動決策。
發生了什麼事
Tether AI Research公布BotPsy,以八億參數模型強化工具呼叫與多步驟操作,並說明訓練方法、官方評測結果,以及開放權重和裝置端格式的供應規劃。
為什麼重要
小型模型若能處理常見工具流程,可讓團隊評估本機執行與資料控制的可能性。不過工具基準改善不代表通用知識、深度搜尋及安全能力也已達到大型模型水準。
影響哪些人
主要影響研究裝置端助理、函式呼叫與本地部署的開發者。評估時應依實際語言、指令長度與任務難度測試,敏感領域不在官方建議的使用範圍內。
已確認與未確認
已確認官方團隊文章與訓練、評測說明;權重及格式部分仍採未來式,本稿未確認所有下載均已可用。分數是作者評測,不能直接推定真實裝置速度或可靠性。