原文標題:Introducing Rerank 5: precise, efficient enterprise document retrieval

Cohere 於 10 月 21 日推出企業檢索重新排序模型 Rerank 5,分為重視準確度的 Rerank 5 Pro,以及著重延遲與吞吐量的 Rerank 5 Fast。兩者使用同一套 Rerank API,正式型號分別為 rerank-v5.0-pro 與 rerank-v5.0-fast。新版本可接在關鍵字、向量或混合搜尋之後,不要求重新建立文件索引或重新計算嵌入向量;應用程式只須調整 model 參數便可遷移,但新功能 Context Focus 預設不會啟用。

Rerank 5 的 Context Focus 不只判斷哪份文件最相關,還能在同一次 API 呼叫中回傳文件內最有關聯的文字片段及分數,供應用程式選擇只傳遞證據段落給大型語言模型,或在介面標示匹配依據。開發者可以設定門檻值與最多片段數,在節省 token 與保留證據之間調整。Cohere 以 30 組問答資料集測試,移除一半檢索上下文後,答案品質下降約 2 個百分點;移除四分之三時,品質下降約 7 個百分點。這是指定測試方法下的結果,並非所有業務情境皆可直接套用。

在另一組搜尋代理評估中,Cohere 以 BM25 檢索為起點,基準答案正確率為 46%;加入 Rerank 5 Pro 後為 49%,再啟用 Context Focus,預設門檻 0.1 時每項任務 token 減少 19%、正確率達 57%,門檻 0.4 時 token 減少 34%、正確率達 58%。官方稱,完整流程相較只有 BM25 的基準使用約少 35% token,在六組深度搜尋基準上 token 減少 41%、正確率由 39% 提升至 52%。測試使用特定代理模型、檢索設定與資料集,應避免當作任何客戶環境的保證。

Cohere 公布 Rerank 5 Pro 在 46 組複合評測資料集中的 39 組取得第一,43 組至少第二;在 BRIGHT 推理導向檢索基準得到 82.2 分,比 Rerank 4 Pro 高 12.4 分。Fast 在 NVIDIA A100 單卡、每份約 1,000 token 文件的特定測試中,每秒可重排約 187 份文件,吞吐量為 Pro 的 2.9 倍,延遲也接近快 3 倍。Pro 對 47 組解析後 PDF 文字資料的平均分數為 89.9,Fast 為 88.5;官方也公布多語言與財務、醫療、科學研究資料上的比較結果。這些數據均為供應商提供的測試結果,評測方法採 RCP-nDCG@10。

新模型的相關性分數經校準,Cohere 說明 0.7 分可解讀為文件約有 70% 機率有用,讓企業可用門檻過濾低相關結果,而不必固定傳送前幾筆。對 2,262 份盲測人工判讀文件與 20,646 份 NIST TREC-DL 判讀文件的校準誤差測試,Pro 分別為 0.058 與 0.057,Fast 均為 0.058。文件可用文字與 YAML 表達的 JSON、表格等半結構化資料,支援超過 100 種語言。Cohere API 公告價格為 Pro 每百萬 token 0.05 美元、Fast 每百萬 token 0.02 美元。

Cohere 宣布模型已在自家 API、Model Vault、Microsoft Foundry、Amazon SageMaker 與 North 供應,企業也可洽詢私有 VPC 或地端部署。Context Focus 的段落回傳需按官方 API 文件啟用;官方亦提醒 Rerank 5 只接受文字,無法直接重排影像,寬泛摘要、表格與程式碼片段不一定適合強制裁切。不同模型上下文長度在公告與模型文件的表述有差異,導入前應再確認最新 API 規格。

發生了什麼事

Cohere 發表 Rerank 5 Pro、Fast 兩款企業檢索模型,正式加入 Context Focus 段落擷取與校準後的相關性分數,並公布模型型號、API 價格及多種部署途徑。

為什麼重要

企業檢索系統的成本不只在搜尋,也包括傳給語言模型的上下文。Rerank 5 可在排序同時選出有用段落;官方基準顯示在部分情境可同時減少 token 消耗並改善回答準確率,但仍需在實際資料集重測。

影響哪些人

RAG 與企業知識庫開發者、客服搜尋系統、金融與醫療資料檢索團隊、AI 代理程式平台及管理私有部署的企業資訊部門,可評估其品質、延遲與權限部署差異。

已確認與未確認

已確認 10 月 21 日發布、Pro/Fast 型號、Context Focus 預設關閉、API 價格及指定基準結果;部分文件對 Fast 的上下文長度表述不一致,企業應依最新 API 文件驗證。所有效能與品質數字皆有特定測試條件。