原文標題:SemanTok: Predictable Semantic Tokens for Efficient Autoregressive Video Generation

Stability AI 10 月 7 日發表 SemanTok 研究,重點在於改善自回歸影片模型使用的影像與影片 Token 表示。這類模型需要將連續畫面轉換成可預測的離散或壓縮表示,如果早期 Token 缺乏足夠語意資訊,就可能讓後續生成花費更多運算,仍難維持內容一致。

研究提出由粗到細的可變長度 Token 設計,讓前面的 Token 優先保留影片全域語意,後續 Token 再補充細節。SemanTok 將凍結的 DINO 視覺特徵送入編碼器,並設計可從不同長度 Token 前綴重建特徵的輕量模組,藉此避免模型只依賴解碼器中的其他訊息來完成語意對齊。

官方指出,在實驗條件下,採用 SemanTok 的 2.01 億參數自回歸模型,表現可追平或超越規模約大 3.4 倍的 VideoFlexTok 模型。團隊也觀察到,在分布外類別、不同雜訊程度與短 Token 前綴情境下,方法仍維持較佳語意對齊及重建品質。

研究目的在降低影片生成過程中需要預測的 Token 成本,同時保留畫面內容與語意的一致性。這是演算法研究,不代表 Stability AI 已將其導入某款正式產品,也不能直接推定所有影片生成服務都會有相同比例的加速。

發生了什麼事

SemanTok 用語意優先的可變長度 Token 改善影片模型的表示與生成。

為什麼重要

影片模型需要在品質、語意一致性與運算成本之間取得平衡,Token 設計會影響後續推理效率。

影響哪些人

影片生成研究者、模型壓縮與推理最佳化工程師、AI 影片平台開發者。

已確認與未確認

比較結果限於論文所述模型與評測設定;正式產品導入、速度與價格尚未公布。