01 / 小型語言模型
EVO Alpha LLM
讓小模型，承擔更大的工作。
我們希望本地模型能把做過的事變成經驗：記住有用的規則，在情況改變時修正理解，再用於陌生的工作。EVO Alpha 研究如何在有限的記憶與算力中，讓這種學習發生。
研究走到這裡
做過一次，下一次能留下甚麼？
早期實驗讓我們看見一個難題：模型適應新例子時，也可能把原本做對的事情改錯。學會新東西的同時，還需要判斷哪些理解值得保留。
我們正沿著這個問題，研究知識如何在改變中留下來，並幫助模型面對未見過的任務。這是讓本地智能在有限資源中繼續學習的一步。
研究要回應的需要
工作改變時，仍能抓住目標。
一項工作做到一半，要求改變了。我們希望小模型仍能辨認哪些限制要保留、哪些資訊需要再查，以及工作是否真的完成。這是研究想解決的情境，並非目前 App 已提供的能力。
技術方向
讓有限的模型容量，用在值得學會的事上。
研究將可遷移的工作方法，與需要持續更新的資訊分開看待。理解目標、運用工具與辨認不確定性，應能帶到不同任務；時效性知識則可從可查閱的來源取得。我們分別評估模型、輔助工具和整體任務，釐清進步究竟來自哪裡。
怎樣的進步才有價值
換一道題，經驗仍然有用。
熟悉例子上答得更好，只是起點。我們關心經驗能否幫上陌生工作、舊有能力是否保留，以及記憶體與回應時間是否仍然合理。這項研究的價值，在於探索智能能否在日常裝置負擔得起的資源內，繼續累積能力。
實驗進展、技術資料與範圍 ＋
- 目前的實驗
- 本機模型實驗與形式分析
一項小型循環模型實驗，在有限合成任務中呈現適應訊號，同時在不需改變的案例出現退化。後續本地模型適配試驗，也未改善相對固定基線的整體正確率。
- 完成有限經驗的適應先導；其進展與退化尚不足以讓候選進入確認階段。
- 以 Qwen 為基線的本地適配改變了輸出偏向，尚未建立可遷移的正確率增益。
- 形式分析釐清：排名訊號改善不等於答案更正確，後續比較需採用更有辨識力的基準。
- 研究重點
- 在模型大小、記憶與計算受限的條件下，研究可重用知識的形成。3B 是首個部署里程碑；Qwen 是目前的基線與實驗載體，並非預設的最終架構。
- 證據範圍
- 目前結果屬有限開發實驗與分析。獨立新任務上的穩定遷移與保留、通用認知，以及這些研究候選與 iPhone、World Model 或 RSI 的整合，均尚未驗證。
- 下一個問題
- 不同任務家族的有限經驗，能否改善陌生組合下的決策，並勝過具有同等資訊與資源的實用基線？
