SoL-Pi 將程式代理效率移入執行框架

SoL-Pi 是一個面向開源 Pi 程式代理的新效率層，由 NVIDIA、臺大與 MIT 研究人員於 9 月 21 日發布。它的主要變化在架構上：不是改動模型或 Pi 代理本身，而是改變代理周圍的執行框架。作者報告稱，在包含 51 項任務的 EdgeBench 評測中，完整 SoL-Pi 堆疊將 token 流量降低 44.7% 至 49.0%，API 成本約降低 33%，同時保留約 94% 的 Pi 平均分數。

從模型改動到執行框架改動

這項工作針對程式代理常見的壓力點：代理與環境反覆互動，可能產生很長的歷史紀錄、重複觀察，以及成本較高的模型呼叫。SoL-Pi 並未宣稱導入新的程式模型。它被描述為一個採 MIT 授權的擴充，可與未修改的 Pi 版本搭配運作。報告中的測試使用 Pi 0.85.1，以及 Node.js 22.19 或更新版本。

這項區分很重要，因為程式代理的效率改進可以發生在多個層次。模型供應商可以改動模型；代理開發者可以改變代理的規劃或工具使用邏輯；基準測試操作者則可以在固定環境中衡量端到端效能。SoL-Pi 位於代理周圍的第二層，但報告數字仍是作者提供的基準測試結果，不是獨立量測。

研究人員使用 AI 自動研究流程來搜尋效率機制。根據論文，該流程探索了六大類別中的 152 個方向、535 個可執行環境、超過 3,000 次執行，以及超過 60,000 次代理與環境互動。從這項搜尋中，留下四個機制：Action Fusion、Online Context Compact、ObservationPack，以及 Evidence-Preserving Reducer。

產生的系統可被理解為一種嘗試，用來減少程式代理與其環境對話中的浪費。SoL-Pi 不是要求底層模型自行變得更便宜或更精簡，而是透過執行框架限制、壓縮或重新組織模型看到的內容與執行的動作。因此，作者的主張不只是 Pi 可以在某個基準測試上降低成本，而是某些效率可以在不重新訓練或替換代理的情況下被提取出來。

Pi 周圍的四個機制

Action Fusion 是自動研究流程選出的四個機制之一。根據名稱及其在執行框架堆疊中的位置，它的作用是透過合併或簡化原本會分開處理的操作，降低低效率的動作模式。已核實材料除了指出它是保留下來的機制之一外，沒有提供實作細節，因此不應進一步推論其精確內部規則。

Online Context Compact 處理代理執行過程中攜帶的上下文。程式代理在檢查檔案、執行命令、觀察輸出並修正計畫時，經常累積資訊。該機制在 SoL-Pi 中的位置顯示，它會在執行期間壓縮上下文，目標是在降低 token 流量的同時，保留足夠資訊讓代理繼續解決任務。

ObservationPack 是另一個位於執行框架側的機制。它的名稱顯示其關注點在於環境觀察結果送達代理之前的封裝方式。在程式代理迴圈中，原始觀察可能冗長、重複，或對下一次模型呼叫而言結構不佳。該機制是作者報告中用於降低 token 流量的堆疊之一，但簡報資料不足以支撐對其格式選擇作更具體的描述。

Evidence-Preserving Reducer 是第四個保留下來的機制。其名稱凸顯了代理式系統在壓縮時的核心取捨：減少文字可能移除後續才發現需要的資訊。透過保留證據，這個 reducer 被定位為一種防護，避免把決策所依據的基礎壓縮掉。作者報告的量測結果是，完整堆疊在降低 token 流量與成本的同時，保留約 94% 的 Pi 平均 EdgeBench 分數。

基準測試數字顯示什麼

在 EdgeBench 上，作者報告的主要結果是完整 SoL-Pi 堆疊將 token 流量降低 44.7% 至 49.0%。同一項評測也報告 API 成本約降低 33%。由於 API 成本與模型呼叫和 token 使用量相關，這個結果與系統目標一致：降低透過代理迴圈傳送的文字量與互動開銷，同時保留大部分基準測試分數。

保留效能的數字同樣重要。作者報告稱，SoL-Pi 在包含 51 項任務的 EdgeBench 評測中保留約 94% 的 Pi 平均分數。這不等於說效能沒有變化，也不是獨立驗證。它表示在作者報告的條件下，執行框架側的降低帶來了相對於 Pi 的可量測分數損失，但仍保留大部分平均分數。

Terminal-Bench 4 提供了第二個形態不同的報告資料點。在該測試中，SoL-Pi 解決 15 項任務，Pi 則解決 18 項任務，同時總成本降低 26.3%。這項結果更清楚地呈現取捨：以較少解決任務數換取較低總成本。它也提醒，不能把 EdgeBench 的成本降低解讀為跨基準測試普遍成立的無代價收益。

跨模型遷移被描述為初步結果。這限制了主張的普遍性。一種執行框架方法若在某個代理與某個受測版本上運作良好，不一定會把相同的效率與效能平衡帶到其他模型與代理組合。已核實事實支持的說法是，SoL-Pi 可與未修改的 Pi 版本搭配運作，且已使用 Pi 0.85.1 測試；但這些事實並未建立其可廣泛遷移到各類程式代理系統。

實務意涵與限制

實務意涵是，程式代理營運者或許可以在另一個位置尋找效率：環境執行框架。如果重複觀察、冗長上下文與低效率動作模式是主要成本來源，那麼包裝層可以在不改變代理版本本身的情況下降低用量。SoL-Pi 的 MIT 授權以及與未修改 Pi 的相容性在此相關，因為它讓這種方法成為可分離的擴充，而不是分岔出的代理設計。

同時，證據範圍受限於已報告的基準測試。EdgeBench 數字是作者在 51 項任務上的報告結果。Terminal-Bench 4 數字同樣由作者報告，且顯示解決任務數低於 Pi。自動研究流程在所提供數字上規模可觀，但它不能取代獨立複現。這些數字展示了在特定測試下報告出的效率與效能取捨；它們並未證明所有程式代理工作負載都會看到相同成本降低或相同保留分數。

更廣泛的重點在方法論。SoL-Pi 將程式代理最佳化的一部分重新界定為執行框架工程：控制動作、壓縮上下文、封裝觀察，並在不丟棄行動所需資訊的情況下降低證據量。EdgeBench 上 API 成本降低約三分之一是標題結果，但更持久的問題是，這類執行框架側機制能否在不同代理、模型與任務之間被一致量測，而不讓失敗模式隱藏在壓縮之後。