為什麼有些回覆很快而有些卻很慢?
區分模型生成、工具執行、批准和上下文組織。
耗時不僅僅是因為模型生成
簡短的問答可能很快完成,但 Agent 任務還涉及工具啟動、命令執行、網路請求、文件處理或等待批准。長上下文可能需要先進行組織,然後才能繼續,因此將所有等待時間簡單地解釋為「模型很慢」是不準確的。
觀察當前顯示是正在思考、工具運行中、內容組織中還是等待批准,有助於識別實際的瓶頸。
透過階段目標管理等待
對於大範圍的任務,首先獲得初步結論或檢查清單,然後決定深入探討哪個部分。這樣可以更早獲得可用結果,並且更容易發現目標是否偏離軌道。
例如,讓任務最初只檢查一個代表性樣本,並報告初步發現和預期的後續步驟,而不是一次處理所有材料。在確認方向正確後,再擴大範圍。這可以減少因長時間等待後才發現誤解而造成的返工。
- 確認最新的狀態更新和工具提示。
- 在需要批准時及時檢查操作。
- 對於長命令,優先繼續查看原始對話,以避免重複啟動。
- 在錯誤發生時處理明顯的錯誤,而不是繼續等待。
如何降低任務成本
請求優先處理最可能的原因,保存中間結果,並列出剩餘項目。您可以指定僅輸出關鍵證據和必要的解釋,然後根據需要擴展。切換模型可能會改變體驗,但不能保證固定的回應時間;網路、目標網站和本地電腦狀態也會影響整體完成時間。