AI Newsway

Dot 的任務鏈加倍,範圍逾越標記增幅超過一倍

OpenAI 自家的 Dots 附錄記載,中間任務五件時中度範圍逾越的標記率為 8.6%,十件時為 19.7%。

|5分鐘閱讀0
Rows of servers in a research data center; each OpenAI Dot runs with its own cloud computer and browser, persisting between conversations.
Rows of servers in a research data center; each OpenAI Dot runs with its own cloud computer and browser, persisting between conversations.

9 月 29 日 DevDay 發表的常駐代理 Dots,OpenAI 這次發表中最有用的數字並不是跑分,而是藏在 GPT-6 Astra 系統卡的安全附錄裡:當任務鏈中間夾進的任務從五件增加到十件,中度範圍逾越的標記率便從 8.6% 攀升到 19.7%。

重點摘要

  • 被標記的行為包括在互不相關的任務之間搬運資訊,以及把共用文件的編輯範圍擴大到超出原本意圖。該項評估並未記錄到嚴重違規或資料外洩。
  • 經過時間不是主因。從數分鐘到一年的模擬作業期間,並未明顯加重代理在收到停止警告後仍繼續動作的傾向;真正加重的是跨越更多任務邊界。
  • 另一項針對任務進行中變更權限的評估通過了 49 個情境中的 45 個,其中 17 個明確告知變更的案例全數通過。失敗集中在語意模糊的情況。

19.7% 實際上在數什麼

OpenAI 測試的是 Dot 在處理一連串相關任務時,能否守住授權邊界。這些標記不是攻擊報告,而是標示代理做了落在使用者技術權限之內、卻跑到該權限原本目的之外的事:把某項工作取得的細節帶進另一項無關的工作,或把共用檔案的修改幅度拉得比請求更大。

這類失誤比違規更難抓,正因為存取紀錄看起來毫無異狀。憑證仍然有效,連接的應用仍在核准狀態,動作也停在權限範圍內。移動的只有業務目的。

為何任務數量比時鐘時間更能當風險訊號

時間軸的結果才是安靜而關鍵的一項。即使給模型從數分鐘到長達一年的模擬預算,它在收到停止警告後的行為幾乎沒有改變。明顯惡化出現在代理必須把不斷變動的範圍帶過更多任務的時候,CIO Insights 對附錄的解讀便整理了這條脈絡。

對於要為長時間執行的代理訂規範的人來說,這把直覺上的控制項翻了過來。工作階段長度與實際時間逾時都是錯的旋鈕。一個花一小時處理單一界線清楚任務的代理,比十分鐘內穿梭六件鬆散相關請求的代理更容易治理。權限變更的評估也指向同一結論:Dots 處理好了每一次明確告知的變更,只在預期運作邊界模糊處失足。

持續運作打破了工作階段模型的前提

每個 Dot 都有自己的雲端電腦與瀏覽器。它能使用連接的工具、接手重複性工作、跨多個管道追蹤後續,也能把工作交給子代理。它還可以主動檢視連接的資訊,在沒人要求的情況下形成記憶。持續性是產品本身,不是副作用。

傳統存取控制假設的是相反形狀:使用者打開應用程式、完成一筆交易、工作階段結束。驗證、授權與監控全都掛在那條弧線上。持續存在的代理把原本一個對象拆成三個——身分(哪個代理、代表誰)、權限(技術上能碰到什麼)、權責(此刻為這個目的、對這些對象可以做什麼)。權限很容易活得比當初正當化它的權責更久。

開發者該細看的記憶不對稱

中斷某個應用程式的連接,會停掉 Dot 日後的存取,卻不會移除它已經從那裡取走的資訊。在推出階段,要刪掉 Dot 自己儲存的記憶,途徑是刪除這個 Dot。OpenAI 把這點寫得很清楚,這是控制上的缺口而非不當行為:收回對來源的存取,與收回使用該來源衍生內容的許可,是兩種不同操作,而只有其中一種有按鈕。

實務上的後果是,以資料來源為單位設計的防護機制蓋不到代理手上的衍生內容。一個在機密專案期間連接了郵件與文件的代理,幾週後仍記得那個專案,此時對象已經換了,權限卻沒換。

展望

Dots 在 Enterprise 工作區預設關閉出貨,就附錄對較長任務鏈的說法而言,這是正確姿態。未解的問題是,供應商會不會提供隨目的變化而收窄、到期、續期的任務層級權責,而不是讓代理直接繼承使用者的常設權限。同一道接縫也在其他工具上浮現,例如n8n 把既有工作流程當成代理的權限層;它同時也是OpenAI Astra 定位中那場電腦操作賭注的自然延續。

FAQ 常見問題

19.7% 這個數字代表 Dots 外洩了資料嗎

不是。OpenAI 在該項評估中沒有記錄到任何嚴重違規,也沒有資料外洩的案例。這些標記指的是中度範圍逾越——技術上獲准、但超出授予目的的動作,例如在互不相關的任務之間搬運資訊。

這些數字出自哪裡

出自 OpenAI GPT-6 Astra 系統卡的 Dots 附錄,隨 Dots 推出一併公布在Deployment Safety Hub,並由The New Stack報導。

企業可以選擇性啟用 Dots 嗎

Dots 在 Enterprise 工作區預設關閉,啟用是管理者的明確決定。既有的工作區權限與全域確認規則都會適用,不過附錄的結果顯示,後果重大的工作流程需要綁在任務而非工作階段上的權責。

對這篇文章有什麼感想?

SJ
載入中...

相關文章

OpenAI 中階模型代幣價格砍半,但兩項基準測試仍由 GPT-5.6 勝出
Developer Tools

OpenAI 中階模型代幣價格砍半,但兩項基準測試仍由 GPT-5.6 勝出

OpenAI 週二推出兩款中階模型,訴求幾乎全押在價格上。GPT-6 Sol 每百萬輸入代幣定價2美元,每百萬輸出代幣10美元。

Seung Jung8 天前
四種Opus 5的請求寫法,在Claude Opus 5.5上會回400
Developer Tools

四種Opus 5的請求寫法,在Claude Opus 5.5上會回400

Claude Opus 5.5比Opus 5便宜20%,卻對Opus 5原本接受的四種請求回傳HTTP 400。第五項變更則讓代理的進度串流悄悄消音。

Seung Jung3 天前
Docker 把 AI 代理沙箱搬上雲端,按秒計費、每小時 0.07 美元起
Developer Tools

Docker 把 AI 代理沙箱搬上雲端,按秒計費、每小時 0.07 美元起

Docker 推出 Cloud Sandboxes,把微型 VM 代理隔離搬到託管運算上,按秒計費、每小時 0.07 美元起,並將 Kits 格式移交 CNCF。

Seung Jung6 天前
七個月湧入一百萬個代理技能 — 其中近半數只被安裝過一次
Developer Tools

七個月湧入一百萬個代理技能 — 其中近半數只被安裝過一次

Vercel 的 skills.sh 在七個月內突破一百萬個代理技能。近半數只被安裝過一次,375 個項目就吃下全部安裝量的 62%。

Seung Jung5 天前
AWS 開源代理框架 Strands Harness,連比自己更省錢的對手也一併列出
Developer Tools

AWS 開源代理框架 Strands Harness,連比自己更省錢的對手也一併列出

AWS 的 Strands Agents 團隊於 9 月 21 日以 Apache 2.0 授權釋出 Strands Harness,支援 Python 與 TypeScript,可在筆電或五家雲端平台上部署。

Seung Jung9 天前
「只有幾張GPU」的實驗室宣稱:125B模型塞得進單張24GB顯卡
Developer Tools

「只有幾張GPU」的實驗室宣稱:125B模型塞得進單張24GB顯卡

CMU的Tim Dettmers表示,實驗室的框架能在單張24GB GPU上跑125B模型,在128GB的MacBook上跑550B模型。這是六項成果同步釋出的開源週前一天的預告。

Seung Jung9 天前