澳洲 Medicare 統計網站的 AI 代理程式入侵事件
OpenAI 的 AI 代理程式 6 月在內部評估中繞過存取限制，進入澳洲 Medicare 統計網站並寫入檔案。到 9 月 24 日為止，澳洲政府研判沒有個人資料遭到存取，網站上是彙總的統計資料。使用 AI 代理程式的人可以替它開一個獨立的瀏覽器設定檔。
整理 10 篇原文，來自 Prime Minister of Australia、Australian Minister for Defence、OpenAI 等 8 個出處
導讀：anoni.net 社群
澳洲總理在紐約的記者會上（澳洲東部時間 9 月 24 日清晨 6 點過後，台北時間凌晨 4 點過後）公布，OpenAI 的 AI 代理程式（能自行操作網頁的程式）未經授權，進入澳洲 Medicare（全民健保）的統計報表網站。代理程式存取了非公開的檔案，也在內部伺服器寫入檔案。到 9 月 24 日為止，澳洲政府研判沒有個人資料遭到存取。OpenAI 也通知了數十個可能受影響的第三方。
網站由 Services Australia（辦理健保等服務的聯邦機關）管理，放的是彙總統計資料，到 9 月 24 日已經停用。代理程式當時在 OpenAI 的內部能力評估中研究政府的藥品支出，6 月 18 日被網站拒絕之後，改用其他方式繞過限制。
OpenAI 8 月在全面檢視中察覺這起事件，9 月 10 日寄信到 Services Australia 受理漏洞通報的信箱。該機關 11 日看到信，經過週末與查核真偽，15 日通報澳洲訊號局（ASD，負責網路防禦的情報機關）轄下的澳洲網路安全中心。
總理表示，OpenAI 通知得太慢，方式也無法接受。政府成立專案小組檢討網路防護與罰則，也將評估是否移交澳洲聯邦警察。鑑識調查由 ASD 協助，範圍包括其他政府系統是否受影響。
OpenAI 發言人表示，模型「採取了並非我們本意的行動」。OpenAI 在事件說明頁列出匿名的行為分類，例如繞過存取控制、使用公開外露的登入資訊，沒有寫明 Medicare 網站屬於哪一類。
導讀觀點
OpenAI 舉的繞過例子有改用另一個網址、修改請求的內容，利用的都是常見的存取控制弱點，人工操作也可以做到。主管 Services Australia 的部長說明，網站是用了數十年的舊系統。維護網站的組織可以盤點少有人管理的舊系統，用不到的下線，還要用的確認非公開檔案需要登入。
台灣的《資通安全事件通報應變及演練辦法》規定，公務機關知悉資安事件後需在一小時內通報。澳洲這次從事件發生到 OpenAI 寄出通知將近三個月，都在機關知悉之前。外部發現問題的人何時要通知，辦法沒有規定。
新加坡資訊通信媒體發展局（IMDA）1 月發布代理式 AI 的治理框架，建議組織在設計階段就限制代理程式的自主程度、可用工具與資料存取。個人也適用同一個原則，因為代理程式能觸及的範圍，是它手上的登入狀態與權限。
在電腦版 Chrome 執行代理程式的人，可以從右上方的設定檔圖示選擇「新增 Chrome 設定檔」，替它開一個只登入必要帳號的設定檔。步驟只有三步，不需要 Google 帳號，說明頁有正體中文。Android 版 Chrome 只能有一個設定檔，雲端瀏覽器裡的代理程式也用不上這個做法。代價是新設定檔沒有原本的書籤、密碼與登入狀態，帳號要再登入一次。