菲律賓公民社會的 AI 風險盤點

菲律賓的 Foundation for Media Alternatives（FMA）10 月 30 日發布一份 AI 風險盤點報告，整理兩場工作坊的討論。參與者來自人權、勞工、性別、媒體與環境等領域的公民團體與基層組織，以及學者、技術人員、記者與數位權利的法律工作者。報告列出 AI 在勞動、假訊息、隱私、教育、環境與創意產業的風險，再分別向國會、行政機關、平台與 AI 開發者提出建議。內容針對菲律賓的法案與政策，其他地方的讀者不受直接影響。

兩場工作坊在 7 月 28 日與 9 月 23 日舉行，第二場補上第一場缺少的環境、健康與創意領域。依報告的方法說明，各組討論 AI 在自己的領域如何產生影響、誰受益誰受害、看到哪些具體事件，以及有哪些現有的法律或保護可以適用。風險標在可能性與嚴重度的矩陣上，等級由各組在工作坊裡自行評定，報告沒有列出參與人數與組織數。報告也寫明風險一節只代表參與者的看法，不代表任何組織或機構的立場，建議也不應讀成每個參與組織的共識。

依報告的整理，菲律賓最普遍、橫跨各領域的風險是工作取代與勞動加劇。勞動加劇指工作量與速度增加卻沒有額外報酬。企業流程外包（BPO，例如客服與後勤外包）業有品質保證人員因自動化失業，另一家 BPO 業者約有 1,500 人遭解僱（報告寫的是估計數字），據稱與 AI 驅動的調查或監控（survey/monitoring）功能有關。大型平台的內容審核員擔心自己的審核成果被當成機器學習的訓練資料，訓練出來的系統最後會取代自己。

風險矩陣裡，可能性與嚴重度都評為高的還有科技促成的性別暴力、AI 生成的兒少性虐待素材、對活動人士的監控，以及假訊息。報告寫假訊息正在侵蝕外界對媒體與政府的信任。公共資料被私人取用、資料中心的環境衝擊、AI 訓練資料的不透明與偏誤，也列在最高等級。

隱私一節裡，參與者認為菲律賓的《2012 年資料隱私法》（Data Privacy Act of 2012）用來治理 AI 的效果有限。被蒐集的資料在公司易主之後歸誰、使用者如何跨境主張權利，報告列為還沒有答案的問題。

報告也列出 AI 在人權工作上的保護用途，例如翻譯、撰寫補助申請與用開源情資記錄侵害。環境組對資料中心的看法分歧，有人認為菲律賓不必在這些條件下跟鄰國競爭，也有人認為透明、公開稽核、可問責的資料中心是工業化與增加產值的機會。

報告的建議裡，許多項目不必等新法，行政機關、企業與社區可以依《資料隱私法》、環境影響評估制度與《勞動法典》（Labor Code）這些現有授權先做。報告把透明列為其他問責的前提，報告的理由是看不見訓練資料、資料蒐集、能源用水與 AI 輔助的決定，就無從評估或提出異議。依報告的建議，問責應落在上游的模型開發者、平台與大型部署者，受影響最深的群體也要在 AI 決策中有保障的席位。給企業與平台的建議包括宣告產品在哪些環節用了 AI、保存 AI 輔助決定的紀錄、接受獨立第三方稽核，以及讓創作者可以退出訓練資料並取得補償。

導讀觀點

報告分析的七件 AI 法案都是眾議院的草案，已交給眾議院資訊與通訊科技委員會的技術工作小組，到報告發布時仍在合併成替代法案《Artificial Intelligence Development and Regulation Act》。依 PhilStar 7 月 14 日刊出、頁尾標示為投稿（Contributed story）的稿件，當時的替代法案版本裡，多數 AI 系統不必向政府登記。登記與安全檢查只適用於決定貸款、工作與健康的高風險系統，新創可以在政府設立的監管沙盒裡開發與測試。同一篇稿件引述工作小組主席的說法，目標是一部創新者能依循、監管者能執行、每個菲律賓人都能信任的法律。

依報告對七案的九項標準比較，部分法案的登記範圍前後不一致，現有的高風險分類也還沒有反映參與者記下的傷害。報告的建議是明列影響兒童、神經多樣者（neurodivergent people）與其他弱勢群體的系統、替學生與工人評分評量或拒絕工作、貸款與服務申請的系統，以及包括政府健康監測與分析在內的醫療 AI。問責要放在上游的基礎模型提供者，要求它們在國內營運前設立並登記本地代表，讓上游提供者在菲律賓有承擔法律義務的對象。中小企業照規模比例適用、不全面豁免。

報告對勞動的建議是修訂勞動與社會保障的法規，並對高運算用量的 AI 使用課徵附加費（例如以營收或用量門檻認定），用來成立福利基金照顧現有保障涵蓋不到的工人。依 PhilStar 的稿件，7 月時的替代法案版本寫明不得只靠演算法解僱菲律賓人，雇主在 AI 造成人員取代之前要提前 60 天通知並提供再培訓。

行政機關方面，報告的建議是在新法通過前先成立跨部會的 AI 任務小組，並從一開始就定出轉為常設機構的路徑。依 BusinessWorld 4 月 29 日的報導，經濟、規劃與發展部（DEPDev）公布 AI 治理框架草案，列出倫理與網路犯罪、資安與資料隱私、勞動市場衝擊、智慧財產與反壟斷、環境與資源消耗等風險。依報告，參與者預期框架的內容會偏一般性，不太可能處理工作坊提出的問題。DEPDev 的部長在同一篇報導裡說，沒有好的政策與清楚的治理框架，人民會暴露在不必要的風險裡（本文到 11 月 3 日沒有查到框架是否已定稿）。

到 11 月 3 日為止，本文沒有查到資訊與通訊科技部（DICT）、國家隱私委員會（NPC）、DEPDev 對這份報告的公開回應，報告提到的業者與平台則沒有另外查詢。上面政府這一方的考量取自 PhilStar 的投稿稿件與 BusinessWorld 的報導，報告列出的個案與風險評等目前只看到報告這一方的說法。

報告的建議裡跟匿名與隱私工具最接近的是社區自有、在地控制的技術，例如在本地網路或離線運作、不必依賴大型平台就能分享資訊與通報暴力的工具。參與者列出這類工具的障礙有成本、易用性與訊號，也提到早期的開源選項已遭棄置。參與者提到，如果要替倖存者開發 AI 工具，應保障隱私、能轉介給真人並提供緊急求助的管道。

創意產業的參與者描述了幾種個人的做法，例如把自己的寫作放在封閉的專案資料夾，不用通用的聊天工具處理要發表的作品。報告同時寫明，素養的責任不應只落在使用者身上，許多人也覺得自己無力設下界線。參與的藝術工作者提到，作品一旦進入訓練資料就無法移除。本文據此推論，這類做法只能保護之後的作品，已經被抓取的內容不在範圍內。

比較各地的 AI 治理時，權利方面可以問企業要揭露哪些訓練資料與資料蒐集、受影響的人能不能對 AI 輔助的決定提出異議，以及監督機構有沒有法律授權與常設性。政策效果方面也可以問，像 7 月版本那樣只對高風險系統要求登記的做法，能不能同時讓新創有發展空間、讓監管機關實際執行。