菲律宾公民社会的 AI 风险盘点

菲律宾的 Foundation for Media Alternatives（FMA）10 月 30 日发布一份 AI 风险盘点报告，整理两场工作坊的讨论。参与者来自人权、劳工、性别、媒体与环境等领域的公民团体与基层组织，以及学者、技术人员、记者与数字权利的法律工作者。报告列出 AI 在劳动、虚假信息、隐私、教育、环境与创意产业的风险，再分别向国会、行政机关、平台与 AI 开发者提出建议。内容针对菲律宾的法案与政策，其他地方的读者不受直接影响。

两场工作坊在 7 月 28 日与 9 月 23 日举行，第二场补上第一场缺少的环境、健康与创意领域。依报告的方法说明，各组讨论 AI 在自己的领域如何产生影响、谁受益谁受害、看到哪些具体事件，以及有哪些现有的法律或保护可以适用。风险标在可能性与严重度的矩阵上，等级由各组在工作坊里自行评定，报告没有列出参与人数与组织数。报告也写明风险一节只代表参与者的看法，不代表任何组织或机构的立场，建议也不应读成每个参与组织的共识。

依报告的整理，菲律宾最普遍、横跨各领域的风险是工作取代与劳动加剧。劳动加剧指工作量与速度增加却没有额外报酬。企业流程外包（BPO，例如客服与后勤外包）业有质量保证人员因自动化失业，另一家 BPO 业者约有 1,500 人遭解雇（报告写的是估计数字），据称与 AI 驱动的调查或监控（survey/monitoring）功能有关。大型平台的内容审核员担心自己的审核成果被当成机器学习的训练数据，训练出来的系统最后会取代自己。

风险矩阵里，可能性与严重度都评为高的还有科技促成的性别暴力、AI 生成的儿童性虐待素材、对活动人士的监控，以及虚假信息。报告写虚假信息正在侵蚀外界对媒体与政府的信任。公共数据被私人取用、数据中心的环境冲击、AI 训练数据的不透明与偏差，也列在最高等级。

隐私一节里，参与者认为菲律宾的《2012 年数据隐私法》（Data Privacy Act of 2012）用来治理 AI 的效果有限。被收集的数据在公司易主之后归谁、用户如何跨境主张权利，报告列为还没有答案的问题。

报告也列出 AI 在人权工作上的保护用途，例如翻译、撰写资助申请与用开源情报记录侵害。环境组对数据中心的看法分歧，有人认为菲律宾不必在这些条件下跟邻国竞争，也有人认为透明、公开审计、可问责的数据中心是工业化与增加产值的机会。

报告的建议里，许多项目不必等新法，行政机关、企业与社区可以依《数据隐私法》、环境影响评估制度与《劳动法典》（Labor Code）这些现有授权先做。报告把透明列为其他问责的前提，报告的理由是看不见训练数据、数据收集、能源用水与 AI 辅助的决定，就无从评估或提出异议。依报告的建议，问责应落在上游的模型开发者、平台与大型部署者，受影响最深的群体也要在 AI 决策中有保障的席位。给企业与平台的建议包括声明产品在哪些环节用了 AI、保存 AI 辅助决定的记录、接受独立第三方审计，以及让创作者可以退出训练数据并取得补偿。

导读观点

报告分析的七件 AI 法案都是众议院的草案，已交给众议院信息与通信技术委员会的技术工作小组，到报告发布时仍在合并成替代法案《Artificial Intelligence Development and Regulation Act》。依 PhilStar 7 月 14 日刊出、页尾标示为投稿（Contributed story）的稿件，当时的替代法案版本里，多数 AI 系统不必向政府登记。登记与安全检查只适用于决定贷款、工作与健康的高风险系统，初创企业可以在政府设立的监管沙盒里开发与测试。同一篇稿件引述工作小组主席的说法，目标是一部创新者能依循、监管者能执行、每个菲律宾人都能信任的法律。

依报告对七案的九项标准比较，部分法案的登记范围前后不一致，现有的高风险分类也还没有反映参与者记下的伤害。报告的建议是明列影响儿童、神经多样者（neurodivergent people）与其他弱势群体的系统、替学生与工人评分评量或拒绝工作、贷款与服务申请的系统，以及包括政府健康监测与分析在内的医疗 AI。问责要放在上游的基础模型提供者，要求它们在国内运营前设立并登记本地代表，让上游提供者在菲律宾有承担法律义务的对象。中小企业按规模比例适用、不全面豁免。

报告对劳动的建议是修订劳动与社会保障的法规，并对高算力用量的 AI 使用征收附加费（例如以营收或用量门槛认定），用来成立福利基金照顾现有保障涵盖不到的工人。依 PhilStar 的稿件，7 月时的替代法案版本写明不得只靠算法解雇菲律宾人，雇主在 AI 造成人员取代之前要提前 60 天通知并提供再培训。

行政机关方面，报告的建议是在新法通过前先成立跨部门的 AI 任务小组，并从一开始就定出转为常设机构的路径。依 BusinessWorld 4 月 29 日的报道，经济、规划与发展部（DEPDev）公布 AI 治理框架草案，列出伦理与网络犯罪、网络安全与数据隐私、劳动市场冲击、知识产权与反垄断、环境与资源消耗等风险。依报告，参与者预期框架的内容会偏一般性，不太可能处理工作坊提出的问题。DEPDev 的部长在同一篇报道里说，没有好的政策与清楚的治理框架，人民会暴露在不必要的风险里（本文到 11 月 3 日没有查到框架是否已定稿）。

到 11 月 3 日为止，本文没有查到信息与通信技术部（DICT）、国家隐私委员会（NPC）、DEPDev 对这份报告的公开回应，报告提到的业者与平台则没有另外查询。上面政府这一方的考量取自 PhilStar 的投稿稿件与 BusinessWorld 的报道，报告列出的个案与风险评级目前只看到报告这一方的说法。

报告的建议里跟匿名与隐私工具最接近的是社区自有、在地控制的技术，例如在本地网络或离线运作、不必依赖大型平台就能分享信息与通报暴力的工具。参与者列出这类工具的障碍有成本、易用性与信号，也提到早期的开源选项已遭弃置。参与者提到，如果要替幸存者开发 AI 工具，应保障隐私、能转介给真人并提供紧急求助的渠道。

创意产业的参与者描述了几种个人的做法，例如把自己的写作放在封闭的项目文件夹，不用通用的聊天工具处理要发表的作品。报告同时写明，素养的责任不应只落在用户身上，许多人也觉得自己无力设下界限。参与的艺术工作者提到，作品一旦进入训练数据就无法移除。本文据此推论，这类做法只能保护之后的作品，已经被抓取的内容不在范围内。

中国大陆的《个人信息保护法》第二十四条第三款规定，个人对以自动化决策方式作出的重大影响权益的决定有权要求说明，也有权拒绝仅以自动化决策方式作出的决定。条文写的是自动化决策，没有写生成式 AI（国家机关实务上如何适用，本文没有查到）。第六十二条由国家网信部门统筹协调，针对人脸识别、人工智能等新技术、新应用制定专门的个人信息保护规则、标准。《生成式人工智能服务管理暂行办法》第七条要求服务提供者处理训练数据涉及个人信息时取得个人同意或符合法律、行政法规规定的其他情形，办法只适用于向境内公众提供的服务（2023 年 8 月 15 日施行）。

政务方面，中央网信办与国家发展改革委的《政务领域人工智能大模型部署应用指引》由中国网信网在 2025 年 10 月 10 日刊登，没有写明法律效力。指引写明为各级政务部门提供工作导向和基本参照，并把大模型定位为「辅助型」。指引要求在应用界面显著位置设置风险提示、告知服务的局限性并标识输出内容，披露对象是界面的用户，没有写到受决定影响的当事人。

比较各地的 AI 治理时，权利方面可以问企业要披露哪些训练数据与数据收集、受影响的人能不能对 AI 辅助的决定提出异议，以及监督机构有没有法律授权与常设性。政策效果方面也可以问，像 7 月版本那样只对高风险系统要求登记的做法，能不能同时让初创企业有发展空间、让监管机关实际执行。