双刃剑效应日益凸显，推动国际社会加快构建治理框架。
2021 年 11 月联合国教科文组织发布《人工智能伦理建议书》。2025 年 7 月世界人工智能大会发表《人工智能全球治理行动计划》。2025 年 8 月联合国决定设立人工智能独立国际科学小组与人工智能治理全球对话两大机制。
2021 年之后隔了将近四年才有下一个重要节点，而这四年正是大模型爆发的四年。技术跑在了规则前面，这就是第 79 页要讲的治理滞后。
AI 在提升生产效率与创新能力的同时，也带来了隐私侵蚀、安全风险、社会不公及地缘冲突等多重挑战。好处和风险是同一项技术带来的，不能只要一头。
技术发展比规则制定快，会带来什么后果？
最高层级是公约，最实用的抓手是标准。
国际公约旨在确立具有法律约束力的全球原则，但各国在主权理念上存在分歧，而且技术迭代速度远超法律制定周期。标准规范通过统一规则影响系统设计与行业实践，尽管缺乏强制约束力，却能通过认证机制影响产业准入与技术设计方向。
西方国家强调全球公域治理，中俄等国主张网络主权原则。前者认为网络空间是全人类共有的，后者认为一国境内的网络归该国管。出发点不同，很多具体条款就谈不拢。
ISO/IEC 42001 与 IEEE Ethically Aligned Design 这类标准虽然不是法律，但产品要进入市场往往要过认证。不遵守就卖不出去，这比法律条文见效快。
没有强制力的标准，为什么企业还愿意遵守？
各国监管路径不同，企业自律填补空白但约束力有限。
欧盟的AI法案构建基于风险的四级监管体系。美国以行政命令与州法并行推进。中国则强调数据安全与内容治理。三条路子出发点不同，具体要求也不同。
各国法规存在域外适用与规则冲突问题。一家公司的产品要在全球卖，就得同时满足几套互相不完全兼容的规则，成本很高，有时甚至互相打架。
科技公司通过签署AI行为准则等方式建立自律规范，但自律可能受到商业利益影响，存在伦理洗白与执行不一致的问题。企业自定规矩、自查自纠，可信度天然有限。
让企业自己定规矩自己遵守，问题在哪？
目前主要由国际组织推动，多边倡议主导但缺乏强制执行力。
联合国教科文组织《AI伦理建议书》与经合组织AI原则构成全球基础治理框架，但多以原则性文件为主，缺乏约束机制。国际电信联盟与联合国报告进一步推动AI与可持续发展、数据隐私与伦理规范的国际协同，但整体仍停留在共识构建阶段。
写的是应当保障公平、应当保护隐私这一类话。方向没错，但没说具体怎么做、做不到怎么办。所以更像共识，不像规则。
先把大家的想法拉到一起，才谈得上下一步定规则。这一步看着慢，但跳不过去。
一份没有处罚条款的国际文件，还有用吗？
正在形成以区域集团为核心的多中心格局。
欧盟以数字主权为核心建立强监管体系，美国推动联盟化的轻触式治理，中国强调以人为本与数字基础设施合作输出。三者的侧重点差别很大。
强监管是先立规矩再让你做，做之前要过审。轻触式是先让你做，出了问题再管。前者安全但慢，后者快但风险高。
美欧技术贸易委员会、美日合作及金砖机制等多边合作逐步展开，但仍主要集中在技术协调层面。也就是说能谈的是技术接口，难谈的是价值判断。
先审后放和先放后管，你觉得哪种更适合AI？
技术跑得比立法快，监管规则难以及时覆盖新风险场景。
横轴是治理成熟度，纵轴是AI能力。红色那条AI能力曲线一路陡峭上升，蓝色那条治理曲线平缓得多，两者之间那块被标为治理鸿沟。
上半部分是技术事件，从 2018 年的 GPT-1 到 ChatGPT、Stable Diffusion、LLaMA、GPT-4、Gemini。下半部分是政策事件，明显少而且都排在后面。技术在前，政策在追。
页面写着多模态大模型可用于生成虚假信息，但现有法规仍缺乏精准约束能力。规则往往是针对已经出现的问题制定的，新形式的问题出现时总是无规可依。
规则总是滞后于技术，这个问题有解吗？
军事AI使伦理边界更加模糊，技术脱钩削弱全球协作。
军事AI如无人机群与认知战系统使伦理边界更加模糊，但国际层面缺乏有效约束机制。中美技术脱钩与标准竞争削弱全球协作能力，阻碍数据共享与联合治理。
一个自主武器系统在没有人下令的情况下开火，责任算谁的。这个问题目前在国际法上没有明确答案，而技术已经做得到了。
治理需要各方交换信息、统一标准。技术阵营分开之后，连基本的技术细节都不互通，就更谈不上一起制定规则了。
让机器自己决定开不开火，问题出在哪？
不同文化对AI伦理存在差异，发展中国家处于弱势。
不同文化对AI伦理存在差异，发展中国家在技术与算力方面处于弱势，可能加剧数字不平等。未来需构建联合国、区域、国家、行业多层治理框架，并结合技术工具提升治理效率。
隐私的边界、集体与个人的关系、什么算冒犯，不同社会的判断本来就不一样。想定一套所有人都认可的AI伦理标准，难度不在技术。
全球层面定原则，区域层面定规则，国家层面立法，行业层面做标准。每一层管自己能管的，不指望一份文件解决所有问题。
一套AI伦理标准，能适用于全世界所有文化吗？