【科学随笔】

　　数智经济时代，对着屏幕点头、眨眼的刷脸动作早已融入日常生活。无论是办业务还是登录账号，仿佛只要“刷脸”，就能证明“我就是我”。然而，不法分子已经能够通过AI技术“偷走你的脸”。比如山东青岛胶州市警方破获的一起案件中，不法分子利用AI技术合成动态人脸视频，进行虚假实名认证，实施诈骗等犯罪行为，贩卖账号8万余个，非法获利60余万元。“如何证明我是我”正在从一个哲学问题变成一个现实问题。

　　如今的AI，已经从一种好用的工具，变成嵌入日常生活的数字基础设施。我们越是习惯它带来的便利，越应该时刻警惕它可能带来的种种现实风险。今年，工业和信息化部等十部门印发《人工智能科技伦理审查与服务办法（试行）》，为AI创新系上了“第一粒扣子”，它要求AI治理不能等到风险发生后再补救，而要推动治理关口前移，让“负责任”成为AI创新一开始就要遵守的要求。这一粒“扣子”，所追问的不只是AI创新“能不能做”，更是“该不该做”“怎么无害地做”。

　　人工智能科技伦理审查，保护的是每一个普通的个体。AI工具看似使用门槛很低，但背后的技术机制复杂且不透明，对于大多数用户来说是一个“黑箱”。更大的问题在于，AI的运行离不开对个人数据的处理，其调用的不仅是年龄、性别等通用信息，还可能包括生物识别、行为轨迹、消费偏好乃至情绪反应等可以“勾勒”一个人的深层数据，这些数据不只是标识化的记录，更是个体人格权益的延伸。然而，很多用户基于对AI平台的信任，在冗长复杂的“信息确认”面前，很难真正理解自己同意了什么，这就使得用户在AI面前几乎是一个“数字透明人”：我们的身份可能被冒用，账号可能被盗取，名誉可能被损害，甚至生活秩序也可能被打乱。伦理审查便是在技术进入真实场景前，把数据来源、知情同意、风险告知和责任承担这些问题理清楚，虽然这看上去“不够技术”，却决定着技术到底是在保护人，还是在消耗人的安全感与自主性。

　　更深一层看，人工智能风险从来不只关乎某一个人，还涉及人和人之间的交互关系。如果说“偷走你的脸”只是一次个人信息侵害，那么各种身份伪造和内容合成技术被滥用，就会改变社会信任的底层结构：老师很难搞清楚学生的作业出自谁手，消费者难以分辨与其对话的客服到底是不是“真人”，热恋者也未必分得清屏幕那端的温柔回应是不是真诚的情感。信任受损，不只会导致沟通成本的上升，甚至会削弱整个社会的善意与责任感。伦理审查就要求在这些AI生成的各类假象上，说明系统用途、潜在风险和责任边界，为人们的数字交往搭建可信基础。

　　伦理审查要防范的更隐蔽问题，则是藏在代码中的“偏心眼”，即社会公平问题。如今，在求职招聘、信用评估、医疗辅助等公共场景中，AI正逐步参与甚至主导评价标准，将繁杂信息转换为量化指标和决策动作。表面上看，AI不像人那样受情绪和偏好影响，也不被“人情关系”绑架，似乎更加客观。但AI输出的不是无源之水，它高度依赖训练数据、评价规则和设计目标。一旦社会中的结构性偏差被编码进技术流程，最终就可能以“客观结果”的面貌出现。从电商平台报价中的“大数据杀熟”，到招聘系统根据学历背景、职业经历等标签对求职者进行“歧视性筛选”，AI未必公开表达偏见，却可能在一次次看似中性的技术判断中放大不公平。人们期待AI减少人为偏见，但它很可能会变成一个披着科技外衣的成见“放大器”。伦理审查便是要在AI进入公共场景前，为判断依据、数据偏差和群体影响多设一道公平校验，防止旧有成见被包装成新的技术结论。

　　有人担心伦理审查会拖慢人工智能创新的脚步。其实，真正有价值的AI创新，不可能靠“先上线、再补洞”的路径走深走远。AI越深入生活，越要回答几类现实问题：能不能保护个人权益，能不能维持可信交往，能不能促进社会的公平福祉。如果这些问题处理不好，AI企业跑得越快，风险积累得也越快；一旦出现隐私泄露、深度伪造、算法歧视等问题，就可能失去用户信任，并为此付出更高的治理代价。

　　从这个意义上说，伦理审查不是给AI创新踩刹车，而是给它“装方向盘、系安全带”，让技术知道往哪里走的同时，也让创新在提速时不至于失控。

　　《人工智能科技伦理审查与服务办法（试行）》的审查标准要求AI创新不能只看效率、性能和商业收益，还要把保护隐私安全、确保可控可信、维护公平公正等价值要求，转化为研发和应用过程中的具体约束；风险防控要求重点对那些可能深度影响人的身心状态和社会认知，或能够在重要场景中高度自主决策的AI系统，提前进行更审慎的风险评估和伦理复核。可以说，伦理审查不是把创新拦在门口，而是让风险越高的技术越早接受更严肃的追问。

　　为AI创新系好“第一粒扣子”，不是害怕技术向前，而是希望它在改变世界之前，先学会尊重生活其中的人。当负责任创新成为技术共同体的基本共识，当伦理要求真正进入研发与应用全过程，AI才能在扩展能力边界的同时，守住文明的底线。

　　（作者：杨 桦 于 帅，分别系北京工业大学马克思主义学院讲师，中山大学计算机学院副教授）