（东西问）肖君拥：人工智能的已知人权风险及其法治化应对|

　　中新社北京4月20日电 题：人工智能的已知人权风险及其法治化应对　　作者 肖君拥 北京理工大学法学院教授、科技人权研究中心执行主任　　人工智能时代，人机交互模式正在各领域中深度融合。例如在交通领域，智能车凭借多个传感器与技术，为驾驶者提供诸如变道、泊车等高水准辅助；教育领域，智能辅导系统能通过自然语言处理技术理解学生问题，提供解答和指导；医疗领域，借助人工智能影像辅助筛查功能，医生能从海量影像中精准找出微小病灶，提升影像辅助诊断的精准度。　　人工智能技术对人类工作和生活的影响愈发深刻，对人权的保障有诸多的积极意义。但是，随着人工智能技术在各个领域不断推广，其应用也面临着或现实或潜在的人权风险，我们必须予以正视。如何通过法治化路径应对人权风险，是人工智能发展过程中的一道必答题。　　人工智能应用中的人权风险　　人工智能可能在数据、算法等方面形成人权风险，侵害人的生命权、健康权、财产权、隐私权、人身自由等权益。　　一是与数据有关的人权风险，包括数据过度收集、数据滥用、数据跨境传输等，都可能带来侵犯人权的问题。　　数据过度收集和滥用方面，一些企业在用户不知情的情况下收集位置信息、浏览记录等个人数据，或在未获得同意情况下将用户数据擅自出售给其他公司或机构，用于广告投放、市场调研等商业活动，侵犯用户的知情权和隐私权。若被不法分子用于诈骗、恶意骚扰等非法目的，将给用户带来精神困扰、财产损失，侵害其人身权利和财产权。　　数据跨境传输方面，由于不同国家间数据保护法规存在显著差异，数据在跨境流动期间面临保护缺失的困境。此外，某些国家出于特定目的，可能会借数据跨境传输之机，实施情报收集活动，进而对其他国家公民的隐私权构成侵犯。　　二是与算法有关的人权风险，包括数据偏差、算法逻辑错误、算法黑箱问题。　　数据偏差方面，训练人工智能算法的数据集可能存在偏差，导致分析结果失真，进而在决策中延续或放大现有不平等，影响某些群体权利实现，如招聘算法中的性别或年龄歧视。　　算法逻辑错误方面，在设计或实现过程中，逻辑错误会导致非预期行为或错误结果产生，进而侵害人权。如自动驾驶场景中的算法缺陷，导致车辆未正确处理道路突发状况(如行人突然出现)，引起事故，直接影响他人的生命权和健康权。　　算法黑箱问题方面，由于人工智能或大数据分析中，算法的输入、输出及运行过程不透明、不可知、不可解释，一些算法垄断行为会对消费者权益带来损害，用户的知情权、决策自主权面临被剥夺的风险。　　三是人类决策被取代所导致的人权问题。　　智能推荐系统通过算法架构，重塑用户的信息获取路径，使用户选择权被剥夺。例如，视频网站基于用户历史行为推荐相关内容，电商平台将高利润商品置于前列，一些社交平台的“关闭推荐”功能需经过多步操作，这些都导致用户信息接触范围逐渐收窄、选择权降低。　　此外，人工智能工具在提升效率的同时，可能导致人类决策者成为“技术附庸”，削弱专业人士的批判性思维，使决策过程从“人机协同”异化为“机器主导”，如医疗领域的“双重误诊风险”(人工智能误诊+医生盲从)等。　　人类的就业权也面临风险。世界经济论坛发布的《2025年未来就业报告》预测，到2030年全球将有9200万个岗位被人工智能取代，同期可能创造1.7亿个新岗位，形成显著的“岗位替代潮”。此外，由于就业门槛提高，低技能劳动者将难以适应新的就业市场，人工智能的数字鸿沟致使发展中国家岗位流失风险比发达国家高，易造成不同国家贫富差距扩大等问题。　　溯源人工智能应用的人权风险　　人工智能的人权风险，既来源于技术本身，也受到社会偏见、法律监管缺失等影响，主要可分为以下四个方面。　　一是算法黑箱问题。由于人工智能系统依赖于深度神经网络等复杂模型，其内部参数和计算流程常被视为“黑箱”，缺乏可解释性和透明度，严重削弱了对其决策的追责能力，也让个人权利保护面临巨大挑战。　　二是人为偏见的工具性放大。算法训练依赖历史数据，而历史数据常常蕴含歧视性偏见，这导致人工智能系统在性别、种族、残疾等维度上做出不公决策，弱势群体更易成为监控和错误风险评估对象，挑战了平等权和非歧视原则。　　三是商事策略与盈利动机。制造人工智能产品的私营企业，在追求商业利益过程中常以数据作为核心资产，产品在部署后难以从外部及时发现潜在人权侵害，也缺乏有效渠道进行纠正。　　四是法律缺失。当前，人工智能方面的法律和监管体系相对滞后，并缺乏统一的国际标准与强制性约束机制，这让企业在人工智能治理方面往往“无意识睡着”，或难以在不同司法辖区承担一致的人权责任。　　应对人权风险的法治化路径　　首先，加强人工智能人权风险的立法保障。一方面要进行顶层设计，例如中国于2023年10月发布的《全球人工智能治理倡议》，围绕人工智能发展、安全、治理系统阐述了人工智能治理的中国方案。另一方面要提升立法保障，包括国内立法中的民事法律和国家安全法律，信息合成规定、算法备案等行政法规，国家标准技术等。　　其次，加强人工智能人权风险的社会防控。为此，既要加强教育与普及，提高民众对人工智能技术的认知与应用能力，也要培养兼具技术理解、伦理意识、政策把握、国际视野的复合型人才，推动人工智能安全研究、人才培养和产学研合作。　　再次，加强人工智能人权风险的技术防控。针对数据安全，应继续落实《中华人民共和国个人信息保护法》第二十四条规定的自动化决策需透明化；针对算法歧视，监管机构应进一步落实《中华人民共和国数据安全法》第二十七条关于信息安全的要求，验证算法偏见或歧视现象；针对网络犯罪，应支持《中华人民共和国刑事诉讼法》中电子数据等证据的合法性认定，搭建国际联合取证平台，支持多国司法机构通过安全多方计算共享案件关键数据。针对企业监管，应要求企业建立数据防泄漏系统，提升自身系统防护能力，必要时与企业共同进行网络安全实战演练。　　最后，促进人工智能人权风险防控的国际合作。在国际规则制定方面，应防范单一国家或企业垄断关键算法技术，提升发展中国家的话语权；在加强国际合作方面，需继续强化联合国核心平台作用，推动《人工智能框架公约》等硬法建设，通过“技术—伦理—法律”三位一体的协作机制实现治理包容性。(完)　　受访者简介：　　肖君拥，北京理工大学法学院教授、博士生导师，国家人权教育培训基地北京理工大学科技人权研究中心执行主任。中国人权研究会理事、中国法学会法理学研究会和宪法学研究会理事。著有《人民主权论》《国际人权法讲义》《人权的道德维度》等。主讲《国际人权法》获北京市高校优质本科课程。曾数次参加联合国人权理事会大会和边会发言，多次赴美国、欧洲等地参加国际人权对话交流。

 搜狐小时报：18禁新电影评选年终最佳影片推荐

  2025.05.01,歪歪漫画登录页面领取免费书币轻松畅享海量漫画内容🍭🌾🌟日产无人区一线二线三线2021🕊️🐀🐱三叶草GW4333的装备攻略与热门玩法解析⛔天狼西瓜影视推荐：不可错过的精彩影片

武林三国外挂使用技巧与注意事项

  2025.05.01,甘雨白色脓液的原因及处理方法揭秘🐥きょくちょ哔咔带你探索独特体验🐭🐀🐧电影院分区售票新模式介绍🐄🐾和朋友换麦

 早报：乱系列140肉艳1一12

  2025.05.01,老公为什么一直咬我的小兔兔🐇人类与吸血鬼角色推荐以及最新角色扮演游戏精彩解析🐢再把双腿张开点就能享受到美味扇贝的窍门🐾🧨📢洛克王国御风术技能介绍与使用技巧

精产一二三产区区别解析与优势对比）

  2025.05.01,西施流眼泪翻白眼咬铁球图片🪖国语对白农村老太婆BBw🚀梦幻群侠传3最新存档下载及使用方法⛽😍王钟瑶事件5分37秒线上：揭秘王钟瑶事件的五分三十七秒视频内容

 据报道：李毅吧黑木耳B全图的详细分享与讨论

  2025.05.01,娘家情深第三部剧情揭秘感人故事让人流泪🐣🦃🍒选择武魂少林血统攻略助你提升实力🔇📡🦖MIYA188.COO平台介绍探讨网络交流的新方式🐜🫐96款板金银瓶系列1-5：探索优雅与实用的完美结合

科技前沿资讯聚焦最新科技发展与应用趋势保持对未来的洞察

  2025.05.01,天下第一社区视频在线观看最新信息与更新🪲各类免费软件及视频资源一站式获取🐆🧨🧱获取稀有道具的秘籍与攻略一线免费高清观看视频在线观看🛑介绍火炬之光2热门联机游戏平台与玩法freemobilechina手机畅玩技巧