（东西问）肖君拥：人工智能的已知人权风险及其法治化应对|

　　中新社北京4月20日电 题：人工智能的已知人权风险及其法治化应对　　作者 肖君拥 北京理工大学法学院教授、科技人权研究中心执行主任　　人工智能时代，人机交互模式正在各领域中深度融合。例如在交通领域，智能车凭借多个传感器与技术，为驾驶者提供诸如变道、泊车等高水准辅助；教育领域，智能辅导系统能通过自然语言处理技术理解学生问题，提供解答和指导；医疗领域，借助人工智能影像辅助筛查功能，医生能从海量影像中精准找出微小病灶，提升影像辅助诊断的精准度。　　人工智能技术对人类工作和生活的影响愈发深刻，对人权的保障有诸多的积极意义。但是，随着人工智能技术在各个领域不断推广，其应用也面临着或现实或潜在的人权风险，我们必须予以正视。如何通过法治化路径应对人权风险，是人工智能发展过程中的一道必答题。　　人工智能应用中的人权风险　　人工智能可能在数据、算法等方面形成人权风险，侵害人的生命权、健康权、财产权、隐私权、人身自由等权益。　　一是与数据有关的人权风险，包括数据过度收集、数据滥用、数据跨境传输等，都可能带来侵犯人权的问题。　　数据过度收集和滥用方面，一些企业在用户不知情的情况下收集位置信息、浏览记录等个人数据，或在未获得同意情况下将用户数据擅自出售给其他公司或机构，用于广告投放、市场调研等商业活动，侵犯用户的知情权和隐私权。若被不法分子用于诈骗、恶意骚扰等非法目的，将给用户带来精神困扰、财产损失，侵害其人身权利和财产权。　　数据跨境传输方面，由于不同国家间数据保护法规存在显著差异，数据在跨境流动期间面临保护缺失的困境。此外，某些国家出于特定目的，可能会借数据跨境传输之机，实施情报收集活动，进而对其他国家公民的隐私权构成侵犯。　　二是与算法有关的人权风险，包括数据偏差、算法逻辑错误、算法黑箱问题。　　数据偏差方面，训练人工智能算法的数据集可能存在偏差，导致分析结果失真，进而在决策中延续或放大现有不平等，影响某些群体权利实现，如招聘算法中的性别或年龄歧视。　　算法逻辑错误方面，在设计或实现过程中，逻辑错误会导致非预期行为或错误结果产生，进而侵害人权。如自动驾驶场景中的算法缺陷，导致车辆未正确处理道路突发状况(如行人突然出现)，引起事故，直接影响他人的生命权和健康权。　　算法黑箱问题方面，由于人工智能或大数据分析中，算法的输入、输出及运行过程不透明、不可知、不可解释，一些算法垄断行为会对消费者权益带来损害，用户的知情权、决策自主权面临被剥夺的风险。　　三是人类决策被取代所导致的人权问题。　　智能推荐系统通过算法架构，重塑用户的信息获取路径，使用户选择权被剥夺。例如，视频网站基于用户历史行为推荐相关内容，电商平台将高利润商品置于前列，一些社交平台的“关闭推荐”功能需经过多步操作，这些都导致用户信息接触范围逐渐收窄、选择权降低。　　此外，人工智能工具在提升效率的同时，可能导致人类决策者成为“技术附庸”，削弱专业人士的批判性思维，使决策过程从“人机协同”异化为“机器主导”，如医疗领域的“双重误诊风险”(人工智能误诊+医生盲从)等。　　人类的就业权也面临风险。世界经济论坛发布的《2025年未来就业报告》预测，到2030年全球将有9200万个岗位被人工智能取代，同期可能创造1.7亿个新岗位，形成显著的“岗位替代潮”。此外，由于就业门槛提高，低技能劳动者将难以适应新的就业市场，人工智能的数字鸿沟致使发展中国家岗位流失风险比发达国家高，易造成不同国家贫富差距扩大等问题。　　溯源人工智能应用的人权风险　　人工智能的人权风险，既来源于技术本身，也受到社会偏见、法律监管缺失等影响，主要可分为以下四个方面。　　一是算法黑箱问题。由于人工智能系统依赖于深度神经网络等复杂模型，其内部参数和计算流程常被视为“黑箱”，缺乏可解释性和透明度，严重削弱了对其决策的追责能力，也让个人权利保护面临巨大挑战。　　二是人为偏见的工具性放大。算法训练依赖历史数据，而历史数据常常蕴含歧视性偏见，这导致人工智能系统在性别、种族、残疾等维度上做出不公决策，弱势群体更易成为监控和错误风险评估对象，挑战了平等权和非歧视原则。　　三是商事策略与盈利动机。制造人工智能产品的私营企业，在追求商业利益过程中常以数据作为核心资产，产品在部署后难以从外部及时发现潜在人权侵害，也缺乏有效渠道进行纠正。　　四是法律缺失。当前，人工智能方面的法律和监管体系相对滞后，并缺乏统一的国际标准与强制性约束机制，这让企业在人工智能治理方面往往“无意识睡着”，或难以在不同司法辖区承担一致的人权责任。　　应对人权风险的法治化路径　　首先，加强人工智能人权风险的立法保障。一方面要进行顶层设计，例如中国于2023年10月发布的《全球人工智能治理倡议》，围绕人工智能发展、安全、治理系统阐述了人工智能治理的中国方案。另一方面要提升立法保障，包括国内立法中的民事法律和国家安全法律，信息合成规定、算法备案等行政法规，国家标准技术等。　　其次，加强人工智能人权风险的社会防控。为此，既要加强教育与普及，提高民众对人工智能技术的认知与应用能力，也要培养兼具技术理解、伦理意识、政策把握、国际视野的复合型人才，推动人工智能安全研究、人才培养和产学研合作。　　再次，加强人工智能人权风险的技术防控。针对数据安全，应继续落实《中华人民共和国个人信息保护法》第二十四条规定的自动化决策需透明化；针对算法歧视，监管机构应进一步落实《中华人民共和国数据安全法》第二十七条关于信息安全的要求，验证算法偏见或歧视现象；针对网络犯罪，应支持《中华人民共和国刑事诉讼法》中电子数据等证据的合法性认定，搭建国际联合取证平台，支持多国司法机构通过安全多方计算共享案件关键数据。针对企业监管，应要求企业建立数据防泄漏系统，提升自身系统防护能力，必要时与企业共同进行网络安全实战演练。　　最后，促进人工智能人权风险防控的国际合作。在国际规则制定方面，应防范单一国家或企业垄断关键算法技术，提升发展中国家的话语权；在加强国际合作方面，需继续强化联合国核心平台作用，推动《人工智能框架公约》等硬法建设，通过“技术—伦理—法律”三位一体的协作机制实现治理包容性。(完)　　受访者简介：　　肖君拥，北京理工大学法学院教授、博士生导师，国家人权教育培训基地北京理工大学科技人权研究中心执行主任。中国人权研究会理事、中国法学会法理学研究会和宪法学研究会理事。著有《人民主权论》《国际人权法讲义》《人权的道德维度》等。主讲《国际人权法》获北京市高校优质本科课程。曾数次参加联合国人权理事会大会和边会发言，多次赴美国、欧洲等地参加国际人权对话交流。

 搜狐小时报：各类热门书籍推荐与阅读体会

  2025.05.01,色影无忌全球中文影迷社区影视资源互享平台🛰️摩尔庄园中毛毛豆的位置详细介绍及获取攻略🐬🐘🚧CSOL多开技巧与软件下载推荐🛩️金刚杵汆肉莲的独特做法和美味分享

成全电视剧免费观看攻略与资源分享

  2025.05.01,1区2区3区4区产品乱码99🍩🐨🐯阿阿痛痛痛痛痛痛痛痛痛疼疼疼疼🪙娱乐行业中的选择与变动揭秘中国VPS在农民工中的使用现状🐸🍹🦎啊灬啊灬啊灬快灬深的含义

 早报：82板杨敏思版日本攻略与评测分析

  2025.05.01,风色幻想2中角色的成长与策略解析战斗必备指南🔗🦖淑荣说把船开到湖中间的友情考验与成长🐌🐏🫖久久日产一线二线SU车型的优势与特点全面解析🚫CF官网周末大作战活动介绍：畅享游戏乐趣赢取丰富奖励

法国航空满天星歌单和MV解析）

  2025.05.01,全免费短剧追剧软件推荐轻松追剧无障碍🐞🚥ANDROID成人向游戏推荐主流游戏及其特色🍭🌵LOL野兽之灵：英雄攻略与玩法分析分享🐢🍉烟台性息信息分享与最新动态更新

 据报道：小乌酱百合系列黑白双丝精彩观看推荐

  2025.05.01,甘雨脸红翻白眼流口水😍郑州人民银行打人事件视频曝光引发社会广泛关注🕊️🚔🍹光棍电影大全推荐让你过个充实的单身节🐄Hello小姐国语版剧情解析与推荐

人畜禽corporation的背景介绍与作品分析

  2025.05.01,外公欺负妈妈的秘密故事温情与辛酸交织💰Y水流遍各地畅享高清精彩视频🦏💣女婿为何一会称妈妈一会叫阿姨背后的意义🚫一线二线三线城市区别解析及选购指南