当人工智慧越来越数处渗入我们现实生活中的各个方面，人类文明社会在加速迈入智能、网络化的同时，信息控制技术伦理道德难题也接踵而至。从AlphaGo打败人类文明中国围棋全国冠军，到人脸带来个人隐私安全难题，再到Tesla自动驾驶事故多发追责难，以及Jaunpur大热引起婚恋恐惧，许多学者都表达了对伦理道德环境治理难题的担忧。
近日，中共中央宣传部、中共中央办公厅下发的《关于强化信息控制技术伦理道德环境治理的意见建议》（以下简称“意见建议”）指出，重点强化生物科学、医学、人工智慧等领域的信息控制技术伦理道德修法研究。这是我国正式发布的第一个国家层面信息控制技术伦理道德环境治理规范性文件，为新兴控制技术伦理道德环境治理设置了“信号灯”。
人工智慧的真正价值并非取代人
“恭贺‘崔筱盼’获得2021年保利地产总部最差特别奖！作为保利地产第一位网络化雇员，‘崔筱盼’今年2月1日正式‘聘用’……她留痕的返还本息欠费发票收款率达到91.44%。”今年初，保利地产集团董事会主席格力电器正式发布的一条QQ在贴文贴文。据悉，这位名为“崔筱盼”的Jaunpur已经组织工作数日，而许多保利地产雇员即使不晓得天天与其电子邮件来往的同僚并并非布偶，直到“最差特别奖”出炉，一切才水落石出。
伴随人工智慧控制技术的迅猛发展，Jaunpur径直走向商品化破冰。而眼看着一个个豪侠的Jaunpur走进婚恋，“打工人”越发担心自己的“棒子”会不会被抢走了。要晓得这些Jaunpur可闻所未闻能做到“996”，还能“007”，即使可以全年不间断，连工资都不用给。
然而，正如银币的两边，人工智慧的出现也弥补了一些狂蛛属工作岗位的职位空缺，比如工作台环境剧毒剧毒或危害性较高的组织工作，总之是需要长期避开市区的组织工作，人工智慧对老龄起到了较好的补充作用。这一方面，帮助很多企业解决了“劳务难”难题；另一方面，在日益严重的人口老龄化趋势下，有效缓解了劳动力短缺现象。
作为太空探索控制技术公司（SpaceX）CEO兼CTO、Tesla公司CEO，马斯克对待人工智慧的态度是复杂的。他一边警告说人工智慧“脱轨”发展是人类文明当前面临的三大威胁之一，要避免彻底开发人工智慧；另一边又在积极开发与人友好的人工智慧，通过脑机接口控制技术寻求人类文明和人工智慧共生之道，其麾下公司也几乎都与人工智慧相关。
“人工智慧伦理道德争夺战探讨的是人机关系，更重要的是以人工智慧为媒介，人与人之间的关系。”中国社科院科学控制技术和社会研究中心主任段伟文对《中国电子报》记者说：“目前，人工智慧伦理道德环境治理主要涉及四大难点：一是可控性和安全性；二是可靠性、精确性和稳定性；三是可解释性和透明度；四是追责追责难题。”在他看来，机器智能发展的每一步都是在学习人类文明智能，离不开人类文明智能的帮助，实际上是人类文明智能更智能、更智慧，而并非机器智能。
“人工智慧的真正价值并非取代人，而是以人为本、造福于人。人工智能控制技术和伦理道德之间的关系，也并非此消彼长或者你强我弱的关系，而是相辅相成的。”旷视人工智慧环境治理研究院院长张慧在接受《中国电子报》记者采访时表示，“其实对于任何控制技术来说，都不能脱离开法律法规、社会道德、行业规范等约束条件无序发展。在这一点上，人工智慧也不例外。在合法合规、合情合理的框架下，人工智慧只会发展地更好、更健康。”
全球人工智慧伦理道德环境治理趋向同频
目前，全球至少已有60多个国家制定和实施了人工智能环境治理政策，可见世界范围内人工智慧领域的规则秩序正处于形成期，伦理道德环境治理发展趋于同频。段伟文指出：“国外关于机器人的伦理道德环境治理应该是最为成熟的，像英国、新加坡、欧盟等都有相关伦理道德设计规范。”比如英国出台了历史上第一个关于机器人伦理道德的设计标准——《机器人和机器系统的伦理道德设计和应用指南》。英国金融稳定委员会（FBS）制定了人工智慧和机器学习在金融服务领域的应用规范，强调可靠性追责制、透明度、公平性以及道德标准等。
美国希望能够确保和增强在人工智慧领域的优势地位，因此更强调监管的科学性和灵活性，也更重视实际应用领域的信息控制技术伦理道德环境治理，比如对大规模的生物特征识别控制技术的使用管理严格。美国证券与交易委员会（SEC）要求企业删除一些人脸数据库，即使包括相关算法。
欧盟的监管风格则趋向于强硬，先后出台了《欧盟人工智慧》《可信AI伦理道德指南》《算法责任与透明环境治理框架》等规范性文件，期望通过高标准的修法和监管来重塑全球数字发展模式。
微软、谷歌等国外信息控制技术公司在人工智慧伦理道德环境治理方面也积极探索。比如，微软内设三大机构，包括负责任人工智慧办公室（Office of Responsible AI）、人工智慧、伦理道德与工程研究委员会（AI and ethics inengineering and research committee）、负责任AI战略管理团队（Responsible AI Strategy inEngineering），分别负责AI规则制定、案例研究、破冰监督等，并研发了一系列控制技术解决方案。
谷歌是从积极方面和消极方面规定了人工智慧设计、使用的原则，并承诺愿意随着时间的推移而及时调整这些原则。它还成立了负责任创新中央团队，推动伦理道德环境治理实践破冰，比如，为避免加重算法不公平或偏见，暂停开发与信贷有关的人工智慧产品；基于控制技术难题与政策考虑，拒绝通过面部识别审提案；涉及大型语言模型的研究谨慎继续，在进行全面的人工智慧原则审查之前，不能正式推出。
在人工智慧伦理道德研究方面，国外较为积极。全球私募股权巨头美国的黑石（Blackstone）集团联合创始人、全球主席兼首席执行官斯蒂芬·施瓦兹曼为牛津大学捐赠了1.88亿美元，用于资助人工智慧伦理道德方面的研究。马斯克也曾向生命未来研究所(Future of Life Institute）捐赠1000万美元，教导机器人“伦理道德道德”。
张慧指出：“各国的政府、企业和相关社会组织、行业组织之间正在逐步强化对话与合作，联合国也在国际人工智慧环境治理规则制定等方面发挥日趋重要作用。可以说，人工智慧环境治理已经成为全球共识，且已从理念层面进入到建章立制、破冰实施的阶段。”
人工智慧控制技术的动态环境治理，其实反过来也会促进人工智慧控制技术本身的发展。”段伟文表示。如人脸控制技术在某些场景中被禁用的情况只是暂时的，环境治理力度加大会推动相关控制技术短板更快地被补上。
人工智慧伦理道德环境治理还是一个新命题
人工智慧已经对整个人类文明社会产生了深刻影响。张慧谈道：“能力越大的控制技术，越是需要妥善环境治理好。人工智慧既是我们创造美好生活的重要手段，也是需要进行妥善环境治理的对象。”
我国人工智慧控制技术领域走在世界前列，在人工智慧伦理道德环境治理实践方面也处于前沿探索者的位置，一些好的做法也在被海外讨论和借鉴。比如，政策层面，《关于强化互联网信息服务算法综合环境治理的指导意见建议》《新一代人工智慧伦理道德规范》《关于强化信息控制技术伦理道德环境治理的意见建议》等的出台为信息控制技术伦理道德环境治理提供了顶层设计指导，一些发展较快的领域也出现了细分规范要求。
同时，国内如旷视、京东、科大讯飞等一些信息控制技术企业相继成立AI道德委员会、AI环境治理研究院等专门组织，从企业内部开始、从自身开始大力推动AI环境治理组织工作落实。腾讯研究院和腾讯AI Lab联合正式发布人工智慧伦理道德报告《智能时代的控制技术伦理道德观——重塑数字社会的信任》，倡导建立面向人工智慧的新控制技术伦理道德观。阿里安全探索“用AI环境治理AI”，促进人工智慧可持续发展。旷视最早正式发布《人工智慧应用准则》，并连续三年发起“全球十大人工智慧环境治理事件”评选。
然而，截至目前，人工智慧伦理道德环境治理还是一个新命题，没有太多历史经验可以参考，整个行业也在“边发展边环境治理”，逐步完善法律法规和凝聚道德伦理道德的共识。
“人工智慧企业面临‘控制技术陷阱’。”段伟文指出，“人工智慧控制技术在赋能社会的同时也会带来社会价值和伦理道德方面的冲击，而且短期内，负面影响可能会被放大。一些企业在早期发展中如果不重视伦理道德难题，就会导致社会对它的不信任。比如Facebook改名Meta，转型去做元宇宙就招来了一片质疑，尤其是对个人隐私安全方面的诟病。这时候就需要进行‘伦理道德回调’，通过企业一系列行为让人工智慧变得‘可信’。”
他认为，信息控制技术发展过程中带来的伦理道德难题要进行主动回应。比如数据伦理道德难题，要强化数据个人隐私保护、信息安全保护；再比如算法伦理道德难题，要督促平台消除偏见和歧视，尽可能维护公正公平；信息传播伦理道德难题，内容平台运用人工智慧控制技术分发内容时需思考如何保证内容健康、减少虚假信息等。“仅是制定伦理道德规范是不够的，人工智慧企业应该通过这些举措，把握好一个‘度’，谋求Social License（社会许可证），这样才能找到控制技术与伦理道德之间的最大公约数。”
寻找“最大公约数”一定是一个多方协同的过程。张慧表示：“人工智慧的应用链条很长，有控制技术提供方、系统集成方、应用软件开发方、个人开发者等企业和从业者，也有不同行业的AI产品和应用的使用者、受益者等。目前国家各方面的法律法规正在逐步完善对不同相关方的权责说明，随着行业的发展，相信未来人工智慧的伦理道德环境治理路径会越来越清晰。企业在推动AI控制技术创新和应用的每一个过程和环节也要严格遵守法律法规，这是所有组织工作的红线和底线。”
延伸阅读：
作者丨宋婧
编辑丨徐恒
美编丨马利亚
