势不可挡摄影记者 周頔 邵文
从理论、理念走向实践？
“新控制技术往往会给现有社会风气伦理规范化增添冲击，人工智慧控制技术也不是值得一提，这是人类社会风气在进步过程当中始终面临的难题。”6月1日，北欧国家第三代人工智慧环境治理专精理事会秘书长、北京大学理科现职副教授、人工智慧国际环境治理研究所院长袁钢明在2022北京i2414701大会人工智慧伦理、环境治理与可持续产业发展论坛上说道。
袁钢明提出，要构筑化解关键信息不等距的沟通网络平台，在此基础上互谅互让，找到符合整个社会风气产业发展进程的化解监督机制，同时也要设置针对控制技术和珍利插值的更新监督机制。
近年来，我国相继发布了《第三代人工智慧环境治理准则》《第三代人工智慧伦理规范化》等政策文件，明晰提出六项准则，特别强调将伦理道德带入人工智慧全开发周期。科学技术部中国科学控制技术关键信息研究所党委委员，所长、科学技术部第三代人工智慧产业发展研究中心秘书长赵志耘则表示，北欧国家科技伦理理事会人工智慧第十七次正在研究草拟人工智慧伦理高信用风险目录，以更快地促进人工智慧conducted的伦理监管工作。
安全可靠和法律条文难题是铁律，不该普遍化列入到伦理环境治理专精领域
“不该把环境治理与产业发展矛盾起来，而是要通过环境治理更快heard人工智慧产业发展护航舰，扎实推进人工智慧高效率产业发展与高质量环境治理的均衡。”赵志耘称，伦理环境治理对人工智慧活动进行良性循环引导，是人工智慧健康产业发展关键保障。
赵志耘则表示，促进人工智慧伦理环境治理有四项关键明确要求，分别是把握住好人工智慧产业发展规律和特点，明晰现实生活的伦理难题；把握住好人工智慧伦理环境治理的边界线，在适当范围内规范化人工智慧产业发展；把握住好产业发展与环境治理的均衡关系，以环境治理促产业发展。
她指出，当前人工智慧控制技术尚未达到强人工智慧和通用人工智慧的水平，因此，无法将未来的伦理信用风险当作现实生活的信用风险，以防给人工智慧产业发展增添无谓的消极影响。此外，还要明晰人工智慧环境治理的铁律明确要求，伦理环境治理着关键特别强调促进创新与防范信用风险相统一的更高需求，而安全可靠和法律条文难题作为无法跨过的铁律，不该普遍化列入到伦理环境治理的专精领域。
建设人工智慧点评网络平台（体系），帮助人工智慧环境治理破冰
谈到人工智慧控制技术产业发展与应用的社会风气特性难题，北欧国家第三代人工智慧环境治理专精委员会委员、华东师范大学人工智慧研究所首席顾问副教授李仁涵将其归因于三个方面：安全可靠难题、伦理难题、变异安全可靠难题。
安全可靠难题主要包括北欧国家安全可靠、社会风气安全可靠、经济安全可靠、个人安全可靠等方面，伦理难题主要包括隐私、公平、透明、歧视、就业等领域，这两类安全可靠难题目前已经发生了。而对于变异安全可靠，即人工智慧可能不可控而产生对社会风气与人类的伤害难题，目前尚未发生，属于非常规难题。
李仁涵则表示，人工智慧是一种通过机器来模拟人类认知能力的控制技术，对它的明确要求也需要像对人的明确要求那样，才能和谐相处。对于规范化人工智慧的环境治理。应从标准、规则、法律条文、监管、执法等方面着手。
目前，国际有关组织制定人工智慧标准已经进入井喷期，国际人工智慧环境治理工作证加速可操作化。对此，李仁涵认为，当前迫切需要建立相应的规则体系，一方面促进AI可持续健康产业发展，另一方面有利于与国际接轨，实现全球化产业发展。同时，也要建设人工智慧点评网络平台（体系），帮助人工智慧环境治理破冰。
李仁涵表示，人工智慧点评网络平台（体系）将成为未来社会风气产业发展的关键基础设施之一，是人工智慧产业赋能各行各业持续健康产业发展的基础保障。网络平台（体系）也将是相关人才培养、成长、发挥作用的关键舞台和参与国际规则制定的关键基础，因此，要尽早规划，以“三步走”战略的方式尽快让点评网络平台（体系）破冰。
将伦理带入人工智慧全开发周期
近年来，AI控制技术的应用增添的伦理争议越发频繁：美国研究机构发布论文称AI设计了可自我繁衍的生物机器人Xenobot；此前的2019年，亚马逊等多家公司使用AI监控系统对
对于人工智慧环境治理的难题，袁钢明认为，要考虑人工智慧控制技术应用给经济社会风气运行增添的直接、间接的收益与成本，进行利弊权衡。要考虑人工智慧控制技术应用对社会风气各种行为准则规范化的影响，此外还要考虑人工智慧控制技术应用长远的经济社会风气影响。
袁钢明建议，要健全人工智慧伦理与安全可靠的环境治理体系；推进法律条文法规、标准规范化的破冰实施；建立多主体参与的对话监督机制，跟踪控制技术产业发展前沿，发现新的安全可靠和伦理难题；建立人工智慧前沿研究和应用的伦理评估、预警及管控监督机制；加强对人工智慧研究及应用各相关利益群体的伦理教育，提高伦理意识；积极培育健康的智能文化与数字人文思想；加强人工智慧前沿进展的科学传播和伦理普及，提高公众的认知水平。
“要将伦理带入人工智慧全开发周期，为从事人工智慧相关活动的自然人、法人和其他相关机构提供伦理指引，促进人工智慧产业发展。”袁钢明称。
谈到将伦理带入人工智慧全开发周期，赵志耘则表示，政府的责任是引导各类主体去重视伦理规范化，嵌入操作，要充分体现全开发周期的理念。她举例则表示，2019年科学技术部批复了18个城市试点为第三代人工智慧创新产业发展试验区，在试验区建设中必不可少的环节是要做伦理环境治理规范化试验，在每一个试验区方案中，对于伦理规范化，各类主体如何去落实都有相应的操作规范化。
人工智慧变革创新模式与社会风气环境治理模式
人工智慧领域的伦理难题与其他领域伦理难题何本质差异？这种差异对人工智慧伦理环境治理范式又提出了怎样的明确要求？
对此，中科大机器人实验室秘书长、CAAI人工智慧伦理环境治理工委会秘书长、全球人工智能理事会执行委员陈小平则表示，最根本的差异是控制技术本身。过去的自动化控制技术只能替代人的一部分劳动，但现在人工智慧，哪怕只是专用的人工智慧，在专用领域远远超过了人、取代了人。有哲学家预测，除了做人工智慧的人和做决策的人以外，其他97%的行业从业者工作都将被替代，这个根本原因还是在于控制技术。
谈到与其他行业伦理的差异，陈小平提出三点看法。
第一是可控性难题。如果未来实现了通用人工智慧、强人工智慧，或许所有的行业领域都可以被人工智慧替代。陈小平则表示，虽然目前看可能性不大，但理论上无法排除。一旦人工智慧拥有通用能力，或许可以实现不依赖于人类的生存，对此必须高度重视。
第二是人工智慧对创新模式的挑战难题。此前人类的技术不足以强大到对创新模式提出挑战，而目前即使是专用人工智慧，也深刻改变了创新模式。
第三是进入新控制技术时代，人工智慧与社会风气环境治理融合的难题。随着人工智慧控制技术应用越发广泛，人类社会风气进入了一个本质上全新的时代，传统的社会风气环境治理模式不再完全有效，必须产业发展新的社会风气环境治理模式。
校对：张亮亮
