11月10日下午，当今世界网络探讨会人工智慧与位数伦理道德分高峰论坛举办。在当今世界网络探讨会稀疏的分高峰论坛日程中，最多有12场分高峰论坛同时举办，只有那场“独享”一会院会。
此次分高峰论坛的主轴是“人工智慧的产业产业发展路径与伦理道德唯物主义”，分三个热门话题：人工智慧伦理道德的控制技术方法论与人类文明的选择空间；位数伦理道德的私法与规矩——现实当今世界与位数当今世界相融的社会秩序与准则；人工智慧及其产业产业发展模式加强对未来人类文明社会生产生活形态的影响。
“此次高峰论坛的目的是增进国内外研究者、业内的谈话，推动人工智慧的伦理道德研究和环境治理体系的积极探索构筑，推动安全可靠可靠受控的人工智慧控制技术研制与应用情景，保证人工智慧始终向着核心理念、科技善行的路径产业发展。”中国计算机网络安全可靠联合会总干事李欲晓表示。
增进人类文明福利、推动公正公正、保护个人隐私安全可靠、保证受控可靠、加强责任肩负、提升伦理道德素质6项基本伦理道德要求。
10日的高峰论坛上，研究者专家从不同的视角阐释对人工智慧伦理道德的观点，势不可挡新闻（www.thepaper.cn)剖析了部分内容。
北京大学人工智慧研究所脸面主任、中科院工程院张钹线上发表演说。责任编辑相片均来自 当今世界网络探讨会官方网站
北京大学人工智慧研究所脸面主任、中科院工程院张钹：明确伦理道德标准需要全球合作
“当机器不断更新和产业发展，总有一天心智超过人类文明，特别是具有直觉觉悟后，人类文明将失去对电脑的控制，带来毁灭性不良后果”——人工智慧的信用风险早已被提出，惠勒也曾发出警示，但他们一度认为是然则。
到六十年代，如前所述大数据的广度学习在人工智慧中兴起的时候，人们的认识有了变化，感觉人工智慧的伦理道德信用风险就在眼前，环境治理刻不容缓。
根据目前人工智慧的控制技术，他们可以通过深层次神经网络，根据使用者的要求生成符合要求、质量良好的文本和图像，同样的，也可以违背要求，生成充满种族、性别等偏见，不公正和错误百出的文本和图像，不受使用者控制。如果根据这些错误文本做决策、预测，可能带来严重不良后果。
想让电脑向智能化产业发展，就不能让电脑完全听人类文明摆布，需要赋予它一定的自由度和自主权——深层次神经网络就是根据这个原理：利用概率这个数据工具，使电脑能生成丰富的文本和图像。但也因为这个原因，就一定存在生成不合格、有害文本和图像的概率。
人工智慧的产业发展必然带来对伦理道德和传统规范的冲击。从根本来讲，人工智慧的研究、开发都要核心理念，从公正公正的伦理道德原则出发。为此，他们需要努力去建立可解释的鲁棒（Robust的音译，意为“健壮”，此处指在异常和危险情况下系统生存的能力）人工智慧理论，在此基础上才可能开发出安全可靠、可靠、受控、可靠和可扩展的人工智慧控制技术。
人工智慧的研究和环境治理需要全当今世界不同领域人员的合作。除了从事人工智慧研制和使用的人员，还需要法律、道德、伦理道德等人士参与。需要明确伦理道德道德的标准，这需要全球合作，共同制定符合全人类文明利益的标准。
之江实验室主任，中国人工智慧产业产业发展联盟副理事长朱世强
之江实验室主任、中国人工智慧产业产业发展联盟副理事长朱世强：构筑控制技术图谱预防潜在危害，以道制魔
人工智慧控制技术给生产生活带来便利，也带来负面的东西，引起对人工智慧伦理道德等方面的思虑甚至是过度担忧。
现实的情况是，人工智慧还是弱人工智慧，在某些单项领域，如围棋、蛋白质测序上有高于人的个体能力，但综合智能还是很弱的。从控制技术视角说，智能相对比较容易得到，而要用电脑复现智慧很难。
我的观点是，人工智慧是人类文明智能在电脑领域的延伸，真正的主动权仍掌握在人，现阶段最重要的仍是产业发展控制技术，但同时要预防因为控制技术自身及其滥用给人类文明带来伦理道德问题。
之江实验室剖析了AI伦理道德图谱，从三方面（研制主体、使用者、管理主体）分类。他们还在构筑预防人工智慧危害社会的控制技术图谱，试图用控制技术来阻止人工智慧的滥用和恶意应用。他们的方法论是，菜刀是切菜的，虽然菜刀多次被用来杀人，但它本身没有原罪，他们的方法论是“以道制魔”，用控制技术手段把菜刀打造得锋利，但让它永远砍不到人身上。
香港特区政府位数经济产业发展委员会委员杨德斌发表视频演说
香港特区政府位数经济产业发展委员会委员杨德斌：人类文明应该自我提升，避免逐渐“退化”
电脑的计算能力越来越强，能为人类文明做的事越来越多，许多之前靠人力做的工作，由于其重复性、危险性、成本问题而逐渐被电脑替代，如智能制造方面的“黑灯工厂”，无人机代替人探测下水道，电脑人代替保安巡逻等。
由大数据引发的电脑学习近年在各行业百花齐放，电脑人2016年击败了围棋九段李世石和排名当今世界第一的柯洁，近几年电脑学习在无人驾驶、医疗诊断甚至写作、画画、作诗方面都取得相当进展。尽管如此，人工智慧与人类文明智能还是相去甚远。
人工智慧与人类文明智能可以比喻为龟兔赛跑，人类文明是兔，电脑是龟。随着人类文明越来越依赖电脑，电脑能做的越来越多，情况将逐渐改变。当人类文明把事情交给电脑时，他们会不会变懒甚至变蠢？之前他们会记着几个常联系的家人和朋友的电话，现在只要手机语音自动拨打，不用记了，久而久之，记性便会变差。
我比较担心的不是电脑学习有一天超越人类文明，而是人类文明因过度依赖电脑而变得不智慧。龟兔赛跑是寓言，它告诉他们，不能因自满而输给对手。他们可以教电脑更智慧，而且可以适当约束电脑，让它不危害人类文明，但人类文明更应该自我提升，避免逐渐退化。
2007年图灵奖获得者、当今世界顶尖科学家联合会会员约瑟夫·斯发基斯发表视频演说
2007年图灵奖获得者、当今世界顶尖科学家联合会会员约瑟夫·斯发基斯:人工智慧与伦理道德的选择和平衡
我首先想说，人工智慧的进步使自动化系统正转为自治系统，这反映了从弱人工智慧向通用人工智慧转化的趋势。
正常的伦理道德就是要做出正确的决定。为了做出正确的决定，首先你应该有选择的觉悟。现在很多人被如何合理使用人工智慧的不同意见所困惑，我认为社会必须创造条件，进行冷静、知情和合理的辩论，他们应该在严格执行信用风险预防原则和接受创新以提高效率或质量之间取得平衡。他们现在下载一个系统，都会面临选择信用风险与性能之间的窘境。
另一个重要困境是怎样为人和电脑分工。创新和控制技术进步可能意味着技能的损失，很难想象电脑可以超越人类文明的智慧，尽管如此，如果他们贪图懒惰和安逸，人类文明的智慧也可以被驯服和征服。如果他们被电脑的复杂性击败，对人类文明来说是非常糟糕的。
全国人大宪法和法律委员会副主任委员江必新
全国人大宪法和法律委员会副主任委员江必新:人工智慧伦理道德构筑的“五个源于”和“六全”
为什么要构筑人工智慧伦理道德、位数伦理道德？可以简单归纳为“五个源于”：源于位数控制技术和人工智慧的二重性，既带来利益又有风险；源于位数网络的无边界性、跨国性、专业性、非透明性；源于法律规范的局限性；源于道德伦理道德对人类文明的不可或缺性；源于网络安全可靠产业发展对人类文明道德的依赖性。
我认为，这个伦理道德体系的基本准则是求善、求真、求美，这也是人类文明共识，根据不同的时期、主轴、环境、领域形成具体准则——现在的人工智慧初步阶段和未来可能的超强阶段，具体准则是变动的。
怎样使准则从理念变为现实，建立什么机制才能使它变为现实？我概括为“六全”：全理念、全主体、全链条、全要素、全周期、全工具。
中国美术学院主任高世名
中国美术学院主任高世名:人工智慧可以写诗、画画但不具备做这些的冲动和激情，而人类文明有
人工智慧对他们的意义不只是模拟、延伸人的思维，更重要的是AI控制技术产业发展对他们理解人的语言，思维以及智能本身有巨大的推进，有助于积极探索人类文明的思考、学习、分析、推理、规划和想象究竟是怎样的心智过程。
AI不只是研究和制造的工具，更是感知和思维的工具，它是人自我认知的镜子，也是人类文明社会觉悟的镜子。它甚至不只是工具，更是伙伴，AI是他们的一部分，是他们未来的一部分。
欲望与意愿或许是他们与人工智慧的最大差异。人工智慧可以写诗、画画、作曲，可以在棋盘上战胜人类文明，但它必须要接受指令才会写诗、下棋、作画、作曲，它不具备做这些行为的冲动、欲望和意愿，而人类文明不但有欲望，还有激情。
如何以算法去应对无数社会性个体间复杂的、充满非理性和偶然性的相互作用，这是AI控制技术的难点，心灵没有方程式，社会性的心灵更无法用算法解决。
对人工智慧有很多的忧虑，其中一个是人工智慧通过运算和模拟正在逐渐替代和置换他们的感受力，AI的无限算力也对人类文明的想象力产生了压力和推动力。我认为，人工智慧的发展不是为取代人，它反过来迫使他们重新理解什么是创造，创造是最富意义的生产，创造还涉及好奇、冲动、感性、关怀、欲望、价值、目的，最重要的是对于未知、无名的爱——只要他们还葆有这些，就可以大胆宣布那些可以被人工智慧取代的都随它去吧。
