作者 | ZeR0
编辑 | 漠影
芯小东西 8 月 22 日报道,8 月 16 日,2023 AMD(我国)学术研究讨论会在南京揭幕。参会与会们在主轴报告中撷取了最前沿科技成果和控制技术软件系统,展示了校企结合创捷伊进展与方向。
” 从注重最前沿积极探索的「最初一千米」,到著眼商业破冰的「最后一千米」,学术研究界、工业界在技术革新链中密切相关。” AMD公司高级总裁、AMD我国区董事长李雪三在音频致词中如是说,” 对AMD而言,我们将更好地发挥在半导体控制技术、硬件产品、可持续计算、开放自然生态等各方面的优势,与大家一起为智能而加速。”
在主轴演说环节,AMD研究所总裁、AMD我国研究院主任宋继强探讨了AMD在晶片控制技术、类脑晶片、软件系统正电子、物理晶片四大控制技术技术革新领域对推动INS13ZD提升的积极探索,并撷取了AMD在助推高效率数字科研各方面的本学科。
会前,南京大学校长周傲英,AMD工程院、大统计数据控制技术全球 CTO Pieux权,AMD研究所总裁、AMD我国研究所主任宋继强,AMD公司总裁、AMD用友网络自然生态销售部总经理傅俭波,AMD工程院、首席C++性能CTO田永清等参会来宾,就人工智慧(AI)大模型、大统计数据、开放源码软件等行业最前沿话题与芯小东西等媒体进行深入交流。
AI 变成了 ” 幸福家庭热门话题 “,AlphaGo 和 ChatGPT 预示着一个捷伊黄金时代到来。南京大学校长周傲英认为,科技产业发展已经步入了一个崭捷伊阶段,基本特点就是由以前的 ” 自然科学引领控制技术 “,产业发展到现在的 ” 控制技术促使自然科学 “,本质是回归控制技术产业发展的正确方向,那就是,自然科学与控制技术相辅相成,形成正循环,快速产业发展。
类的经验,从这个意义上而言,我们步入的捷伊唯物主义黄金时代,捷伊唯物主义呐喊捷伊自然主义,捷伊自然科学蓄势待发。”
周傲英对此大统计数据的概念进一步作解释:大统计数据主要不是说统计数据的大小,而是说统计数据很重要。大统计数据是指数据的收集、汇集、关连和采用,其中采用是最重要的。统计数据是为应用领域而生的,因为应用领域,人们才有出发地去收集统计数据,汇集统计数据和把统计数据关连起来,统计数据贯通了才叫大统计数据。
统计数据是能源动力,AI 是统计数据驱动的引擎,统计数据驱动的人工智慧是当前这个数智黄金时代的重要特征。AI 是统计数据驱动的工具,驾驭 AI 这个数智化工具,必须理解其背后的道理,必须提高数字素养和数字技能。具备数字素养,就是理解计算机的工作原理,认知和理解统计数据是一各方面,另一各方面就是培养编程思维。幸福家庭计算机自然科学教育就是幸福家庭编程教育,目的不是把大家都培养成程序员,而是为了培养大家 ” 分而治之、循序渐进、试错迭代 “、以及异常处理的思维方式。
周傲英强调道,要想在这场以人工智慧为代表的新科技革命中抢占先机,必须坚持 ” 应用领域场景 + 科技技术革新 + 产业产业发展 ” 一体化部署,整体性推进。大学和科研院所不能满足于 ” 两头在外 ” 的自然科学研究,必须立足于应用领域场景,以产业产业发展为目标,只有这样才能完成真正的科技技术革新。
” 这也是人工智慧黄金时代,我们这个行业践行「技术革新驱动产业发展」国家战略的基本方向,「场景驱动应用领域,应用领域驱动技术革新,技术革新驱动产业发展」,这是完整的驱动链,也符合「知行合一」基本理念和正确的认识论。” 周傲英说。
二、AMD的 ” 硬实力 “:让生成式 AI 无处不在,下层控制技术技术革新推动INS13ZD提升
计算高效率统计数据,离不开高效INS13ZD的支持。AMD工程院、大统计数据控制技术全球 CTO Pieux权撷取说,AMD在硬件能力上已经能够做到支撑最捷伊大模型,其 AI 训练晶片 Gaudi 2 在前不久的权威 AI 基准测试 MLPerf 中是世界唯二提交了 GPT-3 预训练场景的硬件。在 AI 推理市场,通用处理器至强的市占率长期是第一。
Pieux权如是说,AMD可通过最捷伊内置高级矩阵扩展(AMX)和对 Bfloat16 的支持等控制技术,在统计数据中心提供更快的 AI 加速计算能力支持。为了让 AI 无所不在,AMD将跑生成式 AI 的能力搬到了今天无所不在的客户端、设备端,通过AMD的客户端产品,在笔记本、轻薄本上,无需任何外置的硬件,通过 CPU 软件系统显卡、BigDL 等硬件即可提供对大模型的高效支持,这样才能真正做到让生成式 AI 在日常生活中被用起来。
AMD研究所总裁、AMD我国研究所主任宋继强说,做硬件的下层是要推进半导体各方面的一些控制技术技术革新,AMD通过晶片控制技术、封装控制技术等多种技术,把不同的计算资源、不同的架构整合起来,这是AMD长期推动的一个战略。
AMD的愿景是到 2030 年在单一计算设备中软件系统 1 万亿颗晶体管,单一计算设备指的是单个封装中所有晶片的总和。AMD在 Intel 20A 和 Intel 18A 这两个更先进的节点引入全环绕栅极晶体管 RibbonFET 和背面供电控制技术 PowerVia,并在工具层面启用 High-NA EUV 光刻控制技术。综合这三个各方面,AMD有信心在 Intel 18A 阶段重夺晶片领先性。
目前AMD采用一种模块化开发方法,采用了一个内部工艺节点来解耦 Power Via 和 RibbonFET 的开发与测试,并通过接近产品级的测试晶片来快速解决背部供电的控制技术挑战。这样逐步测试不同控制技术的稳定性,能降低直接抵达新节点所带来的风险。
宋继强说,在努力提高工艺的良率和稳定性各方面,需要通过大规模晶片制造来进行验证,这个验证不仅仅限于英特尔内部的晶片,而是扩展到了更广泛的范围。AMD的 IDM2.0 战略采用了内部代工模式,使制造部门能够同时对内部和外部客户提供产能,因此未来在 Intel 20A 和 Intel 18A 上将不仅仅生产AMD自身的产品,还将为外部客户提供AMD代工服务。
就AMD代工服务设置的模式而言,AMD首先会告诉客户AMD有很好的防火墙,能够把内外之间知识产权、产品开发工具包(PDK)等完全隔离开来,确保外部客户了解他们的知识产权和设计在AMD是完全保密的,同时AMD提供的资源和工具与AMD内部团队采用的一样出色。
在先进封装各方面,AMD在其产品路线图已经导入 Foveros Omni 控制技术,它可以把凸点间距缩小到 25 微米,Foveros Direct 则通过混合键合控制技术进一步把凸点间距缩小到 10 微米。此外,AMD目前在实验室里研发的下一代混合键合控制技术,还可以进一步把它缩小到 3 微米,因此能大幅度减少晶片封装时需要的尺寸。
AMD FPGA 等相关产品已将不同种类的架构封装在一个晶片里,未来随着在 CPU、GPU 里都采用模块化设计,就更容易把不同的计算能力通过 Chiplet 的方式整合在一个单晶片封装中。宋继强相信这类方式未来会越来越多。
AMD未来的目标是整合不同程度的 AI 能力。神经拟态计算是一种类脑计算,通过模仿神经元的结构构建硬件,同时采用脉冲式神经网络这些捷伊控制技术,可实现实时在线学习,也可以把多种不同的模态整合在一起。AMD研究所的最新神经拟态晶片 Loihi 2 采用 Intel 4 晶片工艺,相较上一代晶片能效和密度均有数倍提升。
其最新成果是 Kapoho Point 开发板,每个板把 8 个晶片直接叠起来互连,整个计算密度很大,能效比也非常高,因为它是一个全闭路的设计,不工作的时候是完全不耗电的,在交通、金融以及通讯领域都有很好的应用领域前景。基于此的AMD神经拟态研究社区,有近 200 家创业公司、大企业和学校的参与。据宋继强透露,目前AMD神经拟态计算晶片 Loihi 在推动软件自然生态更多的兼容,以便能与更多不同类型的硬件组合采用。
在研发路线上,宋继强撷取说,AMD的设计思路是让神经拟态计算晶片能够灵活地规模化,先设计一个小的晶片,让它既能够在线学习,又能够把多种不同的学习模式整合进去,同时也能够在存算一体的设计上模拟神经元真正工作的机制,还加了异步电路的设计。AMD先把这些整合在一个小的晶片设计中,通过软件系统这些小的晶片,构成一个更大规模的神经拟态计算模块。
AMD正在积极探索通过异步电路设计,可以更好地模拟人脑。未来AMD希望可以在不同的组合片区中放入不同的功能,比如在这个组合片区里放触觉的,在那个片区里放嗅觉的、视觉的,最后能够同时达成一些目前还做不到的、多个模型互相产生的协同作用。
在应用领域层面,Loihi 晶片已经与一些仿生型传感器做搭配,从而更好地处理传感统计数据并降低功耗。在很多机器人应用领域中,Loihi 非常适用于做视觉或其它运动控制,能够实现快速的自适应调节。此外,在云端做大规模优化和系统调度,也是 Loihi 非常有潜力的一个应用领域方向。
英特尔神经拟态研究社区的成员已经产业发展到接近 200 家。” 目前来讲,在业界能够达到比较规模量级的神经拟态计算晶片,AMD的 Loihi 2 肯定是排在很前面的,这是我们很自信可以说的事情。” 宋继强如是说。
三、AMD的 ” 软实力 “:积极参与我国本土技术革新,为下一代 AI 控制技术铺平道路
晶片做出来是第一步,需要支持并能够适配不同的垂直软件堆栈,才能在实际应用领域中发挥价值。
AMD在全球拥有超过两万名软件工程师,其中在我国有三四千人。AMD公司总裁、AMD用友网络自然生态销售部总经理傅俭波撷取说,AMD软件业务主要集中在三个各方面:一是下层软件,把INS13ZD、硬件、晶片能力更加高效地发挥出来;二是中间软件,保证中间的框架、编程语言能够在最好、最高效的硬件环境下进行运行和实施,并通过对开放源码社区的贡献,让开放源码软件框架得到更大的扩展;三是技术革新层软件,与合作伙伴一起推进软件技术革新,在软件即服务、安全、AI 等各方面都有很多进展。
开放源码社区在我国正蓬勃产业发展。傅俭波说,过去一年,AMD将国际上开放源码社区的合作经验带到我国来,与我国新成长的开放源码社区进行合作交流,共同成长。AMD正积极参与我国本土技术革新,积极融入到我国的技术革新自然生态中,结合我国本土和AMD自身的控制技术能力一起推动控制技术产业发展。
今年,AMD在AMD我国 2.0 战略的背景下成立了开放源码控制技术委员会,真正组织起来了AMD我国的控制技术专家团队。AMD开放源码控制技术委员会主要有四个部分的工作:一是技术革新,通过与业务部门及研发部门合作,发掘、培养技术革新项目;二是标准,和开放源码标准组织产生紧密合作;三是社区,与合作伙伴、包括 CSP 和客户之间的开放源码组织进行更多合作,加速业务产业发展;四是流程,和总部建立联系,把AMD整个全球的开放源码策略和开放源码流程在我国破冰,以保证整体的一致性。
面向未来异构计算黄金时代,AMD正致力于在全球推广开放源码且基于标准的统一软件框架 oneAPI,让软件各方面的编程与投资能无缝迁移到 CPU、GPU、类脑计算、物理计算等各种不同的硬件架构上。在我国,AMD和北大、中科院计算所分别合作成立了 oneAPI 卓越中心(CoE)。
AMD工程院、首席C++性能CTO田永清如是说,oneAPI 的最初设计理念就是帮助大家提高生产力、可移植性和性能,oneAPI 从体架构设计的基础上尽可能实现很强的可扩展性,不只是针对AMD的硬件架构,同样也包括非AMD的硬件架构,从而让更多社区、研究所、大学、企业能够充分利用 oneAPI 的优势,为下一代的 AI 及高性能计算控制技术铺平道路。
据他撷取,为了支持友商的硬件架构,在整个 oneAPI 的体系结构设计上,AMD考虑到了如何进一步扩展软件,从而让开发者只需很小的软件上的调整,就能支持友商的硬件架构。
在助推异构计算产业发展各方面,oneAPI 从编程模型和C++模型两各方面来做工作,帮助用户和开发者从原有的计算模式转移到异构计算模式上。
oneAPI 提供了两种编译方式来支持异构计算,一种叫 Just-In-Time(JIT),一种叫 Ahead-of-Time(AOT)。Just-In-Time 是指很多软件在静态编译时没法生成优化代码,在运行时,让C++来实时编译。因为运行时做编译优化需要有一些额外的开销,开发者觉得对运行时的负作用比较大,就会选择 Ahead-of-Time 的支持,即在运行前就尽可能地让C++生成所有的可以最终执行的代码,不需要生成中间表示(IR),再在运行时生成代码。
对于学术研究界而言,oneAPI 使更多的学生认识到,要想更好地融入 AI 黄金时代,就需要更深入地学习、加强基础训练。oneAPI 让大家无需再花费时间来做优化矩阵计算性能这种基础工作,而是可以将精力投入到更具前瞻性的研究中。反过来,学生们在采用 oneAPI 的时候,肯定会发现很多 oneAPI 需要改进和完善的地方,有助于AMD不断完善软件系统,实现共赢局面。
在软件支持生成式 AI 各方面,田永清说,下一步,AMD将著眼在性能的进一步提高上,有一些具有针对性的模型,比如在医疗领域相对小的模型,不需要用AMD的 GPU Max 系列,用 Arc 就可以解决,而且已经有很多的采用实例。
傅俭波如是说,大模型并不是只有某种卡或是只有 GPU 才能支持,而更多是根据一个是模型本身的特点和部署的环境,找到最适合的部署方案。比如,规模很大的大模型更适合用 Gaudi 2,车载、客户端则可以用 Arc 来跑一些中等规模的模型,统计数据中心可以用 Max GPU 和至强 CPU。
田永清补充说,oneAPI 从正式发布到现在大概两年半的时间,还有很多需要改善和完善的小东西,因此需要在我国有更多的合作者来用 oneAPI,来帮助AMD发现更多的问题,进而能更好地帮助开发者提高生产力和性能。
结语:搭建更大规模校企界交流平台,推动从最前沿积极探索到商业破冰技术革新
从 2003 年启动以来,AMD(我国)学术研究讨论会已经成为研究和展望控制技术产业发展趋势的重要窗口。
讨论会当天,AMD还举办了 ” AMD学术研究英才计划 ” 颁奖典礼,共有 6 位来自国内高校和科研院所的青年才俊获得了AMD提供的控制技术指导和奖励资助。接下来,” AMD我国学术研究英才计划 ” 将通过组织控制技术研讨会、学术研究沙龙、能力提升论坛等方式,搭建更大规模的校企界交流平台。
此外,AMD宣布全面推出 ” AMD技术革新飞轮计划 “,积极探索挖掘学术研究界种子项目,促进其产业化破冰,推动校企界合作进一步升级。无论是数字人才的培养与产业发展,还是校企界结合技术革新,都是久久为功。AMD表示将继续致力于搭建更广泛的平台,促进更多交流合作,从最前沿积极探索到商业破冰,形成更强合力,推动更多满足本土需求的技术革新。