mignon 动漫 广东科技向“新”力丨专访鹏城试验室主任高文院士：新一代“鹏城云脑”填补国产智算上千亿级大模子测验空缺

（原标题：广东科技向“新”力丨专访鹏城试验室主任高文院士：新一代“鹏城云脑”填补国产智算上千亿级大模子测验空缺）mignon 动漫

南边财经全媒体记者吴佳楠   深圳报谈

近日，全省科技大会颁发了2023年度广东省科学工夫奖，来自深圳的鹏城试验室牵头研制的国产E级高性能东谈主工智能算力平台取得广东省科技超过奖独特奖。在获奖之际，中国工程院院士、鹏城试验室主任高文院士给与了包括南边财经全媒体记者在内的媒体采访。

“鹏城云脑Ⅱ”是首个世界产E级智算平台，由鹏城试验室伙同龙头企业等单元研制。在国度、广东省与深圳市的自便支握下，该神志基于国产NPU开展了E级智算架构重要工夫攻关，得胜研制了全自主高性能E级智算体系架构与集群，研发了粉饰高性能算子库和编译器的AI计较架构及一站式AI协同斥地环境，措置了中高端NPU生态的国产替代问题，打破了大畛域并行测验工夫，填补了国产智算上千亿级大模子高遵守测验工夫空缺，已支握鹏城系列大模子等上千个AI模子测验。

“省科技超过独特奖这一荣誉不仅是对团队坚苦的招供，亦然对国度科技发展政策的支握和笃定。”高文暗示，30多年前，中国事没法作念超等计较的，许多机器王人是入口的，但到当今中国不错我方作念超算，龙头企业偏激他芯片厂商王人在坚苦打造国产芯片生态，这对国度构建自主高端的东谈主工智能计较竞争力料想要紧。

现时国内芯片笼统性能较强

南边财经：穷乏高性能芯片仍是成为影响我国东谈主工智能发展的紧要问题。国产E级高性能东谈主工智能算力平台，能推崇什么作用？跟一些龙头企业确立的万卡芯片集群等比较有何分手？

高文：高性能单一芯片的处颖慧商要异常强，况兼功耗不成太高，这就条款想象智商和工艺坐褥智商要比较强。咱们但愿把工艺作念得再好少量，是以关于高性能芯片想象智商和制造工艺的条款是很强的。现时，咱们想象的最新芯片跟国际比起来，可能在功耗上会有点被迫mignon 动漫，但在性能上总体来说莫得那么大的制约，笼统起来的性能如故很强的，还不是到透顶莫得防护智商的阶段或者断崖式的性能落差。随着时刻的推移，咱们不错通过三维堆叠工夫集成，把国产首先进制程工艺芯片作念到莳植一个制程性能台阶，让功耗圣洁一半。现时国内许多单元王人在攻关新的制造工艺，缓缓地也在弥补短板。

南边财经：“鹏城云脑II”有何凸起工夫上风？研发经过中碰到哪些挑战，怎么措置？

高文：“鹏城云脑II”作念出来后mignon 动漫，咱们主要在作念大模子的测验，是以在通讯工夫上咱们作念了许多优化和想象，让任何两点之间的通讯处理王人贬抑在两个微秒之内，让通讯的速率能够提上来。客岁，系统在跑的时候会出现一些故障的情况，简略每隔1到2天王人会出现故障，就会导致通盘这个词机器王人要停驻来，然后再重启，一运行一停驻来等于5个多小时，这是很大的资源豪侈。后头咱们想了许多观点，让有了故障后，系统的重启时刻不错短一些，让系统的责任遵守不错提高。另外，客岁咱们也发现不同数据的组合、编排形貌不同，导致测验出来的收尾也不一样，是以咱们尽量通过既有教化，找出工夫轨则，把数据从头编排，让模子测验效果达到更佳。

南边财经：平淡东谈主怎么直不雅地意会E级算力？除了测验大模子，“鹏城云脑II”还有哪些可走漏的主要责任？

高文：E级运算代表计较的速率是按照每秒10的18次方进行。鹏城云脑的E级运算最大的功能等于不错提供很强盛的测验AI模子的智商。测验AI模子后有许多用途，当年试验室也在这方面布局了许多诳骗，比如面向聪敏城市里的智能交通流量分析的模子，比如病毒坑诰经过中，也不错用计较的行径来仿真模拟改日病毒不错变异的种类，就不错提前作念好准备等。现时咱们部署了八大诳骗软件的研发，包括聪敏城市、智能交通、金融、生物医药等畛域，这些畛域能全面支握国度政策需求、处所经济社会发展需乞降中小企业发展，比如深圳土产货的云飞励天、优必选等公司王人有效到来测验我方的模子，促进企业的发展。

将工夫效果诳骗在生存多方面

南边财经：该平台得胜研制了全自主高性能E级智算体系架构与集群，怎么助力企业转型升级或催生新的产业步地？

高文：算力要走谢世界第一梯队，其实等于计较速率要富饶快。从这个角度讲，也不错用一堆芯片堆起来完成这个策画，但用最佳的工艺不错打造出相当于别东谈主十几个芯片智商的系统，集成度越高，上风也就越强。尽管国内当今芯片想象制程受限，却不错完成世界最佳芯片的80%性能，但要提防这只是单个芯片的计较智商。

其实一个系统的智商不单是是靠单个芯片的浅显累加，因为芯片承接的时候，还有许多通讯体捆绑构的性能狠恶，对通盘这个词系统有比较大影响的。是以咱们在体捆绑构方面会引入更好的工夫，通过举座系统就不错弥补单个芯片浅显相通够不上的策画。当今国内在作念高性能芯片方面，咱们从硬件来讲并莫得比西方过时，在这方面也莫得太多的挑战性。

心电图 偷拍

要是有很强的算力，很好的模子，能诳骗在生存上许多方面，比如自动驾驶，就需要把运行中各式种种可能发生的情况放到系统模子内，比及下次这车再碰到相通情况的时候，就知谈何如处理。关联词现存的系统，要是没少见据作念测验的话，很难符合，可能会出现各式种种的造作。是以自动驾驶系统不是一次测验就已毕了，要在第一次模子测验好后，需要把每天更新的数据再从头测验，这么系统才会越用越好用。是以有了好的算力系统模子，这方面的发展就会越来越快。又比如低空畛域的物流方面，要是搭建好了低空的算力模子，送快递时在“临了一公里”上靠低空就不错完成，那么交通运输部门的压力也会缓解许多，这亦然算力推崇遵守的作用。

南边财经：“鹏城云脑II”在构开国产智算生态方面作念了哪些责任？怎么促进中端GPU生态的自主革新？

高文：以前全球作念大模子测验，更多用英伟达芯片作念的系统，这是因为英伟达芯片作念了接近20年，花了许多钱和元气心灵去提醒市集、培训市集，也作念了许多得胜的案例，同期也在学术界发表了许多论文，由此缓缓把平台作念出来，直到国际上全球王人野蛮给与。而在国内，要是你要从零运行作念一样的芯片，就要花大批的时刻和财富。但咱们当今使用兼容搭桥的行径，把原来在国际企业写的设施，调度到国内龙头企业编写的设施，比较熟练的东谈主简略10到20分钟就能完成，由此让蓝本熟谙国际生态的东谈主，用国产芯片就比较浅显，就异常容易迁徙到新的环境下。

关于国内的高校，咱们也正在荧惑他们凯旋在国产算力平台生态上作念东西，比如组织一些培训营和比赛，通过培养一些重生代在新的平台上使用，现时已握续了三四年的时刻。当今用国产芯片作念出来的系统越来越多，其实每个系统内部的硬件王人不尽相易，要是用别的系统想象的东西在上头跑设施，可能会形成亏蚀，关于追求极致的设施员来说，当他熟练后，笃定还会用国产自主的平台凯旋写东西，这么遵守会更高，可能会提高5%～20%。是以咱们也荧惑国产企业能够在这方面多给高校提醒和学术组织作念更多孝敬，让通盘这个词生态缓缓作念大，把精英留下。 

南边财经：你怎么看待广东的科研环境和发展空间？对广东科创畛域有哪些漠视？

高文：深圳总体革重生态环境很好，想维很活跃也很接地气，研发看成与市集化是细密对接，“鹏城云脑II”作念出来后，在真实使用的时候，除了大企业在真实关怀外，政府也有很好的政策比如拿出10%的算力对创业企业进行绽放，这个支握效果也很好，是以深圳的中小企业欢悦随着政府的节拍进行互动，也让互动的渠谈愈加流畅。