开云(中国)kaiyun网页版 登录入口

（原标题：AI不成假想芯片？谷歌发文抗争！）开云(中国)kaiyun网页版登录入口

如若您但愿不错往往碰头，迎接标星保藏哦~

最近谷歌DeepMind发表考虑论文，抗争针对其AI芯片假想系统AlphaChip的月旦。

谷歌东谈主工智能部门最初于 2020 年布告了用于假想芯片布局的新颖强化学习挨次，并于 2021 年在《天然》杂志上发表了一篇相干论文。该论文宣称，AlphaChip 大概为每一代谷歌 TPU AI 加速器从简数千小时的东谈主力，况兼依然被该公司用于匡助假想其张量芯片。

该效果于 2022 年开源，而后被谷歌用于其基于 Arm 的 Axion CPU 以尽头他尚未公布的谷歌里面芯片

然则，2023 年，两篇论文对这一发奋的奏效刻毒了质疑——一篇来自 Cheng等东谈主，另一篇来自 Igor Markov。Cheng 的论文称，他们无法重现谷歌的挨次，而EDA大厂的科学家 Markov 发表了一篇围聚分析，称这种挨次是“子虚的晨曦”。

Markov 表现，分析“标明，谷歌强化学习过期于（i）东谈主类假想师、（ii）知名算法（模拟退火）和（iii）深广可用的贸易软件，而且速率较慢；在 2023 年的公开考虑竞赛中，强化学习挨次并未干预前五名。”他还援用了一位对该论文表现担忧的谷歌举报东谈主的话。

由于争议连续升级，《天然》杂志在谷歌的论文上添加了编者注，并表现正在窥察这项考虑。一位审阅过谷歌论文的孤立行家撤离了他在《天然》杂志上发表的最初赞誉谷歌使命的评述著作。

谷歌宣称，Cheng的论文存在多方面瑕疵，包括未进行预测验和使用较少的运筹帷幄资源。谷歌还表现，“马尔科夫发表了毫无根据的诈骗指控”，并补充说，别称里面窥察东谈主员跟踪到了举报东谈主，举报东谈主承认，固然他怀疑存在诈骗举止，但“他莫得字据支执他的诈骗怀疑”。

这家科技巨头当今表现，《天然》杂志本年 4 月完成了窥察，并“王人备作念出了对咱们故意的裁决”，并于 9 月删除了剪辑注视。同月，联发科布告将使用 AlphaChip 行动其芯片开导的一部分。

Markov本月从新发表并更新了他的分析，并补充说“《天然》杂志上发表的论文所引发的扫数主要担忧均未得到责罚。”他表现，AlphaChip 并非如其所宣称的那样开源：“除其他部分外，模拟退火的源代码仍然缺失，此外，如若莫得专有的测验数据和测试数据，《天然》杂志上的阻挡就无法重现。”

谷歌在一篇对于 AlphaChip 的博客著作中宣称，“AlphaChip 假想了更好的芯片布局，并提供了更多的全体平面图，从而加速了假想周期并坐褥出性能更高的芯片。

“AlphaChip引发了芯片假想东谈主工智能领域的爆炸式增长，并已扩展到芯片假想的其他要津阶段，举例逻辑详尽和宏聘任。”

原始论文中列出的名字中包括 Richard Ho，据讯息炫耀，这位前谷歌 TPU 负责东谈主于 2023 年转投 OpenAI。

以下为论文正文：

芯片已登程：对芯片假想东谈主工智能毫无根据怀疑的批判

摘 要

2020 年，咱们引入了一种大概生成超东谈主芯片布局（superhuman chip layouts）的深度强化学习挨次，随后咱们在《天然》杂志上发表了该挨次并在 GitHub 上开源。AlphaChip 激勉了芯片假想 AI 方面的多数使命，并已在 Alphabet 首先进的芯片中部署，并由外部芯片制造商进行了扩展。即便如斯，ISPD 2023 上的一篇未经同业评审的受邀论文质疑了它的性能声明，尽管它未能按照《天然》杂志中描述的形式运行咱们的挨次。

举例，它莫得事先测验 RL 挨次（排斥了从先前教养中学习的智力），使用的运筹帷幄资源大大减少（RL 教养集中器减少了 20 倍，GPU 数目减少了一半），莫得测验到管理（机器学习的表率作念法），况兼对不代表当代芯片的测试用例进行了评估。

最近，Igor Markov 发表了三篇论文的“meta-analysis”：咱们同业评审的《天然》论文、非同业评审的 ISPD 论文以及 Markov 我方未发表的论文（尽管他莫得显现他是该论文的合著者）。尽管 AlphaChip 依然得到庸碌领受和影响，但咱们如故发表了此申报，以确保莫得东谈主会因为造作而毁掉在这个有影响力的领域进行创新。

简介

在《天然》杂志上发表后，AlphaChip 激勉了东谈主工智能芯片假想的多数考虑。它还生成了超东谈主芯片布局，用于三代 TPU（见图 1）、数据中心 CPU（Axion）和 Alphabet 的其他芯片，并被外部学者和芯片制造商扩展到芯片假想的新领域。

即便如斯，Igor Markov 在 2024 年 11 月的《Communications of the ACM》上发表了对咱们使命的月旦，该月旦是对咱们的《天然》论文和两篇非同业评审论文的“meta-analysis”：

1、Cheng 等东谈主：第一篇是 Cheng 等东谈主的受邀 ISPD 论文 。这篇论文莫得谨守表率的机器学习实践，其强化学习挨次和实验树立与咱们的《天然》论文中描述的有很大不同。

尽管如斯，其受限版块仍然优于 RePlAce2，后者是咱们在《天然》杂志上发表时首先进的时间。

2、Markov 等东谈主：第二篇“meta-analyzed”论文是一份未发表的 PDF，莫得作家名单，被描述为“Google 团队 ”进行的“单独评估”，但执行上是 Markov 本东谈主共同撰写的

，尽管这一丝并未暴露。这篇论文不妥当谷歌的出书表率。2022 年，谷歌的一个孤立委员会对其进行了审查，该委员会认定“草稿中的声明和论断莫得得到实验的科学支执”况兼“由于 AlphaChip 在其原始数据集上的阻挡被孤立复制，这使 Markov 等东谈主 的 RL 阻挡受到质疑” 。咱们向委员会提供了一滑剧本，该剧本生成的强化学习阻挡彰着优于 Markov 等东谈主申报的阻挡，优于他们的“更强”的模拟退火基线（simulated annealing baseline）。咱们仍然不知谈 Markov 和他的共事是若何得出论文中的数字的。

马尔科夫的“meta-analyzed”为咱们的论文带来了另一个担忧：谷歌里面的“揭发者”。然则，这位“揭发者”向谷歌窥察员承认，他莫得情理校服存在诈骗举止：“他说他怀疑 Goldie 和 Mirhoseini 进行的考虑存在诈骗举止，但也表现他莫得字据支执他的诈骗怀疑”。

在他的“meta-analyzed”中，马尔科夫在莫得字据的情况下对诈骗和科学怪异举止进行了任意的算计，但这些都莫得发生。马尔科夫的大部分月旦都是这么的：在他看来，咱们的挨次不应该灵验，因此它一定不起作用，任何标明其他挨次灵验的字据都是诈骗。

《天然》杂志窥察了马尔科夫的担忧，发现它们王人备莫得根据，并在这一过程收尾时发表了一份附录，支执咱们的使命。举例，在论断的起头段落中，马尔科夫指出（强调他）：“在这篇论文中，咱们发现 ML 中存在各式可疑作念法，包括不可类似的考虑实践、多种挑选、误报和可能的数据浑浊（显露）。”咱们莫得参与任何这些作念法，也莫得任何其他边幅的科学怪异举止，马尔科夫也莫得为这些指控提供任何字据。

马尔科夫在论文中莫得任何方位描述任何边幅的所谓挑选，更无用说多种变体了，他也莫得提供字据。他也莫得描述任何边幅的所谓“误报”，也莫得解释他的真理，也莫得提供字据。他也莫得提供任何数据浑浊（显露）的字据，除了他推测如若发生这种情况，咱们的阻挡会得到改善。这些指控中的很多都是第一次出当今他的“论断”部分！

为了乱骂咱们的 TPU 部署，马尔科夫还表现谷歌详情仅仅在“测试”咱们的挨次，允许在 TPU 中使用劣质的 AlphaChip 来撑执咱们的考虑论文。这是不信得过的，而且名义上很额外。谷歌更感情 TPU 假想的效力——这是一个耗资数十亿好意思元的名堂，是谷歌云和东谈主工智能筹画的中枢——而不是考虑论文。

为了明晰起见，咱们列出了事件的时刻表，包括非阴私部署：

简而言之，Markov 的论文不包含任何原始数据，仅仅对两篇论文的“meta-analysis”。

第一篇论文莫得作家名单（尽管 Markov 是作家之一），从未发表过，其见地莫得科学数据支执，况兼无法重现。

第二篇论文，Cheng 等东谈主的论文，是 Markov 的“围聚分析”中独一的本质性内容，因此咱们将本文的其余部分用于描述其所谓重现咱们的挨次中的热切问题。

2.Cheng 等东谈主对咱们挨次的复现中的造作

Cheng 等东谈主宣称在新的测试用例上将咱们的挨次与其他挨次进行比较。灾荒的是，Cheng 等东谈主莫得按照《天然》中描述的形式运行咱们的挨次，因此他们申报不同的阻挡也就不及为奇了。在本节中，咱们描述了他们所谓的复现中的主要造作：

1、莫得事先测验 RL 挨次。从先前教养中学习的智力是咱们基于学习的挨次的主要上风，而排斥它等于评估一种不同的、较差的挨次。趁便说一句，预测验也产生了 Gemini 和 ChatGPT 等大型讲话模子的令东谈主印象潜入的智力（“GPT”中的“P”代表“预测验”）。

2、 使用的运筹帷幄资源减少了一个数目级：RL 教养集中器减少了 20 倍（26 vs Nature 中的 512），GPU 减少了 2 倍（8 vs Nature 中的 16）。

3、未测验至管理。测验至管理是机器学习的表率作念法，因为人所共知，不这么作念会毁伤性能。

4、在非代表性、不可类似的基准上进行评估。Cheng 等东谈主的基准具有更老、更大的时间节点尺寸（45nm 和 12nm vs Nature 中的 7nm 以下），况兼从物理假想角度来看有很大不同。此外，作家无法或不肯意分享复制其主数据表中的阻挡所需的合成网表。

5、 对咱们的挨次进行了“大领域从新已毕”，这可能会引入造作。咱们建议改用咱们的开源代码。

灾荒的是，这些主要的挨次论互异使 Cheng 等东谈主与咱们的挨次的比较和论断无效。如若 Cheng 等东谈主咱们依然接洽了《天然》杂志的通讯作家，咱们很乐意匡助他们在发表之前创新这些问题。

2.1、 莫得事先测验 RL 挨次

与之前的挨次不同，AlphaChip 是一种基于学习的挨次，这意味着跟着它责罚更多芯片摈弃问题实例，它会变得更好、更快。这是通过预测验已毕的，预测验包括在运行保留的测试用例（测试数据）之前对“进修”块（测验数据）进行测验。

正如咱们在《天然》论文图 5 中所示（下图复制为图 2），测验数据集越大，该挨次在摈弃新块方面就越好。正如咱们在《天然》著作中所述，咱们在主数据表（《天然》表 1）中的 20 个块上进行了预测验。

Cheng 等东谈主根底莫得进行预测验（即莫得测验数据），这意味着 RL 代理过去从未见过芯片，必须学习若何从新入手为每个测试用例扩张摈弃。

这排斥了咱们挨次的要津上风，即它从先前教养中学习的智力。

与其他驰名的强化学习考虑类似，这就像评估一个从未见过围棋比赛的 AlphaGo 版块（而不是经过数百万场游戏的预测验），然后得出结申报 AlphaGo 不擅长围棋。咱们在《天然》杂志的论文中详确筹商了预测验的热切性（举例，“预测验”一词出现了 37 次），并通过教养说明了其影响。举例，《天然》杂志的图 4（此处复制为图 3）炫耀，预测验不错普及布局质地和管理速率。在开源 Ariane RISC-V CPU上，未经预测验的强化学习需要 48 小时。

计策来接近预测验模子在 6 小时内不错产生的阻挡。正如咱们在《天然》杂志上所述，咱们预测验了 48 小时才得到主数据表中的阻挡，而 Cheng 等东谈主的预测验时刻为 0 小时。

咱们的开源存储库不错王人备重现咱们在《天然》论文中描述的挨次。Cheng 等东谈主试图通过表现咱们的开源存储库不支执预测验来为他们短缺预测验辩解，但这是不正确的。预测验仅仅在多个示例上运行该挨次，况兼一直得到支执。

2.2 RL挨次提供极少的运筹帷幄资源

在Cheng等东谈主的著作中，RL挨次提供了少20倍的RL教养集中器(执行上是26对512)和一半数目的GPU(执行上是8对16)。使用较少的运筹帷幄可能会毁伤性能，或者需要运行特别长的时刻才能达到相通(或更差)的性能。

如图4所示，在多数GPU上进行测验不错加速管理速率，并产生更好的最终质地。如若程等东谈主匹配了《天然》杂志上描述的实验树立，这可能会改善他们的阻挡。

2.3 RL挨次未经过管理测验

跟着机器学习模子的测验，赔本频频会减少，然后达到巩固情状，这表现“管理”——模子依然了解了它所扩张的任务。测验管理是机器学习的表率作念法，不这么作念是人所共知的毁伤性能。

Cheng等东谈主莫得在四个区块中的任何一个上进行管理测验，这四个区块的管理图在他们的追随名堂现场提供 (莫得为BlackParrot- NG45或Ariane-NG45提供图)。

图5炫耀了Cheng等东谈主名堂现场的管理图，表1转头了可用信息。对于具有管理图的扫数四个区块(Ariane-GF12、MemPool-NG45、BlackParrot-GF12和MemPool-GF12)，测验在相对较低的步数(辞别为350k、250k、160k和250k步)处被堵截10。谨守表率的机器学习实践可能会普及这些测试用例的性能。

2.4 Cheng等东谈主的测试案例不成代表当代芯片

在《天然》杂志论文中，咱们申报了具有亚7纳米时间节点尺寸的张量处理单位(TPU)模块的阻挡，这是当代芯片的典型特征。比拟之下，Cheng等东谈主申报了较老时间节点尺寸(45纳米和12纳米)的阻挡，这与物理假想有很大不同。

举例，在10纳米以下，频频使用多重图案化，导致较低密度下出现布线拥塞问题。因此，对于较老的时间节点大小，咱们的挨次可能受益于对其奖励函数的拥塞或密度重量的革新11。咱们还莫得将咱们的时间应用于旧节点的假想，因为咱们扫数的使命都是在7纳米、5纳米和更近的工艺上，尽管咱们迎接社区在这方面的孝顺。

3、与Cheng等东谈主相干的其他问题

在本节中，咱们描述了Cheng等东谈主的其他问题， 包括它与闭源贸易自动摈弃器的比较，它在表率单位簇再均衡中对开动摈弃的东谈主为“消融”，它有瑕疵的相干性考虑，以及它对谷歌工程师考据的造作声明。

3.1 Inappropriate Comparison With Commercial Autoplacers

Cheng等东谈主将一个被严重缩小的RL挨次与在咱们的挨次发表多年后发布的未发表的、闭源的、稀薄的软件进行了比较。这不是评估咱们挨次的合理形式——就咱们所知，闭源器用不错胜利建立在咱们的使命之上。

2020年5月，咱们进行了一项盲办法里面考虑，将咱们的挨次与两家早先的Commercial Autoplacers的最新版块进行了比较。咱们的挨次优于两者，以13比4(有3次平局)和15比1(有4次平局)的上风打败了对方。灾荒的是，与贸易供应商的表率许可公约拒接公开比较他们的产物。

3.2 Contrived “Ablation” of Initial Placement in Standard Cell Cluster Rebalancing

在运行咱们在《天然》杂志上发表的论文中评估的挨次之前，从物理合成中得到一个近似开动位置，这是芯片假想过程的上一法子。被用来责罚来自hMETIS的表率单位集群的大小不屈衡问题。

Cheng等东谈主对单个块(Ariane-NG45)进行了“消融”考虑。他们莫得苟简地跳过集群从新均衡法子，而是尝试将扫数芯片组件放在左下角的顶部，导致从新均衡法子产生退化的表率单位集群。当这毁伤了性能时，Cheng等东谈主得出论断，咱们的RL代理正在某种进度上诈欺开动摈弃信息，即使它莫得拜谒开动摈弃信息况兼莫得摈弃表率单位。

咱们进行了一项消融考虑，排斥了任何开动摈弃的使用，并不雅察到性能莫得退化见表（2）。咱们仅仅跳过了集群从新均衡法子，而是将 hMETIS的集群“不屈衡”参数裁汰到其最低树立(UBFactor=1)，这导致hMETIS生成了更均衡的集群。自 2022年6月 10 日起，这一援救预处理法子已被纪录和开源。但是，这是不必要的，依然从咱们的坐褥历程中删除了。

3.3 代理资本与最终办法相干性的瑕疵考虑

Cheng等东谈主宣称，咱们的代理资本与最终办法的相干性欠安，但他们的相干性考虑执行上标明，除表率单位面积外，总体代理资本与扫数最终办法之间存在眇小但正相干(参见Cheng等东谈主的表2，如图6所示)。请真贵，咱们将面积视为硬管理，因此不合其进行优化。

在基于ML的优化中使用的代理资本频频只与标的对象有较弱的相干性。举例，像Gemini和ChatGPT这么的大型讲话模子被测验来算计序列中的下一个单词，这是一个固有的噪声信号。

此外，Cheng等东谈主的相干性考虑作念出了一些令东谈主诧异的聘任:

·Cheng等东谈主只申报了低于0.9的代理资本的相干性，莫得为这一决定提供情理。该阈值撤销了他们我方的大多数阻挡(举例，参见Cheng等东谈主的表1)。

·相干性考虑仅琢磨了一个45nm测试案例(Ariane-NG45)。NG45是一种更老的时间节点大小，全体资本函数的拥挤和密度组件可能需要革新以得到更好的相干性(见第2.4节)。

趁便提一下，AutoDMP15使用了类似于咱们在《天然》杂志论文中刻毒的代理清醒长度、拥塞和密度资本，并发现它们执行上与最终办法相干。

3.4 Cheng等东谈主对谷歌工程师考据的造作东张

Cheng等东谈主宣称谷歌工程师证实了当时间正确性，但这是不信得过的。谷歌工程师(他们不是《天然》杂志论文的通讯作家)仅仅证实，他们大概从零入手(即莫得预培训)根据咱们开源库中的快速初学指南对单个测试案例进行培训。《快速初学指南》天然不是描述若何王人备复制咱们在《天然》杂志上发表的论文中描述的挨次，而仅仅行动第一步来阐述所需的软件依然安设，代码依然编译，况兼不错在一个苟简的测试案例(Ariane)上奏效运行。

事实上，这些谷歌工程师分享了咱们的担忧，并提供了竖立性的反映，但莫得得到责罚。举例，在Cheng等东谈主的著作发表之前，通过书面交流和在几次会议中，他们刻毒了对该考虑的关注，包括使用的运筹帷幄量大大减少，以及未能革新代理资本权重以琢磨到王人备不同的时间节点大小。

Cheng等东谈主的致谢部分还列出了天然通讯作家，并表现他们被究诘或以致参与，但事实并非如斯。事实上，通讯作家是在这篇论文发表后才知谈的。

4.透明度和可复制性

4.1 AlphaChip是王人备开源的

咱们开源了一个软件库以充分复制咱们在《天然》杂志中描述的挨次。咱们的 RL挨次中的每一滑都不错解放查验、扩张或修改，并提供源代码或二进制文献以扩张扫数预处理法子和后处理法子。开源代码需要 TF-Agents团队一年多的发奋，包括孤立复制咱们的挨次和咱们在《天然》杂志中的阻挡。

来自咱们的开源存储库：“开源咱们的代码需要与谷歌的另一个团队(TF- Agents)合营。TF-Agents早先使用咱们的代码库复制了咱们的Nature著作中的阻挡，然后使用他们我方的已毕从新已毕了咱们的挨次并复制了咱们的阻挡，然后开源了他们的已毕，因为它不依赖于任何里面基础设施。”

Cheng等东谈主不必要隘“逆向工程”了咱们行动性能优化二进制文献提供的两个函数(代理资本函数和强制导向(FD)表率单位摈弃器)。如MLCAD 2021论文中所述，咱们当今建议使用DREAMPlace进行表率单位布局，而不是FD，因为它能产生更好的性能。咱们提供传统的FD二进制文献的独一办法是使咱们的挨次大概准确地复制，正如在《天然》杂志上发表的那样。

对于宇宙基准，咱们在《天然》杂志上报谈了开源Ariane RISC-V CPU的阻挡。此外，在MLCAD 2021的后续论文中，咱们对开源ISPD 2015竞赛基准进行了评估。因为咱们依然开源了咱们的代码，社区不错解放地谨守咱们的挨次，并在职何宇宙基准上评估咱们的挨次。

4.2 Cheng等东谈主宣称他们不成分享他们的“敞开”测试用例

Cheng等东谈主刻毒的月旦之一是，Nature评估是在专有的模块上进行的(此外，开源的Ariane模块也进行了评估，并在后续出书物中公开了ISPD 2015基准)。Cheng等东谈主宣称对一组敞开测试案例进行评估，以普及可类似性，但当咱们与作家通讯时，他们无法或不肯意提供必要的详尽网表，以在其主数据表(表1)中复制“敞开”测试案例的阻挡。

灾荒的是，这意味着咱们不成复制Cheng等东谈主的表1中的任何阻挡:

GF12(12纳米)：这些测试案例是专有的，公众无法得到，Cheng等东谈主的阻挡是暗昧的，这意味着即使外部考虑东谈主员得到拜谒权，胜利比较仍然是不可能的。

NG45(45纳米)：尽管自2024年2月以来已有超越10次的央求，但Cheng等东谈主尚未分享重现其NG45阻挡所需的合成网表。请真贵，其他论文对NG45模块进行了评估，但其阻挡与Cheng等东谈主的表1中的阻挡不一致(举例，参见AutoDMP 的表2)，强调了再现性挑战。

灾荒的是，当代芯片常识产权是明锐的和专有的，据咱们所知，莫得敞开的基准可用于顶端工艺。咱们饱读吹芯片假想社区为当代纳米以下工艺创造更敞开的假想，因为这将有助于鼓舞该领域上前发展。目下，王人备敞开的假想频频为28纳米、45纳米以致130纳米，很多物理假想问题与7纳米以下工艺大不相通。

5、论断

在Cheng等东谈主尝试从新评估咱们的使命时，作家莫得按照《天然》杂志中的描述运行咱们的挨次(举例，他们莫得进行预测验，使用的运筹帷幄量大大减少，况兼莫得进行管理测验)，申报了既不具有代表性也不具有可类似性的基准阻挡，况兼运行了有问题的消融/相干性考虑。

在他的论文中，Markov发表了基于Cheng等东谈主的“元分析”(莫得再现咱们的挨次)和匿名PDF(Markov执行上是合著者)的毫无根据的诈骗指控，其阻挡无法再现，况兼“草案中的见地和论断莫得得到实验的科学支执”。

与此同期，AlphaChip激勉了芯片假想的东谈主工智能使命的爆炸，它的超东谈主布局依然在谷歌数据中心部署的多代TPU中完成，以及Alphabet和外部芯片制造商的其他芯片。咱们期待看到AI不绝改动硬件假想的各个方面，就像硬件的跨越透彻改动了AI通常。

半导体杰作公众号推选

专注半导体领域更多原创内容

关注全球半导体产业动向与趋势

*免责声明：本文由作家原创。著作内容系作家个东谈主不雅点，半导体行业不雅察转载仅为了传达一种不同的不雅点，不代表半导体行业不雅察对该不雅点赞同或支执，如若有任何异议，欢理睬洽半导体行业不雅察。

今天是《半导体行业不雅察》为您分享的第3956期内容，迎接关注。

『半导体第一垂直媒体』

及时 专科 原创 深度

公众号ID：icbank

可爱咱们的内容就点“在看”分享给小伙伴哦开云(中国)kaiyun网页版登录入口