DeepMind 使用 AI 打破了 50 年的数学记录;一周后新纪录下降

AlphaTensor 发现了更好的矩阵数学算法,从远处激发了另一项改进。

 

图片[1]-DeepMind 使用 AI 打破了 50 年的数学记录;一周后新纪录下降-零度博客

 

矩阵乘法是许多机器学习突破的核心,而且它变得更快——两倍。上周,DeepMind宣布它发现了一种更有效的矩阵乘法运算方法,打破了 50 年的记录。本周,约翰内斯·开普勒大学林茨分校的两名奥地利研究人员声称,他们已经超越了这一新纪录。

矩阵乘法涉及将两个矩形数字数组相乘,通常是语音识别、图像识别、智能手机图像处理、压缩和生成计算机图形的核心。图形处理单元 (GPU) 因其大规模并行特性而特别擅长执行矩阵乘法。他们可以将一个大的矩阵数学问题分割成许多部分,并使用一种特殊的算法同时攻击其中的一部分。

1969 年,一位名叫 Volker Strassen 的德国数学家发现了以前最好的 4×4 矩阵相乘算法,它减少了执行矩阵计算所需的步骤数。例如,使用传统的教室方法将两个 4×4 矩阵相乘需要 64 次乘法,而 Strassen 的算法可以在 49 次乘法中执行相同的壮举。

DeepMind 使用 AI 打破了 50 年的数学记录;一周后新纪录下降
 DeepMind 的矩阵乘法示例,带有花哨的括号和彩色数字圆圈。
DeepMind

DeepMind 使用名为 AlphaTensor 的神经网络发现了一种将乘法次数减少到 47 次的方法,其研究人员上周在 Nature 上发表了一篇关于该成就的论文。

从 49 步到 47 步听起来并不多,但考虑到 GPU 每天要进行多少万亿次矩阵计算,即使是增量改进也可以转化为巨大的效率提升,让 AI 应用程序可以在现有系统上更快地运行硬件。

 

当数学只是一场游戏时,人工智能赢了

DeepMind 使用 AI 打破了 50 年的数学记录;一周后新纪录下降

AlphaTensor 是 AlphaGo( 2017 年击败世界冠军围棋选手)和AlphaZero的后代,后者负责国际象棋和将棋。DeepMind 将 AlphaTensor 称为“第一个用于为矩阵乘法等基本任务发现新颖、高效且​​可证明正确的算法的 AI 系统”。

为了发现更有效的矩阵数学算法,DeepMind 将问题设置为单人游戏。该公司在上周的博客文章中更详细地描述了该过程

在这个游戏中,棋盘是一个 3 维张量(数字数组),用于捕捉当前算法离正确的程度。通过一组与算法指令相对应的允许移动,玩家尝试修改张量并将其条目归零。当玩家设法这样做时,这将为任何一对矩阵生成可证明正确的矩阵乘法算法,并且其效率由将张量归零所采取的步骤数来衡量。

然后,DeepMind 使用强化学习训练 AlphaTensor 来玩这个虚构的数学游戏——类似于 AlphaGo 学习围棋的方式——并且随着时间的推移逐渐改进。根据 DeepMind 的说法,最终,它重新发现了施特拉森和其他人类数学家的工作,然后超越了他们。

在一个更复杂的示例中,AlphaTensor 发现了一种以 96 步执行 5×5 矩阵乘法的新方法(旧方法为 98 步)。本周,奥地利林茨 Johannes Kepler 大学的Manuel Kauers 和 Jakob Moosbauer发表了一篇论文,声称他们已将该计数减少了 1,降至 95 次乘法。这个显然破纪录的新算法来得如此之快绝非巧合,因为它建立在 DeepMind 的工作之上。在他们的论文中,Kauers 和 Moosbauer 写道:“这个解决方案是从 [DeepMind 的研究人员] 的方案中获得的,通过应用一系列转换导致可以消除一个乘法的方案。”

技术进步靠自己,随着人工智能现在在寻找新的算法,其他长期的数学记录可能很快就会下降。与计算机辅助设计 ( CAD ) 允许开发更复杂、更快的计算机的方式类似,人工智能可以帮助人类工程师加速其自身的推出。

THE END
喜欢就支持一下吧
点赞2250 分享
VT4browsers  附件下载自动查杀、安全检测插件-零度博客

VT4browsers 附件下载自动查杀、安全检测插件

当你从网上下载某个文件前会弹出安全询问,或者右击某个超链接时,可以方便提交到 VT 进行扫描     Virustotal 是一项免费的在线服务,可分析文件和 URL,从而识别防病毒引擎和网站扫...
更多实用软件推荐!-零度博客

更多实用软件推荐!

下载神器: IDM  文件搜索:everything 【点击下载】 最佳软件卸载工具: Geek uninstaller【点击下载】 效率神器: quicklook【点击下载】 最强视频播放: potplayer【点击下载】 截屏神器: Snip...
admin的头像-零度博客admin
1.3W+6539
推荐8个超有趣又实用的网站! 娱乐、办公必备!-零度博客

推荐8个超有趣又实用的网站! 娱乐、办公必备!

1.NASA 美国航天局 :https://www.nasa.gov 2.免费商用字体:https://www.100font.com 3.实用的导航站:https://hyydh.com 5.DeepL :https://www.deepl.com 6.图片AI放大:https://bigjpg.com ...
admin的头像-零度博客admin
1.3W+6539
Windows11 右键菜单恢复到 Win10经典样式 ,免费轻松解决系统升级后的痛点! 零度解说-零度博客
Mac 安装 Windows 11 系统!最完美的方案,超级流畅丝滑,完全免费,支持 M1/M2/Intel,支持拖拽互传文件! | 零度解说-零度博客

Mac 安装 Windows 11 系统!最完美的方案,超级流畅丝滑,完全免费,支持 M1/M2/Intel,支持拖拽互传文件! | 零度解说

https://www.youtube.com/watch?v=7NJpTb9MNFo ==================   安装所需软件下载:https://www.freedidi.com/12520.html
admin的头像-零度博客admin
1.5W+1527
CloudFlare 优选ip 和 优选域名的获取方法!懒人加速必备-零度博客

CloudFlare 优选ip 和 优选域名的获取方法!懒人加速必备

  1.CloudFlare优选IP网站:【链接直达】   2.CloudFlare 优选IP工具:【开源软件】     3.CloudFlare 优选域名:【GitHub开源工具】   4.CF优选域名推荐: time.cloud...
admin的头像-零度博客admin
11.6W+1705
微软在 Windows 11上 复制了最好的 Windows 音频应用程序-零度博客

微软在 Windows 11上 复制了最好的 Windows 音频应用程序

Windows 11 现在秘密包含一个音频功能,该功能与流行的第三方工具 EarTrumpet 非常相似。 Microsoft 正在复制流行的第三方 Windows 音频工具的功能。在最新的 Windows 11 测试版本中,可以启用...
admin的头像-零度博客admin
1.2W+6539
无限免费用 ChatGPT 4o 和 Claude 3.5,这五种方法亲测有效!| 零度解说-零度博客

无限免费用 ChatGPT 4o 和 Claude 3.5,这五种方法亲测有效!| 零度解说

https://www.youtube.com/watch?v=k1tyK1UaozI 免费使用 ChatGPT 4o 和 Claude 3.5 链接:https://www.freedidi.com/16792.html
Windows 11 暗藏间谍功能?Microsoft Recall 成毒瘤,教你立刻禁用并替换最佳方案 | 零度解说-零度博客

Windows 11 暗藏间谍功能?Microsoft Recall 成毒瘤,教你立刻禁用并替换最佳方案 | 零度解说

https://youtu.be/YT3CJgxZQ2s 1、禁用 Recall 的命令:https://www.freedidi.com/17899.html 2、替代方案:   Shadow Defender(英文):https://www.freedidi.com/7030.html   影子系统...