QCon北京「鸿蒙专场」火热来袭!即刻报名,与创新同行~ 了解详情
写点什么

比 Python 快 68000 倍!Mojo 正式发布,网友:Python 生态系统最重要的升级来了

  • 2023-09-18
    北京
  • 本文字数:4542 字

    阅读完需:约 15 分钟

大小:1.84M时长:10:42
比Python快68000倍!Mojo正式发布,网友:Python生态系统最重要的升级来了

自 5 月 2 日首次亮相以来,Modular 公司的 Mojo 编程语言引起了开发人员的极大兴趣,已经有超 12 万开发人员注册使用 Mojo Playground,19 万开发者热情参与 Discord 与 GitHub 讨论。Fast.ai 联合创始人、数据科学家 Jeremy Howard 更是表示,“Mojo 可能是近几十年来最大的编程语言进步。”


9 月 7 日,Modular 公司宣布正式发布 Mojo:Mojo 现在已经开放本地下载——初步登陆 Linux 系统,并将很快提供 Mac 与 Windows 版本。



Modular 公司由 LLVM 和 Swift 编程语言的联合创始人 Chris Lattner 创办,此前刚获得 1 亿美元(约 7 亿人民币)融资。Chris Lattner 表示,本轮融资总额达到 1.3 亿美元,所得款项将用于产品扩展、硬件支持和推动自研 AI 编程语言 Mojo 的进一步发展。


据介绍,Mojo Playground 提供的只是一套简单的语言展示,而本地 Mojo 工具链则可帮助开发人员完成更多工作。本地开发者工具将开放全部 Mojo 功能,包括一套完整的编译器功能与 IDE 工具,让开发者能够轻松对 Mojo 应用进行构建与迭代。

Mojo:面向 AI 开发者的新型编程语言


Mojo 是一种面向 AI 开发者的新型编程语言。随着时间推移,它将逐步成长为 Python 的超集。Mojo 已经支持与任意 Python 代码的无缝集成,并提供可扩展的编程模型以支撑各类关键性能系统,包括在 AI 场景中普遍存在的加速器(例如 GPU)。


Mojo 能够切实满足开发者需求,引导大家逐步采用新功能,从而在必要时获得高性能体验。具体来说,Mojo 可以为开发者带来的主要收益:

 

  • 一种语言编写所有内容:Mojo 能够随时随地服务于 AI 开发者,将 Python 的可用性与以往强制开发者使用 C、C++ 或 CUDA 的系统编程功能结合起来。 开发者可以在公共代码库上工作,从而简化从研究到生产的整个工作流程。

  • 突破 Python 性能极限:时至今日,Python 已经无处不在。但对于需要更高性能或特殊硬件的任务,Python 的表现往往不那么理想。Mojo 能够发挥 CPU 的性能潜力,并可良好支持 GPU 和 ASIC 等外部加速器,提供与 C++ 和 CUDA 相当的卓越性能。

  • 对接完整 Python 生态系统:Mojo 提供与 Python 生态系统间的全面互操作性,使其能够无缝利用 Python 库资源,同时发挥 Mojo 自身的功能与性能优势。例如,开发者可以将 NumPy 和 Matpotlib 同自己的 Mojo 代码无缝混合起来。

  • 升级 AI 工作负载:Mojo 紧密集成有模块化 AI 引擎,允许开发者通过自定义操作轻松扩展自己的 AI 工作负载,包括预处理、后处理操作和高性能数学算法。开发者还可以引入内核融合、图重写、sharp 函数等。


通过对现有 Python 代码做一点简单变更,开发者就可以使用 Mojo 对高计算强度工作负载进行显著加速(最高可提速 6.8 万倍)。目前,Mojo 的实际应用案例包括:


为何能比 Python 快 68000 倍?


Mojo 是 Python 家族的一员,但有着远大的目标——想要与 Python 生态系统完全兼容,因此开发人员可以继续使用自己熟悉的工具。Mojo 旨在通过保留 Python 的动态特性,同时为系统编程添加新原语,逐渐成为 Python 的超集。


LLVM 和 Swift 编程语言的联合创始人、Modular 公司 CEO Chris Lattner 此前在 Hacker News 上表示:“我们的目标不是让动态 Python 神奇地快速。虽然我们在动态代码方面要快得多(因为我们有编译器而不是解释器),但这并不是依靠‘足够智能’的编译器来消除动态性”。


据介绍,Mojo 最初的目标是比 Python 快 35000 倍,近日该团队表示,Mojo 将动态与静态语言的优点结合起来,一举将性能提升达 Python 的 68000 倍


Mojo 团队在系列博文中介绍了 Mojo 是如何比 Python 快 68000 倍的:在第一篇博文中,团队尝试将代码移植为 Mojo,从而获得了约 90 倍的性能提升;在第二篇博文中,团队对代码进行矢量化与并行化,又将性能提升了 2.6 万倍;在第三篇博文中,团队展示如何通过新的性能技术全面超越 3.5 万倍的程序加速目标。


具体来说,Mojo 团队首先用简单端口将 Python 程序提速 89 倍;之后通过针对性优化和利用现代 CPU 的算力潜能,又将速度提升 2.6 万倍。Mojo 团队提出的并行策略是,每个 CPU 核心都应负责处理同等数量的代码行。


然而,只有当跨行工作负载相同时,对负载进行拆分以保证各个线程 worker 获取其中一组代码行才具有可行性;但曼德勃罗集并不是这样。以这种方式进行拆分会引发负载不均衡问题,这是因为曼德勃罗集中的一个像素可能在单次迭代后完成,而另一像素则可能经历 MAX_ITERS 多次迭代。也就是说,各个行的迭代次数并不相等,会导致某些率先完成计算的线程处于闲置状态,不利于全面挖掘性能潜力。


为了演示这种不均衡问题,Mojo 团队绘制了每个行在曼德勃罗集中执行的迭代总数。如下图所示,某些行在转义之前只需要不到 1000 次迭代,但其他一些行则可能需要超 80 万次迭代。


各个行所执行的迭代总数(以对数坐标系显示)并非均匀分布。某些行(例如图像中央部分的行)可能需要80多万次迭代,而两端的行则只需要800次左右迭代。


如果硬性为各个线程分配一定数量的连续行,就会发生全体线程都在等待,直至中间某组代码行(被分配给某个核心)完成运行的情况。解决这个问题的办法有很多,但最简单的当然是过度拆分。也就是说,各个线程所获得的不是一组平均分配的行,而是建立起一个工作负载池,再为每个行创建相应的工作项。各线程则以循环方式不断从线程池中拾取这些工作项。


好消息是 Mojo 拥有一个性能出色的并发运行时,所以我们用不着自行创建线程池或者设计循环拾取/执行。Mojo 的运行时提供不少高级功能,可以充分利用这样的多核心系统。


fn compute_row(y:Int):    let cy = min_y + h * scale_y    @parameter    fn compute_vector[simd_width:Int](w:Int):        let cx = min_x + iota[DType.float64, simd_width]() * scale_x        output.simd_store[simd_width](Index(h,w),                 mandelbrot_kernel(ComplexSIMD[DType.float64,                                               simd_width](cx,cy))    vectorize[num_ports * simd_width, compute_vector](width)with Runtime(num_cores()) as rt:    let partition_factor = 16 # Is autotuned.    parallelize[compute_row](rt, height, partition_factor * num_cores())
复制代码


可以分别在拆分成 2、4、8、16 和 32 份时评估程序性能,相应结果如下:



到这里,Mojo 团队获得了 2.3 倍于并行版本的加速效果,更是达到矢量化实现版本的 78 倍。那么,在每个行中做进一步划分会不会让性能更上一层楼?如果单行很大,那也许可以。但 Mojo 团队这个示例中的最大单行长度也不过 4096。另外,同一行内的各像素间往往更具相关性。这时候更适合采用单指令流多数据流(SIMD),避免工作被白白浪费在矢量通道当中。



回顾整个旅程,Mojo 团队先是对 Python 代码实现了 2.6 万倍性能提升,之后又使用超额订阅达成提速 68847 倍的最终成绩,并最终实现了 6.8 万倍的 Python 提速效果;而在应用超额订阅之后,性能在此前并行版本的基础上又提高了 1 倍。

如何使用 Mojo?


目前,开发者可以将 Mojo 下载至自己的本地计算机上,Modular 公司表示,Mojo 绝不只是编译器那么简单。

Mojo 工具箱

 

Mojo SDK 的首个版本即提供轻松开发 Mojo 程序所需要的一切,具体包括以下工具选项:

 

  • Mojo 驱动程序:提供用于 read-eval-print-loop(REPL)的 shell,允许开发者构建并运行 Mojo 程序、打包 Mojo 模块、生成文档和格式化代码。

  • 面向 Visual Studio Code(VS Code)的扩展:支持各种生产力功能,例如语法高亮显示、代码补全等。

  • Jupyter 内核:支持构建和运行 Mojo notebook,包括使用 Python 代码。

  • 支持调试(即将推出):进入并检查正在运行中的 Mojo 程序,甚至可以将 C++ 与 Mojo 堆栈帧混合起来。

 

本次发布的 SDK 初始版本将支持 x86/Linux 系统,在后续更新中,团队将进一步扩展至其他操作系统、硬件和工具功能。


Mojo SDK 视图示例

Mojo 驱动程序

 

与 Python 一样,开发者可以运行 Mojo 命令在 REPL 中进行编程。下面是一个在 Mojo 中计算欧氏几何距离的示例:


$ MojoWelcome to Mojo! 🔥Expressions are delimited by a blank line.Type `:Mojo help` for further assistance.1> %%python2. import numpy as np3. n = 100000004. anp = np.random.rand(n)5. bnp = np.random.rand(n)6> from tensor import Tensor7. let n: Int = 100000008. var a = Tensor[DType.float64](n)9. var b = Tensor[DType.float64](n)10. for i in range(n):11.    a[i] = anp[i].to_float64()12.    b[i] = bnp[i].to_float64()13> from math import sqrt14. def Mojo_naive_dist(a: Tensor[DType.float64], b: Tensor[DType.float64]) -> Float64:15.    var s: Float64 = 0.016.    n = a.num_elements()17.    for i in range(n):18.       dist = a[i] - b[i]19.       s += dist*dist20.    return sqrt(s)23> fn Mojo_fn_dist(a: Tensor[DType.float64], b: Tensor[DType.float64]) -> Float64:24.    var s: Float64 = 0.025.    let n = a.num_elements()26.    for i in range(n):27.       let dist = a[i] - b[i]28.       s += dist*dist29.    return sqrt(s)30.31> let naive_dist = Mojo_naive_dist(a, b)32. let fn_dist = Mojo_fn_dist(a, b)33. print(fn_dist)34. 1290.852142509223535. print(naive_dist)36. 1290.8521425092235 
复制代码


此外,Mojo 还允许开发者构建静态编译的可执行文件,从而在无需任何依赖项的前提下进行部署。例如,开发者可以编译并运行示例库当中的 hello.🔥 程序,如下所示:


$ Mojo build hello.🔥$ ./helloHello Mojo 🔥!963$ ls -lGtranh hello*-rw-r--r-- 1 0   817 Sep  3 23:59 hello.🔥-rwxr-xr-x 1 0   22K Sep  3 23:59 hello
复制代码


这个静态编译的 22 kB 二进制文件非常酷,它的实现离不开 Mojo 紧凑的依赖项管理机制。

Visual Studio Code 扩展

 

VS Code 是目前全球最流行的 IDE 之一。Mojo 已经在 Visual Studio Marketplace 上发布了官方扩展,能够直接提供支持。如此一来,各位开发者就能轻松在生产流程中获取 Mojo 支持语法高亮显示、诊断和修复、定义和引用、悬停帮助、格式化、代码补全。

Jupyter 集成

 

Jupyter 为交互式开发提供了一套强大的环境。Mojo 包含一个 Jupyter 内核,允许开发者直接在其中使用 Jupyter notebook。团队在 GitHub 上共享了 Mojo Playground 中的所有 notebook(https://github.com/modularml/mojo/tree/main/examples/notebooks),关于更多细节信息请参阅 README 自述文件。

调试支持(即将推出)

 

在即将发布的新版本中,团队将在 VS Code 中添加通过 LLDB 命令行界面实现的交互式调试体验。不仅如此,Mojo 的调试程序能够在同一调试会话中无缝对 Mojo/C/C++ 混合代码进行操作,进一步增强开发者在处理高度专业化代码时的能力。

 

参考链接:

https://www.modular.com/blog/mojo-its-finally-here

https://www.modular.com/blog/mojo-a-journey-to-68-000x-speedup-over-python-part-3

2023-09-18 15:4023309

评论 7 条评论

发布
用户头像
是不是把python代码中的sleep(68000),改成sleep(1)实现的
2023-09-21 17:19 · 安徽
回复
?
2023-10-15 16:21 · 浙江
回复
???

2023-10-15 16:35 · 浙江
回复
用户头像
一个闭源(尚无开源计划)的编程语言, 应用范围最多也止步于playground, 谁敢将其应用于生产环境? 对自己也是对自己所处组织不负责
2023-09-12 10:02 · 四川
回复
用户头像
该说现有Python,这是有多慢
2023-09-11 10:52 · 北京
回复
用户头像
快这么多倍是什么原理?
2023-09-09 14:37 · 北京
回复
不是因为mojo多牛逼,而是因为Python太慢了
2023-12-11 08:05 · 内蒙古
回复
没有更多了
发现更多内容

深入理解MySQL的binlog

JavaEdge

1月月更

1月月更|推荐学java——MyBatis高级

逆锋起笔

mybatis SSM框架 java 编程 动态SQL

从技术新趋势到云原生应用开发,云计算下一个十年将走向何方

亚马逊云科技 (Amazon Web Services)

计算

怎么访问到别人的电脑?

你?

再一次重构云计算底座, Amazon Graviton3!

亚马逊云科技 (Amazon Web Services)

计算

Spring Boot Admin,贼好使!

王磊

springboot

java开发面试之Redis高并发处理

@零度

redis JAVA开发

TDSQL 2021:致未来的年终总结

腾讯云数据库

tdsql 国产数据库

企业聊天APP-有什么作用,可以带来哪些便利?WorkPlus即时通讯

BeeWorks

建议收藏 | SpringBoot 元数据配置原来可以这么玩!

李尚智

spring springboot SpringBoot 2 java 编程 1月月更

深入 MySQL 索引:从数据结构到具体使用

Ayue、

MySQL 数据库 1月月更

基于云上 Arm 架构赋能数值天气预报

亚马逊云科技 (Amazon Web Services)

计算

ReactNative进阶(十五):应用 react-native-tab-navigator 实现底部导航栏

No Silver Bullet

​React Native 1月月更 底部导航

前端开发之VUE基础面试题分享

@零度

Vue 前端开发

终于“打造”出了一个可以随时随地编程的工具

老表

Python Linux 服务器 跟老表学云服务器

开源数据库TDSQL PG版再升级:分区表性能提升超10倍

腾讯云数据库

tdsql 国产数据库

Go 语言快速入门指南:Go 语言解析JSON

宇宙之一粟

Go json 1月月更

云原生+国产化,腾讯云数据库不做选择题

腾讯云数据库

tdsql 国产数据库

青藤成功举办“ATT&CK应用发展论坛”,并发布《ATT&CK框架实践指南》

青藤云安全

腾讯云TDSQL在PostgreSQL领域的‘‘再次突破’’

腾讯云数据库

tdsql 国产数据库

实现分区表性能提升超10倍,解密TDSQL PG版开源升级特性

腾讯云数据库

tdsql 国产数据库

技术解析 | 即构移动端超分辨率技术

ZEGO即构

计算机视觉 音视频 视频超分

被赶出自己公司的40岁程序员,为Coder们写了个网站--程序员福利网

程序员福利网老骨

程序员 导航网站

Hibernate 的 HHH90000022 警告

HoneyMoose

在 Flutter 中使用交错网格视图创建瀑布流布局

坚果

flutter 1月月更

类脑计算技术领域领导者灵汐科技加入龙蜥社区,共同繁荣开源生态

OpenAnolis小助手

Linux 开源 芯片 生态

公开啦!「2021中国技术品牌影响力企业 」OceanBase 成功上榜

OceanBase 数据库

数据库 开源 开发者 OceanBase 开源 技术品牌

雷霆传奇H5光柱版游戏详细图文架设教程

echeverra

游戏

手机APP消息推送极光推送jpush-php实例

Owen Zhang

极光推送 jpush-php实例

仅有0.1M可训参数,AIOps日志异常检测新范式

云智慧AIOps社区

AI 算法 异常检测 智能运维 日志解析

“爆到天际线” - TiDB 2021 Hackathon 决赛不负责任点评

PingCAP

比Python快68000倍!Mojo正式发布,网友:Python生态系统最重要的升级来了_生成式 AI_凌敏_InfoQ精选文章