速来报名!AICon北京站鸿蒙专场~ 了解详情
写点什么

比 Python 快 68000 倍!Mojo 正式发布,网友:Python 生态系统最重要的升级来了

  • 2023-09-18
    北京
  • 本文字数:4542 字

    阅读完需:约 15 分钟

大小:1.84M时长:10:42
比Python快68000倍!Mojo正式发布,网友:Python生态系统最重要的升级来了

自 5 月 2 日首次亮相以来,Modular 公司的 Mojo 编程语言引起了开发人员的极大兴趣,已经有超 12 万开发人员注册使用 Mojo Playground,19 万开发者热情参与 Discord 与 GitHub 讨论。Fast.ai 联合创始人、数据科学家 Jeremy Howard 更是表示,“Mojo 可能是近几十年来最大的编程语言进步。”


9 月 7 日,Modular 公司宣布正式发布 Mojo:Mojo 现在已经开放本地下载——初步登陆 Linux 系统,并将很快提供 Mac 与 Windows 版本。



Modular 公司由 LLVM 和 Swift 编程语言的联合创始人 Chris Lattner 创办,此前刚获得 1 亿美元(约 7 亿人民币)融资。Chris Lattner 表示,本轮融资总额达到 1.3 亿美元,所得款项将用于产品扩展、硬件支持和推动自研 AI 编程语言 Mojo 的进一步发展。


据介绍,Mojo Playground 提供的只是一套简单的语言展示,而本地 Mojo 工具链则可帮助开发人员完成更多工作。本地开发者工具将开放全部 Mojo 功能,包括一套完整的编译器功能与 IDE 工具,让开发者能够轻松对 Mojo 应用进行构建与迭代。

Mojo:面向 AI 开发者的新型编程语言


Mojo 是一种面向 AI 开发者的新型编程语言。随着时间推移,它将逐步成长为 Python 的超集。Mojo 已经支持与任意 Python 代码的无缝集成,并提供可扩展的编程模型以支撑各类关键性能系统,包括在 AI 场景中普遍存在的加速器(例如 GPU)。


Mojo 能够切实满足开发者需求,引导大家逐步采用新功能,从而在必要时获得高性能体验。具体来说,Mojo 可以为开发者带来的主要收益:

 

  • 一种语言编写所有内容:Mojo 能够随时随地服务于 AI 开发者,将 Python 的可用性与以往强制开发者使用 C、C++ 或 CUDA 的系统编程功能结合起来。 开发者可以在公共代码库上工作,从而简化从研究到生产的整个工作流程。

  • 突破 Python 性能极限:时至今日,Python 已经无处不在。但对于需要更高性能或特殊硬件的任务,Python 的表现往往不那么理想。Mojo 能够发挥 CPU 的性能潜力,并可良好支持 GPU 和 ASIC 等外部加速器,提供与 C++ 和 CUDA 相当的卓越性能。

  • 对接完整 Python 生态系统:Mojo 提供与 Python 生态系统间的全面互操作性,使其能够无缝利用 Python 库资源,同时发挥 Mojo 自身的功能与性能优势。例如,开发者可以将 NumPy 和 Matpotlib 同自己的 Mojo 代码无缝混合起来。

  • 升级 AI 工作负载:Mojo 紧密集成有模块化 AI 引擎,允许开发者通过自定义操作轻松扩展自己的 AI 工作负载,包括预处理、后处理操作和高性能数学算法。开发者还可以引入内核融合、图重写、sharp 函数等。


通过对现有 Python 代码做一点简单变更,开发者就可以使用 Mojo 对高计算强度工作负载进行显著加速(最高可提速 6.8 万倍)。目前,Mojo 的实际应用案例包括:


为何能比 Python 快 68000 倍?


Mojo 是 Python 家族的一员,但有着远大的目标——想要与 Python 生态系统完全兼容,因此开发人员可以继续使用自己熟悉的工具。Mojo 旨在通过保留 Python 的动态特性,同时为系统编程添加新原语,逐渐成为 Python 的超集。


LLVM 和 Swift 编程语言的联合创始人、Modular 公司 CEO Chris Lattner 此前在 Hacker News 上表示:“我们的目标不是让动态 Python 神奇地快速。虽然我们在动态代码方面要快得多(因为我们有编译器而不是解释器),但这并不是依靠‘足够智能’的编译器来消除动态性”。


据介绍,Mojo 最初的目标是比 Python 快 35000 倍,近日该团队表示,Mojo 将动态与静态语言的优点结合起来,一举将性能提升达 Python 的 68000 倍


Mojo 团队在系列博文中介绍了 Mojo 是如何比 Python 快 68000 倍的:在第一篇博文中,团队尝试将代码移植为 Mojo,从而获得了约 90 倍的性能提升;在第二篇博文中,团队对代码进行矢量化与并行化,又将性能提升了 2.6 万倍;在第三篇博文中,团队展示如何通过新的性能技术全面超越 3.5 万倍的程序加速目标。


具体来说,Mojo 团队首先用简单端口将 Python 程序提速 89 倍;之后通过针对性优化和利用现代 CPU 的算力潜能,又将速度提升 2.6 万倍。Mojo 团队提出的并行策略是,每个 CPU 核心都应负责处理同等数量的代码行。


然而,只有当跨行工作负载相同时,对负载进行拆分以保证各个线程 worker 获取其中一组代码行才具有可行性;但曼德勃罗集并不是这样。以这种方式进行拆分会引发负载不均衡问题,这是因为曼德勃罗集中的一个像素可能在单次迭代后完成,而另一像素则可能经历 MAX_ITERS 多次迭代。也就是说,各个行的迭代次数并不相等,会导致某些率先完成计算的线程处于闲置状态,不利于全面挖掘性能潜力。


为了演示这种不均衡问题,Mojo 团队绘制了每个行在曼德勃罗集中执行的迭代总数。如下图所示,某些行在转义之前只需要不到 1000 次迭代,但其他一些行则可能需要超 80 万次迭代。


各个行所执行的迭代总数(以对数坐标系显示)并非均匀分布。某些行(例如图像中央部分的行)可能需要80多万次迭代,而两端的行则只需要800次左右迭代。


如果硬性为各个线程分配一定数量的连续行,就会发生全体线程都在等待,直至中间某组代码行(被分配给某个核心)完成运行的情况。解决这个问题的办法有很多,但最简单的当然是过度拆分。也就是说,各个线程所获得的不是一组平均分配的行,而是建立起一个工作负载池,再为每个行创建相应的工作项。各线程则以循环方式不断从线程池中拾取这些工作项。


好消息是 Mojo 拥有一个性能出色的并发运行时,所以我们用不着自行创建线程池或者设计循环拾取/执行。Mojo 的运行时提供不少高级功能,可以充分利用这样的多核心系统。


fn compute_row(y:Int):    let cy = min_y + h * scale_y    @parameter    fn compute_vector[simd_width:Int](w:Int):        let cx = min_x + iota[DType.float64, simd_width]() * scale_x        output.simd_store[simd_width](Index(h,w),                 mandelbrot_kernel(ComplexSIMD[DType.float64,                                               simd_width](cx,cy))    vectorize[num_ports * simd_width, compute_vector](width)with Runtime(num_cores()) as rt:    let partition_factor = 16 # Is autotuned.    parallelize[compute_row](rt, height, partition_factor * num_cores())
复制代码


可以分别在拆分成 2、4、8、16 和 32 份时评估程序性能,相应结果如下:



到这里,Mojo 团队获得了 2.3 倍于并行版本的加速效果,更是达到矢量化实现版本的 78 倍。那么,在每个行中做进一步划分会不会让性能更上一层楼?如果单行很大,那也许可以。但 Mojo 团队这个示例中的最大单行长度也不过 4096。另外,同一行内的各像素间往往更具相关性。这时候更适合采用单指令流多数据流(SIMD),避免工作被白白浪费在矢量通道当中。



回顾整个旅程,Mojo 团队先是对 Python 代码实现了 2.6 万倍性能提升,之后又使用超额订阅达成提速 68847 倍的最终成绩,并最终实现了 6.8 万倍的 Python 提速效果;而在应用超额订阅之后,性能在此前并行版本的基础上又提高了 1 倍。

如何使用 Mojo?


目前,开发者可以将 Mojo 下载至自己的本地计算机上,Modular 公司表示,Mojo 绝不只是编译器那么简单。

Mojo 工具箱

 

Mojo SDK 的首个版本即提供轻松开发 Mojo 程序所需要的一切,具体包括以下工具选项:

 

  • Mojo 驱动程序:提供用于 read-eval-print-loop(REPL)的 shell,允许开发者构建并运行 Mojo 程序、打包 Mojo 模块、生成文档和格式化代码。

  • 面向 Visual Studio Code(VS Code)的扩展:支持各种生产力功能,例如语法高亮显示、代码补全等。

  • Jupyter 内核:支持构建和运行 Mojo notebook,包括使用 Python 代码。

  • 支持调试(即将推出):进入并检查正在运行中的 Mojo 程序,甚至可以将 C++ 与 Mojo 堆栈帧混合起来。

 

本次发布的 SDK 初始版本将支持 x86/Linux 系统,在后续更新中,团队将进一步扩展至其他操作系统、硬件和工具功能。


Mojo SDK 视图示例

Mojo 驱动程序

 

与 Python 一样,开发者可以运行 Mojo 命令在 REPL 中进行编程。下面是一个在 Mojo 中计算欧氏几何距离的示例:


$ MojoWelcome to Mojo! 🔥Expressions are delimited by a blank line.Type `:Mojo help` for further assistance.1> %%python2. import numpy as np3. n = 100000004. anp = np.random.rand(n)5. bnp = np.random.rand(n)6> from tensor import Tensor7. let n: Int = 100000008. var a = Tensor[DType.float64](n)9. var b = Tensor[DType.float64](n)10. for i in range(n):11.    a[i] = anp[i].to_float64()12.    b[i] = bnp[i].to_float64()13> from math import sqrt14. def Mojo_naive_dist(a: Tensor[DType.float64], b: Tensor[DType.float64]) -> Float64:15.    var s: Float64 = 0.016.    n = a.num_elements()17.    for i in range(n):18.       dist = a[i] - b[i]19.       s += dist*dist20.    return sqrt(s)23> fn Mojo_fn_dist(a: Tensor[DType.float64], b: Tensor[DType.float64]) -> Float64:24.    var s: Float64 = 0.025.    let n = a.num_elements()26.    for i in range(n):27.       let dist = a[i] - b[i]28.       s += dist*dist29.    return sqrt(s)30.31> let naive_dist = Mojo_naive_dist(a, b)32. let fn_dist = Mojo_fn_dist(a, b)33. print(fn_dist)34. 1290.852142509223535. print(naive_dist)36. 1290.8521425092235 
复制代码


此外,Mojo 还允许开发者构建静态编译的可执行文件,从而在无需任何依赖项的前提下进行部署。例如,开发者可以编译并运行示例库当中的 hello.🔥 程序,如下所示:


$ Mojo build hello.🔥$ ./helloHello Mojo 🔥!963$ ls -lGtranh hello*-rw-r--r-- 1 0   817 Sep  3 23:59 hello.🔥-rwxr-xr-x 1 0   22K Sep  3 23:59 hello
复制代码


这个静态编译的 22 kB 二进制文件非常酷,它的实现离不开 Mojo 紧凑的依赖项管理机制。

Visual Studio Code 扩展

 

VS Code 是目前全球最流行的 IDE 之一。Mojo 已经在 Visual Studio Marketplace 上发布了官方扩展,能够直接提供支持。如此一来,各位开发者就能轻松在生产流程中获取 Mojo 支持语法高亮显示、诊断和修复、定义和引用、悬停帮助、格式化、代码补全。

Jupyter 集成

 

Jupyter 为交互式开发提供了一套强大的环境。Mojo 包含一个 Jupyter 内核,允许开发者直接在其中使用 Jupyter notebook。团队在 GitHub 上共享了 Mojo Playground 中的所有 notebook(https://github.com/modularml/mojo/tree/main/examples/notebooks),关于更多细节信息请参阅 README 自述文件。

调试支持(即将推出)

 

在即将发布的新版本中,团队将在 VS Code 中添加通过 LLDB 命令行界面实现的交互式调试体验。不仅如此,Mojo 的调试程序能够在同一调试会话中无缝对 Mojo/C/C++ 混合代码进行操作,进一步增强开发者在处理高度专业化代码时的能力。

 

参考链接:

https://www.modular.com/blog/mojo-its-finally-here

https://www.modular.com/blog/mojo-a-journey-to-68-000x-speedup-over-python-part-3

2023-09-18 15:4023064

评论 7 条评论

发布
用户头像
是不是把python代码中的sleep(68000),改成sleep(1)实现的
2023-09-21 17:19 · 安徽
回复
?
2023-10-15 16:21 · 浙江
回复
???

2023-10-15 16:35 · 浙江
回复
用户头像
一个闭源(尚无开源计划)的编程语言, 应用范围最多也止步于playground, 谁敢将其应用于生产环境? 对自己也是对自己所处组织不负责
2023-09-12 10:02 · 四川
回复
用户头像
该说现有Python,这是有多慢
2023-09-11 10:52 · 北京
回复
用户头像
快这么多倍是什么原理?
2023-09-09 14:37 · 北京
回复
不是因为mojo多牛逼,而是因为Python太慢了
2023-12-11 08:05 · 内蒙古
回复
没有更多了
发现更多内容

24小时共享自助洗车店你见过吗

共享电单车厂家

24小时共享自助洗车 自助洗车加盟 自助洗车店

【用户文章】P4合并实践指南之实例拆解Resolve

龙智—DevSecOps解决方案

P4合并 解决冲突

助力开发者,全方位解读 APISIX 测试案例

API7.ai 技术团队

开源 测试 APISIX 网关

Apache APISIX Meetup 南京站!我们 7.30 见!

API7.ai 技术团队

API网关 APISIX Meetup Workshop

红象云腾大数据基础平台与龙蜥社区操作系统再次完成联合测试

OpenAnolis小助手

开源 操作系统 龙蜥社区 红象云腾 兼容性互认证

24小时自助共享洗车店要多少钱

共享电单车厂家

自助洗车加盟 车白兔洗车 24小时自助共享洗车 自助共享洗车店

代码合规性:开发人员使用Helix QAC的5大原因

龙智—DevSecOps解决方案

静态代码分析 Helix QAC 静态代码分析器

全球云市场增势迅猛,数据安全进入法治化的强监管时代

行云管家

云计算 网络安全 数据安全

知识干货:基础存储服务新手体验营

hum建应用专家

数据库

一文搞懂│什么是跨域?如何解决跨域?

前端 经验分享 跨域 7月月更

华为影像XMAGE:求尽世间像,终见菩提心

脑极体

【计算讲谈社】第六讲|三星堆奇幻之旅:只有云计算才能带来的体验

大咖说

云计算 三星堆 数字空间 阿里云大咖说 计算讲谈社

24小时自助共享洗车有人洗吗

共享电单车厂家

24小时无人自助洗车 自助洗车加盟 车白兔自助洗车 自助洗车店

网络安全网格概念以及特点简单普及

行云管家

网络安全 网络安全网格

阿里云E-MapReduce 极客大赛开放报名 数十万奖金等你挑战

Lily

比赛

Python|类与对象

AXYZdong

Python 7月月更

Java实现有getMin功能的栈

工程师日月

Java 算法 7月月更

加盟自助洗车真的不用招人吗

共享电单车厂家

自助洗车加盟 车白兔自助洗车 无人自助洗车

5分钟快速梳理你的HTTP体系

程序员海军

前端 HTTP 7月月更

【森城市】GIS数据漫谈(四)— 坐标系统

ThingJS数字孪生引擎

用对工具,CI事半功倍

龙智—DevSecOps解决方案

ci 持续集成 ⾃动化构建 ⾃动化部署

【7.8-7.15】写作社区精彩技术博文回顾

InfoQ写作社区官方

优质创作周报

Dimitra 和 Ocean Protocol 解读农业数据背后的秘密

股市老人

游戏有什么用?| 游戏应用价值研究案例征集

易观分析

游戏

大数据培训 Hive 相关知识的全面总结

@零度

hive 大数据开发

直播带货系统源码

开源直播系统源码

软件测试 APP开发 直播系统源码 直播带货系统源码

无需CORS,用nginx解决跨域问题,轻松实现低代码开发的前后端分离

葡萄城技术团队

nginx 前后端分离 cros

什么是真正的HTAP?(一)背景篇

StoneDB

MySQL OLAP OLTP HTAP StoneDB

Gartner:无需数据中台,API就能胜任连接前端和后端的工作

雨果

数据中台 API

MySQL 添加用户并授予只能查询权限

叫练

没有可观测性,DataOps 注定失败|TheNewStack

观测云

比Python快68000倍!Mojo正式发布,网友:Python生态系统最重要的升级来了_生成式 AI_凌敏_InfoQ精选文章