Aydyn Tairov 是一名开源作者,也是 Meta 前工程师,他此前将 GitHub 上火热的纯 C 语言实现的 llama2.c项目移植到了 Python ——llama2.py。
上周 Mojo 编程语言正式开放下载,并且声称比 Python 快 68000 倍。
于是 Aydyn Tairov 马不停蹄地就开始将 llama2.py 移植到 Mojo——llama2.mojo,结果非常出乎意料。
他表示,Mojo SIMD 原语帮助将 Python 的糟糕性能提升了近 250 倍。此外,由于他使用了 matmul 的矢量化助手,经测试 llama2.py 速度比 C 版本快 20%。
详情
https://github.com/tairov/llama2.mojohttps://twitter.com/tairov/status/1701194900228764023