image.png

随着 Mojo 开源,我们又开始新的热情,迫不及待的看看这个号称最快的 AI 开发框架到底怎么使用的。

一、Install the MAX SDK

  1. 安装 modular curl -s https://get.modular.com | sh -
  2. 登录你的 Modular 账号: modular auth
  3. 开始安装 MAX SDK: modular install max
  4. 安装 MAX Engine Python 包:
MAX_PATH=$(modular config max.path) \
  && python3 -m pip install --find-links $MAX_PATH/wheels max-engine
  1. 设置环境变量:
MAX_PATH=$(modular config max.path) \
  && echo 'export MODULAR_HOME="'$HOME'/.modular"' >> ~/.zshrc \
  && echo 'export PATH="'$MAX_PATH'/bin:$PATH"' >> ~/.zshrc \
  && source ~/.zshrc

二、Run your first model

克隆官方提供的 Demo: git clone https://github.com/modularml/max.git

  1. 进入一个 Demo,安装插件:
cd max/examples/inference/roberta-python-tensorflow
python3 -m pip install -r requirements.txt
  1. 下载模型和执行
bash run.sh

运行结果:

image.png

完美!

三、比较

开始跑个 Demo,看看在相同模型下,哪个效果更好。

cd max/examples/performance-showcase
python3 -m pip install -r requirements.txt

执行

python3 run.py -m roberta

image.png
来个友好提示,喝个☕️静静等待结果。

image.png

在我这低配的电脑,以及没有GPU的情况下对照,发现还是 MAX Engine 快不少。

接下来让我们开始折腾如何使用 Mojo 做 AI 研究。

如果觉得文章内容对您有用 打赏

Buy Me A Coffee