随着 Mojo 开源,我们又开始新的热情,迫不及待的看看这个号称最快的 AI 开发框架到底怎么使用的。
一、Install the MAX SDK
- 安装 modular
curl -s https://get.modular.com | sh -
- 登录你的 Modular 账号:
modular auth
- 开始安装 MAX SDK:
modular install max
- 安装 MAX Engine Python 包:
MAX_PATH=$(modular config max.path) \
&& python3 -m pip install --find-links $MAX_PATH/wheels max-engine
- 设置环境变量:
MAX_PATH=$(modular config max.path) \
&& echo 'export MODULAR_HOME="'$HOME'/.modular"' >> ~/.zshrc \
&& echo 'export PATH="'$MAX_PATH'/bin:$PATH"' >> ~/.zshrc \
&& source ~/.zshrc
二、Run your first model
克隆官方提供的 Demo:
git clone https://github.com/modularml/max.git
- 进入一个 Demo,安装插件:
cd max/examples/inference/roberta-python-tensorflow
python3 -m pip install -r requirements.txt
- 下载模型和执行
bash run.sh
运行结果:
完美!
三、比较
开始跑个 Demo,看看在相同模型下,哪个效果更好。
cd max/examples/performance-showcase
python3 -m pip install -r requirements.txt
执行
python3 run.py -m roberta
在我这低配的电脑,以及没有GPU的情况下对照,发现还是 MAX Engine 快不少。
接下来让我们开始折腾如何使用 Mojo 做 AI 研究。
如果觉得文章内容对您有用 打赏
![Buy Me A Coffee](https://cdn.buymeacoffee.com/buttons/v2/default-yellow.png)