TVM Windows下全功能编译方法:从入门到劝退
本教程的目标是不损失任何tvm的功能,编译时要带上llvm以方便生成dll文件。 全网唯一实操教程,本炼丹师亲自操作通过。
本文配套代码及模型:
我们接下来将编译安装tvm with LLVM。 本教程的读者对象是有一定开发经验的同学。小白请绕道,毕竟tvm是开发工具,需要写代码。我们安装它的目的是得到生成的dll文件以加速神经网络推理。
0. 工作目录
工作目录选择 e: vm 也就是所有的其它目录都在它下面。
1. 安装cmake, visual studio 2019, git for windows,anaconda
-
cmake: 下载一个最新的安装上,记得安装时将环境变量添加到系统中 visual studio 2019: 社区版即可 , 如果你还没有,请停止本教程的观看。 git:
-
安装一个llvm工具:(可能不用,装 上也没坏处,默认选项安装到系统中)
-
anaconda 安装: 本包用于创建tvm的python安装环境。毕竟人工智能用户都懂它,不懂的请绕道。
2. 编译 llvm
将下载的llvm源码解开,里面有一个llvm目录,将此目录解压到工作目录 e: vm
即压缩包中的llvm的路径为e: vmllvm
解开后 ,进入目录
E: vmllvm
mkdir build
cd build
cmake ..
cd ..
cmake --build build --config Release
接下来等,编译成功后,需要生成 E:/tvm/llvm/build/release/bin/llvm-config.exe 文件
3 编译 TVM
进入E: vm 目录
运行以下命令获取 源码:
git clone --recursive https://github.com/apache/tvm tvm
cd tvm
mkdir build
copy cmake/config.cmake build/
修改config.cmake
将 e: vmllvmcmakeconfig.cmake 复制到 e: vmllvmuild下,并修改相关内容
set(USE_LLVM E:/tvm/llvm/build/release/bin/llvm-config.exe)
本质上是修改USE_LLVM 指向上一步中编译出来的llvm-config.exe 文件的路径
切换目录到e: vm vm 没错,两个tvm
cd build
cmake -A x64 -Thost=x64 ..
cd ..
cmake --build build --config Release -- /m
接下来就是等待,只要没有错误发生,成功后将得到如下画面
在E: vm vmuildRelease 下将有tvm.dll /tvm_runtime.dll 等文件,这表示成功
图上最后一句不要理会,忽略,手急粘上的。
4.验证环境
后面安装python包啥的不用我教了吧?
切到anaconda环境下,注意pytorch是我自己的环境,你看着办吧,看不懂立即停止以止损。
搞吧:
编译通过后,测试一把
忽略那个printf错误,毕竟这不是python的错,是我的错。看不懂这个不是期待的错误信息的同学请立即止步。
import tvm 后,如果不报错,表示成功。
以下步骤在自信的情况下可以忽略,不需要尝试,无奈本人是完美主义者:
用denpendencies 看下tvm中有没有llvm
下载: 并安装。再次提示,看不懂就立即 停止手中的操作。
下面的图中,查看tvm.dll ,如果有图上的符号,证明你编译llvm到tvm中成功: