快捷搜索: 王者荣耀 脱发

TVM Windows下全功能编译方法:从入门到劝退

本教程的目标是不损失任何tvm的功能,编译时要带上llvm以方便生成dll文件。 全网唯一实操教程,本炼丹师亲自操作通过。

本文配套代码及模型:

我们接下来将编译安装tvm with LLVM。 本教程的读者对象是有一定开发经验的同学。小白请绕道,毕竟tvm是开发工具,需要写代码。我们安装它的目的是得到生成的dll文件以加速神经网络推理。

0. 工作目录

工作目录选择 e: vm 也就是所有的其它目录都在它下面。

1. 安装cmake, visual studio 2019, git for windows,anaconda

    cmake: 下载一个最新的安装上,记得安装时将环境变量添加到系统中 visual studio 2019: 社区版即可 , 如果你还没有,请停止本教程的观看。 git:
    安装一个llvm工具:(可能不用,装 上也没坏处,默认选项安装到系统中)
    anaconda 安装: 本包用于创建tvm的python安装环境。毕竟人工智能用户都懂它,不懂的请绕道。

2. 编译 llvm

将下载的llvm源码解开,里面有一个llvm目录,将此目录解压到工作目录 e: vm

即压缩包中的llvm的路径为e: vmllvm

解开后 ,进入目录

E: vmllvm

mkdir build

cd build

cmake ..

cd ..

cmake --build build --config Release

接下来等,编译成功后,需要生成 E:/tvm/llvm/build/release/bin/llvm-config.exe 文件

3 编译 TVM

进入E: vm 目录

运行以下命令获取 源码:

git clone --recursive https://github.com/apache/tvm tvm

cd tvm

mkdir build

copy cmake/config.cmake build/

修改config.cmake

将 e: vmllvmcmakeconfig.cmake 复制到 e: vmllvmuild下,并修改相关内容

set(USE_LLVM E:/tvm/llvm/build/release/bin/llvm-config.exe)

本质上是修改USE_LLVM 指向上一步中编译出来的llvm-config.exe 文件的路径

切换目录到e: vm vm 没错,两个tvm

cd build

cmake -A x64 -Thost=x64 ..

cd ..

cmake --build build --config Release -- /m

接下来就是等待,只要没有错误发生,成功后将得到如下画面

在E: vm vmuildRelease 下将有tvm.dll /tvm_runtime.dll 等文件,这表示成功

图上最后一句不要理会,忽略,手急粘上的。

4.验证环境

后面安装python包啥的不用我教了吧?

切到anaconda环境下,注意pytorch是我自己的环境,你看着办吧,看不懂立即停止以止损。

搞吧:

编译通过后,测试一把

忽略那个printf错误,毕竟这不是python的错,是我的错。看不懂这个不是期待的错误信息的同学请立即止步。

import tvm 后,如果不报错,表示成功。

以下步骤在自信的情况下可以忽略,不需要尝试,无奈本人是完美主义者:

用denpendencies 看下tvm中有没有llvm

下载: 并安装。再次提示,看不懂就立即 停止手中的操作。

下面的图中,查看tvm.dll ,如果有图上的符号,证明你编译llvm到tvm中成功:

经验分享 程序员 微信小程序 职场和发展