slf12 / cudnn_conv_int8

Testing INT8 convolution on cuDNN

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

该项目用于测试cudnn对int8卷积计算的支持。

编译

修改makefile中CUDA和cudnn相关的变量,然后在当前路径下执行make,在src路径下的源文件会逐个被编译为独立的可执行文件并存在./bin路径下。

如果在执行可执行文件时,出现error while loading shared libraries: libcudnn.so.*,请将对应的库所在路径添加到环境变量LD_LIBRARY_PATH中。

测试内容

cudnn int8卷积和float32卷积运行时间

width 40

height 40

channels 256

batch size 16

out_channels 512

kernel_size 3

gpu: P40

cuda8

cudnn6

迭代一万次 forward过程求平均

参数设置方式 随机数

int8 1.69416ms

float32 6.618135ms

文件cudnn_conv_int8.cc cudnn_conv_float32.cc

About

Testing INT8 convolution on cuDNN


Languages

Language:C++ 98.0%Language:Makefile 2.0%