Part 0. AI 編譯器介紹
Lawrence 1/4/2023 AI compilercompilerTVM
在半導體業,不同廠商會推出自己的AI晶片,而在AI晶片之上,勢必須要編譯器的幫忙,把高階語言轉換成低階語言,並且進行高度的最佳化,徹底發揮、榨出AI晶片的效能!😊
# Part 0. 認識 AI 編譯器
# 零、AI 編譯器的現況簡介
在半導體業,不同廠商會推出自己的AI晶片,而在AI晶片之上,勢必須要編譯器的幫忙,把高階語言轉換成低階語言,並且進行高度的最佳化,徹底發揮、榨出AI晶片的效能!
目前有的晶片類型,例如: * Programmable XPUs * CPU - Intel, SiFive, AMD, ARM * GPU / GPGPU - Nvidia, AMD, Intel * TPU / NPU - Google, Intel, ARM, XILINX
* Custom Hardware
* ASIC - XILINX, AMD, Intel
* FPGA - tsmc, Samsung, Intel
而每一家廠商,都會根據自家產品推出不同的編譯器或是編譯框架,例如:
* Intel - oneAPI, nGraph, PlaidML
* Nvidia - CUDA, nvcc
* XILINX - VITIS
* TVM
* ...
有這麼多不同的編譯器,使編譯器的選項過多,又過度碎片化,沒有一個統一的標準或規範,是一個令人頭痛的問題。 (可能未來也會像 LLVM 一樣,出現一個一統天下的框架,解決大家的痛點 !)