Part 0. AI 編譯器介紹

1/4/2023 AI compilercompilerTVM

在半導體業,不同廠商會推出自己的AI晶片,而在AI晶片之上,勢必須要編譯器的幫忙,把高階語言轉換成低階語言,並且進行高度的最佳化,徹底發揮、榨出AI晶片的效能!😊

# Part 0. 認識 AI 編譯器

# 零、AI 編譯器的現況簡介

在半導體業,不同廠商會推出自己的AI晶片,而在AI晶片之上,勢必須要編譯器的幫忙,把高階語言轉換成低階語言,並且進行高度的最佳化,徹底發揮、榨出AI晶片的效能!

目前有的晶片類型,例如: * Programmable XPUs * CPU - Intel, SiFive, AMD, ARM * GPU / GPGPU - Nvidia, AMD, Intel * TPU / NPU - Google, Intel, ARM, XILINX

* Custom Hardware 
    * ASIC - XILINX, AMD, Intel
    * FPGA - tsmc, Samsung, Intel

而每一家廠商,都會根據自家產品推出不同的編譯器或是編譯框架,例如: * Intel - oneAPI, nGraph, PlaidML
* Nvidia - CUDA, nvcc * XILINX - VITIS * TVM * ...

有這麼多不同的編譯器,使編譯器的選項過多,又過度碎片化,沒有一個統一的標準或規範,是一個令人頭痛的問題。 (可能未來也會像 LLVM 一樣,出現一個一統天下的框架,解決大家的痛點 !)

# 一、AI 編譯器是什麼

# 二、為什麼需要 AI 編譯器 ?

# 三、AI 編譯器跟傳統編譯器的不同

# 四、AI 編譯器的用途與工具

# 五、參考資料

Zomi 大推!! 講的超級好

Last Updated: Sun Apr 16 2023 20:57:07 GMT+0800