富士通のAIプロセッサ、演算精度とμアーキに工夫

DL-INTの概要。下段のグラフは縦軸が認識精度、横軸が学習回数であり、DL-INTはFP32と遜色ない精度であることが見受けられる。(クリックで拡大) 出典:富士通

 DL-INTの概要。下段のグラフは縦軸が認識精度、横軸が学習回数であり、DL-INTはFP32と遜色ない精度であることが見受けられる。(クリックで拡大) 出典:富士通