AIプロセッサを開発した東芝メモリの狙い

東芝メモリが開発したアルゴリズム。各層において、フィルターごとに量子化することにより、演算量を削減できるという 出典:東芝メモリ(クリックで拡大)

東芝メモリが開発したアルゴリズム。各層において、フィルターごとに量子化することにより、演算量を削減できるという 出典:東芝メモリ(クリックで拡大)