AIプロセッサを開発した東芝メモリの狙い

フィルターごとに最適量子化を行うと、平均ビット精度を3.6ビットまで落としても、認識精度に劣化が見られなかった 出典:東芝メモリ(クリックで拡大)

フィルターごとに最適量子化を行うと、平均ビット精度を3.6ビットまで落としても、認識精度に劣化が見られなかった 出典:東芝メモリ(クリックで拡大)