Apple Siliconはなぜ「オンデバイスAI」に強いのか？　NVIDIA「RTX Spark」との比較で読み解くシリコン設計の哲学

NVIDIAの「DGX Spark」のように、コンパクトなボディーでより大きなLLMを動かせるマシンも出てきている。しかし、搭載しているSoC自体の演算能力は高くても、メモリ帯域幅が狭いゆえに性能を引き出しきれないこともある