Meta「Llama 4」がArmプラットフォームに最適化、MoEアーキテクチャで性能と効率両立

Arm社は公式ブログで、Metaの最新大規模言語モデル「Llama 4」がArmプラットフォーム上で最適化され、性能・エネルギー効率・展開のしやすさを兼ね備えた形で動作することを明らかにしました。

Mixture of Experts（MoE）アーキテクチャの活用

Llama 4はMoEアーキテクチャを採用しており、推論時に入力ごとに必要な「エキスパート」サブネットワークのみを活性化することで、モデル全体の規模を保ちながら計算コストを抑えられる特徴があります。Arm側はこの特性を活かし、CPU上での効率的な推論実行に向けた最適化を進めているとしています。

Armプラットフォームでの展開メリット

Armアーキテクチャは、データセンターからエッジデバイスまで幅広い製品に搭載されており、消費電力あたりの性能に強みを持ちます。今回の最適化により、Llama 4のようなMoE型の大規模モデルであっても、Arm搭載デバイス上でシームレスに展開しやすくなるとしています。これにより、クラウドだけでなくエッジ側でのLLM推論の選択肢が広がることが期待されます。