Arm、Armv9アーキテクチャ向けAI高速化機能「SME」を発表
Armは、生成AIを含むAI・機械学習アプリケーションの性能を大幅に向上させる新機能「Scalable Matrix Extension(SME)」をArmv9アーキテクチャに追加したと発表した。CPU上での行列演算処理を効率化することで、AIワークロードの高速化を狙う。
Armは、Armv9アーキテクチャの新機能として「Scalable Matrix Extension(SME)」を発表した。SMEは、AIおよび機械学習ベースのアプリケーション、特に生成AIにおいて大幅な性能向上をもたらすとされる、CPU向けの拡張機能である。
SMEの概要
SMEは行列演算に特化した命令セット拡張であり、CPU上でのAI・MLワークロードの処理効率を高めることを目的としている。従来、行列演算を多用するAIワークロードはGPUやNPUなどの専用アクセラレータに依存する場面が多かったが、SMEはArmベースのCPUそのものにおいて、より高速かつ効率的な行列処理を可能にすることを目指している。
AI・生成AIへの影響
Armは、生成AIをはじめとするAIアプリケーションの需要拡大に伴い、CPU上でのAI処理性能の重要性が増していると位置づけている。SMEの導入により、スマートフォンからサーバーに至るArmアーキテクチャ搭載デバイス全般で、AI推論やモデル実行における性能改善が期待される。
この拡張は、GPUやNPUと並びCPU自体もAIワークロードにおける重要な役割を果たすというArmの戦略の一端を示すものであり、今後のArmv9対応チップやソフトウェアエコシステムへの実装が注目される。
原文ソース
Arm