Arm、「エージェンティックAI」がクラウドからエッジまでのAI設計を変える理由を解説
Armは自律的にタスクを遂行する「エージェンティックAI」が、継続的でオーケストレーション負荷の高いワークロードを生み出しつつあり、これに対応するためクラウドからエッジまでのコンピューティングシステムがどう進化しているかを解説するブログ記事を公開した。
Armは公式ブログで、近年注目される「エージェンティックAI(Agentic AI)」について、その定義とAIシステム設計への影響を解説する記事を公開した。
エージェンティックAIとは、単発の応答を生成する従来の生成AIとは異なり、目標達成に向けて複数のステップを自律的に計画・実行し、必要に応じて外部ツールやAPI、他のAIエージェントと連携しながらタスクをこなすAIシステムを指す。
継続的でオーケストレーション負荷の高いワークロード
Armによれば、エージェンティックAIは従来のような単発の推論リクエストとは性質が異なり、複数のモデル呼び出しやツール利用、状態管理を伴う継続的な処理を必要とする。このため、システムには単なる高い推論性能だけでなく、複数のタスクを並行して調整・管理する「オーケストレーション」能力が求められるようになっているという。
クラウドからエッジまでの設計への影響
こうした継続的でオーケストレーション主体のワークロードに対応するため、データセンターのクラウドインフラだけでなく、スマートフォンやIoTデバイスなどのエッジデバイスに至るまで、コンピューティングアーキテクチャ全体で最適化が進んでいるとArmは指摘する。エージェントが状況に応じて処理をクラウドとエッジの間で柔軟に分散させる必要があるため、両者をまたいだ一貫した設計思想が重要になるとしている。
ArmはCPU・GPU設計を手がける立場から、こうしたエージェンティックAI時代における電力効率と性能の両立を意識したアーキテクチャ開発を進めているとみられる。
原文ソース
Arm