フィジカルAIの大規模展開時代が到来——安全性はどう担保されるのか#
AIが物理世界で動作する「Physical AI（フィジカルAI）」の普及が急速に進んでいる。ABI Researchは2035年までにレベル3〜5の自動運転車（AV）が4,900万台規模で普及すると予測しており、OmdiaによればAV含む産業用ロボットも2026〜2035年の間に約6,000万台が導入されると見込まれている。こうした状況を受け、NVIDIAはフィジカルAI向けの包括的な安全システム「NVIDIA Halos」を提供、その全貌が同社公式ブログで説明された。
なぜフィジカルAIには新たな安全モデルが必要なのか#
自動運転車や産業ロボットが人と共存する環境で動作するうえで、従来の安全設計の考え方だけでは不十分だとNVIDIAは指摘する。同社は以下の4つの変化が新たな安全基準を求めていると説明している。
動的環境への対応: 道路や工場・倉庫は静的なゾーンや物理的バリアで完全には制御できない。自律システムは変化する状況を認識し、予期しない事態に対して安全な状態へ移行できる必要がある。
AIの挙動に対する保証: 従来の機能安全に加え、AIソフトウェア固有のリスクを評価する仕組みが求められる。設計時・実行時・検証時それぞれのガードレールが必要で、ISO/IEC TS 22440などの新規格もこの分野への対応を始めている。
継続的な展開と更新: AVやロボットはソフトウェアのアップデートや新タスクの追加、稼働環境の変化を経て進化し続ける。重大な変更が生じた場合には追加の安全テストが求められる可能性がある。
大規模なシナリオ検証: 想定シナリオの数と複雑さを考えると、実世界テストのみでは対応しきれない。シミュレーション・合成データ生成・シナリオ再現などを組み合わせる必要がある。
NVIDIA Halos——フルスタック安全システムの構造#
NVIDIA HalosはフィジカルAI向けとして業界初のフルスタック安全システムであり、設計・検証・展開の全フェーズにわたって安全性を支援する。AVとロボティクスで共通の原則を持ちながら、それぞれのドメインに応じたプラットフォーム・標準・エビデンスが用意されている。
自動運転（AV）向け構成#
- ハードウェア:
NVIDIA DRIVE AGX Thorが安全設計済みの加速コンピューティングを提供。NVIDIA Hyperionはレベル4 AV向けのフルスタック車両プラットフォームおよびリファレンスアーキテクチャ。 - OSとミドルウェア:
Halos OSはASIL-D認証取得済みのDriveOSに基づく統合ソフトウェア基盤。Halos CoreとHalos Middlewareがシステム分離・監視・決定的通信をサポート。 - エンドツーエンドモデル:
NVIDIA Alpamayoは説明可能性を持つオープンな推論型ビジョン・言語・アクションモデルを提供。 - シミュレーションと検証:
NVIDIA Halos Safety Evaluation Frameworkが自動化レベルごとのAV安全ケース構築を支援するツールとガイドラインを提供。
ロボティクス向け構成#
- ハードウェア:
NVIDIA IGX Thorは専用の機能安全アイランドを備えた産業グレードモジュールで、IEC 61508やISO 13849への対応を想定して設計されている。 - ソフトウェア:
Halos Core for IGXが障害検出・監視・報告、センサーやアクチュエーターとの通信処理など安全関連機能の基盤を提供。 - リアルタイムセンシング:
NVIDIA Holoscan Sensor BridgeがセンサーデータをAI・安全処理系と接続し、無効情報の特定と安全応答の実行を支援。 - シミュレーション:
NVIDIA Isaac LabとNVIDIA Omniverseライブラリを用いて、ロボットの挙動をエッジケース含む多様な条件でテスト可能。 - アウトサイドイン安全: オープンソースの
NVIDIA Halos Outside-In Safety Blueprintが外部カメラとビジョンAIエージェントを使用し、オンボードセンサーを超えた施設レベルの監視と機能安全ユースケースを支援。
AV・ロボティクス双方にまたがるNVIDIA Halos AI Systems Inspection Labは、安全・サイバーセキュリティ・AI安全要件を繰り返し可能な検査プロセスに落とし込み、第三者機関による最終的なシステム認証取得を支援する。
エコシステムと第三者評価#
Halosを採用する企業は幅広い。AVの領域ではGeely、いすゞ、Nissan（Wayveソフトウェア採用）、EinrideがNVIDIA Hyperion上でレベル4対応車両を開発中。Uber、Grab、Lyftなどのモビリティ事業者もHyperionを活用してロボタクシー開発・展開を進めている。Halos AI Systems Inspection Labの参加企業にはAUMOVIO、Bosch、Gatik、Hesai、Lucid、MIRA、onsemi、PlusAI、Sony、Valeo、Wayveが名を連ねる。
ロボティクス分野では、acontisとQNXが安全機能の予測実行向け組み込みソフトウェアを提供。AdvantechとNexCOBOTがIGXシステムを構築し、Infineon、NXP、STMicroelectronics、Texas Instrumentsがセンサーや安全マイコンなどの半導体技術を担う。KIONグループは自律フォークリフト向け機能安全エージェントを開発中で、AgilityはDigit 5ヒューマノイドの安全システムにNVIDIA IGX ThorとHalos Coreを統合している。
独立評価においては、TÜV SÜDがNVIDIAの自動車製品ライフサイクルソフトウェアプロセスとDriveOS 6.0をISO 26262 ASIL Dに認証。TÜV RheinlandがNVIDIA DRIVE AVのUNECE安全評価を独立実施している。またANABがHalos AI Systems Inspection LabをISO/IEC 17020認定検査機関として認定している。
まとめ#
NVIDIAのHalosは、自動運転車と産業ロボットというフィジカルAIの主要領域を横断するフルスタック安全システムとして設計されており、ハードウェアからAI挙動、運用環境に至るすべての層で安全性を担保しようとする試みだ。2035年に向けた大規模展開を見据え、複数の大手企業や認証機関との連携がすでに進んでいる点は注目に値する。
筆者の見解: フィジカルAIの安全性は「導入前の一度限りのチェック」では足りないというNVIDIAの主張は、今後の業界標準策定にも大きな影響を与えそうだ。特に継続的な検証とシミュレーション活用を前提とした設計思想は、ロボティクス産業全体のアプローチを変えていく可能性がある。
出典: Why Deploying Physical AI at Scale Demands Safety at Every Layer
