ソブリンAIとは

ソブリンAIというと、James Bondの国際スパイチームが地下の超極秘データセンターを守っているような、現代的でクールな響きがあります。しかし、映画とは異なり、ソブリンAIは現実的かつ実用的であり、国防にとどまらない影響を及ぼします。ソブリンAIの確固たるガバナンス・ポリシーとテクニカル・ディリジェンスは、企業資産の保護、顧客のプライバシーの保護、悪意のあるアクターに対するシビック・コンピューティング・インフラストラクチャの強化を支援します。

ほとんどの場合、ソブリンAIは、国の法律や業界基準の影響を受けながら、確固たるITセキュリティの実践によって成り立っています。。現在、あるいは近い将来、ソブリンAIを導入する必要性を感じる組織もあるでしょうし、そうでない組織であっても、ソブリンAIの導入について検討することをお勧めします。

ソブリンAIとは

簡単に言うと、ソブリンAIは、AIをトレーニングするために使用するデータ、AIがクエリを調査する際に探索するデータ、クエリに応答してAIが出力として生成するデータなど、AIの国内生産を保証することを目的としています。

この文脈では、主権AIには、データの傾向を理解し、異常を発見するための機械学習、パターン認識やオブジェクト識別のための畳み込みニューラルネットワークの使用、および生成AIによって作成された画像、音声、またはテキストを含む、「人工知能」とラベル付けされたテクノロジーのいずれかまたはすべてのタイプが含まれます。ソブリンAIには、プライバシーに関するルールなど、AIテクノロジーの使用を統制するルールが含まれることもあります。

ソブリンAIはデータ主権と関連はあるが同じではないと考えられます。そこで企業や組織は、データの保存先や処理方法、さらにはネットワークをまたいでデータをやり取りする方法について、各国のルールを考慮する必要があります。主権ルールの例としては、欧州連合のGDPRが挙げられます。組織は、ルールが進化するにつれてコンプライアンスへの対応が容易になるように、プラクティスに従うことができます。たとえば、ほとんどの組織では、データ・ガバナンス・ポリシーが設定されています。こうしたポリシーを早い段階からAIに適用しておくことで、問題を未然に防ぎ、許容される使用方法を導き出せる可能性があります。AI システムには、AIモデルのトレーニングをどこでどのように行ったか、また最も役立つ結果を提供するために組織のデータにどこでどのようにアクセスするかなどを考慮した独自のルールも必要な場合があります。

ソブリンAIとパブリックAI

ソブリンAIシステムは、認可された人々やシステムのみによるAIアプリケーションの使用を取り巻く国や地域の規制や制限の対象となる運用データおよびトレーニング・データを含む可能性のあるAIモデルやデータを保存し管理します。政府、政府の請負業者やサービスプロバイダー、政府に協力する組織、規制データやアプリケーションを持つ可能性のあるあらゆるビジネスで、ソブリンAIソリューションが使用されています。

「パブリックAI」とは、それ以外のもの、つまりデータ主権AIやその他のコンプライアンス義務の対象とならないアプリケーションやデータを指すと考えることができます。このリストには、さまざまな消費者向けアプリケーションやビジネス・ネットワークが含まれます。Google Chatや FacebookのAI機能に使用しているLLMをはじめ、多くの画像生成、ニュース集約、ビデオ会議システム、言語翻訳機などを考えてみてください。しかし、すべての消費者向けAIソフトウェアが「パブリックAI 」と見なされるわけではありません。銀行、医療機関、教育機関などが主権者AIに関心を持つ可能性もあります。

主なポイント

• ソブリンAIは、データ主権に関連し、新しいテクノロジーやAIモデルを含むデータの使用を網羅するように拡張されています。
• このカテゴリには、これらのシステムが法域などの制限を受けるデータソース上でトレーニングされたり、データソースにアクセスする場合の生成AIや機械学習の使用が含まれます。
• ソブリン制御のオプションを提供するパートナーにより、分散クラウド・インフラストラクチャは、データ・レジデンシー、プライバシー、アクセス制御だけでなく、ソブリンAIの考慮事項にも対応できるよう支援します。

ソブリンAIの説明

ソブリンAIは、法域の制限に影響される可能性のあるAIシステムの制御を指す幅広い用語です。ソブリンAIの主な目標は、機密データが法域から出たり、適切な認証情報を持たない人がアクセスすることのない状態に維持できるよう支援することであることがよくあります。

組織に適用される規制の理解、望ましいAIストラクチャの決定、データ・レジデンシー・コントロールの導入、データ・プライバシー・コントロールの設定、法的制御の確立、AIスタックの確保という6つの主な側面から、ソブリンAIに関わる検討を行う必要があります。

• 規制の理解。 自国または地域のデータ主権要件はご存知ですか。そうであれば、少数派と言えるでしょう。これらのルールはしばしば複雑です。AI主権では、まずデータ主権ルールを検討し、さらに、場合によっては、アルゴリズムをトレーニングするためにデータがどのように使用され、完成したAIモデルが提供する回答の内容を検討する必要がある場合があります。

• 望ましいAIインフラストラクチャの決定。 AI ソリューションは、オンプレミス、クラウド、ハイブリッド・クラウド/オンプレミスモデル、あるいは複数のクラウドにまたがって導入することができます。クラウド・インフラストラクチャをクラウドで構築および管理することが最も簡単である場合が多く、プロバイダーは質問をサポートし、充実したAIサービスを提供することができます。

  クラウドを検討している場合、好みのモデルを見つける必要があります。AI機能を組み込んだ**SaaS（ソフトウェア・アズ・ア・サービス）が必要なのか、自分でAIシステムを構築するためのツールがそろったPaaS（プラットフォーム・アズ・ア・サービス）を使いたいのか、あるいはIaaS（インフラストラクチャ・アズ・ア・サービス）でサーバーやネットワークを借りて全てを自前で構築するのか、それともその組み合わせなのか。こうした選択が、ソブリンAIの要件を満たすために必要となる対策や体制を大きく左右することになります。

• データ・レジデンシー管理の導入。 インフラの選択が決まったら、次に検討すべきは、どの程度のデータ、アプリケーション、ネットワーク通信を国境内、または希望する地域内にとどめるかという点です。クラウドプロバイダーがデータ主権に関する課題の管理を支援してくれるのであれば、AIの主権管理も比較的スムーズに進められます。

  クラウド・プロバイダーによっては、データ、アプリケーション、ネットワーク、コンピュート・インフラストラクチャ、および必要なユーザー・アクセス制御に対して、非常に綿密な制御を設定できる場合があります。業界と特定の要件によっては、多くの国にリージョンを持つ商用パブリック・クラウドを使用してコンプライアンスに対応できる場合があります。あるいは、追加の要件に対応する政府固有のクラウドが必要な場合もあります。欧州連合（EU）では、EUソブリン・クラウドが適切な場合があります。データセンター内で完全なクラウドを実行することを希望する場合もあります。オラクルはこれを専用リージョンと呼んでいます。また、分離されたクラウド・リージョン（クラウドのように見えるが、インターネットから連携されていない運用インフラストラクチャ）を導入することもできます。

  これらすべての選択肢が、AIソブリン戦略の検討対象として考慮されるべきです。

• データ・プライバシー制御の設定 データ・レジデンシーがデータが保存されている場所を考慮する一方で、データ・プライバシーはデータの種類とそれがどのように使用されるかに焦点を当てていますたとえば、ユーザーが個人情報にアクセスできるのか、それとも集計されたレポート結果のみを閲覧できるのか。生成AIはどのような内容の応答を許可されているのか。こうした判断は複雑になりがちであり、柔軟なアクセス制御システムが求められるケースもあります。

  たとえば、単に生成AIチャットボットへのアクセスを制限するだけでは不十分かもしれません。そのチャットボットが、利用者の立場や権限に応じた応答を返すように設計されている必要があります。幸いなことに、大手クラウドソフトウェアプロバイダー（特にSaaSアプリを提供する企業）は、こうした複雑なユースケースに長年取り組んできた実績があり、AIエージェントや他のAIツールにもデータプライバシー制御を拡張しています。

  また、組織がクラウドでAIを使用することを希望する場合、運用/内部の観点からデータにアクセスできる人の制御が必要な場合があります。こうした要件には、顧客が提供した鍵を使用し、現地のプロバイダーが保持する強力な暗号化によって対応できる場合があります。また、認証を受けた運用・サポート担当者のみが対応可能とするケースも存在します。

• 法的統制の実施。 規制を遵守する方法の決定は複雑になる可能性があります。1つの企業内でも、従業員情報、健康データ、財務、知的財産など、データに応じて異なる考慮事項がある場合があります。多国籍企業であれば、さらに膨大な組み合わせや条件を考慮する必要があります。

  この段階では、法務部門との連携が不可欠です。IT部門は、システムをどのようにコンプライアンスに適合させるかという技術的観点を法務に伝え、法務部門は、リスクを最小限に抑えるようなシステム設計の方向性をITに示すことができます。また、コンサルタントを起用して、評価や検証作業を支援してもらうことも有効です。

  さらに、ソリューションプロバイダーの選定において重要なのは、そのプロバイダーが自社の準拠要件に対応できる法的管轄・地域的体制を持っているかどうかです。たとえば、欧州連合（EU）で事業を展開している場合、AIクラウドプロバイダーにEU域内での運用オプションがあるかどうかは、重要な判断材料になります。

• AIスタックの保護。 AIシステムを既存のセキュリティ体制のもとに置くことは望ましいですが、AIには通常のシステム以上の注意とテストが必要になる場合もあります。自社でAIを一からトレーニングするケースはまれですが、もし行う場合は、自社の機密性の高いトレーニングデータを保護するためのテストを実施することが推奨されます。より一般的には、AIシステムに自社データを提供して、RAG（検索拡張生成）といった手法を通じて活用するケースが多いでしょう。その際、ユーザーが不正にアクセス権のない情報を取得できてしまうようなプロンプトを使えるかどうかを確認するテストも検討すべきです。

  特に重要なのは、ユーザーの役割や所在地などの情報が、データ取得エンジンにまで正しく引き継がれていない場合に起こりうる情報漏えいのリスクです。想定外のアクセス権の付与だけでなく、AIスタックのセキュリティ対策では、悪意ある攻撃や地域的災害によって引き起こされるシステム停止やデータ侵害に対しても備える必要があります。さらに、AI生成コンテンツを悪用した個人情報の窃取といった新たなリスクも増大しているため、堅牢なサイバーセキュリティ戦略と、所在国の法規制に準拠した冗長性のあるインフラの整備が不可欠です。

ソブリンAIが重要な理由

ソブリンAIは、データ主権と同様に、革新的なテクノロジーや高度なコンピューティング基盤、ネットワークインフラ、アプリケーション、知的財産、保護対象のデータに対して、許可された人物やシステムのみがアクセスできるようにするために重要です。

多くの企業が自社のIT資産全体を見直し、サービスプロバイダーに対してソブリンAIに関連する提供内容を再確認する動きが広がっています。ソブリンAIソリューションでは、アクセス制御とポリシーを明確に定義し、厳格に順守することが求められます。これは単に現行のデータ主権に関する法律や規制への準拠を果たすためだけではなく、将来にわたるリスク管理や持続的なガバナンスの観点からも妥当な判断といえるでしょう。

ソブリンAIの利点

ソブリンAIの考慮により、ITとビジネスの運用にコンプライアンスとガバナンスのレイヤーが追加される可能性があります。そのメリットを次にご紹介します。

• ビジネスチャンス。 政府や機関が国内で生成されたデータの管理を強化する中で、取引先にもソブリンAIの概念への準拠を求めるケースが増えています。こうした状況に先んじて対応することで、市場における競争優位性を確保することができます。
• 強化されたセキュリティ ソブリンAIの導入により、アプリケーションやインフラ、機密データの保護体制を強化することが可能です。
• 規制理解の強化。 法制度が常に変化するなかで、ソブリンAIに取り組むことで、各国政府や規制当局が目指す方針や目的をより的確に理解することができます。

ソブリンAIの課題

ソブリンAIの要件に対応するには、一定のコストが発生する可能性があります。ソブリンAIに関する課題のいくつかを次に示します。

• 弁護士費用 複数の国や地域の政府・法域に関する調査が必要となる場合があり、相反するルールを整理してソブリンAIプログラムを実装するには、複雑な対応が求められます。その大部分は法務部門や顧問弁護士が担うことになるでしょう。
• 対応の遅さ。 コンプライアンス関連のプロジェクトは、政府機関や規制当局など複数の関係者との調整が必要なため、進行が遅れることがあります。こうしたスケジュールは多くの場合、自社の管理下にはありません。
• 人件費。 法的対応や技術的ソリューションの実装をサポートするために、新たな人材やコンサルタントの雇用が必要になる可能性があります。特にこの分野は新興領域であるため、専門性の高い人材の確保が困難かつ高コストになる場合があります。
• 技術的な複雑さ。 ソブリンAIの課題では、ITインフラストラクチャやアプリケーション・スタックの変更が必要な場合があります。データをある地域から別の地域に移行する必要がある場合があります。また、コンプライアンス対応を支援するために、新しいソフトウェアを作成したり、コードを修正したりする必要がある場合もあります。

ソブリンAIの未来

「より多く。」これが主権を持つAIの未来を一言で示す表現です。今後、新たなAI技術やユースケースの登場によって、さらに多くの規制が生まれることが予想されます。画像、動画、ソーシャルメディア。企業データがAIと関わるあらゆる場面、また顧客や従業員がAIを利用するあらゆる状況で、ソブリンAIの課題が浮上する可能性があります。

この複雑で変化し続ける規制環境に対する最適な対応方法とはどのようなものでしょうか。今のうちに、適切なサービスプロバイダーとの連携、強固なセキュリティを備えたアーキテクチャやデータモデルの選定、厳密な権限管理の整備といった準備を進めておくことで、ソブリンAIの目標を達成するうえで大きな成果が得られるはずです。

OCIがAIソブリン目標の達成にどのように役立つか

組織のAIイニシアティブが単一クラウド、マルチクラウド、またはハイブリッド・アーキテクチャでクラウド・コンピューティングを活用する場合、オラクルには必要なツールとテクノロジーがあります。中核となるのは、Oracle Cloud Infrastructure(OCI)です。これは、AIアプリケーションをゼロから構築する場合でも、既存アプリケーションにAI機能を追加する場合でも対応可能な強力なプラットフォームです。オラクルとOCIは、AI製品、データ・レジデンシー、データ・プライバシー、法的管理、セキュリティの5つの分野で、ソブリンAIとデータ主権をサポートします。OracleのAIサービスとAI対応アプリケーション群は、最新のインテリジェント機能を、高いセキュリティとスケーラビリティを兼ね備えた形で提供します。オラクルのデータ・レジデンシー機能は、お客様のデータを国、地域、またはその他の法域の境界内に維持できるよう支援します。デフォルトでは、すべてのデータとメタデータは単一のOracle Cloudリージョンに制限されます。専用クラウドでは、お客様のデータは他のリージョンのデータからも物理的に分離されます。

オラクルは、独自開発モデルであれ外部ベンダー由来のものであれ、AIモデルの管理とアクセス制御を高度なセキュリティ技術でサポートします。法的枠組みとコンプライアンス面でも、世界80以上の認証機関と連携しており、米国国防総省の「インパクトレベル6」認証も取得済みです。また、LLMなどのAI資産をAIクラウドライフサイクル全体にわたって管理・監査するための追加ツールも用意されています。詳細は、AIイノベーション: ソブリンAIを実現するための5つの重要な要素をご覧ください。

ソブリンAIはすでに現実のものです

私たちはすでに「データ主権」の要件に慣れており、人工知能にも同様の規制が適用されるのは当然の流れといえます。ソブリンAIは、データ主権を拡張して、トレーニング・データ、LLM、機械学習アルゴリズムなど、AIソリューション・スタックを構成する新しいテクノロジーをカバーするものと考えることができます。確かにAIには新たなユースケースが登場していますが、セキュリティ、データプライバシー、データ・レジデンシー、アクセス制御、法的課題といった面では、多くの組織が直面してきた問題と共通しています。ソブリンAIは、組織とその顧客、および国と地域を保護するためのベストプラクティスを実装する機会として見ることができます。そして、適切なテクノロジーパートナーがいれば、取り組む価値のある課題であることがわかります。

ソブリンAIに関するFAQ

ソブリンAIとデータ主権は同じものですか。

通常、データ主権はデータそのものに焦点を当てますが、ソブリンAIは、システムで使用するデータを含むAIシステムの開発と制御に焦点を当てます。

ソブリンAIの影響を最も大きく受ける業界を教えてください。

今後、さまざまな業種・組織がソブリンAIの要件を持つ可能性がありますが、特に大きな影響を受けるのは、防衛・軍事、医療、教育、金融・銀行、重要インフラ関連の分野です。IT業界自体も、ソブリンAIの検討対象となり得ます。

ソブリンAIには高いコストがかかりますか。

コンプライアンスを先取りしようとすると、常にコストがかかります。ソブリンAIの場合、最大の費用要因は、関係する法域ごとの規制環境を把握・維持するための学習コストと、関係者の所在地に基づく要件への対応です。また、コンプライアンス・テストや認定資格のためのコストも発生する可能性があります。技術的な費用は発生する可能性がありますが、適切なパートナーと協力し、将来のソブリンAI規制を予測してシステムを事前に設計することで、その費用を最小限に抑えることができることができます。