Logo
Scale with confidence: understanding responsible AI – banner

責任あるAIとは

生成AIの急速な進歩により、責任あるAIという概念への関心が高まっています。わずか数年で、AIの進歩のスピードは明らかになりました。かつては1つのモデルを構築するのに1年かかっていましたが、いまでは平均的な企業でも、同じ期間に何千ものモデルを構築できます。さらに、大規模な本番稼働化によって、1つのモデルが組織や業界全体にわたり、何百万件もの意思決定(そして人々)に影響を与えるようになりました。

AIの利用拡大は、いくつかの新たなリスクをもたらす可能性があります。

  • AIシステムが本番環境で、当初の設計や意図に反して、予期しない不適切な動作をすることがあります

  • モデルがデータに含まれるバイアスを再現したり、増幅したりするおそれがあります

  • GPT、Claude、Geminiなどの大規模言語モデル(LLM)によるAI生成の回答が、危険な行動、偽情報、不適切なコンテンツ(例えば、十分に代表されていないグループや社会的に弱い立場にあるグループに向けたもの)を助長すると、害をもたらすおそれがあります

  • 自動化が進むほど、ミスや不公平な結果を発見して修正する機会が減るおそれがあります

本番稼働するモデルの数が増えている一方で、それらのモデルを責任ある形でデプロイするために時間と労力を割いている企業はほとんどありません。ただし、状況を考えれば驚くことではありません。責任あるAIとは具体的に何を意味するのか、それを実践するために企業は何をすべきかについて、標準的で広く受け入れられた定義は存在しないからです。コンサルタントや、Googleのような巨大テック企業、Partnership on AIのような団体がガイドラインの策定に着手していますが、一般的な慣行となるにはほど遠いのが現状です。

責任あるAIとは、人々と企業を支え、顧客と社会に公平な影響を与える形でAIを設計、構築、デプロイする取り組みです。これにより、企業はAIを信頼し、確信を持ってスケールできます。責任あるAIは、AIの出力を組織の価値観と一致させるための概念です。AIシステムの信頼性、説明責任、公平性、透明性、説明可能性を先回りして確保します。

この言葉は誤解されやすいため、責任あるAIの原則に関するよくある誤解をいくつか取り上げ、企業や組織にとって何を意味するのか(そして何を意味しないのか)を明らかにします。

誤解1:AI倫理を定義すれば責任あるAIへの道のりは完了する(倫理的なAIと責任あるAIの違い)

責任あるAIに関する最大の誤解の1つは、AI倫理の原則を定義すればよいという考えです。しかし、責任あるAIははるかに幅広く奥深いもので、主に2つの側面があります。

Intentionality vs accountability diagram

AI倫理の定義は責任あるAIの基盤であり、決して簡単なことではありません。目指すのは、成果を意図と完全に一致させ、出力が目的に適したものになるよう確保し、AIの取り組みを支えるためにあらゆる側面でレジリエンスを確保することです。

倫理を定義する際は、倫理とバイアスを混同しないことが重要です。倫理は一連の原則であり、バイアスはその原則を適用すべき側面の1つにすぎません。例えば、機械学習(ML)モデルは、まったくバイアスがないのに非倫理的な場合があります(健康データに基づく保険料算定モデルを考えてみてください)。反対に、倫理的でもバイアスを含む場合があります(例えば、衣料品小売のレコメンデーションエンジンではジェンダーバイアスのリスクが倫理的な問題にならないかもしれませんが、金融機関では話がまったく違います)。

誤解2:責任あるAIの課題はツールだけで解決できる

これには良いニュースと悪いニュースがあります。良いニュースは、ツールが組織の責任あるAI戦略の実行に役立つことです。説明責任の面では、優れたMLOpsとガバナンスの実践が手始めとして妥当です(MLOpsとは、MLのライフサイクル管理を標準化し、効率化することです)。ただし、手間をかけずに手に入るものではありません。MLOpsもガバナンスも、労力、規律、時間を必要とします。

ガバナンスとMLOpsの取り組みを担う人は、さまざまなユーザープロファイルの間に生じる緊張関係に対処し、業務を効率よく進めることと、あらゆる脅威から守ることのバランスを取る必要があります。このバランスは、プロジェクトごとに固有のリスクを評価し、そのリスクレベルにガバナンスプロセスを合わせることで見つけられます。リスクを評価する際は、次のような複数の側面を考慮する必要があります。

  • モデルの対象者

  • モデルとその結果が使われる期間

  • 否定的な結果が生じた場合の影響

この評価によって、適用するガバナンス施策を決めるだけでなく、MLOpsの開発とデプロイのツールチェーン全体も方向付けるべきです。

AIの説明責任を確保するうえでは、ツールも重要な要素です。例えば、次のようなものがあります。

  • 従来の統計的アプローチは、サブポピュレーション分析と同様に、データ内のバイアスの発見に役立ちます。MLモデルは特定の結果指標に最適化されており、すべての母集団ですべての評価メトリクスにわたって一貫した性能を発揮することはまれだからです

  • 特徴量の重要度、公平性メトリクス、個別予測の説明(特定の予測や結果にどの要因が影響したかを個人単位まで確認できる機能)などのツールも役立ちます

全体的な視点で見ると、データサイエンス、ML、AI、責任あるAIのプラットフォーム(Dataikuなど)は、こうした機能の多くを提供するだけでなく、一般にモデルの解釈可能性と透明性の確保にも役立ちます。しかし、ここが重要な点ですが、責任あるAIにおいてツールは万能ではありません。ツールは、社内の人々が定めたプロセスと原則を効率よく実行するのを支えるために存在するにすぎません。

言い換えれば、モデルがなぜその判断を下したのかを問い、異なるデータでモデルがどう変化するかを監査すると決め、組織の基準を満たしているかを確かめるために適切な問いを立てるのは人間です。結局のところ、公平性という概念は文字どおり何十もの数学的定義に置き換えられ、それらは互いに異なるだけでなく、ときには両立しないからです。

定義を選べば、バイアスを測定して軽減する責任あるAIのツールがあります(このセクションで前述したとおりです)。しかし、自社の価値観にもっとも合い、特定のユースケースに適した定義を選ぶのは、依然として組織自身の役割です。

誤解3:問題は悪意や能力不足によってのみ起こる

近年、責任あるAIに関する問題は、GoogleやAmazonをはじめ、ほぼすべての大手テクノロジー企業で起きています。しかもこれらは、公になった失敗にすぎません。こうした事例から、2つの重要な教訓が得られます。

  1. 技術的な専門知識、膨大な人件費を賄う体力、ほぼ無制限のリソースを持つGoogle、Apple、Meta、Amazonで起こり得るなら、どの組織でも起こり得ます。ほとんどの企業には、このような危機を乗り越える力がありません。だからこそ、すべての企業が責任あるAIに投資すべきです

  2. こうした注目度の高いミス(組織は評判の面で大きな代償を払います)の多くは、悪意のある、あるいは能力不足の従業員によるものではありません。原因は、MLプロジェクトのライフサイクルのさまざまな段階で、意図を持った取り組みと説明責任が欠けていたことにあります

実際、組織を危険にさらす根本的な問題を抱えたAIシステムを生み出すリスクは複雑で、まったくの偶然から生じることもあります。これが、信頼できる責任あるAIのシステムとプロセスを構築するのが難しい理由の1つです。

誤解4:責任あるAIはAIの専門家だけの問題である

責任あるAIの基準を1人だけの責任にすべきではないという考えがあり、それはおそらく正しいでしょう。1人の個人が組織全体のあらゆるプロセスと意思決定に目を配ることは不可能です。企業がMLモデルを提供する能力を拡大していけば、なおさらです。一般に、データサイエンス、ML、AIのプロジェクトに関わるステークホルダーの中で、全体を見渡せる人はいません。

  • ドメインエキスパートだけが、根本にあるビジネス課題、データ収集のプロセス、データの限界を本当に理解しています

  • データプロフェッショナル(データエンジニア、データサイエンティスト、MLエンジニアを含む)だけが、データサイエンスの技術的な側面を理解しています

  • 意思決定者だけが、規制、ビジネス、評判の面でリスクが大きい場合に判断を下す権限を持っています

一方で、責任あるAIは抽象的な概念から、より具体的に定量化でき、個人が責任を持てるもの、つまり人間の手で管理されるものへと移行する必要があります。次の評価基準は、データワークフローの各要素(データそのもの、テクノロジー、その結果としてのモデル)をどのようにクロスチェックすれば、統制のしやすさ、持続可能性、説明責任を確保できるかを示しています。

Responsible AI rubric

責任あるAIは、組織にとって取り組みが難しいテーマです。理論(責任あるAIとは何か、どう導入すべきか)の面でも、実践(テクノロジーはどのように、どこまで役立つのか)の面でも複雑で、起こり得る影響も無視できません。この概要は、この分野でリーダーを目指す組織が検討すべき事項の、ほんの入り口にすぎません。

責任あるAIには、ムチとアメという2つの見方があります。

1. ムチ:責任あるAIに関して、組織をリスクから守るために何を導入する必要があるでしょうか。

2. アメ:責任あるAIの実践によって信頼を築き、組織を変えるAIの力をどのように取り入れられるでしょうか。

実際には、成功するには両方のアプローチ(さらに、データ実務者や経営幹部だけでなく、全員の協力)が必要です。また、責任あるAIは、AIの取り組みの持続可能性というより大きな問いのほんの一部にすぎないことを、組織が認識することも重要です。

これには、将来を見据えたインフラへの投資、現在(または将来)のデータプロジェクトを支えるデータへの信頼性の高い継続的なアクセス、本番稼働中のモデルを一元的に監視できる場所と、その保守に責任を持つ担当者が含まれます。

最後に、前向きなメッセージで導入を締めくくります。責任あるAIは不可能な課題ではありません。オープンな姿勢、社内の協力、段階的なフレームワーク構築を適切に組み合わせれば、AIをスケールしながらこの課題に十分に取り組めます。つまり、責任あるAIへのもっともな機運の高まりが、AIを業務プロセス全体に組み込むという切実なニーズの妨げにならないようにすることです(Dataikuもぜひお手伝いします)。

責任あるAIの4つの重要な原則を定義したところで、この概念がどれほど大きな力を持ち、その導入が組織にとって何を意味するのかを詳しく見ていきましょう。

Build responsible GenAI

Build responsible GenAI

Get the guidebook

責任あるデータパイプラインの構築

責任あるAIの実践が組織にとって重要なのはなぜでしょうか。予期しない、問題をはらむ可能性のある結果を招いたAIの失敗がニュースになるとき、それは特定のユースケースや業界に限った話ではありません。

AIを利用しているなら、すでに意識している問題でしょう。しかし、AIの利用に良い意図を持っているだけでは不十分です。実際、ほとんどの組織はAIの失敗による悪影響を予期しておらず、意図してもいません。有害な結果は組織の意図や価値観を反映したものではありません。それでも、こうしたAIの意図しない結果は毎日起きています。では、どうすればよいのでしょうか。

責任あるAIのフレームワークでAIの失敗を軽減する

AIの失敗に伴う問題に早い段階で対処するため、組織は責任あるAIのフレームワークを適用すべきです。こうしたフレームワークは、AIを責任を持って実践するために必要なプロセスを構築するための指針となります。

責任あるAIのフレームワークには、欠かせない3つの主要な概念があります。

  • 公平性

  • 説明責任

  • 透明性/説明可能性

これらの概念は、AIパイプラインの質を評価する出発点となります。また、組織の価値観や原則に対応する重要な問いを、それぞれの概念に結び付けられます。こうした問いを検討することで、組織は社内の視点とビジネスユーザーの視点の両方から、責任ある見方でAIをとらえ、取り入れ始めます。

  • 公平性:「AIシステムは、自社の公平性の考え方に沿った形で結果を配分しているか」

  • 説明責任:「構築とデプロイのプロセスにおける各意思決定の責任者は誰か」

  • 透明性:「ビジネスとそのステークホルダーにはどの程度の透明性が必要か。それをどのように提供するか」

AIパイプラインはアルゴリズムにとどまらず、問題の定義とソリューションの設計から、そのソリューションの構築と監視まで、多くのステップを含みます。責任あるAIのフレームワークを本当に理解するには、MLライフサイクルの構築段階に注目する必要があります。この段階で、実務者は本番パイプラインに組み込むデータとモデルを探索し、試行します。

構築段階を理解する

構築段階では、MLパイプラインの3つのフェーズで責任あるAIのフレームワークを適用できます。

  • データ処理

  • モデル構築

  • レポーティング

Three phases of the ML pipeline

データ処理における責任あるAI

データは世界を映し出すものであり、さまざまな形のバイアスを内包していると考えるのが自然です。データ内のバイアスを説明できることが重要です。偏ったデータは、不適切な収集方法によるデータの不均衡から生じることもあれば、社会的な偏見を強める人間の入力から生じることもあります。どちらの場合も、自明ではない機微な相関関係が存在し、対処する必要があります。さらに、多くのデータセットには代理変数の危険も潜んでいます。

実務者は、バイアスを適切に特定して対処することで、その影響を軽減できます。前述のような形で広がったバイアスを発見するには、従来の統計を使ってバイアスと相関を測定できます。また、データの収集方法と入手元を徹底的に評価することもできます。リスクの高いデータセットをドメインエキスパートに精査してもらうことも、重要なステップです。

モデル構築の段階

データのバイアスに対処できたら、次はモデルの段階に進みます。ここでは、モデルの公平性の測定が大きな役割を果たします。モデルの公平性には、数学的な要素と社会的な要素の両方があります。数学的な公平性の観点で優れたモデルとは、公平な予測が機微な属性に左右されないモデルです。社会的な公平性の観点では、公平なモデルは異なるグループ間で一貫した性能を発揮し、結果が望ましい意図に沿ったものになります。なぜこれが重要なのでしょうか。

一例を挙げると、いくつもの研究で、偏ったデータが偏ったモデルを生み、有色人種の患者が医師による追加のケアを必要とすると判定される割合が低くなっていることがわかっています。白人の患者より重い症状がある場合でも同様です。医療システムで使われるモデルは、標準的なMLメトリクスでは良好な性能を示していても、既存の差別を強めてしまうことが少なくありません。医療業界における医療バイアスの例はこちらをご覧ください。

責任あるAIの視点でモデルを検討する

責任あるAIを実践するには、モデルの公平性の種類を理解する必要があります。

  • グループ公平性:モデルが主要なメトリクスにおいて、グループ間で同等の性能を発揮すること

  • 個人公平性:類似した個人に対して同等の処遇確率が得られること

  • 忘れてはならないのが反実仮想的公平性:機微な属性を変えても予測が変わらないこと

責任あるAIのフレームワークでは、この3種類の公平性をすべて測定する必要があります。

共有の方法は構築の方法と同じくらい重要

モデルのレポーティングには、いくつかの共通の課題があります。ビジネスユーザーや消費者は、ブラックボックス型のAIシステムに強い警戒感を抱いています。とくに、アルゴリズムや内部の仕組みを監査、追跡しにくいシステムに対してはなおさらです。ドキュメントの不足も大きな問題です。モデルの入力について適切な文脈と理解がなければ、公平なAIでさえ誤用されるおそれがあります。

こうした課題を乗り越える第一歩として、透明性の高いレポーティングは、モデルの文脈と個々の予測に対する説明を提供します。また、エンドユーザーがさまざまなモデルの結果を探り、具体的な対処方法を見つける機会にもなります。データとモデル構築のパイプラインの各段階を文書化しておけば、問題が発生したときに確認と修正が容易になります。

視野を広げる:AIガバナンス

責任あるAIがモデル構築をどう改善できるかを見てきましたが、こうした実践はAIパイプラインのほかの部分から切り離されたものではありません。責任あるAIのフレームワークは、AIガバナンスというより大きな基盤に根ざす必要があります。

すでに述べたように、AIパイプラインはアルゴリズム以上のものです。問題の定義からモデルの監視まで、アナリティクスとAIを安全にスケールするには、AIモデルの統制とアジリティーのバランスを取る必要があります。では、AIガバナンス、MLOps、責任あるAIは具体的にどのように関係しているのでしょうか。

Responsible AI triangle

AIの失敗による意図しない有害な結果を避け、業務プロセス全体でAIを効果的にスケールするために、組織は入念に設計されたフレームワークを用いて、開発からデプロイまで責任ある価値観と原則を組み込むべきです。

ここまで、責任あるAIを定義し、AIガバナンスとの関係を見てきました。次に、Dataikuのような企業と連携することで、信頼性の高いモデルを構築できるだけでなく、責任あるAIの原則を踏まえた設計ができることを見ていきます。

生成AIにおける責任あるAI

生成AIは大きなメリットをもたらす一方で、課題も生じさせます。とくに、AIのハルシネーションと、責任あるデプロイの実践の必要性です。

AIのハルシネーションへの対策

生成AIモデルの主なリスクの1つは、ハルシネーションを起こす可能性があることです。ハルシネーションとは、もっともらしく見えても、事実と異なる、誤解を招く、あるいは完全にねつ造された出力のことです。この問題は、こうしたモデルの確率的な性質に起因します。生成AIモデルは、リアルタイムのデータや検証済みの事実ではなく、学習したパターンに基づいて回答を生成するからです。例えば、モデルが説得力のある形で引用元を「でっち上げ」たり、発言を別人のものとしたり、実際の出来事について誤った情報を生成したりすることがあります。日常的な会話では害がないかもしれませんが、医療、法律、報道など、事実の正確さが不可欠な重要分野では、影響はより深刻です。

責任あるAIのためのヒューマンインザループのアプローチ

誤りが生じる可能性を考えると、生成AIを責任を持って利用するには、ヒューマンインザループのアプローチを採用することが不可欠です。人間による監督によって、AIの出力は実際の用途で使われる前に評価、修正されます。例えば、生成AIを用いた医療診断システムでは、人間の専門家がAIの生成した推奨事項を検証し、ハルシネーションによる誤診や不適切な治療を防ぐべきです。

責任あるAIシステムの構築

開発者と組織は、ハルシネーションに伴うリスクを軽減し、生成モデルを安全に使用するために、責任あるAIの実践を優先する必要があります。具体的には次のとおりです。

  • 透明性:AIシステムが使われているとき、人間による監督が行われているときは、それを明示する

  • トレーニングと検証:高品質で多様なトレーニングデータを使ってバイアスと誤りを最小限に抑え、システムの正確性を継続的にテストする

  • 後処理のセーフガード:公開前に人間のレビュー担当者がAI生成コンテンツの正確性と適切性を評価できる検証レイヤーを導入する

Dataikuによる責任あるAIと説明可能なAI

Dataikuによる責任あるAIと説明可能なAI

Dataikuによる責任あるAI

責任あるAIとは、AIの出力を組織の価値観と一致させるためのフレームワークです。Dataikuのようなプラットフォームと連携することで、信頼性、説明責任、公平性、透明性、説明可能性を備えたAIシステムを構築できます。これらはすべて、責任あるAIの主要な原則です。

以下では、Dataikuの責任あるAIソリューションが提供する主な機能をいくつか紹介します。

バイアスを初期段階で軽減する

バイアスのあるMLモデルのリスクを減らすには、全工程で適切なデータプレパレーションの手法を使うことが重要です。これにより、MLモデルを構築するための確かな基盤ができます。Dataikuのツールは、高度な統計分析、強化されたデータ探索、データ品質ルール、GDPRやCCPAなどの主要な規制に沿ってデータプライバシーを保護するガードレールにより、責任あるAIの原則を後押しします。

モデルの精度を向上させる

モデルの公平性を確保するのは、とくに大規模な環境では難しい作業です。Dataikuには責任あるAIのプロセスの精度を高める機能があり、モデルアサーションとサブポピュレーション分析によって、サブポピュレーションに対する予測が一定の期待を満たしているかを確認できます。さらに、新しいモデルバージョンが期待どおりに動作しない場合には警告が表示されます。モデルトレーニングの健全性チェックは、データセットの不均衡や変数重要度のばらつきの特定に役立ちます。

専用レポートで問題を検出する

公平性レポートでは、モデルのバイアスを測定するメトリクスを選択できます。これらのレポートには、Demographic Parity、Equalized Odds、Equality of Opportunity、Predictive Rate Parityが含まれます。部分依存プロットとサブポピュレーション分析は、グローバルレベルと地域レベルで予測がどのように変化するかを理解するのに役立ちます。

Fairness report

ドキュメントと可視化を作成する

What-if分析と個別予測の説明を使えば、モデルの現状と、モデルが特定の予測を出す理由をチームで理解できます。インタラクティブな分析を公開して、ビジネスユーザーがモデルの動作をより把握しやすくすることも可能です。チームはモデルの評価と監視を使って主要なモデルメトリクスを計算し、特定のモデルエラーについて通知を受け取れます。さらに、モデルが何をするのか、どのように構築、チューニングされ、どのような性能を示したのかをまとめたドキュメントを自動生成することもできます。これは規制へのコンプライアンスに必要であり、AIソリューションを保守するチームの継続的なナレッジマネジメントにも欠かせません。

責任あるAIとAIガバナンスを組み合わせる

Dataiku Governを使えば、アナリティクスチームやAIチームのスピードを落とすことなく、適切なチェックアンドバランスを構築できます。ガバナンスチームには、具体的で測定可能にすべき基準があります。Governを使うことで、アナリティクスチームとAIチームは自分たちの作業をそうした期待に合わせられます。また、アナリティクスとAIのプロジェクトの開発とデプロイに向けた標準プロジェクト計画を作成し、レビューと承認のための明確なステップとゲートを備えたワークフローのブループリントを使うこともできます。

すべてのプロジェクトを1か所で確認する

Dataikuの中央レジストリーで、プロジェクトの可視性を高められます。中央レジストリーには、モデルとアナリティクスのプロジェクトが、すべてバージョン管理され、パフォーマンスメトリクスとともに登録されます。リーダーとプロジェクトマネージャー向けにはプロジェクトサマリーが用意されています。また、デプロイ前のモデルの承認によって、デプロイに関する意思決定の監査対応を確実にできます。責任あるAIは、AIガバナンスとMLOpsによってAIの安全なスケールを支援する取り組みの1つの側面です。MLの開発ライフサイクルにおけるアクティビティーとチェックをガバナンスチームと共有し、原則が守られるようにできます。

Dataikuによる専門的な支援

Dataikuの専門家が、責任あるAIの技術的な側面にとどまらず、各企業のニーズに合わせて機会のある領域の特定を支援します。Dataikuのコア製品が備える技術的な機能に加えて、責任あるAIについて、概論と実践の両面から学ぶこともできます。

Responsible AI in practice course at Dataiku Academy

Responsible AI in practice course at Dataiku Academy

Check it out now
Discover the Dataiku governance features

あらゆる場所でAIを統制

あらゆる場所でAIを統制

責任あるAIへの道のり

これまで見てきたように、責任あるAIは、AIテクノロジーの急速な成長への必要な対応であるだけではありません。信頼を築き、効果的にスケールし、目的を持って先導したい組織や業界にとって、強力な戦略的優位性でもあります。

明確な責任あるAI戦略を持たない企業は、多くのリスクに直面する可能性があります。消費者の信頼や従業員の信頼の低下、罰金、監査や監視の強化、説明責任の不明確さなどです。こうした状況はすべて、AIの機能不全につながりかねません。

AIの設計とローンチのパイプラインに公平性、説明責任、透明性を組み込むことで、企業はリスクを軽減し、システムの信頼性を高め、社内外のステークホルダーにとってより公平な結果を生み出せます。

責任あるAIは、AIとMLのほかの多くの分野と同様に、チームや専門分野を越えた協力を必要とし、入念に設計されたフレームワークとDataikuのようなツールに支えられています。