1. MetaStep TOP
  2. ビジネス活用を学ぶ
  3. AI規制を踏まえた説明可能AI(XAI)の重要性について

2024.12.16

AI規制を踏まえた説明可能AI(XAI)の重要性について

「金融が変われば、社会も変わる!」を合言葉に、未来の金融を描く方々の想いや新規事業の企画に役立つ情報を発信しているNTTデータのメディア「OctoKnot(オクトノット)」。MetaStep(メタステップ)の「提携メディア」に参画いただき、定期的にコラボレーションしています。今回はコラボ企画の第4弾。

ビジネスのあらゆる意思決定場面において、AIの活用は人間をサポートする良きパートナーです。しかし、その決定プロセスは不透明というリスクもあります。例えば融資審査をAIが担い、ユーザーが融資不可の決定を下された時に、企業の回答として「AIが決めましたが、理由はわかりません」では話になりません。こうしたリスクもあり、EU(欧州連合)ではAI規制法案が採択される事態に。

だからこそ今、AIを活用し意思決定をする際には「説明可能」であることが重要となります。その重要性とプロセスを、NTTデータの事例を交えた独自の視点で解説。AIのビジネス活用において知っておくべき内容です。それではお願いします!

●「オクトノット」とは

NTTデータの金融DXを考えるチームが、未来の金融を描く方々の想いや新規事業の企画に役立つ情報を発信するMetaStepの提携メディアです。「金融が変われば、社会も変わる!」を合言葉に、金融サービスに携わるすべての人と共創する「リアルなメディア」を目指して活動されています。

AI活用が進み、業務効率化などに貢献する一方で、新たなEUのAI規制への対応が求められています。特にAIのブラックボックス化問題は、AI規制に対応する際の技術的ボトルネックになると考えており、説明可能AI(eXplainable AI : XAI)の重要性が高まっていくと考えられます。NTTデータでは説明可能AIの業務適用を検討しており、参考例をご紹介できればと思います。

<目次>

・はじめに

・金融機関におけるオーソドックスなAI活用事例について

・EUのAI規制について

・説明可能AIの重要性

・説明可能AIの適応について

・NTTデータにおける説明可能性を高める取り組みについて

はじめに

近年、金融業界においても人工知能(AI)の活用が急速に進展しています。AIは巨大なデータセットを高速に処理し、複雑な意思決定を効率的に行うことができるため、金融機関は業務の効率化やリスク管理の向上にAIを積極的に取り入れています。

しかし、AIの決定プロセスのブラックボックス化という特徴とEUのAI規制法案を鑑みると、その透明性や説明可能性に関する課題がいっそう顕在化すると想定されます。

この記事では、金融業界におけるオーソドックスなAI活用事例、EUと日本におけるAI規制動向を踏まえて、説明可能AI(eXplainable AI : XAI)の重要性に焦点を当てながら、NTTデータでの取り組みの事例をご紹介します。

金融機関におけるオーソドックスなAI活用事例について

AI導入は世界中の多くの産業で進められています。日本の金融機関においても同様で、具体的な活用事例が増えています。

以下は、金融業界でのオーソドックスなAI活用事例です。

◆融資審査の自動化: 

AIは、個々の顧客の属性、入出金・残高情報、財務状況を分析し、融資の可否や融資額を自動的に判断します。これにより、審査プロセスの迅速化と貸し倒れリスクの低減の両立を目指すことが可能です。

◆不正取引の検出: 

AIは取引データの異常を検知し、不正取引の兆候を早期に発見します。これにより、金融機関は不正行為による損失を最小限に抑えることが可能となります。

◆資産運用の自動化:

 AIは市場データをリアルタイムで分析し、最適な投資戦略を提供します。顧客のリスク許容度に合わせてポートフォリオをカスタマイズすることも可能となります。

上記のような事例において、AIは大量のデータから洞察を得て判断を下します。しかし、その判断プロセスは複雑であり、人が理解することが難しい(ブラックボックス化)という課題があります。

EUのAI規制について

――ここから先はオクトノットにてご覧ください――

octoknot_フッター用

「オクトノット」は、NTTデータの金融DXを考えるチームが、未来の金融を描く方々の想いや新規事業の企画に役立つ情報を発信。「金融が変われば、社会も変わる!」を合言葉に、金融サービスに携わるすべての人と共創する「リアルなメディア」を目指されています。「オクトノット」と「MetaStep」で今後様々なコラボも検討しています。

※本記事の内容には「Octo Knot」独自の見解が含まれており、執筆者および協力いただいた方が所属する会社・団体の意見を代表するものではありません。