「金融が変われば、社会も変わる!」を合言葉に、未来の金融を描く方々の想いや新規事業の企画に役立つ情報を発信しているNTTデータのメディア「オクトノット」。MetaStep(メタステップ)の「提携メディア」に参画いただき、定期的にコラボレーションしています。
今回はコラボ企画の第2弾。OctoKnotより「AIガバナンス」についての記事をご提供頂きました。金融に関するメディアならではの視点を知る事は、MetaStepとはまた違った形の学びがあるはずです。それではお願いします!
AI技術の日進月歩とともに、AIは私たちのビジネスや生活のあらゆる場面に浸透しています。仕事や暮らしが便利になる一方で、AIの利活用にまつわる問題が顕在化。その流れから、金融機関をはじめ各企業において「AIガバナンス」の取り組みの強化が進んでいます。AIガバナンスがなぜ必要なのか、各国の動きや企業の取り組み事例とともに紹介します。
<目次>
AIガバナンスとは、AI技術を活用してITシステムやサービスを開発・利用・提供するにあたって、社会規範や制度を遵守し、活動を統制するための管理体制や運用のことを指します。
AIの精度や品質の制御には、特有の課題があるためです。
機械学習、深層学習(ディープラーニング)、ChatGPTに代表される生成AIなど、ここ数年でAI技術は大きく発展。それとともに、AIの悪用やテスト不足による事故、学習用データの偏りや不足による誤動作といった問題が顕在化してきました。こうした問題をいくつか分類し紹介します。
実際に起きた事例を紹介します。
l 採用履歴データをAIに学習させ採用基準に利用したところ、女性の採用率が極端に低くなったため、運用を取りやめた(2018年10月 米国)
l 住宅ローン融資審査で特定の地区の居住者やマイノリティの人が不利に判定された(2021年8月 米報道NPO「ザ・マークアップ」、AP通信による調査報道)
※本記事の内容には「Octo Knot」独自の見解が含まれており、執筆者および協力いただいた方が所属する会社・団体の意見を代表するものではありません。