オンライン本人確認と顔認証技術のイメージ。日本銀行金融研究所の論文は、生成AIによるディープフェイクの高度化を踏まえ、金融機関が検知モデルの評価やリスク管理を継続的に見直す重要性を指摘している。（画像はイメージ）
今回のニュースのポイント
生成AIの進歩に伴い、本人になりすました画像や動画を作成する「ディープフェイク」の精度が高まり、金融機関の本人確認にも新たな課題が生じています。日本銀行金融研究所が公表した論文では、ディープフェイク検知モデルを評価・比較した研究事例を基に、実運用に向けた留意点や課題を整理しました。オンラインでの口座開設や各種金融サービスが広がるなか、本人確認の信頼性をどう維持するかがデジタル金融サービスの信頼性を左右する課題となっています。
本文
スマートフォンで顔の動画や画像を撮影し、オンラインで本人確認を行える仕組みは、現代の金融サービスの利便性を高めてきました。しかし、その利便性を支える「顔認証」の裏で、技術的な前提を揺るがす変化が起きています。生成AIの急速な進化により、実際には存在しない人物の顔画像や、実在する人物の表情や口の動きなどを精巧に再現した動画、さらには声まで本物に似せた合成音声が、従来より容易に作成できるようになったためです。
この変化が最も直接的な影響を及ぼすのが、金融機関のオンライン本人確認（eKYC）や不正送金対策の現場です。これまで金融機関は、カメラの前で顔を動かさせたり、ランダムな数字を発音させたりすることで「目の前に本人がいるか」を判定する生体検知技術（ライブネスデテクション）を活用してきました。しかし、クラウド上で提供されている複数の生体認証サービスに対し、生成AIで作られた高度なディープフェイクを提示したところ、誤って本人と判定された事例が海外研究で報告されています。偽動画によるなりすましは、金融犯罪や不正口座開設に直結する現実的なリスクとなりつつあります。
こうした中で日本銀行金融研究所が公表した論文では、悪意あるディープフェイクを見破るための「検知モデル（検知AI）」の性能や評価方法について詳細な分析を行いました。論文では、複数の検知モデルを評価・比較した研究事例を整理していますが、単に「どのAIが最も優秀か」を決めるのではなく、実運用において検知モデルをどう評価・選択すべきかという視点が提示されています。特に重要な課題として挙げられたのが、AIモデルが「学習時に経験したことがない未知の偽造手法」と出会った際に、検知精度が低下するという点です。特定の攻撃手法だけに強い検知モデルでは、次々と登場する新しい生成AI技術に対応しきれない可能性が示されています。
金融セキュリティの現場は今、生成AIによる攻撃と検知技術の高度化が続く構図となっています。論文は、金融機関が「検知AIを一度導入して終わり」とするのではなく、想定されるリスクと顧客の利便性、すなわち正規の利用者を誤って拒否してしまう割合とのバランスを踏まえて評価基準を設定し、技術動向の把握やリスク評価を継続することが重要だと指摘しています。
顔認証やオンライン本人確認は、私たちが安全・快適にデジタル金融サービスを利用するための「見えない社会インフラ」です。ディープフェイク対策は単なる技術的な防御策にとどまらず、金融サービスの信頼性を維持するための重要な基盤といえます。今回の研究は、生成AIの進化に合わせ、金融機関が本人確認技術とリスク管理を継続的に見直す必要性を示しています。（編集担当：エコノミックニュース編集部／Editorial Desk: Economic News Japan）
