「日本の被害」は世界3位!? 年間100件以上の被害…政府が新設した「AI政策推進室」の役割とディープフェイクの脅威とは？

モデル・タレントとして活躍するユージと、フリーアナウンサーの吉田明世がパーソナリティをつとめるTOKYO FMのラジオ番組「ONE MORNING」（毎週月曜～金曜6:00～9:00）。9月2日（火）放送のコーナー「リポビタンD TREND NET」のテーマは「政府が新しく作った『人工知能（AI）政策推進室』とは」。情報社会学が専門の学習院大学・非常勤講師 塚越健司さんに解説していただきました。

※写真はイメージです

◆新設された「人工知能政策推進室」とは？

政府が、生成AIの技術革新とリスク管理を両立させるため、各省庁のAI政策の総合調整をおこなう「人工知能政策推進室」を内閣府に新設しました。

吉田：塚越さん、まず「人工知能政策推進室」は、どんな部署なのか詳しく教えてください。

塚越：この「人工知能政策推進室」、すごい名前ですが、8月1日に新設された組織です。簡単に言えば、生成AIを最大限活用しつつ、同時にリスクを軽減するための「司令塔」のような存在として期待されています。まずは、およそ20人体制でスタートするとのことです。政府は9月1日に「AI戦略本部」というものも発足させたのですが、ここの事務局の機能も人工知能政策推進室が担うということです。

吉田：こうした組織が生まれた背景は何でしょうか？

塚越：これは、今年5月にいわゆる「AI法(人工知能関連技術の研究開発及び活用の推進に関する法律)」が成立したことが関係しています。この法律は、AIの利活用についての国や地方公共団体の決まり事に関するもので、この法律に従って今回の組織が生まれました。

例えば、何かしらの権利侵害が起きたときに、推進室はAI法に基づいていろいろな調査をおこなうということです。ただ、直接の罰則規定は法律にないので、この組織自体は、あくまでいろいろな調査をしたうえで、事業者に指導助言等をおこなう組織になっています。

◆ディープフェイク被害対策へ着手

ユージ：「推進室」は、まず何から手を付けようとしているのでしょうか？

塚越：報道によると、この推進室は、まずディープフェイク問題に着手しているということです。

アメリカのセキュリティ企業の調査によると、2023年にはウェブ上でおよそ9万5,000件のディープフェイク画像が確認されて、その98％が性的なものでした。ディープフェイクというのは、主に人の顔の部分だけ他人と差し替える技術ですが、動画などにすると顔の動きなどもとてもリアルに生成されてしまうので、勝手に顔画像を使用された人の人権に大きな被害を与えてしまうものです。

標的になった人の国籍を調べたところ、日本は著名人の国籍別被害者のうち、全体で10％と3番目に多いです。1番は韓国で、全体の53％を占めています。K-POPスターの被害が多いです。2番目がアメリカということです。国内でも被害は深刻化していて、警察庁の調査では去年1年間で100件を超える事案が把握されていて、なかでも生成AIが使われた事例は少なくとも17件はあるということです。

ユージ：日本は3番目に多いんですか!? ちょっと困りましたね。

塚越：そうですよね。これが厄介なのは、被害者は著名人だけではないというところです。ちょっとした画像があれば簡単に作れてしまうので、学校の同級生などが軽率にディープフェイクを作成して拡散してしまうことがあります。昨今はSNSに誰でも写真をアップできるので、特に若い人は注意しなければいけません。特に性的なディープフェイクは、本当に大きな人権侵害かなと思います。

吉田：推進室のような組織を作ることで、対策は充分なのでしょうか？

塚越：そうですね。なかなか難しいというところはありますが、世界中で規制が始まっています。

被害が深刻な韓国では、卒業アルバムなどを悪用してディープフェイク画像を作った事件などもあり、ディープフェイクの所持や視聴も罪になるなど、性的なものに関して厳罰化されています。イギリスでも厳罰化の方向を打ち出していますし、いろいろと厳しくしています。

現状、日本はディープフェイクを直接規制する法律は存在しておらず、「名誉毀損」「わいせつ物頒布罪」「著作権法」など、個別の法律で対応しています。その他、鳥取県が独自にディープフェイクを条例で規制する例もありますが、包括的な規制が求められているので、そういう意味では対応が遅れています。今回のような組織をつくることで、特にAIの「リスク」に関する部分を取り締まる方向を作っていく感じです。

ユージ：一方で、プラットフォーマーの責任も大きいですよね？

塚越：そうですね。こういったものはSNSにアップされるので、国際的にもプラットフォーマーへの規制を強化する国もあります。

特にEUは2024年に「デジタルサービス法」というものが施行されていて、違法な投稿の削除に対する厳格な規定などを定めています。対象となっているのは、EU内で4,500万人以上のユーザーがいるSNS事業などです。違反した場合、最大で全世界売上の6％の制裁金が課され、非常に厳しいです。

アメリカでも、今年の5月に「テイク・イット・ダウン法」と呼ばれる連邦法が成立しています。これは、SNSでディープフェイクの被害を受けた場合、プラットフォーマーは48時間以内に削除しなければならないということになっています。海外ではそのようなものがいろいろと作られているのですが、そういう意味では、日本はちょっと遅れている印象がどうしてもあります。

◆法制度の改正など今後の動きに期待

吉田：日本の生成AIに対する対応について、塚越さんはどう見ていますか？

塚越：海外と比較すると、日本は対応の遅れが目立ちます。今回の推進室をはじめとして、これから包括的な法が作られるのかなと思います。技術発展はすごいですが、法制度が追いついていない点が課題です。

リスクは多いものの、AIや半導体はビジネス的にも注目されているので、まずはその意味で、制度を整えてリスクを最小化する（必要があります）。リスクが最小化されるのであれば、ビジネスでの活用も進みますよね。民間も、より最新技術を使っていく方向に向かっていくでしょう。今回の推進室が作られたのも、そうした新しい制度を作っていく意義があってのことだと思います。

吉田明世、塚越健司さん、ユージ

＜番組概要＞
番組名：ONE MORNING
放送日時：毎週月曜～金曜6:00～9:00
パーソナリティ：ユージ、吉田明世
番組Webサイト：https://www.tfm.co.jp/one/
番組公式X： @ONEMORNING_1