TOKYO FM + PRニュース

便利になる一方で、犯罪に使われるリスクも…2024年はAI「音声分野」に注目！専門家が解説

2024-01-11 (木) 21:00

モデル・タレントとして活躍するユージと、フリーアナウンサーの吉田明世がパーソナリティをつとめるTOKYO FMのラジオ番組「ONE MORNING」（毎週月曜～金曜6:00～9:00）。1月4日（木）放送のコーナー「リポビタンD TREND NET」のテーマは「2024年注目のAI（人工知能）」。情報社会学が専門の城西大学助教・塚越健司さんに解説していただきました。

※写真はイメージです

◆今年はAIの音声分野に注目

2023年は「ChatGPT」「生成AI」などがトレンドに。生成AI元年とも言える年だったのではないでしょうか？その進化は、2024年も進んでいくと思われます。

ユージ：というわけで、塚越さん、ズバリ！今年注目のAIは、何でしょうか？

塚越：2024年は「AIを利用した音声分野」に注目です。

ユージ：さっそく、注目のAIについて教えてください。

塚越：Googleの社内スタートアップ部門が、YouTube動画の言語をAIで自動的に吹き替える機能を、2024年に搭載すると発表しています。どういうことかというと、まず日本語で話して、その言葉を別の言語に自動で音声翻訳してくれます。つまり私が、今話している言葉が勝手に英語に吹き替えられるということです。

さらに、動画内の口元だけ吹き替え言語に合わせる（リップシンク）だけでなく、元言語の声色やイントネーションなども学習し、吹き替え言語も元言語の調子に合わせることができるというものです。

ユージ：僕のYouTubeチャンネル「ユージずチャンネル」があるのですが、いまは完全に日本語のみで発信しています。世界に向けて発信していないのですが、この機能が搭載されると今後、海外で見てくれた方が翻訳ボタンを押すと、僕の動画上の会話が全て英語になるということでしょうか？

塚越：そうですね。日本語しか話せない方でも、英語も含めてさまざまな言語で発信できるという意味では、すごいことかなと思います。

◆便利な一方、詐欺に使われる懸念も

吉田：そんな音声分野でのAIの問題点はありますか？

塚越：この技術を使えば、悪いこともできてしまいます。去年は特定の人の声をAIで学習させた合成音声（ボイスクローン）を使った電話詐欺なども多発しました。アメリカでは、子どもの声のボイスクローンで「ママ、助けて」と電話をかけてきた事例がありました。いわゆる「振り込め詐欺」にも合成音声が利用される危険性も指摘されています。

他にも、特定のアーティストの声のボイスクローンを作って、別のアーティストの歌を歌わせることがアメリカで問題になり、YouTubeから該当の動画が削除されたこともありました。2024年もボイスクローンの悪用は起こり、規制や著作権の問題になるのかなというところです。

ユージ：すごい技術ではあるものの、やはり、詐欺に悪用されるという事例が懸念ですね。去年のハリウッドのストライキでもAIの使い方が争点の1つでしたが、音楽業界でもAIの規制について議論する必要がありますね。

◆AIの政治利用にも注意が必要

ユージ：今年はアメリカ大統領選挙も注目されていますが、前回の大統領選挙では、フェイクニュースが問題になりました。今回は、AIによるディープフェイクが問題になりそうですか？

塚越：先ほどもご紹介した通り、ディープフェイクの技術では、（映像内の）顔を変えるだけでなく音声も変えられます。SNS企業も常に対策はしているのですが、イタチごっこ状態です。

今年は生成AIによる動画生成がさらに簡単にできるようになることが予想され、選挙のときに生成AIの動画版など、さまざまなフェイクが出る可能性が高いので、気を付けなければいけないところです。

ユージ：AIの政治利用、さらなる問題も出てきそうですね。

塚越：そうですね。音声翻訳は素晴らしい技術ですが、逆に問題にもなるのかなと思います。例えば去年10月に、英語しか話すことができないニューヨーク市長が、こうした技術を使って、中国語やスペイン語で、自動音声による電話（ロボコール）を有権者にかけていたことがわかっています。

ロボコール自体は違法ではないのですが、英語しかできない市長が、まるで中国語やスペイン語を話せるかのような誤解を与えた可能性があります。中国語やスペイン語が第一言語の人は、市長が外国語を話せると勘違いした人も多く、それだけで親近感が湧いたということで、ある意味で政治家として選挙に影響を及ぼしたり、支持率が変わってしまったりします。

ユージ：確かにさまざまな人種の人たちが暮らしている国では、「この市長は自分たちの言語に寄り添っているから投票しようかな」っていう気持ちになるかもしれませんね。

塚越：逆に言えば、単に混乱することもあるので、この辺りは規制しなければいけません。翻訳に嘘を入れてしまうと、人は騙されることもあります。いいこともあるのですが、こういったところが問題かなと思います。

ユージ：できないようなことを、あたかもできたように見せることは法的には問題がなくても、良くないと思います。きちんと「AIによる翻訳を使っています」と言ってほしいですね。これは詐欺に近い行為にもなりますか？

塚越：詐欺に近いと思われてしまうので、規制が必要です。今回の能登半島地震でも、さまざまな寄付を募る詐欺が発生しています。実際の状況とは異なるフェイク画像を貼り付けた嘘の投稿がSNSにあふれるなど、さまざまな被害が生じています。このあたりもきちんと対応しなければなりません。