AI音声によるなりすましは、古くからある詐欺に新たな工夫を凝らしており、あなたとご家族は備えが必要です。犯罪者はオンライン音声の断片を盗み、ますます普及しているツールを使って、電話回線が不安定だと偽り、十分に説得力のあるAI音声を作り出すことができるため、事前に警告しておくことが万全の備えとなります。
少なくとも家族内で、そしてできれば会社や社会的なグループ内でも、このような詐欺が発生していることを皆で認識しておくことをお勧めします。最善の防御策は、あなたと相手だけが知っている秘密のパスワードなどを共有することです。
詐欺の仕組み
AI音声によるなりすましに関連する詐欺は、一般的に「祖父母詐欺」と呼ばれています。その手口は次のとおりです。祖父母の家に電話が鳴ります。通常は早朝か深夜です。電話に出ると、孫の一人が事故に遭った、逮捕された、あるいは強盗に遭ったと訴えます。すぐにお金が必要です。しかし、接続が不安定なことが多く、孫は困っている状態です。
「本当にパオロさんですか？ちょっとあなたらしくないですね。」
「おばあちゃん、私よ。さっき話したメキシコ旅行に行ってたんだけど、財布と携帯を盗まれちゃったの！新しい携帯を買うから、送金してもらえる？」
祖父母はウォルマートやウエスタンユニオンに駆け込み、助けようとします。あるいは、銀行から現金を引き出して、自宅に来た「宅配業者」に渡すことさえあります。そして、彼らのお金は詐欺師の手に渡ります。
FBIによれば、この特定の詐欺が初めて表面化したのが2008年で、どこからでも安価な通話が可能になったこと、世界中に瞬時に送金できる手軽さ、そして詐欺師がもっともらしい主張をするための人物情報を容易に見つけられるソーシャルメディアといった要素が重なったことが原因だと考えられる。
もちろん、この詐欺は必ずしも祖父母が絡むわけではありませんし、高齢者の方が騙されやすいと言っているわけではありません。詐欺師は子供、親、遠い親戚、友人、隣人、同僚などもターゲットにします。時には、電話をかけてきた相手が警察官や医師、あるいは皮肉なことにFBI捜査官を名乗ることもあります。
この詐欺の鍵となる要素は、近しい家族、友人、または同僚が切実な困窮に陥っていることです。その緊急性や、電話をかけてきた人の自由や帰宅能力に対する潜在的な脅威は、ほとんどの人が持つであろう通常の批判的思考を凌駕します。また、詐欺師は、私たちが注意力を失いやすい真夜中に電話をかけてきたり、高齢の家族の認知機能の低下や聴覚障害につけ込もうとしたりすることもよくあります。
AIによる音声なりすましという側面は、「未来への衝撃」という要素を付け加えています。私たちは誰も、自分がよく知っている人物の、完全に説得力のあるバージョンから電話がかかってくることに備えているわけではありません。これはすでに起こりつつあります。FTC（連邦取引委員会）は2023年3月の投稿でこの点を強調しました。また、全国各地のニュースでも報道されており、これは詐欺のほんの一部に過ぎません。例えば、ワシントン・ポスト紙は2023年3月にカナダの詐欺について報じ、グッド・モーニング・アメリカは2023年6月、ニューメキシコ州は2023年9月、サンディエゴは2023年11月に掲載されました。Redditなどのフォーラムにも投稿が溢れています。
昨年、比較的少量の音声から信憑性のある音声を生成できるサービスが登場しました。特にElevenLabsが有名です。数分間の音声をシードとして入力するだけで、AI音声は不気味なほど正確です。音声クローンの生成にはそれほど費用がかからず、多くのサービスでは悪用を防ぐための安全対策がほとんど、あるいは全く講じられていません。そして、悪用される事例は数多くあり、FTCは音声クローン詐欺を特定し、阻止するための提案を募集しています。
詐欺師がどのようにして人物の音声録音を入手したのかは、いくつかのケースで不明です。ポッドキャスターやYouTube、TikTokの動画に出演している人物が、情報源として考えられるのは明らかです。しかし、年齢やアクセントが適切な、一般的な声で人を騙すことも可能でしょう。また、例外的な事例も発生しています。AIと思われる発信者が、モントリオールに住む祖母を騙そうとしたのです。その際、彼女を「ノンナ」と呼ぶなど、イタリア語のニックネームを口にしていました。これは不気味な話で、比較的少額の金銭的利益を得るためには、相当な調査が必要だったでしょう。
こうした詐欺はメールでも届きますが、緊急性に欠け、言葉遣いや綴り、その他の書き方に問題があるため、説得力に欠ける場合が多いです。このメールは2010年に「友人」のアンナから受け取りました。本物のアンナは、私がよく知っていて好意を抱いていたものの、大金を貸してほしいと頼まれるほど親しい人ではありませんでした。彼女は話し方が丁寧で、私とのやり取りでは言葉遣いに気を使っていました。最初のメールは簡潔だったので、返信したところ、以下のメールが届きました。説得力に欠けますが、これは生成AIがこのような手紙を書く以前の話です。
ロボットがあなたのお金を狙っている
家族、友人、同僚とパスワードを共有すれば、こうした詐欺のほとんどを回避できます。認証のほとんどの側面と同様に、このプロセスでは情報のための帯域外チャネルが必要です。つまり、秘密や詳細情報を、その情報で保護している通信手段とは異なる通信手段で提供する必要があるのです。（TidBITSでは帯域外問題について頻繁に取り上げているので、「Out of Band」という音楽グループを結成すべきかもしれません。）
電話で本人確認が必要な場合に備えて、グループでパスワードを設定しましょう。例えば「ラズベリーベレー帽」としましょう。困っている愛する人から電話がかかってきたら、「ほら、詐欺があるって話したでしょ？パスワードは何？」と尋ねることができます。パスワードは、覚えやすく、馴染みのあるもので、オンラインで自分と関連付けられにくいものにしましょう。家族のジョークでもいいでしょう。完璧に覚える必要はありません。核兵器発射コードの権限を確認するわけではないのですから。
相手がパスワードを思い出せない場合は、さらに深く掘り下げて個人的な情報を尋ねましょう。親しい人ならすぐに答えられるはずです。「ドンおじさんが何て言ったか覚えていますか？」「いいえ、覚えていません」「ドンおじさんなんていないでしょう？」（この記事を調べたおかげで、私の家族はパスワードを持つようになりました。）
以下の簡単な方法でこれらの詐欺を識別し、阻止することもできます。
- 発信者を時間稼ぎしながら（眠いふりや混乱しているふりをして）、相手の知っている電話番号にこっそりとテキストメッセージを送信して、状況を確認します。
- 折り返し電話すると言ってから、相手の電話番号に電話をかけます。犯人は、携帯電話が盗まれた、あるいは使えなくなったと主張するでしょう。上記のリンク先の多くの事例では、詐欺が失敗したのは、被害者が電話をかけたり、テキストメッセージを送信したりしたためでした。
- 「いつものように」ビデオ通話に切り替えるように促してみましょう。今のところ、AIはライブビデオで任意の人物になりすますほどの能力を備えていません。
- すぐに連絡が取れない場合は、発信者の居場所について詳しい情報を持っている可能性のある親戚や共通の知り合いに電話またはテキスト メッセージを送信してください。
- 相手が電話をかけてきたと主張する警察署に電話してください。
また、すべての TidBITS 読者の皆さんには知っておいていただきたいのですが、警察や弁護士が Western Union、Walmart、Amazon のギフトカード、Bitcoin などを使って送金するよう要求することは決してありません。即時送金を要求することも、脅迫することもありません。事実を確認するために誰にも電話しないように言うこともありません。こうした行為は、どんなに信用できる人でも注意を喚起するはずですが、人生でこうした状況に直面することは滅多にないので、不意を突かれることもあります。プレッシャーの中で詐欺に遭う前に、こうした可能性を検討し、必要な手段を確立しておくことが不可欠です。
先ほど、友人の友人のメールアカウントとメッセージを乗っ取られた例を挙げて、メールの説得力ははるかに低いと述べました。そこで私は、メキシコで強盗に遭い、カメラを盗まれたことを祖母に伝えるメールをChatGPTに作成してもらいました。最初の試みはぎこちなかったので、よりシンプルで堅苦しくない言葉遣いにするように指示しました。2回目の試みでは、何の危険信号もなく、説得力のあるメッセージが作成されました。
件名: おばあちゃん、助けて！メキシコで強盗に遭った😟
おばあちゃん、
元気にしてるかな？そういえば、今メキシコにいるんだけど、とんでもないことが起きたの。強盗に遭ったの！そう、カメラとかいろいろ盗まれたの。でも心配しないで、全然大丈夫。ちょっと動揺してるだけ。
この件について、本当にあなたの助けが必要なんです。近いうちに話せますか？
寂しいです、会えるのが待ちきれません！
[あなたの名前]
ChatGPT、違います！生成AIアシスタンスは、多くの「祖父母詐欺」の特徴である、説得力のない言葉遣い、慣用句、口調を簡単に排除できます。あなたが知っている、愛する人、信頼できる人、一緒に働いている人のように聞こえる相手と、メールやライブチャットでやり取りし、多くの基本的な質問に答えられることを想像してみてください。だからこそ、共有パスワード、バックチャネル認証、ビデオチャットなどを用意しておく必要があるのです。