【2024】AI詐欺の進化！詐欺事例やAIによる国内の詐欺対策、注意点を解説

2024年5月、英エンジニアリング大手アラップは、詐欺グループが仕組んだAI偽装会議にだまされ、2億香港ドル（約40億円）を詐取されたと発表しました。AI技術を使い本物そっくりの社内会議が設定され、経理担当社員は指示通りに詐欺グループの口座へ大金を振り込んでしまったようです。

近年、生成AI技術の進化で詐欺の手口も巧妙化しており、AIを利用した犯罪や不正が増えています。今回、大企業が被害に遭ったことから、今後日本企業も標的になる頻度が増加する可能性が高く、警戒が必要です。

今回は、AIによる詐欺事例やAIによる国内の詐欺対策、AI詐欺に合わないための注意点を解説します。

AIを利用した犯罪や不正が相次いでいる

近年、AIを悪用した犯罪や不正が相次いでおり、特に偽電話詐欺などの被害が急拡大しています。専門家も多くが予想していた事態とはいえ、現実のものとなりつつある状況です。

中国ではAIを使った巧妙な振り込め詐欺事件が発生しました。WeChat（微信）で友人からビデオ通話があり、知人が入札の保証金で8500万円を必要としているため、会社の法人口座で口座振替をさせてほしいと依頼したようです。

被害者は、ビデオ通話の相手が友人であることを信じ、指示通りにキャッシュカードの番号を伝えてしまいましたが、その相手はAIを使って友人の顔と声を複製した偽者でした。犯人は、被害者が友人と普段やり取りしている会話内容や音声などを分析し、AIを使ってそっくりな声を生成した上で友人の顔を映すことで、より巧妙に被害者を騙したのです。

中国では他にも同様の事件が報道されており、世界中でAI犯罪のリスクが高まっていることが示唆されています。現在、被害は主に海外に集中していますが、日本も例外ではありません。振り込め詐欺被害が依然として多い日本において、AI音声詐欺は深刻な脅威となり得るでしょう。

AIによる詐欺事例

AIによる詐欺は巧妙な手口のため、騙されたことに気付かない被害者も続出しています。以下ではAI詐欺事例について詳しく解説します。

AIチャットを悪用した偽ショッピングサイト

近年、楽天や東南アジアのショッピングサイトを装った偽サイトが相次いで発覚しており、被害者も出ています。これらのサイトは、AIチャットサービスを活用し、巧妙な手口で利用者を欺いています。

偽サイトには、20言語に対応したAIチャットサービスが組み込まれており、利用者からの質問に対して自然な文章で回答する仕組みです。偽サイトは日本語が不自然であるため、間違いが目立ちますが、AIチャットが進化すると、こうした見抜きやすいポイントが減少すると考えられるでしょう。

偽のプレゼントキャンペーンを装った詐欺

近年、SNS上で偽のプレゼントキャンペーンを装い、個人情報の窃取や金銭を騙し取る詐欺が横行しています。特にFacebookでは、人気ブランドや有名人を巧みに利用した手口で、多くの被害者が生まれています。

例えば、AI技術で生成されたテイラー・スウィフトのディープフェイク動画です。動画内で、テイラー・スウィフトはル・クルーゼとのコラボキャンペーンを告知し、3,000セットの調理器具を無料でプレゼントすると発言していました。

しかし、これはAIで巧妙に作り上げられた偽のキャンペーンであり、実際にはプレゼント企画は存在しなかったようです。

トルコ・シリア地震の寄付金詐欺

2022年のトルコ・シリア地震発生後、AI生成画像を悪用した寄付金詐欺が確認されました。詐欺犯はAI技術を使い、実際には存在しない被災者の子どもの画像を生成したのです。

これらの画像は、本物と見分けがつかないほど精巧で、見る者の同情を誘う内容でした。生成した画像はSNS上で拡散され、多くの人々に寄付を呼びかけました。

トレンドマイクロをはじめとするセキュリティ企業が注意喚起を行ったこの詐欺は、巧妙な手口で多くの人々を騙し、深刻な被害をもたらしたのです。

AIによる国内の詐欺対策

ここまでは、AIによる詐欺事例をご紹介しましたが、国内ではAIによる詐欺対策も実施しています。AI技術の進化と共に詐欺の手口は巧妙化しており、もはや他人事ではなく、誰もがいつ被害者になってもおかしくない状況です。

以下では、AIによる国内の詐欺対策を解説します。

ATMコーナーにおける振り込め詐欺抑止対策

巧妙化する振り込め詐欺の被害は深刻化しており、2018年の神奈川県内の被害件数は2,604件、被害額は約59億円と高水準で推移しています。このような状況を受け、横浜信用金庫とNTT東日本は共同で、ATMコーナーの振り込め詐欺抑止対策として、AIを活用した実証実験を実施しました。

この実証実験は、振り込め詐欺被害者を早期発見することを目的としており、ATMを利用するお客様の映像と音声をAIで分析し、振り込め詐欺に遭っている可能性を判定する仕組みです。具体的には以下のような内容です。

上記の内容を判定し、不審な場合は店舗にアラームで通知すると同時に、ATM画面に警告を表示し、利用者に注意を促します。

高齢者特殊詐欺被害防止AIサービス

富士通株式会社は、東洋大学と兵庫県尼崎市と共同で、特殊詐欺の未然防止に向けた研究開発を進めてきました。その結果、高齢者が特殊詐欺の手口を疑似体験し訓練できる「特殊詐欺防止訓練AIツール」を開発しています。

このツールは、AIで特殊詐欺の手口を再現した「AIトレーナー」と会話形式で訓練を行うことができます。AIトレーナーは被害者心理を突いた巧妙な話術を用いて、常に最新の手口を模倣した訓練を行うことが可能です。

また、犯罪心理学の知見に基づいた会話パターンを生成し、まるで本物の詐欺師と会話しているようなリアリティさを実現します。訓練中の会話内容や生理反応を分析し、騙されやすさを客観的に評価する仕組みです。

この結果を高齢者にフィードバックすることで、自身の弱点を認識し防犯意識を高めることができるのです。

AI詐欺に合わないための注意点

AI技術を悪用した詐欺が巧妙化していますが、重要なのは、AIそのものが悪意を持っているわけではありません。AI技術を悪用し、巧妙な手口で人々を欺いているのは人間です。

AI技術を悪用した詐欺には、電話やチャットによる振り込め詐欺や偽サイト登録など様々な手口があります。AI詐欺に合わないためには常に冷静さを失わず、以下の点に注意することが重要です。

甘い​​言葉や高額な利益をうたう話には注意する

AIによる詐欺で特に注意が必要なのが、甘い言葉や高額な利益をうたう詐欺です。副業を呼びかける詐欺に多く、「必ず」「確実」といった絶対的な表現や「楽して」「簡単」といった手軽さを強調することで、ターゲットを誘導します。

国民生活センターはこのような詐欺の手口について、以下のように注意を呼びかけています。

• 副業で必ず儲かるということはない。「必ず」「確実」など高額な利益をうたう話には、必ず裏がある。
• 稼ぐためには、努力が必要。「楽して」「簡単」などの稼げる話には、注意が必要。
• 高額な初期費用を要求する副業は、詐欺の可能性が高い。
• すぐに契約を迫ってくる副業は、怪しい可能性が高い。

このような甘い言葉や高額利益をうたう副業を持ちかけられたら、焦らず時間をかけて情報収集することが大切です。

利用者の目線に立ってみる

偽サイトや偽アプリなど、一見本物と見分けがつかない巧妙な手口は、多くの人がだまされがちです。そのため、利用者目線に立って偽サイトを確認することが重要です。

例えば、サイト全体のデザインや文面の違和感や商品情報や価格の不自然さ、一般的な決済方法ではなく、怪しい決済方法を採用している場合が考えられます。購入前に口コミや評判を確認してみるのも良いでしょう。

このように、冷静さを失わず利用者目線で偽サイトを見破るポイントを意識することが重要です。

知らない番号の着信には出ない

海外での例でもあったように、AI詐欺ではターゲットの声を模倣した音声で電話をかけてくるケースが少なくありません。そのため、知らない番号からの着信にはすぐに出るのではなく、相手を確認してから出るようにしましょう。

相手に自分の名前を名乗ると、個人情報を把握されてしまう可能性があるため、注意してください。また、相手が金銭の話を持ちかけてきたら、すぐに電話を切りましょう。

個人情報を安易に開示しない

AI詐欺は、個人情報を悪用した巧妙な詐欺を行うことができます。そのため、特に重要となるのが、個人情報を安易に開示しないということです。

例えば、先述したような自分の名前を名乗ることや怪しいメールやサイトへの個人情報の入力、SNSなどの公開プロフィールへの個人情報の掲載などは控えてください。

合言葉を決めておく

詐欺犯はターゲットの情報収集を行い、家族や友人になりすまして電話やメッセージを送ってくることがあります。そのため、家族や友人間での合言葉を事前に決めておくことで、相手が本当に家族や友人なのかを確認することができます。

電話やメッセージでやり取りをする際に、相手が合言葉を言えるかどうかを確認し、合言葉を言えない場合は、詐欺の可能性が考えられます。不安な場合は、すぐに電話を切り家族や友人に直接連絡を取ってください。

不審を感じたらすぐに取引中止する

少しでも不審に感じた場合は、すぐに取引を中止しましょう。後から後悔するよりも、被害を未然に防ぐことが重要です。

また、もしも被害に遭ってしまった場合は一人で抱え込まずに下記の相談窓口に連絡しましょう。専門家が適切なアドバイスを提供してくれます。

• 消費者ホットライン「188」
• 警察

消費者ホットライン「188」は、全国の消費生活センターにつながる電話相談窓口です。AI詐欺に関する相談も受け付けているので、被害を受けた場合は、すぐに相談しましょう。

AI時代の詐欺対策は一人一人の意識が重要

今回は、AIによる詐欺事例やAIによる国内の詐欺対策、AI詐欺に合わないための注意点を解説しました。AIは本来、詐欺を助長するものではありません。

しかし、悪意のある者たちによって、様々な詐欺に悪用されています。AIによる詐欺に合わないためには、常に最新の情報に注意し正しい知識を持ち、適切な対策を講じることが重要です。