偽情報の被害者にならないように自分を守る方法を学ぶには、まずディープフェイクとは何かを理解する必要があります。ディープフェイクは、非常にリアルなコンテンツを生み出すためにAI によって生成される画像または動画です。
ディープフェイクはどのように作られるのでしょうか?
ディープラーニングは、複数層の機械学習アルゴリズムを使用して、生の入力から段階的に高レベルの特徴を抽出する高度な人工知能 (AI) 手法です。人間の顔、動き、声などの非構造化データから学習することができます。
そのデータは、特殊な機械学習システムであるGAN（敵対的生成ネットワーク）を通じて処理され、ディープフェイク動画が作成されます。2 つのニューラル ネットワークが、写真などのトレーニング セットの特性を学習し、同じ特性を持つ新しいデータを生成するという点で互いに競合します。
ネットワークが作成された画像をトレーニング セットに対してテストするにつれて、偽の画像、ビデオ、オーディオはより説得力のあるものになります。音声を複製するために合成技術を利用できるため、ディープフェイクはこれまで以上に強力な脅威となります。
ディープフェイクを作成するもう 1 つの方法は、オートエンコーダ アーキテクチャを使用することです。オートエンコーダ ニューラル ネットワークは、データ (画像など) を低次元の潜在表現 (ピクセルではなく数学的ベクトル) にエンコードし、データを圧縮してから、パイプラインのもう一方の端で同じデータを再構築するように設計されています。オートエンコーダは、手書き分析や顔認識など、コンピューター ビジョンのさまざまな目的で使用されます。
オートエンコーダは画像（顔画像など）から「重要な」データを探すため、視覚的なノイズを除去するのに非常に優れています。ディープフェイク ソフトウェアの場合、これは、オートエンコーダ アーキテクチャが、画像内に存在する可能性のある粒子、影、その他の「顔以外の」要素などの外部要因をほぼ無視しながら、顔画像から基本的な特徴と特性を学習できることを意味します。その結果、多用途で十分に一般化されたモデル (つまり、元のトレーニング データとは異なるデータに対して有用な変換を実行できるモデル) が作成されます。
ディープフェイクはどのように使用されるのか
ディープフェイクの概念は映画の視覚効果を作成するためにも使用されますが、オンライン ディープフェイクにはさまざまな目的があります。
特に選挙期間中に人々の意見を動かすための偽情報キャンペーン。
脅迫とは、誰かがあなたのディープフェイク動画や画像を作成し、要求に応じない場合は公開すると脅すことです。
SADフィッシングは、友人、家族、同僚を助けるふりをして、リアルタイムで誰かになりすますことです。
ディープフェイクの危険性
テクノロジーと AI が進化するにつれて、オンラインのディープフェイク動画や画像の生成が容易になり、より説得力のあるものになります。ディープフェイクの被害者になる危険性は、企業、著名人、従業員、選挙候補者、そして一般個人にとって大きなリスクとなります。
詐欺
2023年、香港の金融関係者がディープフェイク技術のせいで詐欺師に2,500万ドルを支払った。この従業員は同僚や会社の最高財務責任者とのビデオ通話に参加するよう招待された。電話中に、従業員は2億香港ドルを送金することに同意した。
会議中に他の従業員や CFO が見えたにもかかわらず、それはすべてディープフェイク AI による顔認識機能を操作して同僚や CFO に見せかけたものだった。
恐喝と名誉毀損
2020年、韓国警察は、女子高生の写真を撮影し、メッセージアプリ「テレグラム」で画像を作成し、配布していた男たちのグループを発見した。男性たちを手伝っていたのは高校生の男子たちで、彼らはクラスメート（中には未成年もいた）の写真を撮り、それを制作者たちに送っていた。
これらのビデオはさまざまなプラットフォームに配信され、少女たちは何もできない状態に陥った。実際に犯行に及んでいないにもかかわらず、偽造証拠は社会における彼らの見方に影響を与え、トラウマとなる。
悲しみ
2024年、 77歳の英国人女性ニッキさんはディープフェイク動画を通じて1万7000ポンドをだまし取られた。その女性はネットで別の女性と出会い、交際を始めた――少なくとも彼女はそう思っていた。詐欺師は、石油掘削装置で作業しているためビデオ通話ができず、被害者はインターネットにアクセスするためのバウチャーを購入する必要があると主張した。ニッキさんが疑念を抱き始めたところ、犯人は石油掘削装置にいる自分のビデオをニッキさんに送り始め、ニッキさんの疑念は消えた。関係が続くにつれ、ニッキーは頻繁にビデオ通話を要求したが、常に拒否された。しかし、その直後に、彼女を安心させるために AI が生成した文書、画像、ビデオが送られてきて、さらにお金を要求した。
ニッキさんはパートナーの銀行口座に送金しようとしたときに初めて詐欺に気づいた。
無害なディープフェイク
オンラインディープフェイクの中には、ソーシャル メディア プラットフォームでより多くのフォロワーを獲得するための、純粋に娯楽目的のものもあります。
最も人気のあったディープフェイクの一つは、TikTokで公開されたトム・クルーズのディープフェイクです。このアカウントには100万人のフォロワーがおり、トム・クルーズではないにもかかわらず、いくつかの動画は5000万回近く再生されている。当初、人々は、動画、肖像、声、性格まで非常に説得力があったため、その有名人がプラットフォームに参加したのだと考えました。
2022年、YouTubeクリエイターのシャムックが新しいスパイダーマン映画の予告編で、俳優のトム・ホランドをオリジナルの俳優トビー・マグワイアに置き換えました。タイトルに「Deepfake」と記載されているこのビデオは、純粋に娯楽目的のものです。
ディープフェイクを防ぐ方法
ディープフェイクは急速に大きな懸念事項となり、セキュリティリスクとなっていますが、自分や自分の会社にディープフェイクが及ばないようにするために実行できる対策があります。
すべてのリクエストを確認する
個人情報や機密情報を求められた場合は、発信者が所属している会社に折り返し電話をかけるなど、二次的なチャネルを通じて発信者の身元を確認してください。
すべてのオンラインアカウントでプライバシー設定を使用する
あなたのビデオや画像が掲載されているソーシャル メディア アカウントへのアクセスを制限し、あなたの肖像を複製する機会を減らします。
パスワードの保護
パスワードは定期的に変更しましょう。すべてのパスワードが強力で、一意であり、複雑であり、少なくとも 16 文字の長さであることを確認してください。共有アカウントでは、パスワードを家族や従業員に教えなくて済むように、パスワード共有ソフトウェアを使用します。
アカウントに2要素認証を追加する
すべてのオンライン アカウントで、アクセスする前に 2 要素認証を使用して本人確認を行う必要があることを確認します。これにより、詐欺師がアカウントをハッキングすることが難しくなります。
ソフトウェアを定期的に更新する
ソフトウェアの更新は、デバイスを最新のマルウェア、スパイウェア、バグから保護するために不可欠です。
従業員を定期的にトレーニングする
テクノロジーが進化するのと同じように、ディープフェイク詐欺の手口も進化します。最新の詐欺に関する最新情報を把握し、従業員に詐欺の見分け方を指導することが重要です。
ディープフェイク動画を見分ける方法
ビデオ内の人物の顔の特徴を追って、それが通常の人間の動きと一致していることを確認します。
ビデオが乱れたり、鮮明度が一定でなかったりしますか?
まばたきなどの自然な動きを確認します。少なすぎますか、それとも多すぎますか?
ビデオ内の影と照明を見て、一貫性があるかどうかを確認します。
スクリーンショットを撮って Google にアップロードし、ソースを認証します。
攻撃された場合の対応
証拠を文書化する
ディープフェイクとそれに関連するすべてのものを必ず保存してください。これには、コメント、共有されたプラットフォーム (該当する場合)、スクリーンショット、およびそれに関連付けられたすべてのデータが含まれます。発生した日付、時刻、プラットフォームをメモします。
プラットフォームに通知
ディープフェイク コンテンツがプラットフォームからのものである場合は、YouTube、Facebook、X など、それを見たホスト プラットフォームに報告してください。ほとんどのプラットフォームには、操作されたメディアを削除するためのポリシーがあります。
当局に連絡する
個人情報や金銭の盗難を伴うディープフェイクは犯罪です。地元の法執行機関に通知し、当局が正式な報告書を発行できるように証拠を提示してください。この報告書は、銀行、保険、その他の犯罪に関する公式記録に使用できます。
法的措置を求める
訴訟の根拠となる説得力のある証拠を確保するために、管轄区域における名誉毀損、著作権、プライバシーに関する法律を調べてください。他の人が同じ詐欺の被害者になっていないか確認し、可能であれば集団訴訟を検討してください。
PR会社を雇う
あなたやあなたの会社の評判が危機に瀕している場合、広報の専門家と協力することで、対応策を練り、それを必要な関係者に配布して損害を軽減することができます。
最先端の偽造防止技術
いくつかのテクノロジー企業は、誤情報、詐欺、SADフィッシング詐欺の拡散を阻止するためにディープフェイク検出ツールを開発しています。
いくつかの新興テクノロジーが、ビデオ制作者がビデオの真正性を確認するのに役立っています。暗号化アルゴリズムを使用すると、ビデオ中に設定された間隔でハッシュを挿入できます。ビデオが変更されると、ハッシュも変更されます。AIとブロックチェーンにより、改ざん防止のデジタル指紋をビデオに登録できます。これは、ドキュメントに透かしを入れるようなものです。ビデオの場合、異なるコーデックで使用するためにビデオが圧縮されていると、ハッシュが保存される必要があるという難しさがあります。
ディープフェイクの試みを撃退するもう一つの方法は、顔検出ソフトウェアが使用するピクセルのパターンを隠すために特別に設計されたデジタル「アーティファクト」をビデオに挿入するプログラムを使用することです。これにより、ディープフェイクのアルゴリズムの速度が低下し、結果の品質が低下し、ディープフェイクが成功する可能性が低くなります。
予防的なセキュリティ保護:
ディープフェイクがどのように作成され、どのような課題をもたらすかについて、従業員とその家族に確実に理解してもらいます。
ディープフェイクを見分ける方法について自分自身と他の人に教えましょう。
メディアリテラシーを身につけ、質の高いニュースソースを利用するようにしてください。
基本的なプロトコルを適切に用意してください。ボイスメールやビデオに対して疑いの目を向けても、絶対に騙されないという保証はありませんが、多くの罠を避けるのに役立ちます。
定期的なバックアップにより、ランサムウェアからデータを保護し、破損したデータを復元できるようになります。
異なるアカウントに異なる強力なパスワードを使用すると、1 つのネットワークまたはサービスが侵入されたとしても、他のネットワークまたはサービスが侵害されるわけではありません。誰かがあなたの Facebook アカウントに侵入した場合、他のアカウントにも侵入されないようにしたいはずです。
カスペルスキー Antivirusなどの優れたセキュリティ パッケージを使用して、自宅のネットワーク、ラップトップ、スマートフォンをサイバー脅威から保護します。このパッケージには、ウイルス対策ソフトウェア、Wi-Fi 接続のハッキングを防ぐVPN 、Web カメラの保護も含まれています。
ディープフェイクの将来はどうなるのでしょうか?
ディープフェイクは進化し続けています。2年前は、動きのぎこちなさや、偽の人物が瞬きをしていないように見えることから、ディープフェイク動画であることは簡単に見分けられました。オンラインでの安全を確保し、特に個人情報に関するあらゆるオンライン活動に常に警戒し、疑いを持つことで、詐欺が発生する前にそれを特定できるようになります。
サイバーストーキングに関するよくある質問
スパムおよびフィッシング詐欺とは
ソーシャルエンジニアリングによる欺瞞攻撃 (SAD) は、他人になりすまして個人を騙し、操作するフィッシング詐欺の一種です。こうした詐欺の目的は、機密情報を抜き取り、被害者に金銭を送金させたりシステムにアクセスさせたりすることです。
音声ディープフェイクを使った詐欺を心配すべきでしょうか?
はい。詐欺師は、あなたを助けると偽って友人、家族、同僚から金銭をゆするために、あなたとまったく同じ音声のディープフェイク音声を生成できるようになりました。これを回避するには、詐欺師が答えを知らないコードワードやセキュリティの質問を大切な人達と設定し、通話中に尋ねて身元を確認します。
ディープフェイクによる個人情報の盗難はどのように起こるのでしょうか?
詐欺師はあなたの肖像や声を利用して、文書を偽造したり、口座番号を変更したり、電話であなたになりすましたりする可能性があります。
ディープフェイクはどのように作られるのでしょうか?
ディープフェイクの動画、音声、画像は AI によって作成されます。機械学習はあなたの身体的外観に関するすべてのデータを取得し、合成バージョンを作成します。
推奨製品
