米国の選挙前にディープフェイクを見抜く方法と、デジタルヒューマンの違い

AIが生成した人物から実在の人物を見分けることができると思いますか？びっくりするかもしれません。

最近の研究 40% の人が AI で生成された人間に、それが本物だと信じて騙されていることがわかりました。

人工知能は、信頼できる（しかし架空の）人を生み出す点で、ますます高度化しています。また、ある人物のソース画像を撮影し、それをアニメーション化して、その人がしなかったことや言わなかったことを行ったり言ったりする様子を写したリアルな動画にする能力も向上しています。

最も重要なのは、ジェネレーティブAIは、現実をゆがめるようなタスクでますます良くなるということです。つまり、偽情報を広めるディープフェイクに関連する問題はますます大きくなるということです。

ディープフェイクとは

ディープフェイクは 合成メディアの形式 ディープラーニングを使って、自分がしていないことを言ったり行ったりしている人のリアルな再現を迅速かつ正確に作り出すことができるのです。通常、出力されるのは動画、画像、またはオーディオクリップで、本来の意図とは違う動きをするように操作されます。

ソーシャルメディアプラットフォーム、グループコミュニケーション、ウェブサイトや掲示板、ラジオ、テレビ、さらには電話にも登場する可能性があります。

ディープフェイクが混乱を招くのは、人々がそれが本物かどうかを知るのが難しいからです。ディープフェイク技術を使えば、事実とフィクションを見分けるのが難しいところに、他人の口に言葉を入れることができます。

ディープフェイクの危険性

UNeeqのCTOであるタイラー・メリットは、最近、NBCとFOXから招待され、2024年の米国選挙前後に有権者を欺くために画像がオンラインで使用されることに関するディープフェイクのリスクについて話し合いました。

タイラーは、これらのディープフェイクテクノロジーの仕組みと、ジェネレーティブAIディープフェイクとCGIで作成されたデジタルヒューマンの違いについて、以下のビデオで説明しています。

ディープフェイクを見つける方法

ディープフェイクの使用を監視する方法はソーシャルプラットフォームによって決まりますが、人々が悪意のある偽情報や詐欺から身を守る方法を学ぶことは重要です。特に注意すべき点は次のとおりです。

• 背景: ぼやけてぼやけた背景、滑らかな表面、または線が一致しない場合、画像が AI で生成されたことがすぐにわかります。
• ムーブメント: ディープフェイクは、被写体がカメラに直接向いているときに最も説得力があります。人が横を向いて動き始めると、不具合が発生することがあります。
• [テキスト]: 広告や動画にスペルミスが入っていないか確認してください。
• ボイス: 発話を聞いてください。どんなに上手に話す人でも、話しているときに「うーん、ああああ」、一時停止、間違いがあります。
• 平坦度: 音声が非常に滑らかで (そしてしばしば少し平坦な) サウンドであれば、製造できます。ディープフェイクでは、B と V がうまく表現されないことがあります。
• あごひも: うん、そのとおりだ。フェイスの下半分は、製造された動画の中で一番の景品です。微妙ですが、あごや首が不自然に動いたり、大げさに動いたりしていないか確認してください。
• 他のカバレッジを確認: 候補者について何か見かけたら、報道機関がそれを報道していないか、他の情報源が同じことを報道していないか確認してください。ディープフェイクを使う悪役は、さまざまなカメラアングルからシーンを正確に捉えるのに苦労するでしょう。

タイラーは、人々がAIで生成された音声、ビデオ、アバターを識別するこれらの方法をNBCとの最近の別のインタビューで明らかにしました。

ジェネレーティブ AI と CGI アバターの違い

タイラーはFOXとのインタビューで、UNeeqがAIで生成されたアバターの代わりにCGI（ビデオゲームや映画業界と同様）を使用してアバターを作成している理由を説明しています。

理由はたくさんあります。たとえば、不気味な谷を避ける、没入感のある3D環境に備える、クライアントと呼ぶエンタープライズブランドをより細かく管理できるようにするなど、さまざまな理由があります。

しかし、おそらく最も差し迫った点は、ブランドの信頼に関するものです。

UNeEQ AI 倫理への取り組み には、実際に AI とやり取りしているのに、ユーザーを本物の人間と話していると思わせることが決してありません。

それは道徳的な選択であるだけでなく、インターフェイスが人間ではないことには商業的な利点があります。たとえば、人々が恥ずかしくて恐れて実際の人に話すことができないかもしれないことを開示することに対してよりオープンになることが含まれます。

ユーザーは、自分がAIに話しかけているときと話していないときを知る必要があります。CGIで作成されたデジタルヒューマンは現実的ですが、フォトリアリスティックではないため、ユーザーは誤解を感じることはありません。その代わり、デジタルヒューマンが何らかの形でユーザーをサポートするために使われるような、人とブランドとの間に信頼できる対話を築くように設計されています。

それがいつになるか 買い物客はパーソナライズされた商品情報を必要としています 適切な購入決定を下すため、または 医療シナリオでは 治療を受けるために人々が自分自身に関する機密情報を開示する必要があるとき。

したがって、ユーザーとの信頼と良好な関係を築きたいエンタープライズブランドにとって、実在の人々には認識されないアバターが最適なソリューションではないことは明らかです。

詳細については、以下をご覧ください このブログ投稿 企業向けのディープフェイクアバターとCGIデジタルヒューマンのどちらかを選ぶ際のその他の考慮事項について、CEOから寄せられました。