3年A組を見てディープフェイク音声の詐欺被害について知る
こんにちは、寝てタイガーです。
ついに今夜「あなたの番です」が最終話です。
一体だれが黒幕なのでしょうか。私にはまったく分かりません。
一気見で追いつくためにhuluで見ていたのですが、よい機会なので「3年A組」というドラマも見てみました。
未視聴の方には少しネタバレになってしまいますが、ドラマの中では「フェイク動画」が登場します。
一見本物のように見える情報が実は誰かの手によって加工された偽の情報であり、 その偽情報を拡散することによって対象人物の評判を下げるために使われます。
最近ですと、「フェイクニュース」というキーワード当たり前になりつつあります。
ただwikipediaを見てみると何も最近になって登場した考え方ではなくメディアが大衆に対して影響力を持った時代からあったようです。
虚偽報道（きょぎほうどう）とは、マスメディアやソーシャルメディア等において事実と異なる情報を報道すること、または事実と異なる報道を行うメディアそのものを指し示すことである。
初めから虚偽であることを認識した上で行う架空の報道や、推測を事実のように報道するなど、故意のものについては捏造報道といわれることもある。
英語では fake news と言うが、日本語で「フェイクニュース」「偽ニュース」と言った場合、報道機関などではソーシャルメディアの虚報・虚偽報道を指すことが多い。
ディープフェイク
フェイクを作り出す技術はディープラーニングという人口知能の技術と合わさって日々進化しています。
リンク先にはFacebook CEOのザッカーバーグ氏の動画がありますが、偽物だと言われなければ本人かどうか見分けがつかないレベルで作成が可能になっていることが分かります。
ディープフェイクとはAIの技術を応用して作られた、偽の動画や音声のことです。政治家や芸能人が実際には行っていない行動や発言を、あたかも真実であるかのような動画や音声がインターネット上で公開されて話題となったことがあります。
特に動画はディープフェイクビデオ（フェイクビデオ）とも呼ばれ、特定の人物の顔の形やしわ、目や鼻などの動きをAIの技術を応用して、別の人物にかぶせ、異なる部分を精巧に修正して再現されています。これはフェイススワップ（顔交換）と呼ばれ、自然な動画を合成する技術として使われています。
これにより顔つきや表情などの見た目だけでなく、発声などの音声もコンピューターにより細かく制御されます。その結果、実際には発言していない内容を、あたかも本人が発言したかのような動画（フェイクビデオ）が作られてしまうのです。
オバマ元大統領がトランプ大統領を「救いようのないマヌケ」と批判する動画が記事内に登場しますが、こちらも見分けがつきません。
動画の途中から画面が二分割されて動画の俳優兼監督の男性が登場しますが、声や仕草をみてもあまりに自然すぎます。
一方、AIがつくりだすフェイク動画の欠陥を別のAIに探させることでフェイクを見破るという技術も対策として進化しています。
科学研究を発表することは両刃の剣だ。他人をだまそうと思っている人間がこの研究結果を読んで、自分のフェイク動画が見破られる仕組みを理解したら、そのアルゴリズムを微調整できてしまう。
CEOになりすましたディープフェイク音声で詐欺被害
このディープフェイクの技術とオレオレ詐欺を組み合わせたような詐欺被害のニュースがありました。
犯罪者が、人工知能（AI）で生成した音声を利用し、企業の最高経営責任者（CEO）の声をまねて部下をだまし、資金を自分の口座に送金させている。
いわゆるディープフェイクボイス攻撃は、詐欺の次なるフロンティアとなるかもしれない。
The Wall Street Journal（WSJ）の報道によると、社名は伏せられているものの、英国を拠点とするエネルギー企業のCEOが、上司であるドイツの親会社のCEOと電話で話していると思っていたところ、ハンガリーのサプライヤーに22万ユーロ（約2600万円）を至急送金するよう頼まれたという。
企業のCEOは、決算発表の電話会見やメディアへの露出、YouTube動画、カンファレンスなどで声を発していることが多く、音声モデルを構築するのに十分なデータを詐欺師が入手できるため、AIで生成した音声による詐欺のターゲットになりやすいと考えられる。
記事内に登場するビジネスメール詐欺というのは、経営者や取引先を装って送金を指示する偽のメールを送信して金銭をだましとる詐欺手法のことです。
事前に取引先の情報などを仕入れておき、あたかも本物のようなメールを送ることで詐欺を成功させます。
ディープフェイク音声の詐欺被害はこの偽情報の送信手段の部分をメールからディープフェイクの音声に切り替えています。
まとめ
かつては、マスコミが報道する内容のみがフェイクになりえたのですが、SNSが登場したことによって、友達やフォローした人物から回ってきた「信頼性が高そうな情報」も実はフェイクだったという状況もありえます。
よかれと思って拡散した投稿が本当は偽情報であり、嘘を拡散することに手を貸してしまったという状況がいつ何時でも起こりえるのは怖いですね。
しかも拡散する方法はボタンを押すだけで、拡散したコンテンツが例えば10万シェアされていたとしたら、もしその情報が偽物であっても心のどこかで「みんながシェアしているのだからしょうがないじゃん」となりそうです。
私も決してメディアリテラシーが高いわけではないので、SNSやニュースをみる際はよくよく注意して「このニュースを流すことは誰の利益になっているのか」を考えてみようと思います。
