「お母さん、誘拐された」と電話が来る前に、家族の合言葉を決めておこう

これは、ビル・ゲイツが2023年に書いた「AIのリスクは現実だが管理できる」(Gates Notes) についての、私たちの読み解きだ。原文 (英語) は こちらから →

まずゲイツが2023年に書いた一段を読んでほしい。

「もしあなたの子どもの声にそっくりな音声メッセージが届き、そこで『誘拐された、十分以内にこの口座に千ドル送って、警察には連絡しないで』と言っていたら、その情動的な打撃は、同じ文面が書かれたメールの比ではない。」

これはSFではない。彼が三年前に警告した場面だ。いまアメリカのFBIも、中国の公安も、この種の「AI音声クローン恐喝」の通報件数を毎週抱えている。詐欺師に必要なのは、あなたの子どものたった30秒ぶんの公開音声だ。短い動画、TikTok、抖音の一本で足りる。そこから合成されるのは、パニック状態のあなたの子どもそっくりの声だ。ぞっとするほど、そっくりに。

読んで、こう思うかもしれない。これはどう防げばいいのか、そもそも防げるのか、と。

ゲイツは絶望しないでいい理由を二つ挙げている。

ひとつは歴史だ。彼はこの一文を2023年に書いた。「私たちがこのリスクを管理できると信じるいちばんの根拠は、これまでにも同じことをやってのけてきたことだ。」ナイジェリアの王子詐欺を思い出してほしい。当初は何百万人もが引っかかった。いまはあなたが見ても、ほとんど読み流す。人は学べる。時間はかかる。ディープフェイクの場合は、それをもっと早く学ぶ、それだけだ。

もうひとつの理由は、今夜の食卓で、あなたが家族と一緒にできることが、ひとつだけあって、しかも驚くほどよく効く、ということだ。

その名を、家族の合言葉、という。

子どもと、パートナーと、家族しか知らないひとつの言葉を決めてほしい。むかし飼っていた犬の名でもいい。よく行った小さな食堂のあるメニュー名でもいい。昔の家族旅行で起こった、些細な出来事でもいい。平凡で具体的なほど、当てられにくい。

ルールはひとつだ。電話の向こうの声が「お母さんだよ、お父さんだよ、息子だよ、娘だよ」と言っていて、その言葉を出してこなかったら、電話を切る。そして本人の番号に自分からかけ直す。 それだけだ。AIは声を真似できるが、あなたの家の犬が「豆包」という名前だと知ることはできない。

食卓での五分の相談。それが数十万円のお金を守るかもしれない。もっと大事なのは、想像上の喪失に襲われる、地獄のような十分間から、あなた自身を守れることだ。

ゲイツはこの論考の中で、もうひとつ、家庭の情報リテラシーに置いておきたいことを書いている。

ナイジェリアの王子の例を出したあとに、彼はこう書く。「人は、あらゆる情報を額面通り受け取らない、ということを、学べる。」この「学べる」は自動では起こらない。教えなければならない。教える人は、あなただ。

食卓で、車で子どもを送る道すがら、ショート動画を一緒に見ているときに、三つの問いを子どもと練習してほしい。これは、ディープフェイク時代の家族用の識別基本編だ。

一、これはどこから来た? 一次の出どころか、それともスクリーンショットの、そのまたスクリーンショットか。投稿しているアカウントをタップしてみる。いつから発信しているのか、この種の内容ばかりを投げているのか。

二、私たちがこれを信じることで、得をするのはだれ? アクセスを稼ぎたいメディアか、商品を売りたい会社か、こう思ってほしい政治的な陣営か。

三、これが偽物だと証明したいとしたら、私たちは何を調べる? 逆画像検索があるか。もとの映像があるか。この人物は本当にこの言葉を言ったのか、どのインタビューで、どの日か。

説教にしないでほしい。スマホを手に、そのまま実演すればいい。

自分のタイムラインで怪しいものを見つけたら、子どもにこう言う。「ちょっと見て、これが本当かどうか、いっしょに確かめよう。」そして、そのまま調べる。あなたはたくさんのことを教えるだろう。だがいちばん役に立つ教えは、責任ある大人が情報にどう向き合うかを、子どもに見せることだ。

「お母さんとお父さんが、こうしていたな」というその記憶は、「SNSの投稿を鵜呑みにしちゃだめよ」と百回説教するより、はるかに効く。それは子どもの一生に、ついていく。

最後に。

ディープフェイクは「専門家や政府」が扱うものだと思うかもしれない。実は逆だ。詐欺師はまずホワイトハウスを狙わない。まず、備えていない家庭を狙う。家族の合言葉と、三つの問い。これは、今夜あなたが子どものために立てられる、一枚のガードレールだ。地味で、簡単で、よく効く。

### 立ち止まって考えたい問い

一、あなたの家に、家族しか知らない合言葉はもうあるだろうか。まだ無いなら、今夜の食卓で、いちばん最初に「これでどう?」と言い出しそうなのは、家族のなかのだれ?

二、あなたの子どもがいちばんよく開く五つのアプリのうち、「実在する人と行き来する」ものはいくつ、「一方向にコンテンツを受け取る」ものはいくつある? その比率は、あなたが望んでいる比率か。

三、最後に、あなたのタイムラインに疑わしいものが流れてきて、そばに子どもがいたとき、あなたは目の前でそれを確かめたか。しなかったのなら、次に同じ場面が来たら、どうしたい?