"妈,我被绑架了", AI 时代,请你先立一个家庭暗号

这是我们对盖茨 2023 年《AI 的风险真实存在,但可以管理》一文的解读。想读原文(英文),请点这里 →

先看盖茨在 2023 年就写下的那一段。

"如果你接到一段听起来完全像你孩子的语音消息,里面说:『我被绑架了,请在十分钟之内往这个账户打一千美金,别报警』,它的情绪冲击力,远远大过一封写着同样字的邮件。"

这不是科幻。这是他三年前预警的场景。今天,美国 FBI 和中国公安都在处理这类"AI 语音克隆诈骗"的报案,而且案件数量还在往上走。骗子只需要你孩子的 30 秒公开音频,一段短视频、一段 TikTok、一段抖音就够,就能合成出一段"你孩子在崩溃时说话"的声音,冷静得可怕。

你可能会想:天哪,这该怎么防?防不住吗?

盖茨给了两个理由让你不至于绝望。

第一个理由是历史。他写这句话的时候,是 2023 年。他说:"我们能相信自己有能力管理住这些风险,最有力的理由是:我们以前做到过。" 想想尼日利亚王子那种诈骗邮件,一开始多少人上当,今天你看到几乎不会停下来想。人是能学的,只是需要时间。深度伪造这一波,我们需要学得更快而已。

第二个理由是,你今天晚饭时就能做一件事,而且它几乎百试百灵。

这件事的名字叫:家庭暗号。

和你的孩子、和你的爱人商量一个只有你们家里人才知道的词。可以是你家狗小时候的名字,可以是你去过的一家小饭馆的菜名,可以是某年某月某日发生过的一件小事,越普通,越不容易被猜到。

规则很简单:如果你在电话里听到"我是妈妈/我是爸爸/我是儿子/我是女儿",而对方没有主动说出这个词,你就挂电话,然后直接回拨对方本人的号码验证。 就这么简单。AI 能合成声音,但它没法知道你们家小狗叫"豆包"。

这个动作,五分钟就能商量完,可能救你几万块钱,更重要的,救你一次可能会留下心理阴影的十分钟。

盖茨在文章里还说了另一件事,值得你放进家庭教育里。

他讲了尼日利亚王子的例子之后说:"人们是能学会不要不加思索地相信一切的。" 这个"能学",不是自然发生的,是要有人教的。你就是那个教的人。

在你家的餐桌上、开车送孩子的路上、一起看短视频的时候,你可以带着孩子练三个问题。这三个问题,是深度伪造时代的家庭识伪基本功:

一、这东西是哪里来的? 是原始来源,还是别人转过来的截图的截图?点开发出这段东西的那个账号,它是从什么时候开始发东西的?专门发这一类内容吗?

二、谁会因为我们相信这段东西受益? 一个想赚流量的公众号?一家想卖产品的公司?一个想让我们相信某件事的政治派别?

三、如果要证明这是假的,我们会去查什么? 有没有反向图片搜索?能不能找到原始视频?这个人真的说过这句话吗,他哪一次采访、哪一段演讲里说的?

不需要严肃地讲道理,拿着手机就能演示。

你自己刷到一段可疑的东西,就跟孩子说:"你看这个,咱们查一下它是不是真的。" 然后当他的面查一遍。你会告诉他很多事,但最有用的一件,是让他看到,一个负责任的成年人,是这样对待信息的。

这份"看着爸妈这样做"的记忆,比你后来讲一百次"别信朋友圈上的东西"都管用。它会跟着他一辈子。

最后。

你可能会觉得,深度伪造是"专家和政府"该管的事,轮不到你。事实是相反的。骗子不会先攻击白宫,他们会先攻击那些没准备的家庭。家庭暗号 + 三个问题,是你今晚就能给你的孩子设的一层护栏。它简单,它土,它有效。

### 值得停下来想想的问题

一、你家现在有没有一个只有家里人才知道的暗号?如果没有,今晚饭桌上,你觉得谁会最先想到用哪个词?

二、你家孩子最常打开的五个 App 里,有多少是"和真的人来回互动"的,有多少是"单向喂内容"的?这份配比,和你希望的一样吗?

三、最近一次你在孩子面前刷到一段让你怀疑真假的东西,你有没有当着他的面去查?如果没有,下次这样的机会来了,你打算怎么做?