"엄마, 나 납치됐어" AI 시대, 먼저 가족 암호부터 정해 두세요

이 글은 빌 게이츠가 2023년에 쓴 「AI의 위험은 실제 존재하지만 관리할 수 있다」 (Gates Notes) 에 대한 저희의 읽기입니다. 원문 (영어) 은 여기에서 →

먼저 게이츠가 2023년에 써 둔 한 대목을 읽어 주세요.

"만약 당신 아이의 목소리와 완전히 똑같이 들리는 음성 메시지가 도착해서, 그 안에서 『나 납치됐어요, 지금 10분 안에 이 계좌로 천 달러 보내고 경찰에는 연락하지 마세요』라고 말하고 있다면, 같은 내용을 쓴 이메일보다 훨씬 큰 정서적 충격을 준다."

이것은 공상과학이 아닙니다. 그가 삼 년 전에 경고한 장면입니다. 지금 미국의 FBI와 중국의 공안 모두, 이런 종류의 "AI 음성 복제 협박" 신고를 매주 접수하고 있습니다. 사기꾼에게 필요한 것은 당신 아이의 공개된 목소리 30초입니다. 짧은 영상 한 편, TikTok 한 편, 도우인 한 편이면 충분합니다. 거기에서 합성되는 것은 공황에 빠진 당신 아이의 목소리, 정말로 소름 끼치도록 똑같은 목소리입니다.

이걸 읽고 이렇게 생각할지도 모릅니다. 어떻게 막지? 아니, 막을 수 있기는 한가?

게이츠는 절망하지 않아도 될 이유 두 가지를 줍니다.

첫 번째는 역사입니다. 그는 2023년에 이렇게 썼습니다. "우리가 이 위험들을 관리해 낼 수 있다고 믿는 가장 좋은 이유는, 우리가 전에도 해낸 적이 있다는 것입니다." 나이지리아 왕자 사기를 떠올려 보세요. 처음에는 수백만 명이 걸렸습니다. 지금은 당신이 봐도 거의 흘려 넘깁니다. 사람은 배웁니다. 시간이 걸립니다. 딥페이크의 경우, 그저 더 빨리 배우면 됩니다.

두 번째 이유는, 오늘 저녁 식탁에서 당신이 가족과 함께할 수 있는 일이 하나 있고, 그것이 놀랄 만큼 잘 통한다는 것입니다.

그 이름을 "가족 암호"라고 부릅니다.

아이와, 배우자와, 가족만 아는 단어 하나를 정하세요. 어릴 때 키우던 강아지의 이름이어도 좋고, 자주 갔던 작은 식당의 어떤 메뉴 이름이어도 좋고, 옛날 가족 여행에서 있었던 사소한 사건 하나여도 좋습니다. 평범하고 구체적일수록 알아맞히기 어렵습니다.

규칙은 하나입니다. 전화 너머의 목소리가 "엄마야, 아빠야, 아들이야, 딸이야"라고 하는데, 그 단어를 먼저 말하지 않으면, 그냥 끊고 본인 번호로 당신이 직접 다시 걸어 확인하세요. 그게 다입니다. AI는 목소리는 흉내낼 수 있어도, 당신 집 강아지의 이름이 "두바오"라는 것을 알 방법은 없습니다.

식탁에서의 오 분. 그것이 수백만 원의 돈을 지킬 수도 있습니다. 그러나 더 중요한 것은, 상상 속에서 아이를 잃는 지옥 같은 십 분으로부터 당신 자신을 지킬 수 있다는 점입니다.

게이츠는 이 글에서 가족의 정보 리터러시에 넣어 둘 만한 또 하나의 이야기를 합니다.

나이지리아 왕자 예를 든 뒤 그는 이렇게 씁니다. "사람은 모든 것을 곧이곧대로 받아들이지 않는 법을 배울 수 있다." 이 "배울 수 있다"는 저절로 일어나지 않습니다. 누군가가 가르쳐야 합니다. 그 가르치는 사람이, 당신입니다.

식탁에서, 아이를 학교에 데려다주는 차 안에서, 함께 짧은 영상을 볼 때, 세 가지 질문을 아이와 연습해 주세요. 이것은 딥페이크 시대 가족용 팩트체크의 기본입니다.

하나, 이건 어디에서 왔는가? 일차 출처인가, 스크린샷의 스크린샷의 스크린샷인가? 이 콘텐츠를 올린 계정을 눌러 보세요. 언제부터 올렸는가, 이런 종류만 올리는가.

둘, 우리가 이것을 믿으면 누가 이익을 보는가? 트래픽을 노리는 매체인가, 물건을 팔려는 회사인가, 우리가 그렇게 믿기를 바라는 정치 진영인가.

셋, 이것이 가짜라는 것을 증명하려면 우리는 무엇을 찾아봐야 하는가? 역방향 이미지 검색은 있는가. 원본 영상은 있는가. 이 인물은 정말로 그 말을 했는가, 어느 인터뷰인가, 어느 연설인가, 어느 날짜인가.

설교하지 마세요. 그냥 휴대전화를 든 채, 그 자리에서 시연하세요.

당신 타임라인에 의심스러운 것이 흘러오면, 아이에게 이렇게 말하세요. "잠깐 이거 좀 봐, 같이 진짜인지 확인해 보자." 그리고 아이 앞에서 그대로 확인하세요. 당신은 아이에게 많은 것을 가르치겠지만, 가장 유용한 가르침은 책임 있는 어른이 정보를 어떻게 다루는지를 아이에게 보여 주는 일입니다.

"엄마 아빠가 이렇게 하던데"라는 그 기억은, "인터넷에 있는 걸 다 믿지 마"라고 백 번 말하는 것보다 훨씬 오래 갑니다. 그것은 아이의 평생을 따라갑니다.

마지막으로.

딥페이크는 "전문가와 정부"가 다룰 일이라고 여겨질지 모릅니다. 사실은 정반대입니다. 사기꾼들은 백악관을 먼저 노리지 않습니다. 그들은 준비가 안 된 가정을 먼저 노립니다. 가족 암호와 세 가지 질문. 이것은 오늘 밤 당신이 아이를 위해 세울 수 있는 한 겹의 가드레일입니다. 소박하고, 단순하고, 잘 통합니다.

### 잠시 멈추어 생각해볼 질문

1. 당신 가족에게 지금 가족만 아는 암호가 이미 있는가요? 없다면, 오늘 저녁 식탁에서 가장 먼저 "이건 어때"라고 말할 것 같은 사람은 누구인가요?

2. 당신 아이가 가장 자주 여는 다섯 개의 앱 중, "실제 사람과 오가는" 것이 몇 개, "일방적으로 콘텐츠를 받는" 것이 몇 개인가요? 이 비율은, 당신이 바라는 그 비율인가요?

3. 최근에 당신의 타임라인에 의심스러운 것이 흘러왔을 때, 아이가 옆에 있었다면, 그 자리에서 확인해 보았나요? 하지 않았다면, 다음에 같은 기회가 오면 어떻게 하고 싶은가요?