당신은 딥페이크의 시대에 살고 있습니다, 먼저 확인하는 사람이 되세요

이 글은 빌 게이츠가 2023년에 쓴 「AI의 위험은 실제 존재하지만 관리할 수 있다」 (Gates Notes) 에 대한 저희의 읽기입니다. 원문 (영어) 은 여기에서 →

먼저, 한 가지를 받아들여 주세요.

당신은 인류 역사상 처음으로 "지금 보고 있는 이 영상은 가짜일 수 있다"를 기본값으로 삼아야 하는 세대입니다. 정치인의 연설, 유명인의 한 마디, 심지어 친구의 음성 메시지까지 AI로 합성될 수 있고, 그 합성은 점점 더 정교해집니다. 게이츠는 2023년에 이렇게 썼습니다. "딥페이크와, 개인에게 맞춤형으로 짜인 허위 정보의 시대에, 진짜와 가짜를 구분할 수 있는 능력은 필수적인 생존 기술이 된다." 삼 년이 지난 지금, 그 말은 이제 경고가 아닙니다. 매일 아침 휴대전화가 당신의 눈앞에 내밀어 주는 현실입니다.

무섭게 들립니다. 그러나 같은 글에서 게이츠는 또 다른 것도 썼고, 그럴 만한 근거도 있습니다.

"우리가 이 위험들을 관리해 낼 수 있다고 믿는 가장 좋은 이유는, 우리가 전에도 해낸 적이 있다는 것입니다."

무슨 뜻일까요. 당신은 겪지 않았지만 당신의 부모 세대가 통과한 파도를 떠올려 보세요. 1990년대 말, 사기꾼들이 자신을 "나이지리아의 왕자"라고 소개하며, 돈 옮기는 걸 도와주면 재산을 나눠 주겠다는 이메일을 뿌렸습니다. 처음에는 많은 사람이 넘어갔습니다. 조금씩, 사람들은 배웠습니다. 지금 당신이 그런 이메일을 보면, 굳이 멈추어 생각할 필요도 없습니다. 그 반사 신경은 시간이 키워 준 것입니다. 딥페이크에 대해서도 같은 근육을 길러야 합니다. 다만, 훨씬 빠르게요.

게이츠가 든 또 다른 비유가 더 유용합니다.

계산기가 교실에 처음 들어왔을 때, 어떤 산수 선생들은 당황했습니다. 아이들이 사칙연산을 잊을 것이라고. 다른 선생들은 몸을 돌려, 산수의 "뒤에 있는 이치"를 가르치기 시작했습니다. 왜 받아올림이 그렇게 움직이는지, 왜 소수점이 그 자리에 놓이는지, 덧셈이 실제 가게에서 무엇을 의미하는지. 앞의 선생들은 계산기에게 졌습니다. 뒤의 선생들이 키운 아이들은 계산기보다 강해졌습니다. 이치를 이해했기 때문입니다.

당신은 지금 AI와 같은 갈림길에 서 있습니다. AI는 당신의 숙제를 대신 써 줄 것입니다. 이것은 사실입니다. 문제는, 그 때문에 당신이 더 약해질 것인가, 하는 것입니다.

게이츠는 Cherie Shields라는 영어 선생이 2023년 초 『Education Week』에 쓴 글을 인용합니다. 그녀는 ChatGPT를 금지하지 않았습니다. 반대로, ChatGPT를 중심으로 수업을 짰습니다. 프롬프트를 어떻게 쓰는지, 생성된 초안을 어떻게 읽는지, 어디가 잘못됐는지 찾아내는 법, 더 나은 판으로 다시 쓰는 법을 가르쳤습니다. 그녀의 학생들이 배운 것은 "덜 쓰기"가 아니라 "더 잘 쓰기"였습니다. 그녀에게 AI는 대필자가 아니라, 숫돌이었습니다.

당신도 같은 것을 할 수 있습니다.

AI가 어떤 글을 써 오면, 그대로 제출하지 마세요. 세 가지를 먼저 하세요.

하나, 소리 내어 읽어 보세요. 텅 빈 문장, 화려하지만 알맹이 없는 문장이 귀에 걸립니다. 그것은 AI의 말버릇이지, 당신의 언어가 아닙니다.

둘, 구체적인 주장 하나를 골라 확인하러 가세요. AI가 "연구에 따르면"이라고 썼습니다. 누구의, 어떤 연구, 어떤 저널인가요? 찾을 수 없다면, 지우세요. 찾을 수 있다면, 그때야 비로소 당신이 무엇인가를 배운 것입니다.

셋, 가장 중요한 문단을 당신의 언어로 다시 쓰세요. 결과물은 당신에게 더 가깝지만 매끄러움은 줄어들 것입니다. 그 거친 결이 바로 당신의 서명입니다.

다 합쳐도 십 분쯤 걸립니다. 그러나 이 십 분이 하는 일은, AI를 "숙제 한 번 더 끝내 주는 도구"에서 "머리를 한 번 더 훈련시켜 주는 도구"로 바꾸는 것입니다.

이미지와 영상에 대해서는 규칙이 더 단순합니다.

감정이 크게 흔들리는 콘텐츠를 만났을 때, 특히 강한 분노, 감동, 두려움을 느꼈을 때, 일단 멈추세요. 세 가지 질문을 자신에게 던지세요.

이 콘텐츠는 어디서 왔나요? 일차 출처인가요, 아니면 스크린샷의 스크린샷인가요?

내가 이것을 믿으면 누가 이익을 볼까요? 트래픽을 벌 곳인가요, 어떤 회사인가요, 어떤 정치 진영인가요?

이것이 가짜라는 것을 증명하려면 무엇을 확인해 봐야 할까요? 역방향 이미지 검색은 있는가? 원본 영상은 있는가?

이 세 질문이 반사가 될 때까지 연습하면, 당신은 단톡방에서 가장 먼저 "잠깐, 이거 가짜일 수도 있어"라고 말할 수 있는 사람이 됩니다. 삼 년 뒤, 그런 사람이야말로 가장 신뢰받는 사람이 됩니다.

마지막으로 한 가지.

당신의 동급생들은 이미 두 무리로 나뉘고 있습니다. 한쪽은 AI에게 숙제를 마치게 하고, 게시글을 쓰게 하고, 사과 문자까지 대신 쓰게 하다가, 조금씩 스스로 생각하는 힘을 잃어 갑니다. 다른 한쪽은 AI를 숫돌로 삼아, 더 빨라지고, 더 명료해지고, 진짜와 가짜를 더 잘 분간하게 됩니다. 십 년이 지나면, 이 두 무리는 같은 출발선에 서지 않습니다. 어느 쪽에 설지는 오직 당신의 몫입니다.

### 잠시 멈추어 생각해볼 질문

1. 마지막으로 "정말 충격적"이라고 느낀 영상이나 이미지를 공유하기 전에, 출처를 확인하러 갔었나요? 가지 않았다면, 얼마나 빨리 넘겼나요?

2. 당신 주위에서 가장 자주 "잠깐, 이거 가짜일 수도 있어"라고 말하는 사람은 누구인가요? 그 사람이 이 무리에게 무엇을 가져다주고 있나요?

3. 일 년 뒤, 선생님이 반 전체에게 "이 과제는 AI를 사용해도 좋다"고 말한다고 상상해 보세요. 그날의 당신은 "AI가 내 숙제를 끝내 준" 학생이고 싶은가요, 아니면 "AI로 더 잘 쓰게 된" 학생이고 싶은가요?