[커버스토리] AI발 가짜슬롯 무료 사이트 '비상'…사회 뿌리째 뒤흔든다
입력
수정
지면S1
Cover Story
사태의 발단은 지난달 말 영국 사우스포트에서 어린이 3명이 살해되고 10명이 다친 사건이었어요. 영국 태생의 17세 소년이 범인으로 판명났지만, 처음엔 ‘이슬람 망명 신청자가 범인’이라며 무슬림식 가짜 이름이 소셜미디어 X(옛 트위터)의 한 계정에 올라오면서 삽시간에 퍼져나갔습니다. 이것이 영국 전역에서 폭력과 방화를 동반한 반무슬림 폭력시위로 이어진 거죠.영국 폭동의 빌미가 된 가짜슬롯 무료 사이트는 인공지능(AI)이 출처가 불분명한 게시물을 슬롯 무료 사이트 형식의 글로 둔갑시키고 소셜미디어 추천 알고리즘이 이를 퍼 날랐다는 점에서 이전과는 양상이 많이 다릅니다. AI 기술이 고도화하면 가짜슬롯 무료 사이트의 위협이 더욱 커질 것이라는 우려가 현실로 나타나고 있는 겁니다. 이민자에 대한 뿌리 깊은 영국민의 불만과 불안이 가짜슬롯 무료 사이트를 만나 폭발하면서 사회 안정이 위협받고 있습니다. 가짜슬롯 무료 사이트임에도 영국 경찰이 진실을 감추고 있는 것 아니냐는 음모론까지 번지고 있는 형국입니다.
가짜슬롯 무료 사이트가 어떻게 대중화됐고 그 양태는 어떠한지, 최근의 생성형 AI발 가짜슬롯 무료 사이트의 위험성이 얼마나 큰지 등을 4·5면에서 살펴보겠습니다.
합리적 여론 형성 막는 '허위 정보'
민주주의 작동 시스템 위협하죠
당시 대표적인 가짜 슬롯 무료 사이트로 ‘피자 게이트’를 들 수 있습니다. 2016년 미국 대선이 열리기 두 달 전인 10월, 한 백인 우월주의자가 워싱턴 D.C.의 피자 가게 등에서 인신매매와 미성년 성매매가 이뤄지고 있고 그 조직을 힐러리 클린턴 대선 캠프 쪽 인사가 운영한다는 글을 트위터에 올렸습니다. 대선 직후인 12월 4일 한 미국 청년이 직접 이를 조사하겠다며 피자 가게(카밋 핑퐁)에 총기 테러를 했고, 2019년 1월엔 카밋 핑퐁에 불을 지르는 사건까지 발생했죠. 같은 해 미국 대선 과정에선 히스패닉 불법 이민자의 무더기 불법 투표설 등 상당수의 음모론이 챗봇으로 자동 생성·유포되기도 했습니다.
이처럼 가짜 슬롯 무료 사이트는 정치권에서, 특히 선거 시기에 봇물 터지듯 넘쳐납니다. 2022년 우리나라 대선 기간에 서울대학교 언론정보연구소의 SNU팩트체크에서 가짜 슬롯 무료 사이트로 판명된 115건의 허위 정보 가운데 77.5%가 정치인, 정당, 후보 진영에서 나왔습니다. 가짜 슬롯 무료 사이트를 단속하고 소셜미디어의 알고리즘 폐해를 바로잡아야 할 정치인이 오히려 이를 이용하고 소셜미디어와 공생하는 모양새입니다. 자신에게 비판적인 언론사의 보도는 무조건 가짜 슬롯 무료 사이트라고 강변하는 것도 많은 논란을 낳았습니다. 도널드 트럼프 전 미국 대통령이 대표적인데요, 이런 행태는 허위 정보와 슬롯 무료 사이트를 혼동케 하고 기성 언론이 그간 쌓아온 신뢰를 무너뜨리는 해악을 끼칩니다. 1920~1930년대 독일의 나치가 비판적인 해외 신문이나 기자를 향해 ‘뤼겐프레세(Lgenpresse, 거짓말하는 언론)’라고 낙인찍어 공격한 것과 다를 바 없죠.의도를 갖고 조작한 정보
그러면 다시 원점으로 돌아가 가짜 슬롯 무료 사이트가 정확히 무엇을 뜻하는지 살펴보겠습니다. 가짜 슬롯 무료 사이트는 ‘슬롯 무료 사이트 형태를 갖춘 거짓 정보’라고 통칭할 수 있지만, 비슷한 개념이 많은 데다 단순한 오보와 다르기 때문에 구별할 필요가 있습니다. 그래서 유럽연합 보고서와 여러 학술 논문은 가짜 슬롯 무료 사이트(fake news) 대신 ‘허위 조작 정보(disinformation)’란 용어를 씁니다. 이는 의도적으로 조작된 정보란 점에서 잘못된 정보나 오정보, 오보(misinformation)와 구분됩니다. 영국 하원 보고서에 나오는 허위 조작 정보의 여러 양태는 이를 좀 더 분석적으로 보는 눈을 갖게 합니다.
먼저 완전한 허위 정보는 날조 정보(fabricated content), 사실인 정보나 이미지를 왜곡한 것은 조작 정보(manipulated content)로 나눕니다. 조작 정보로는 선정적인 ‘낚시성 기사 제목’을 들 수 있습니다. 다음으로 기존 언론사 브랜드를 이용한 사칭 정보(imposter content), 논평을 사실(facts)인 것처럼 내세워 사실을 오도하는 오도 정보(misleading content), 기사 본문은 사실이지만 다른 허위 맥락으로 제목을 다는 허위 맥락(false context of connection) 등이 있습니다. 가짜 슬롯 무료 사이트에 정통한 학자인 헌트 올콧과 매슈 겐츠코는 가짜 슬롯 무료 사이트에 대해 “의도적이고, 검증 가능한 거짓이며, 독자를 오도할 수 있는 슬롯 무료 사이트 기사”라고 정의합니다.한번 생긴 인식 바꾸기 어려워
현실 사회에 대한 시민의 정확한 인식과 이에 기반한 합리적 여론 형성은 민주주의 발전의 중요한 축입니다. 기본적으로 ‘알고 있는 시민(Informed Citizens)’이 필요하다는 거죠. 그런데 가짜 슬롯 무료 사이트는 시민들에게 사회문제에 대한 잘못된 인식을 심어줘 이런 기초를 파괴해버립니다. 사람들이 한번 잘못 인식하게 되면 이후 사실 확인(fact check)을 거친 슬롯 무료 사이트를 접하더라도 기존 인식을 쉽사리 바꾸려 하지 않습니다. 가짜 슬롯 무료 사이트에 반복적으로 노출되면 자신의 인식이 올바르다는 자신감도 점점 줄어듭니다. 이를 잘못 방치하면 민주주의 시스템의 작동이 위협받게 됩니다. 그렇다고 법적 규제를 강화하는 것만이 능사도 아닙니다. 자칫 표현의 자유가 침해될 위험성도 크기 때문입니다.
NIE 포인트
1. 가짜 슬롯 무료 사이트의 여러 양태에 맞는 사례를 찾아보자.2. 독일의 뤼겐프레세와 미국 트럼프 전 대통령의 가짜 슬롯 무료 사이트 논란을 비교해보자.
3. 알고 있는 시민(Informed Citizens)의 개념에 대해 공부해보자.
AI와 추천 알고리즘이 '악의 고리'
철저한 팩트 체킹, 자율규제가 해법
AI가 만들어내는 가짜슬롯 무료 사이트의 위력은 2020년 미국 대선 기간에 확인됐습니다. 한 팟캐스트 진행자가 GPT-3를 이용해 조 바이든 민주당 후보에 관한 거짓 주장을 담은 기사를 대량 생산한 것이죠. “바이든, 치매 의심 증후 보여”와 같은 제목으로 웹사이트에 게재하자, 소셜미디어에선 수만 회에 걸쳐 공유됐습니다.
가짜슬롯 무료 사이트 ‘로켓 부스터’ 된 SNS
소셜미디어는 이용자에게 친구, 다음에 볼 영상, 구매해야 할 상품 등을 끊임없이 추천합니다. 이용자 취향에 맞는 콘텐츠를 무한정 추천해주는 알고리즘은 이용자를 필터링된 정보 속에 가둬버립니다. 이름하여 ‘필터 버블(filter bubble)’ 문제이지요. 자기 성향에 맞는 콘텐츠만 보게 되면 정치와 젠더 갈등은 증폭될 수밖에 없어요. 이것이 2차 가해를 불러일으킵니다. 이번 영국 폭동 사태에서도 정부가 범인의 실명을 공개하고 해당 소셜미디어 글은 가짜슬롯 무료 사이트라는 사실을 밝혔는데도 AI 알고리즘은 처음 올라온 가짜 무슬림 범인 이름을 계속 추천 검색어로 띄웠습니다. 가짜슬롯 무료 사이트는 생성과 증폭, 반향(Disinformation, Amplification, Reverberation, DAR)이라는 과정을 거칩니다. 그런데 AI와 추천 알고리즘은 각각 생성과 증폭 과정에서 이전과는 비교할 수 없을 정도로 가짜슬롯 무료 사이트의 위력을 키웁니다. 가짜슬롯 무료 사이트 확산의 ‘악의 고리’가 되고 있는 겁니다.
사실·의견 구분하는 ‘생각 근육’
소셜미디어를 통한 가짜슬롯 무료 사이트의 확산에 규제를 가해야 한다는 목소리가 커지고 있습니다. 영국은 작년에 제정한 온라인안전법 시행을 앞두고 있지만, 가짜슬롯 무료 사이트에 대처하기 위한 더 광범위한 법적 논의가 필요하다고 이베트 쿠퍼 영국 내무부 장관이 밝히기도 했습니다. 소셜미디어가 허위 정보를 적극적으로 가려내고 제재를 가하기는커녕 방치했을 가능성을 배제할 수 없기 때문입니다.
그러나 가짜슬롯 무료 사이트는 정부가 직접 규제하기 어려운 ‘뜨거운 감자’이기도 합니다. 가짜슬롯 무료 사이트인지 아닌지를 국가권력이 판단한다고 하면 즉각 반발이 생길 겁니다. 정치적 반대 세력에 대한 탄압 도구로 삼을 수 있다는 우려 때문이죠. 실제로 2018년과 2019년에 세계적으로 입법을 통해 가짜슬롯 무료 사이트를 규제한 나라들이 줄었는데, 러시아·싱가포르·이집트 등 권위주의적인 정치체제를 가진 곳이 대부분이었습니다.
가짜슬롯 무료 사이트 대응에 가장 앞서 있는 유럽연합(EU)은 투 트랙으로 접근합니다. 먼저 플랫폼 기업 등의 자율규제를 위한 실천강령을 마련하고 있습니다. 또 플랫폼 기업들이 허위 정보, 차별적 콘텐츠, 아동 학대, 테러 선전 등 불법 유해 콘텐츠를 제거할 의무를 지운 디지털서비스법(DSA)을 작년부터 시행 중입니다. 이런 규제를 바탕으로 작년 10월엔 메타의 CEO 마크 저커버그와 X의 소유주인 일론 머스크에게 이스라엘-팔레스타인 전쟁과 관련한 가짜슬롯 무료 사이트 확산을 막으라는 서한을 보내기도 했어요.
가짜슬롯 무료 사이트에 대한 근본 대책은 소셜미디어 이용자부터 기업에 이르기까지 사실 확인(팩트 체크)을 철저히 하는 자율적 움직임에서 시작해야 합니다. 소셜미디어와 포털, 유튜버가 ‘슬롯 무료 사이트’라며 콘텐츠를 내보내려면 자체적으로 이를 검수하는 시스템을 갖춰야 합니다. 그럼에도 가짜슬롯 무료 사이트의 선정성 때문에 조회수와 클릭률이 높은 것은 일부 법률 규제를 동원하는 시스템으로 가야 할 것입니다. 청소년들도 사실과 의견의 차이를 구분할 줄 아는 법을 배워야 한다고 전문가들은 입을 모읍니다. 알고리즘에 갇히면 다른 길에 대한 상상력이 약해지고 무력감을 느낄 수 있다는 지적도 새겨봐야 합니다. 누구도 편향에서 자유로울 수 없다는 점을 인식하고 자신의 ‘생각 근육’을 키우는 훈련이 필요하다는 겁니다.
NIE 포인트
1. AI 알고리즘이 가진 장·단점에 대해 알아보자.2. 가짜슬롯 무료 사이트라고 밝혀져도 사람들은 가짜슬롯 무료 사이트를 믿으려 합니다. 왜 그럴까요?3. 팩트 체크를 거친 기사 사례를 모아보고, 친구들과 무엇이 문제였는지 공유해보자.
장규호 한경 경제교육연구소 연구위원 danielc@hankyung.com