올 봄에 로마 교황청이 황당한 일을 겪었다. 프란치스코 교황이 허리춤이 날씬한 하얀색 롱패딩을 입고 바티칸 성 베드로 광장을 오가는 모습이 소셜미디어(SNS)에 공개된 것이다. 이 사진은 사람들의 호기심을 자극했고 조회수 수백만 건을 기록했다. 그러나 이 사진은 이미지 생성 인공지능(AI) '미드저니'로 만든 가짜로 판명돼 허탈감을 안겨줬다. 이 사건은 AI를 활용한 가짜 뉴스가 얼마나 광범위하고 다양하며 교묘하게 퍼뜨릴수 있는가를 단적으로 보여줬다. 교황까지 타깃으로 삼은 그 대담함과 함께 말이다.
마이크로소프트(MS)의 '빙(Bing)' 인공지능(AI) 챗봇에 독일·스위스 선거에 대한 정보를 묻는 질문에 잘못된 답변을 상당수 내놓고 있다는 분석 결과가 나왔다. 또 인터넷상 데이터를 활용해 학습하는 생성형 AI 챗봇이 정치적으로 편향된 답변을 내놓는다는 논란이 일고 있다. 일론 머스크가 소유한 소셜미디어 X 의 챗봇 ‘그록’이 “좌파 성향을 띠고 있다”는 주장이 나오기도 했다.
국내에서는 포털 다음에서 AI를 사용한 댓글 필터링을 통해 좌파를 비꼬는 ‘대깨문’ 등은 가렸지만 우파를 조롱하는 ‘닭근혜’ 같은 단어는 거르지 않았다는 논란이 일기도 했다.
최근 국회를 통과한 공직선거법 개정안에는 선거일 전 90일부터 선거일까지 AI를 활용한 인간 이미지 합성 기술인 ‘딥페이크’를 이용한 가상의 음향, 이미지 또는 영상 등을 제작·편집·유포·상영·게시하는 행위를 금지하도록 했다. 법 위반시 7년 이하의 징역이나 1000만원 이상 5000만원 이하의 벌금형을 받는다. 다른 산적한 법안 들과는 달리 비교적 쉽고 빠르게 국회를 통과했는데 여야의 이해가 맞아 떨어진 결과로 보인다. 하지만 이것으로는 부족하다. 지난 수차례의 선거에서도 그러했지만 가짜뉴스, 선동뉴스 등이 끊이지 않는다. 영화나 다큐멘터리를 만들어 유권자를 은밀히 가스라이팅 하는 사례는 현재진행형이다. 이런 가짜 정보로 입은 손해는 복원이 불가능하다. 천안함 미군 어뢰설이나 이회창 대통령 아들 병역 기피 등 가짜 뉴스는 한 나라를 뒤집어 놓았다. 북한이나 중국 등에서 만들어 내는 가짜 뉴스도 심각하다. 따라서 보다 강력한 처벌과 사전, 사후 대응책을 마련해야 한다. 신속한 수사로 가짜 뉴스임을 사전에 밝히는 것이 무엇보다 중요한 만큼 한 시가 급하다.
이제 총선이 코앞에 다가왔다. 지금 이 순간에도 어느 매체에서 가짜 뉴스를 만들어 선거판을 뒤집으려 하려는지 모른다. 이들은 과거 드루킹 사건을 무색하게 할 정도로 교묘하고 비밀스러우며 확장력이 큰 방법을 강구하고 있을 것이다. 방송통신위원회(업무가 가능한지 의문이지만)와 중앙선거관리위원회 등 관계 당국은 하루빨리 머리를 맞대어 직접적이고도 신속한 관리 및 대응체계를 마련해야 한다. SW
webmaster@economicpost.co.kr
