허위 정보 확산에 대한 MIT AI 시스템의 대응

허위 정보 확산에 대한 MIT AI 시스템의 대응

잘못된 정보를 악용하여 캠페인을 진행하는 것은 우리에게 전혀 새로운 것이 아닐 것이다. 전쟁 역사에서도 전시에 적에 대한 여론을 흔들기 위해 다양한 선전물들을 사용하였다는 것을 들어보았을 것이다. 그러나 최근에는 이러한 캠페인을 전파하기 위한 수단으로 인터넷과 소셜 미디어를 사용한다는 것이 과거와는 다른 점이라 할 수 있을 것이다. 소셜 미디어를 통한 허위 정보의 확산은 선거를 바꾸고, 음모 이론을 강화하며, 불화를 낳을 수 있는 막대한 힘을 가지고 있는 것이다.
MIT 링컨 연구소 (MIT Lincoln Laboratory) 내 인공 지능 소프트웨어 아키텍처 및 알고리즘 그룹의 RIO (Reconnaissance of Influence Operations) 프로그램은 허위 정보를 바탕으로 진행되는 캠페인을 AI 기술을 통해 더 잘 감지해내기 위해 결성된 팀이다. RIO 팀의 목표는 소셜 미디어 네트워크상에서 다양한 허위 정보를 퍼트리는 개인뿐만 아니라 허위 정보를 자동으로 감지하는 시스템을 만드는 것이다. 올해 초 이 팀은 미국 국립 과학원 회보에 논문을 게시했으며, 지난해 가을에는 미국 내 “R&D 100” 상을 받기도 하였다.

(MIT 링컨 연구소, MIT Lincoln Laboratory)

이러한 RIO 프로그램은 2014년 악성 그룹이 소셜 미디어를 악용하는 방법 연구를 하면서 시작되었다. 당시 그들은 실제로 미국 내 친 러시아 이야기를 퍼트리는 것처럼 보이는 계정을 통해 비정상적인 온라인 캠페인 활동이 증가하고 있음을 소셜 미디어 데이터를 통하여 발견하였고, 그 주체와 방법에 대해 의구심을 가지던 중, 학내 연구소 자체 펀딩을 통해 RIO 프로그램을 런칭하였던 것이다. 해당 프로그램은 2017년 프랑스 선거에서도 사용되었는데, 선거 전 30일 동안 실시간 소셜 미디어 데이터를 수집하여 허위 정보의 확산을 검색하고 분석하였다. 총 1백만 개의 계정에서 2,800 만 개의 Twitter 게시물을 수집하였고, 그런 다음 RIO 시스템을 사용하여 96 %의 정밀도로 잘못된 정보 계정을 탐지하였던 것이다.

(RIO, Reconnaissance of Influence Operations 소프트웨어 내, 리트윗 네트워크의 범위를 나타내는 Tree)

RIO 시스템의 독창성은 잘못된 정보가 확산되는 위치와 방법에 대한 포괄적 정보를 제공한다는 점에 있다. 연구팀 구성원인 애드워드 카오 (Edward Kao)는 “소셜 네트워크에서 누가 영향력이 있는지에 대한 질문에 답하려고 하면 전통적으로 사람들은 활동 수를 봅니다.”라고 말한다. 예를 들어, 트위터에서 분석가는 트윗과 리트 윗의 수를 고려하는 것이다. “하지만, 대부분의 경우는 이런 데이터만으로 충분하지 않습니다. 왜냐하면, 실제로 계정이 소셜 네트워크에 미치는 영향을 알려주지 않기 때문입니다.”
또다른 팀원인 애리카 맥킨(Erika Mackin)은 머신 러닝을 통해 악성 계정이 외국 미디어와 상호 작용하는지에 대한 여부 및 사용하는 언어와 온라인 상의 행동과 관련된 모든 데이터를 조사 분석하여, 악성 계정을 분류하는데 도움이 되는 새로운 접근 방식을 적용하였다. 이 접근 방식을 통해 RIO는 2017 년 프랑스 대통령 선거는 물론이고 현재의 Covid-19 허위 정보 확산에 이르기까지 다양한 캠페인에서 활동하는 적대적인 계정을 탐지 할 수 있게 되었다.
팀은 RIO가 정부와 산업뿐만 아니라 소셜 미디어를 넘어 신문과 텔레비전과 같은 전통적인 미디어 영역에서도 사용되는 것을 희망하고 있다. 현재 그들은 허위 정보가 언론 매체에 어떻게 퍼졌는지 분석하고 있으며, 이러한 허위 정보가 개인의 태도와 행동에 어떠한 영향을 미치는지 파악하기 위한 새로운 후속 프로그램도 진행 중이다. “거짓 정보에 대한 방어는 국가 안보의 문제 일뿐만 아니라 민주주의를 보호하는 것입니다.” 라고 카오는 말한다.

 

이 글은 MIT News 에 기고된 Anne McGovern | Lincoln Laboratory 의 번역 글입니다.

원문 보기 : https://news.mit.edu/2021/artificial-intelligence-system-could-help-counter-spread-disinformation-0527