[SOH] 중국의 대표 IT 기업인 알리바바가 지난 4월 1일 가짜 온라인 뉴스 확산 방지를 위한 인공지능(AI) 도구를 개발했다고 발표했다.
알리바바는 ‘루머 슈레더(Rumor Shredder)’라는 툴로 인터넷 정보의 진위를 확인할 수 있으며 정확도는 81%라고 주장했다.
중국 언론 ‘진강만보(錢江晚報)’의 지난 3월 1일 자 보도에 따르면, 이 인공지능 도구의 알고리즘은 최첨단 기술을 연구하는 알리바바의 연구 개발팀 'DAMO 아카데미'가 개발했다고 한다. ‘DAMO’는
‘발견(Discovery)‧모험(Adventure)‧모멘텀(Momentum)‧전망(Outlook)’의 이니셜을 합성한 명칭이다.
이 프로젝트를 수행한 DAMO 아카데미의 수석 연구원 리콴지는 진강만보와의 인터뷰에서, 루머 슈레더가 우선 원본 게시물이나 정보 소스를 추적해 원본 게시자의 진위에 대해 첫 판단을 내린다고 했다. 즉, 언론매체인지 개인인지, 게시자가 이전에 유포한 게시물은 어떤 것인지, 또 게시자가 가짜 뉴스를 확산한 전력이 있는지 등을 확인한다.
루머 슈레더는 뉴스가 처음 게시되는 플랫폼의 신뢰성도 눈여겨본다. 예를 들면, 이들은 ‘신화(新華)’를 비롯한 여러 정부 매체는 ‘신뢰할 수 있는’ 소스로 간주한다.
루머 슈레더는 이렇게 게시자가 진성인지를 확인한 후 알고리즘이 뉴스 기사의 주요 항목을 확인하고 이를 이전에 수집한 뉴스 기사 데이터베이스와 비교해 뉴스가 논리적이고 근거가 충분한지를 확인한다. 해당 뉴스가 권위 있는 정보에 근거하지 않은 것으로 판명되면 진성 점수가 떨어진다.
다모아카데미의 다른 수석 연구원 시루오는 “‘루머 슈레더’가 ‘SNS 감시관’의 업무량을 줄이는 데 도움을 줄 것으로 기대된다. SNS 감시관은 중국 정부가 부적절하다고 간주하는 콘텐츠를 감시하고 차단하기 위해 중국 SNS 플랫폼 및 중국 정부의 인터넷 검열관이 고용한 이들이다.
현재 시드니에 거주하고 있는 리윤화 전 중국 수도사범대학 역사학과 조교수는 지난달 에포크타임스와의 인터뷰를 통해 이 AI 툴이 정권의 억압 도구로 이용될 가능성이 높다면서 “어떠한 순수과학 연구도 중국 정부의 손에 들어가면 반대 목소리를 억압하는 수단이 되는 등 악의적인 목적에 이용된다”고 지적했다.
그는 알리바바 연구원들이 당국의 선전기구인 관영 매체들을 신뢰할 수 있는 웹사이트로 정의했다면서 “거짓의 원천을 신뢰할 수 있는 소스로 여긴다면, 더 이상의 분석은 무의미하다”고 했다. 중국 평론가 구허도 당국은 루메 슈레더를 인터넷 경찰로 사용하려 한다고 지적했다.
구 씨는 지난달 에포크타임스에서 이 같이 말하고 “당국은 이 AI로 인터넷 경찰 노동력을 절감할뿐만 아니라 '루머 확산자‘ 색출 등 반체제 인사를 더 강력하게 탄압할 것”이라고 내다봤다. ‘루머 확산자’는 중국 관계 당국이 정부를 비판하는 반체제 인사를 기소하기 위해 자주 사용하는 용어다.
하지성 기자
(ⓒ SOH 희망지성 국제방송 soundofhope.kr 무단 전재 및 재배포 금지)
