[SOH] 최근 인공지능(AI)을 활용한 가짜 정보·뉴스 문제가 확산되는 데 대해 AI 기업들이 관련 콘텐츠에 워터마크를 넣는 등 안전조치를 취하기로 했다.
미국 백악관은 21일(현지시간) “미국 주요 인공지능(AI) 기업들이 AI를 활용한 사기나 속임수 등을 사전에 막기 위해 AI를 활용해 만든 콘텐츠에 일종의 ‘워터마크’를 넣는 자발적 조치를 취하기로 약속했다”고 밝혔다.
해당 기업은 알파벳(구글 모회사), 메타, 마이크로소프트(MS), 오픈AI, 아마존, 인플렉션, 앤트로픽 등이다.
백악관은 AI 기업의 이 같은 조치에 대해 “새 기술을 개발하는 기업은 제품의 안전성을 보장할 책임이 있다”며 “AI의 발전이 미국인의 권리와 안전에 피해를 주지 않도록 정부는 업체에 최고 수준의 표준을 권고하고 있다”고 말했다.
이들 기업들은 아울러 △AI 시스템의 기능, 한계, 적절·부적절 사용 영역 등 공개 △유해한 편견, 차별을 방지하고 개인정보를 보호하는 것을 포함해 AI 시스템이 제기할 수 있는 사회적 리스크에 대한 우선적 연구 등도 약속한 것으로 알려졌다.
이번 조치는 AI 활용과 관련, 가짜 뉴스, 정보 도용 등 윤리성 논란이 커진 가운데 나왔다. 오픈AI의 샘 올트먼 CEO도 이에 대해 경고했다.
그는 지난 5월 미 상원 법사위 소위원회 청문회에 출석해 AI의 위험성을 경고하며 "생성형 AI가 허위 정보를 만들어낼 수 있어 대선에 미칠 영향을 가장 우려하고 있다"면서 "SNS의 영향과는 차원이 다를 것"이라고 말했다.
실제 내년 11월 미국 대선을 앞두고 AI를 활용한 정보 조작과 가짜뉴스에 대한 우려가 꾸준히 나오고 있다.
미 의회는 대선을 앞두고 있는 만큼 ‘AI 규제 필요성’에 대해 초당적으로 공감을 표하고 있다. 가짜 뉴스로 인한 선거 결과 왜곡 등을 우려해서다.
지난 3월 트럼프 전 대통령이 뉴욕 맨해튼에서 기소될 때 경찰에 체포되는 현장 사진과 머그샷 등이 온라인에 등장했지만, 실은 AI가 만든 가짜로 확인됐다.
지난 5월에는 미 국방부 인근에서 대형 폭발이 발생했다는 '가짜 사진'이 등장해 증시가 하락하는 등 실제 금융시장에 영향을 주기도 했다. 이 역시 AI가 만든 것이었다.
전문가들은 AI 기업들의 이번 조치는 ‘오픈AI의 챗GPT 출시를 계기로 미국 안팎에서 AI 활용에 대한 우려가 커지는 데 대한 대응’으로 분석했다.
다만, 워터마크 등 안전조치의 실행 시기, 방법 등은 아직 확정되지 않아, AI에 대한 우려와 논란을 불식시킬 수 있을지 여부는 좀 더 지켜봐야할 것으로 보인다.
디지털뉴스팀
(ⓒ SOH 희망지성 국제방송 soundofhope.kr)
