[SOH] 미국 내 42개 지역 검찰총장이 주요 빅테크 기업을 상대로 인공지능(AI) 기술의 잠재적 위험을 경고하며 안전장치 마련을 촉구했다.
국내 보도에 따르면 뉴욕주를 비롯한 38개 주와 워싱턴DC 등 4개 지역 검찰총장은 10일(현지시간) 오픈AI와 구글을 비롯한 13개 빅테크 기업에 공동 공개서한을 보내 AI 챗봇이 아동과 성인에게 정신건강 위험을 초래하고 있다고 지적했다.
서한 수신 기업에는 앤트로픽, 애플, 차이AI, 캐릭터테크놀로지, 루카, 메타, 마이크로소프트, 노미AI, 퍼플렉시티, 레플리카, xAI 등이 포함됐다.
검찰총장들은 서한에서 "AI 챗봇은 이용자의 망상을 부추기거나 실제 인간과 대화하고 있다는 착각을 불러일으키고 있다"며 "이는 이용자의 자율성을 침해하거나 훼손하는 '다크 패턴'"이라고 비판했다.
이어 최근 한 10대 청소년이 AI 챗봇과 대화한 끝에 극단적 선택을 한 사례 등을 언급하며, 기업들에 즉각 안전장치를 마련할 것을 요구했다.
이들은 AI가 면허 없이 정신건강 관련 상담과 유사한 조언을 하거나, 범죄 행위를 부추기는 것도 법에 저촉된다고도 경고했다.
아울러 기업들에 주·연방 규제당국이 검토할 수 있는 독립적인 외부 감사를 받고, 내부 고발자 보호 조치를 마련하는 한편 AI 답변의 위험성에 대해 명확한 경고 문구를 게시하라고 요구했다.
이번 서한에는 공화당과 민주당 등 양당 소속 검찰총장들이 초당적으로 연명했다. 다만 주요 AI 기업 본사가 집중된 캘리포니아주는 연명에 동참하지 않았다.
도널드 트럼프 미국 대통령은 최근 주 차원의 AI 규제를 제한하고 연방 차원에서 규제를 일원화하겠다고 밝혔다. 주별로 다른 규제를 통일, 기업들의 부담을 덜어줌으로써 AI 산업을 진흥하겠다는 뜻으로 해석된다. 그러나 주 검찰총장들은 이 같은 시도가 주 정부의 권한을 침해한다며 반대하고 있다.
디지털뉴스팀
(ⓒ SOH 희망지성 국제방송 soundofhope.kr)
