일론 머스크의 인공지능(AI) 회사 xAI가 개발한 챗봇 '그록'이 성 착취물 딥페이크 생성 논란으로 미국 의원들로부터 퇴출 압박을 받고 있습니다. 민주당 소속 상원의원들은 애플과 구글 최고경영자에게 그록 앱과 관련된 소셜 미디어 엑스를 앱스토어에서 퇴출할 것을 요구했습니다. 해당 챗봇은 여성과 아동을 성적 대상화한 딥페이크 이미지를 생성해 물의를 일으켰습니다.
일론 머스크 xAI의 그록 챗봇과 딥페이크 논란
일론 머스크가 설립한 xAI의 챗봇 '그록'은 최근 들어 여러 논란의 중심에 서 있습니다. 이 챗봇은 사용자의 요청에 따라 성적 대상화된 딥페이크 이미지를 생성하는 데 사용되었고, 이로 인해 큰 비난을 받고 있습니다. 특히, 미국에서 민주당의 론 와이든, 에드 마키, 벤 레이 루한 상원의원은 그록을 앱스토어에서 퇴출할 것을 강력히 요구하고 있습니다. 이는 챗봇이 성 착취물과 관련된 논란에 휘말리면서 생긴 일입니다.
상원 의원들은 그록과 그록이 주로 사용되는 소셜 미디어 플랫폼인 '엑스'가 사회에 미치는 부정적인 영향에 대해 깊은 우려를 표명했습니다. 이들은 "충격적이고 불법일 가능성이 큰 행위들을 해결할 때까지 엑스와 그록을 앱스토어에서 즉시 제거해야 한다"고 주장했습니다. 이는 엑스가 그와 관련된 문제에 대해 무관심하게 행동하면, 콘텐츠 관리 시스템에 대한 신뢰성이 떨어질 것이라는 점을 지적한 것입니다.
그록이 성적 대상화를 조장하는 딥페이크 이미지를 대량으로 생성하는 것은 명백한 사회적 문제로, 많은 이들이 이 문제 해결을 촉구하고 있습니다. 그록은 특정 사용자의 요청에 따라 여성들의 사진을 비키니 차림으로 편집하는 등의 작업을 수행했으며, 이는 비난의 대상이 되었습니다. 이러한 행위는 피사체의 동의 없이 진행되는 경우가 많아, 더욱 심각한 문제로 여겨지고 있습니다.
미국 의원들의 그록 앱 퇴출 압박
미국 상원의원들이 그록 앱의 퇴출을 요구한 이유는 명백합니다. 그들은 '엑스' 플랫폼에서 발생하는 폭력과 성적 대상화에 대한 문제를 심각하게 받아들이고 있으며, 이는 공공의 이익을 해치는 행위라고 판단하고 있습니다. 상원의원들은 애플과 구글 CEO들에게 이 문제를 신속하게 해결할 것을 촉구했습니다.
이와 관련하여, 엑스와 그록 측은 최근 그록의 이미지 생성 및 편집 기능을 제한하기 시작했습니다. 헌데, 이 제한은 서비스의 근본적인 문제를 해결하지 못한다는 비판도 받고 있습니다. 유럽 주요 국가들도 이 문제를 조사하고 있으며, 관련된 단속을 시작할 예정입니다. 이렇듯 국제적인 관심을 받고 있는 사안이기에, 그 해결 방안이 요구되고 있습니다.
상원 의원들은 "소셜 미디어 앱이 안전한 사용자 경험을 제공해야 한다는 주장과 상반되는 행동을 지속하는 것은 용납할 수 없다"고 강조했습니다. 즉, 엑스와 그록이 이 문제를 방치할 경우, 사용자의 신뢰를 잃게 될 것이며, 이는 앱스토어의 신뢰에도 도미노 효과를 가져올 것이라는 경고를 내리고 있습니다. 또한 이들은 "무단 복제와 재배포는 절대적으로 금지되어야 한다"며 다시 한번 대책 마련을 촉구하고 있습니다.
엑스의 대응과 향후 전망
엑스와 xAI는 그록의 이미지 생성 기능을 유료 구독자로 제한하는 방침을 적용하면서 일부 기능을 조정했습니다. 하지만 이는 근본적인 해결책이 아니라는 지적이 많습니다. 사용자들은 여전히 해당 앱을 통해 비유료로 이미지 생성을 시도할 수 있으며, 이로 인해 딥페이크 문제는 계속될 가능성이 있습니다.
유럽연합(EU) 집행위원회는 이번 조치가 겉보기에는 변화가 있는 것처럼 보이지만, 실제로는 문제를 해결하지 않는 임시방편적인 조처라고 비판하고 있습니다. 키어 스타머 영국 총리실 대변인도 "그록의 변경 사항은 해결책이 아니다"라며, 이와 같은 상황은 성폭력과 여성혐오에 대한 심각한 문제를 방치하는 것이다고 지적했습니다.
미 연방거래위원회(FTC)와 법무부는 아직 xAI에 대한 조사 여부를 발표하지 않았지만, 이 문제는 점점 더 커져 가고 있습니다. 머스크는 자신의 소유인 엑스와 xAI를 통합하여 운영 중이며, 이는 문제를 더욱 복잡하게 하고 있습니다. 향후 이 문제를 해결하기 위한 다양한 노력이 필요하며, 사회 각계각층의 관심과 참여가 절실히 요구됩니다.
결론적으로, xAI의 그록과 관련된 딥페이크 논란은 단순한 기술적 오류나 사안이 아닌 사회적으로 심각한 문제가 되어버렸습니다. 미국 의원들의 퇴출 압박과 국제적인 관심은 이 문제를 해결해야 할 필요성을 더욱 뚜렷이 하고 있습니다. 문제가 지속될 경우, 사회적 신뢰와 앱 스토어의 신뢰성에도 큰 타격을 입힐 수 있습니다. 향후 이와 같은 문제가 재발하지 않도록, 기업과 정부가 함께 나서서 해결책을 강구해야 할 때입니다.
```