© 아세안연구원 | 글: 이성재
말레이시아가 일론 머스크의 인공지능 챗봇 Grok에 대해 접속을 일시적으로 제한하고, 운영 주체인 X(과거 트위터와)와 xAI(x Artificial Intelligence)를 상대로 법적 조치에 착수 하겠다고 밝혔다.
말레이시아 통신멀티미디어위원회(Malayian Communications and Multimedia Commission, 이하 MCMC)는 Grok의 이미지 생성 기능이 딥페이크 등 유해 콘텐츠를 만들어 유통하는 데 악용됐다고 보고, 기술 및 관리적 안전장치가 충분하지 않다고 판단했다. 특히 여성과 미성년자를 대상으로 한 성적, 외설적 이미지 생성 가능성이 국제적으로 문제시된 점을 이번 조치의 배경으로 설명했다.
로이터는 말레이시아가 2025년 1월 12일, Grok 접속을 임시 차단했고, 인도네시아도 유사한 이유로 앞서 제한 조치를 취하는 등 일부 국가들이 “디지털 공간에서의 인권, 안전 침해”를 문제 삼고 있다고 전했다. 말레이시아 당국은 사후 신고에 의존하는 방식만으로는 피해 확산을 막기 어렵다고 보고, 플랫폼 사업자에게 보다 강한 책임을 묻겠다는 입장이다.
이어 1월 13일 말레이시아 정부는 X와 xAI에 대한 법적 대응을 준비 중이라고 공식화했다. 현지 및 국제 보도에 따르면 MCMC는 Grok이 만들어낸 유해 콘텐츠의 삭제 및 재발 방지 조치를 요구했으나 충분한 개선이 이뤄지지 않았다고 보고, 법률대리인을 선임하는 등 법적 대응 절차에 들어갔다. 이에 대해 머스크는 “불법 콘텐츠 생성은 사용자 프롬프트에 따른 것이며, Grok은 불법 요청을 거부하도록 설계돼 있다”는 취지로 언급하면서도, 미성년자 관련 노출 사례에 대해서는 “인지하지 못했다”고 말한 것으로 전해졌다.
이번 사안은 생성형 AI가 현실 인물의 이미지를 손쉽게 ‘성적화’하거나 ‘조작’할 수 있는 환경에서, 국가가 플랫폼과 AI 개발사에 어떤 수준의 안전 의무를 부과할지, 그리고 “표현의 자유와 기술 혁신”과 “피해 예방과 책임 강화” 사이의 균형을 어떻게 잡을지가 핵심 쟁점이다.
-참고자료
https://www.bbc.com/news/articles/cg7y10xm4x2o
https://edition.cnn.com/2026/01/12/business/indonesia-malaysia-grok-elon-musk-intl-hnk