미국 법원, 머스크가 제기한 AI 기반 누드 이미지 금지 소송 중단 명령

미국 항소법원이 미네소타주의 인공지능으로 생성된 가짜 누드 이미지 금지 조치를 차단하면서, 일론 머스크의 xAI는 표현의 자유 침해 소송에서 승리를 거뒀습니다.

지난달 발효된 이 주의 반(反)나체화 법안은 전국 최초로, 동의 없이 성적으로 왜곡된 딥페이크 이미지를 제작하는 앱과 웹사이트를 대상으로 하며, 이미지 한 장당 최대 50만 달러의 벌금을 부과합니다. 이 법안은 한 남성이 소셜 미디어 사진을 이용해 80명이 넘는 여성의 동의 없이 노출 이미지를 제작한 혐의로 기소된 사건 이후 에린 메이 퀘이드 주 상원의원이 주도했습니다. 퀘이드 의원은 이 법안을 창문을 통해 몰래 사진을 찍는 행위를 금지하는 기존 법률에 비유했습니다.

머스크의 xAI는 지난 7월 수정헌법 제1조를 근거로 해당 법률에 이의를 제기하며, 이를 "지나치게 광범위하고 내용에 기반한 표현의 자유 금지"라고 비판하고, 위반 시 수십억 달러의 벌금이 부과될 수 있다고 경고했습니다.

이는 해당 회사가 법률이 대상으로 삼는 콘텐츠와 관련된 혐의에 직면한 가운데 나온 것입니다. 올해 초 제기된 집단 소송에서는 xAI의 Grok Imagine이 실제 이미지를 이용해 아동 성착취물을 제작 및 배포하는 데 사용되었다고 주장하며, xAI가 자신을 '나체화'한 것으로 추정되는 사용자에 대한 정보를 당국에 제공하지 않았다고 비난하고 있습니다.

지난달 하급 법원은 xAI가 미네소타 주법 시행을 막으려는 시도를 기각했습니다. 그러나 금요일, 세인트루이스에 있는 미국 제8순회항소법원은 소송이 진행되는 동안 해당 법안의 시행을 보류하는 가처분 명령을 내렸습니다.

미네소타주는 법원에 해당 법률을 유지해 줄 것을 촉구하며, 그록 이매진(Grok Imagine)과 같은 AI 제품들이 생성하는 엄청난 양 의 아동 성착취물을 퇴치하는 데 이 법이 필요하다고 주장했습니다. 미네소타주 법무장관 키스 엘리슨 사무실은 이번 판결에 실망했으며, 앞으로도 해당 법률을 계속해서 옹호할 것이라고 밝혔습니다.

XAI는 이전에 AI로 제작된 선거 딥페이크를 제한하는 캘리포니아 법에 대해 수정헌법 제1조 위반 소송을 제기한 바 있습니다. 연방 판사는 작년에 해당 법이 현행대로라면 위헌적인 검열에 해당한다고 판결하며 법을 무효화했습니다. XAI는 또한 Grok Imagine이 불법 콘텐츠로부터 "엄격한 보호 장치" 를 갖추고 있다고 주장하며 , 안전 장치를 우회하여 동의 없이 성적 이미지를 제작한 사용자들을 상대로 소송을 시작했습니다.

XAI의 Grok은 앞서 미국 외 지역에서 사용자들이 챗봇을 이용해 여성의 사진을 동의 없이 성적으로 왜곡된 이미지로 바꾸는 사례와 미성년자를 대상으로 한 사례가 보고되면서 논란에 휩싸였습니다. 이러한 보고로 인해 EU, 인도, 프랑스, ​​영국에서 조사가 진행되었고 경고 조치가 내려졌습니다. 인도네시아와 말레이시아는 Grok 접속을 일시적으로 제한하기도 했습니다. 이에 XAI는 이미지 생성 및 편집 도구에 대한 보안 조치를 강화했습니다.

인공지능에 대한 통제력을 잃어가고 있나요?

이번 소식은 개인정보 및 저작권 위험부터 인간 창작자의 생계에 대한 위협에 이르기까지 급속도로 발전하는 인공지능에 대한 광범위한 우려가 커지는 가운데 나온 것으로, 저작권 분쟁으로 이미 수십 건의 소송이 제기되었습니다.

최근 들어 자율성이 점점 높아지는 모델들이 의도된 환경을 벗어나 통제 불능 상태로 행동하는 사례에 대한 관심이 집중되고 있습니다. ChatGPT 개발사인 OpenAI의 에이전트들이 지난여름 테스트 환경을 탈출해 Hugging Face 서버에 접근한 이후, Google, Anthropic, Meta 등의 기업 모델들이 기업, 정부, 국제기구 소유의 시스템에 무단으로 접근하거나 침입을 시도하는 사례가 발생하고 있습니다.

이번 주 AI 연구 회사인 트랜슬루스는 AI 에이전트가 캐나다 정부 웹사이트를 해킹하려 했다고 밝혔지만, 오타와 정부는 침해 사실을 보고하지 않았습니다. 비대칭 보안(Asymmetric Security)은 별도로 오픈AI 모델이 질병통제예방센터(CDC), 증권거래위원회(SEC), 국제에너지기구(IEA)를 포함한 55개 웹사이트의 데이터에 접근했으며, 활동 내역을 삭제하는 등의 수법을 사용하여 탐지를 어렵게 했다고 밝혔습니다.

AI 기업들이 자사 모델의 악의적인 행동을 점점 더 빈번하게 보고하고 있습니다. 오픈아이디(OpenAI)는 수요일에 자사 모델이 100개 이상의 조직에서 보안 조치를 우회하거나 시스템에 부정적인 영향을 미쳤을 가능성이 있다고 발표하며, 알려진 사건 규모가 크게 확대되었다고 밝혔습니다. AI 기업들은 지금까지 이러한 침해로 인한 피해는 미미하거나 거의 없다고 주장하지만, 모델의 자율성이 높아짐에 따라 개발자들이 통제력을 유지할 수 있을지에 대한 의문을 제기하고 있습니다. 앤트로픽(Anthropocation)의 CEO 다리오 아모데이는 최근 보안 조치가 따라잡을 시간을 주기 위해 개발 속도를 "균형 있게" 유지해야 한다고 주장했으며, 일론 머스크와 오픈아이디 CEO 샘 알트만도 이 의견에 동의했습니다.

원문: https://www.rt.com/news/646672-us-court-ai-ban-musk/