두 달 전, 샘 알트먼은 OpenAI가 섹스봇을 만들 필요가 없다고 했습니다. 이제 OpenAI는 섹스봇을 만들고 있습니다.

AI 회사들은 수십억 달러의 손실을 보고 있으며, 투자자들은 수익을 보려면 수년을 기다려야 할 가능성이 높습니다. 수익을 볼 수 있을지도 모릅니다.

수익성을 향한 경쟁 속에서 OpenAI는 성인 채팅의 문을 열었고, 이번 달 초에 열린 DevDay 2025 컨퍼런스에서 곧 "성인 앱 "을 허용할 것이라고 발표했습니다.

회사 개발자 가이드라인 에는 "적절한 연령 확인과 통제가 시행되면 성인(18세 이상) 경험에 대한 지원이 제공될 것입니다."라고 적혀 있습니다.

"성인 사용자를 성인처럼 대우한다는 원칙의 일환으로, 검증된 성인을 위한 에로티카와 같은 더 많은 콘텐츠를 허용할 것입니다." 알트만은 화요일에 트윗을 올려 ChatGPT 제작사가 섹스봇 개발에 더욱 박차를 가할 것이라는 사실을 확실히 확인했습니다.

억만장자의 말투에 놀라운 변화가 생긴 것입니다. 불과 두 달 전, 알트만은 유튜버이자 과학 커뮤니케이터인 클레오 에이브럼과의 인터뷰에서 회사가 "아직 ChatGPT에 섹스봇 아바타를 추가하지 않았다"고 자랑했습니다.

이 비난은 경쟁자인 머스크를 겨냥한 것으로 보이며, 그의 AI 스타트업 xAI는 7월에 란제리와 코르셋을 입은 애니메이션 소녀 아바타를 선보였는데, 여기에는 "풀 구너 모드"도 포함되었습니다.

"그럼 시간이 좀 걸릴 것 같군요." 에이브럼이 대답했습니다.

"그렇다고 합니다." 알트만은 덧붙였습니다.

이는 기술 임원들의 말을 그대로 믿어서는 안 된다는 것을 상기시켜 주는 편리한 사례일 뿐만 아니라(알트만과 머스크는 둘 다 만성적으로 과도한 약속을 하고 실제로는 약속에 못 미치는 결과 를 내는 것으로 잘 알려져 있습니다) AI 분야의 가장 큰 기업들조차도 참여도를 높이기 위해 온갖 수단을 다하고 있다는 사실을 보여줍니다.

OpenAI의 최근 정책 변화는 그리 놀랍지 않을 것입니다. 현대 자연어 모델 기반 챗봇의 초창기에는 성적인 대화를 나누도록 설계된 아바타가 가득했습니다. 에로틱 롤플레이는 이 기술의 초기 확산에 중요한 역할을 했습니다.

OpenAI가 악의적인 콘텐츠 의 악용  및  확산 가능성에 어떻게 대처할지는 아직 미지수입니다. 지난달, xAI의 현직 및 전직 직원 12명은 Business Insider 에 AI가 생성한 아동 성적 학대 관련 콘텐츠를 포함하여 성적으로 노골적인 콘텐츠를 정기적으로 접했다고 밝혔습니다.

OpenAI는 "성인 사용자를 성인처럼 대하는 것"과 함께 18세 미만 사용자를 위한 연령에 적합한 ChatGPT 환경 을 출시했으며, 챗봇과의 상호작용 및 행동에 따라 사용자의 연령을 판별하는 기술도 개발하겠다고 약속했습니다.

이러한 가드레일이 얼마나 효과적일지는 아무도 모릅니다. 이미 다른 AI 기업들이 연령 기반 제한을 성공적으로 구현하는 데 어려움을 겪는 것을 보았습니다. 예를 들어, 위기에 처한 스타트업 Character.AI는 자녀 보호 기능을 도입하려 했지만, 미성년 사용자가 이를 우회하는 것이 우스꽝스러울 정도로 쉬웠 습니다.

특히 어린이와 청소년의 AI 사용은 최근 주요 화두가 되고 있으며, 공화당 조쉬 홀리 의원은 이번 주 미성년자의 AI 동반자 사용을 금지하는 법안 초안을 공개했습니다. 이러한 조치는 AI 챗봇과 대화한 후 자해하거나 심지어 자살한 자녀를 둔 부모들의 의회 청문회 에서 영감을 받았습니다.

OpenAI가 성적인 콘텐츠를 늘리려는 의도를 파악하는 것은 어렵지 않습니다. 업계가 치솟는 기업 가치에도 불구하고 천문학적인 손실에 시달리는 가운데, AI 기업들은 기술을 수익화할 다양한 방안을 모색하고 있습니다.

OpenAI에 대한 추가 정보: OpenAI 를 고소한 저자들이 내부 Slack 메시지에 접근하면서 OpenAI가 위험에 처했습니다.

원문: https://futurism.com/future-society/sam-altman-adult-ai-reversal?utm_source=beehiiv&utm_medium=email&utm_campaign=futurism-newsletter&_bhlid=422e3d116d38caa6c1f7135a39b6f08932b0c26b