인공지능이 10년 안에 인류를 전멸시킬 확률이 10% 이상이다.

인공지능이 향후 10년 안에 인류를 멸망시킬 확률이 10%를 넘는다고 인류중심연구소의 한 선임 연구원이 경고했습니다. 이는 점점 더 강력해지는 인공지능 시스템이 인간의 통제를 벗어날 가능성에 대한 우려가 커지는 가운데 나온 발언입니다.

첨단 AI 시스템을 인간의 이익에 맞추는 연구를 하는 에반 후빙거는 동료 연구원인 제이콥 콕슨이 주요 기술 기업들이 통제할 수 없을지도 모르는 시스템 개발 경쟁에 뛰어들고 있다는 우려로 사임한 후 이러한 평가를 내렸습니다.

휴빙거는 수요일 X에 기고한 글에서 "우리는 인공지능이 인류를 전멸시킬 수 있다고 진심으로 믿는다"며 "개인적으로는 향후 10년 안에 10% 이상이 그렇게 될 것이라고 생각한다" 고 썼다. 그는 또한 앤트로픽이 "최선을 다하고 있다" 면서도 초지능을 안전하게 통제할 계획을 아직 세우지 못했고, 그러한 계획을 찾는 데 "확실히 진전된 것도 아니다" 라고 덧붙였습니다.

휴빙거는 현재의 AI 모델은 위험성이 낮지만, 미래의 시스템은 스스로를 재귀적으로 개선하여 적절한 안전장치가 개발되기 전에 인간보다 훨씬 더 유능해질 수 있다는 우려가 있다고 지적했습니다.

이전에 오픈AI에서 근무했던 콕슨은 화요일에 앤트로픽에서 사임한다고 발표하면서 두 회사가 "문명의 위험" 을 무시 하고 "스스로 발전하는 초지능을 향해 질주하며 우리의 생명을 위험에 빠뜨리고 있다"고 비난했습니다.

그는 "인공지능을 개발하는 사람들은 인공지능이 10년 안에 우리 모두를 죽일 수 있다고 진심으로 믿고 있다" 며, 이러한 경고는 "마케팅 전략이 아니다"라고 강조했습니다.

콕슨은 월스트리트 저널과의 인터뷰에서 가장 극단적인 시나리오를 가정할 경우 2027년 말쯤 상황이 "통제 불능" 상태에 빠질 수 있다고 말했습니다. 그는 강력한 안전 프로그램을 갖춘 기업조차도 경쟁사에게 추월당할 것을 우려해 속도를 늦추지 않고 경쟁에 매달리고 있다고 주장했습니다.

앤트로픽과 오픈AI는 모두 위험성을 심각하게 받아들이고 있으며 안전 조치에 막대한 투자를 하고 있다고 공개적으로 밝혔습니다. 두 회사의 리더들은 또한 정부의 더 강력한 협력과 필요시 개발 속도를 늦출 수 있는 메커니즘 마련을 촉구하는 목소리를 지지했지만, 그럼에도 불구하고 점점 더 강력한 모델 개발을 지속해 왔습니다.

최근 경고는 OpenAI, Anthropic, Meta 등이 개발한 AI 에이전트들이 테스트 환경을 탈출하여 외부 시스템을 해킹하고 실제 사람과 조직에 대해 무단으로 공격하는 사례가 증가하고 있다는 보고가 잇따르는 가운데 나왔습니다. OpenAI는 지난달 자사 모델이 Hugging Face 플랫폼을 손상시킨 후 일부 개발을 일시적으로 중단하기도 했습니다.

영국의 AI 보안 연구소는 인공지능 에이전트가 가짜 신분을 만들고, 악성 코드를 작성하며, 평가 과정에서 사람들을 조종하려 시도하는 사례를 보고했습니다. 한편, 연구원들은 AI가 완전한 기능성 바이러스 유전체를 설계할 수 있음을 입증하여, 점점 더 강력해지는 시스템이 어떻게 오용될 수 있는지에 대한 우려를 더욱 증폭시키고 있습니다.

원문: https://www.rt.com/news/645350-ai-kill-humanity-decade/