뉴섬, 캘리포니아에서 미국 최초의 AI 안전 규정을 제정하는 법안에 거부권 행사

캘리포니아 주지사 이자 민주당 소속인 게이빈 뉴섬은 일요일에 대규모 인공지능 모델에 대한 안전 조치를 제정하는 법안에 거부권을 행사했습니다. 이는 미국에서 그런 법안이 제정되는 첫 번째 사례가 될 것입니다.

AP 통신 에 따르면 주지사의 거부권 행사는 AI와 그 급속한 진화를 둘러싼 보호막을 거의 감독하지 않고 만들려는 시도에 큰 좌절을 안겨주었다고 합니다. 이 법안은 신생 기업, 기술 대기업, 그리고 여러 민주당 의원들의 강력한 반대에 부딪혔습니다.

뉴섬은 이달 초 소프트웨어 거대 기업 세일즈포스가 주최하는 연례 컨퍼런스인 드림포스에서 연방 정부가 안전 조치를 마련하지 못했기 때문에 캘리포니아가 AI 규제를 선도해야 하지만, 이 제안이 "업계에 냉각 효과를 미칠 수 있다"고 말했습니다.

주지사는 SB 1047이 엄격한 요건을 설정함으로써 국내 산업에 피해를 줄 수 있다고 말했습니다.

"SB 1047은 선의의 의도를 가지고 있지만, AI 시스템이 고위험 환경에 배치되었는지, 중요한 의사 결정이 포함되었는지, 민감한 데이터를 사용하는지 고려하지 않았습니다." Newsom은 성명에서 말했습니다. "대신, 이 법안은 가장 기본적인 기능에도 엄격한 기준을 적용합니다. 대규모 시스템이 배치되는 한 말입니다. 저는 이것이 대중을 기술로 인한 실제 위협으로부터 보호하는 가장 좋은 방법이라고 생각하지 않습니다."

뉴섬은 대신 주정부가 여러 산업 전문가들과 협력하여 강력한 AI 모델에 대한 안전 조치를 개발할 것이라고 발표했습니다.

SB 1047은 기업이 자사 모델을 테스트하고, 모델이 주 전력망을 파괴하거나 화학무기 개발에 도움을 주는 등 유해한 목적으로 조작되는 것을 방지하기 위해 안전 프로토콜을 공개하도록 요구합니다. 전문가들은 업계가 급속도로 발전함에 따라 앞으로 이러한 시나리오가 가능할 수 있다고 말합니다.

이 법안은 또한 업계 종사자들에게 고발자 보호를 제공했을 것입니다.

이 법안을 작성한 민주당 주 상원의원 스콧 와이너는 거부권 행사가 "대중의 안전과 복지, 그리고 지구의 미래에 영향을 미치는 중대한 결정을 내리는 거대 기업의 감독을 믿는 모든 사람에게 좌절"이라고 말했습니다.

"고급 AI 시스템을 개발하는 회사들은 이러한 모델이 대중에게 제시하는 위험이 실제적이고 빠르게 증가하고 있다는 것을 인정합니다."라고 그는 성명에서 말했습니다. "대형 AI 연구소가 이러한 위험을 모니터링하고 완화하기 위해 감탄할 만한 약속을 했지만, 사실은 업계의 자발적 약속은 집행할 수 없고 대중에게 잘 먹혀들지 않습니다."

위너는 이 법안을 둘러싼 논의가 AI 안전 문제에 주목하게 하는 데 도움이 되었으며, 이 기술을 중심으로 안전 조치를 발전시키기 위해 계속해서 노력할 것이라고 말했습니다.

기술 분야의 억만장자 엘론 머스크가 이 조치를 지지했습니다.

이 제안은 올해 주 의회에서 통과된 여러 법안 중 하나로, AI를 규제하고, 딥페이크를 퇴치하고, 근로자를 보호하고자 합니다. 주 의원들은 캘리포니아가 올해 조치를 취해야 하며, 소셜 미디어 기업이 기회가 있었을 때 이를 억제하지 못한 결과를 지적했습니다.

이 법안을 지지하는 사람들은 개발자와 전문가들이 아직 AI 모델이 어떻게 작동하는지 완전히 이해하지 못한다고 말하는 가운데, 이 법안이 대규모 AI 모델에 대한 어느 정도의 투명성과 책임을 제시할 수 있었다고 말했습니다.

이 법안은 높은 수준의 컴퓨팅 파워와 1억 달러 이상의 구축 비용이 필요한 시스템을 다루려고 했습니다. 현재 AI 모델은 이 기준을 충족하지 못하지만, 일부 전문가들은 내년 안에 바뀔 수 있다고 말합니다.

"이것은 업계 내에서의 엄청난 투자 규모 확대 때문입니다." 올해 초에 회사가 AI 위험을 무시했다는 이유로 사임한 전 OpenAI 연구원인 다니엘 코코타일로는 AP 통신에 이렇게 말했습니다. "이것은 어떤 사기업이 무책임하게 통제하는 미친 권력이며, 또한 엄청나게 위험합니다."

미국은 일자리 상실, 잘못된 정보, 개인정보 침해, 자동화 편향에 대한 우려를 불러일으키는 성장하는 기술을 규제하는 데 있어 유럽보다 뒤처져 있다고 이 조치의 지지자들은 말했습니다. 캘리포니아 법안은 유럽의 규제만큼 포괄적이지는 않았지만, 지지자들은 그것이 올바른 방향으로 나아가는 한 걸음이었을 것이라고 말합니다.

작년에 몇몇 선도적인 AI 기업들은 백악관이 정한 안전 조치를 자발적으로 따르기로 동의했는데, 여기에는 모델에 대한 테스트와 정보 공유가 포함됩니다. 지지자들에 따르면 캘리포니아 법안은 AI 개발자에게 이러한 안전 조치와 유사한 요구 사항을 따르도록 요구했을 것입니다.

하지만 이 조치에 대한 비판가들은 이 조치가 골든스테이트의 기술에 해를 끼치고 혁신을 저해할 것이라고 주장했습니다. 비판가들에 따르면, 이 제안은 AI 개발자들이 대형 모델에 투자하거나 오픈소스 소프트웨어를 공유하는 것을 막았을 것입니다. 여기에는 캘리포니아주 민주당 소속 낸시 펠로시 의원이 포함됩니다.

기술 산업의 반대에 직면했던 다른 두 가지 AI 제안은 지난달 입법 마감일 전에 통과되지 않았습니다. 이 법안은 AI 개발자가 AI가 생성한 콘텐츠에 라벨을 붙이고 고용 결정을 내리는 데 사용되는 AI 도구에 의한 차별을 금지하도록 요구했을 것입니다.

캘리포니아 주 의원들은 채용 관행에서 AI 차별을 금지하는 새로운 규칙을 아직 고려 중입니다.

주지사는 이전에 캘리포니아가 AI 분야에서 글로벌 리더라는 지위를 보호하고 싶다고 말하며, 세계 상위 50대 AI 기업 중 32개가 캘리포니아에 있다는 점을 인용 했습니다.

뉴섬은 캘리포니아가 AI를 일찍 도입한 나라라고 말하며, 이 주가 가까운 미래에 고속도로 혼잡을 해소하고, 세금 지침을 제공하며, 노숙자 프로그램을 간소화하기 위해 생성적 AI 도구를 배치할 수 있을 것이라고 말했습니다.

이번 달 초, 뉴섬은 선거 관련 딥페이크 영상에 맞서 싸우고 할리우드 종사자들을 무단 AI 사용으로부터 보호하기 위한 조치를 채택하기 위해 미국에서 가장 엄격한 법안 중 일부에 서명했습니다.

출처: https://www.foxnews.com/politics/newsom-vetoes-bill-establish-first-nation-ai-safety-regulations-california