AI 규제의 미래: 가드레일보다 가죽끈이 더 나은 이유

AI 안전 규제에 대한 많은 정책 논의는 AI 기술의 위험으로부터 대중을 보호하기 위한 규제 "가드레일" 구축의 필요성에 초점을 맞춰 왔습니다. Risk Analysis 저널에 게재된 새로운 논문에서 두 전문가는 정책 입안자들이 가드레일을 부과하는 대신 "제한"을 요구해야 한다고 주장합니다.

펜실베이니아 대학교 케리 로스쿨의 ​​교수이자 펜실베이니아 규제 프로그램 책임자인 케리 코글리아네세와 노트르담 대학교 컴퓨터 과학 박사과정생인 콜튼 R. 크럼은 AI가 고정된 차선 내에서 작동하기에는 너무 이질적이고 역동적이기 때문에 관리 기반 규제(유연한 "리시" 전략)가 규범적인 가드레일 접근 방식보다 더 효과적일 것이라고 설명했습니다.

저자들은 "목줄은 유연하고 적응력이 뛰어납니다. 동네를 산책할 때 개를 데리고 다닐 때 사용하는 실제 목줄이 다양한 움직임과 탐험을 허용하는 것과 마찬가지입니다."라고 썼습니다.

리쉬는 "규제 장벽 없이 AI 도구가 새로운 영역을 탐색할 수 있도록 허용합니다."

AI는 소셜 미디어, 챗봇, 자율주행차, 정밀 의학, 핀테크 투자 자문 등 다양한 분야에 활용됩니다.

AI는 사회에 이점을 제공합니다. 예를 들어, 잘 훈련된 방사선과 의사가 놓칠 수 있는 암 종양의 증거를 찾아낼 수 있는 능력을 제공하지만, 위험을 초래할 수도 있습니다.

Coglianese와 Crum은 논문에서 AI 위험에 대한 세 가지 사례를 제시합니다. 자율주행차(AV) 충돌, 소셜 미디어와 관련된 자살, AI가 생성하는 텍스트, 이미지, 비디오 등 다양한 애플리케이션과 디지털 형식을 통해 AI가 초래하는 편견과 차별입니다.

유연한 관리 기반 규제를 통해, 이러한 각 설정과 기타 설정에서 위험을 초래하는 AI 도구를 사용하는 회사는 도구 사용으로 인해 발생할 수 있는 피해 범위를 예상하고 줄이기 위한 내부 시스템을 구축하여 AI 도구를 제한해야 합니다.

코글리아네세와 크럼은 경영 기반 규제가 "AI의 새로운 활용과 문제에 유연하게 대응하고 기술적 탐구, 발견, 그리고 변화를 더욱 촉진할 수 있다"고 기술합니다. 동시에, "AI가 '도망치지' 못하도록 마치 끈처럼 묶어두는 구조"를 제공합니다.

출처: https://www.sciencedaily.com/releases/2025/05/250529124452.htm