AI는 자신이 무엇을 하는지 전혀 모르지만 우리 모두를 위협하고 있다

란다조 박사는 AI의 급속한 발전이 인간의 존엄성과 권리를 훼손할 위험이 있다고 경고합니다. 인간 중심의 글로벌 규제가 없다면 인류는 데이터로 전락할 위험이 있습니다. 출처: Shutterstock

찰스 다윈 대학(CDU)이 주도한 연구에 따르면, 인공지능(AI) 시대는 우리의 상호작용을 변화시켰지만 전 세계적으로 인간의 존엄성을 위협하고 있습니다.

CDU 법학대학원의 마리아 란다조 박사이자 이 연구의 주저자는 이 기술이 전례 없는 속도로 서구의 법적, 윤리적 환경을 바꾸고 있지만, 민주적 가치를 훼손하고 체계적 편견을 심화시키고 있다는 사실을 발견했습니다.

란다조 박사는 현행 규제가 개인정보 보호, 차별 금지, 사용자 자율성, 지적 재산권 등 기본적인 인권과 자유를 우선시하지 못한다고 말했습니다. 이는 주로 많은 알고리즘 모델이 추적할 수 없는 특성 때문입니다.

란다조 박사는 이러한 투명성 부족을 "블랙박스 문제"라고 부르며, 딥러닝이나 머신러닝 프로세스가 내린 결정을 인간이 추적하는 것은 불가능하기 때문에 사용자가 AI 모델이 자신의 권리와 존엄성을 침해했는지 여부와 그 이유를 판단하고 필요한 경우 정의를 추구하는 것이 어렵다고 말했습니다.

란다조 박사는 "이것은 적절한 규제 없이는 악화될 뿐인 매우 심각한 문제입니다."라고 말했습니다.

"AI는 인간적인 측면에서 전혀 지능적이지 않습니다. 그것은 인지 행동의 승리가 아니라 공학의 승리입니다.

"무슨 일을 하는지, 왜 하는지 전혀 모릅니다. 인간이 이해할 수 있는 사고 과정이 없고, 체현, 기억, 공감, 지혜가 빠진 패턴 인식만 있습니다."

현재 세계 3대 디지털 강국인 미국, 중국, 유럽연합은 AI에 대해 매우 다른 접근 방식을 취하고 있으며, 각각 시장 중심, 국가 중심, 인간 중심 모델에 의존하고 있습니다.

란다조 박사는 EU의 인간 중심적 접근 방식이 인간 존엄성을 보호하는 데 더 바람직한 길이라고 말했지만, 이 목표에 대한 세계적 공약이 없다면 그 접근 방식도 부족하다고 말했습니다.

그녀는 "전 세계적으로 AI 개발을 인간답게 만드는 것, 즉 선택하고, 느끼고, 주의 깊게 추론하고, 공감하고, 연민하는 능력에 집중시키지 않는다면, 우리는 인간성을 데이터 포인트로 평가절하하고 편평하게 만드는 시스템을 만들어낼 위험이 있고, 인간의 조건을 개선하기는커녕 그렇게 될 것"이라고 말했습니다.

"인간은 목적을 달성하기 위한 수단으로 취급되어서는 안 됩니다."

"인공지능 시대의 인간 존엄성: 법적 문제와 규제 제도에 대한 개요"라는 논문이 호주 인권 저널 에 게재되었습니다.

이 논문은 란다조 박사가 이 주제에 대해 집필할 3부작 논문의 첫 번째 논문입니다.

출처: https://www.sciencedaily.com/releases/2025/09/250907172635.htm