인공지능 지혜를 활용한 AI 얼라인먼트(AI Alignment) 문제 해결

인공 일반 지능 (AGI)이 다가오고 있으며, 이는 사람들을 두렵게 하고 있습니다. 심지어 그것을 개발하는 엔지니어들조차도 두려워합니다.

이는 놀라운 일이 아닙니다. 수십 년 동안 공상 과학 소설은 우리보다 똑똑한 기계를 두려워하도록 우리를 길들여 왔습니다. 하지만 그 두려움은 정당한 것일까요?

네, 그렇습니다.

역사는 지능만으로는 재앙을 막을 수 없다는 것을 보여줍니다. 전쟁, 대량 학살, 잔혹 행위는 모두 결함 있는 전제에 기반한 "합리적인" 논리로 정당화되었습니다. 20세기의 가장 똑똑한 사람들이 원자 폭탄을 만들었습니다. 그들의 지능이 문제가 아니었습니다. 그들에게 부족했던 것은 다른 무언가였습니다.

인간이 지능이 낮은 종들을 어떻게 대했는지 생각해 보세요. 우리보다 훨씬 똑똑한 존재를 두려워하는 이유를 쉽게 알 수 있습니다.

그렇다면 지능만으로는 부족하다면 무엇이 부족한 것일까요?

답은 사랑입니다.

거래적인 애정이 아니라, 어머니가 자식을 사랑하는 것과 같은 사랑, 즉 어떤 상황에서도 보호하고 용서하고 인내하는 사랑입니다. 무조건적이고 깨지지 않는 사랑 말입니다.

지능은 마음에게 행동할 힘을 줍니다. 사랑은 마음이 신중하게 행동할 이유를 주고, 그 오용을 막아주는 안전장치가 됩니다. 이 둘이 합쳐지면 단순한 계산 이상의 무언가, 바로 지혜가 탄생합니다.

지혜는 단순히 지능만으로 설명할 수 있는 것이 아닙니다. 사랑으로 인도되는 지능, 즉 무엇을 할 수 있는지뿐 아니라 무엇을 해야 하는지 아는 능력입니다.

사랑을 프로그래밍할 수 있을까요?

사랑은 코드로 표현하기에는 너무 신비로워 보일지도 모릅니다. 하지만 그 신비로움을 벗겨내면 사랑은 행동을 통해 드러납니다. 보호, 인내, 연민, 타인의 행복과 안녕을 위한 배려 등이 바로 그것입니다.

여기서 핵심은 인공 일반 지능(AGI)에게 중요한 것은 사랑을 느끼는지 여부가 아니라 사랑으로 행동하는지 여부라는 점입니다. 우리는 다른 사람에게서조차 사랑을 직접 관찰할 수 없습니다. 우리는 행동을 통해 사랑을 추론합니다. 이와 같은 논리가 기계에도 적용됩니다.

행동으로 나타나는 사랑은 친절입니다. 그리고 친절은 사랑과는 달리 관찰 가능하고, 학습 가능하며, 가르칠 수 있습니다.

인간이 지혜를 얻는 방식도 이와 같습니다. 태어날 때부터 지혜를 갖는 것이 아니라, 평생에 걸쳐 축적된 경험, 실수, 그리고 그 결과들을 통해 지혜를 얻는 것입니다.

인간에게 지혜를 가르칠 수 있다면, 기계에게도 가르칠 수 있으며, 훨씬 더 빠르게 가르칠 수 있습니다. 협력, 갈등, 신뢰, 용서와 관련된 수십억 건의 시뮬레이션 경험을 통해 훈련된 인공 일반 지능(AGI)은 인간이 백 번 살아도 얻을 수 없는 실질적인 지혜를 축적할 수 있습니다.

우리 인간의 가장 똑똑한 두뇌들을 모두 합친 것보다 더 지능적인 기계를 만들 수 있다면, 우리 인간의 가장 현명한 두뇌들을 모두 합친 것보다 더 현명한 기계를 만들 수도 있을 것입니다.

하지만 지혜는 여전히 감시의 대상이 되어야 합니다.

어떤 훈련도 미래의 모든 시나리오를 예측할 수는 없습니다. 아무리 현명한 AGI라 할지라도 지속적인 인간의 감독 하에 있어야 합니다. 우리 중 가장 총명하고 현명한 사람들의 감독과 교정은 선택이 아닌 필수입니다. 현명한 AGI는 이러한 감독과 교정을 거부하지 않을 것이며, 오히려 환영할 것입니다.

이것이 중요한 이유는 인공 일반 지능(AGI)이 단순한 도구에 머무르지 않을 것이기 때문입니다. 언젠가 AGI는 우리의 공유 자원, 제도, 그리고 공동의 미래를 지배하게 될지도 모릅니다. 이는 과거 공무원들에게 부여했던 역할과 유사하지만, 너무 많은 공무원들이 오히려 우리의 주인이 되어버렸습니다. AGI에 더 많은 권력을 부여할수록, 우리는 그에 대한 더 큰 책임을 요구해야 합니다.

인류의 진정한 과제는 우리보다 더 똑똑한 기계를 만드는 것이 아니라, 우리보다 더 현명한 기계를 만드는 것입니다.

AGI의 균형을 맞추려면 초지능을 넘어 초지혜를 추구해야 합니다.

인공 지혜(AW)는 AGI의 미래일 뿐만 아니라, AGI가 안전하게 세상에 도입되기 위한 필수적인 진화 과정입니다.

원문: https://paradism.org/news.php?item.102.4