MIT, 뇌가 복잡한 문제를 해결하는 데 사용하는 숨겨진 플레이북 공개

인간은 불가능한 문제를 분해하고, 때로는 기억이 허락할 때만 대안적인 시나리오를 상상함으로써 해결합니다. MIT의 연구는 인간이 비이성적인 것이 아니라, 놀라울 정도로 적응력이 뛰어나다는 것을 증명합니다. 출처: Shutterstock

인간의 뇌는 복잡한 문제를 해결하는 데 매우 능숙합니다. 그 이유 중 하나는 인간이 문제를 관리하기 쉬운 하위 작업으로 나누어 한 번에 하나씩 쉽게 해결할 수 있기 때문입니다.

이를 통해 커피 마시러 나가는 것과 같은 일상적인 업무를 단계별로 나누어 완료할 수 있습니다. 사무실 건물에서 나와 커피숍으로 가는 길을 찾고, 도착하면 커피를 가져오는 것이죠. 이 전략은 장애물을 쉽게 처리하는 데 도움이 됩니다. 예를 들어, 엘리베이터가 고장 났을 때 다른 단계를 변경하지 않고도 건물 밖으로 나가는 방법을 수정할 수 있습니다.

인간이 이런 복잡한 작업에 능숙하다는 것을 보여주는 행동적 증거가 많이 있지만, 문제를 해결하는 데 사용하는 계산 전략을 정확하게 특성화할 수 있는 실험 시나리오를 고안하는 것은 어려웠습니다.

새로운 연구에서 MIT 연구진은 사람들이 복잡한 과제를 해결하기 위해 다양한 의사 결정 전략을 어떻게 사용하는지 성공적으로 모델링했습니다. 이 사례에서는 공이 시야에서 가려져 있을 때 미로를 통과하는 방식을 예측하는 것이었습니다.

인간의 뇌는 가능한 모든 궤적을 동시에 추적하는 것이 불가능하기 때문에 이 과제를 완벽하게 수행할 수 없지만, 연구진은 계층적 추론과 반사실적 추론이라는 두 가지 전략을 유연하게 채택함으로써 사람들이 비교적 잘 수행할 수 있음을 발견했습니다.

연구자들은 또한 사람들이 각각의 전략을 선택하는 상황을 파악할 수 있었습니다.

"인간은 미로를 여러 하위 영역으로 나누고, 비교적 간단한 알고리즘을 사용하여 각 단계를 해결하는 것이 가능합니다. 복잡한 문제를 해결할 방법이 없을 때는 사실상 더 간단한 휴리스틱을 사용하여 문제를 해결합니다."라고 MIT 맥거번 뇌 연구소 연구원이자 하워드 휴즈 의학 연구소 연구원이자 이 연구의 수석 저자인 메르다드 자자예리(Mehrdad Jazayeri) 뇌·인지 과학 교수는 말합니다.

마흐디 라마단(24학번)과 대학원생 청 탕이 오늘 Nature Human Behavior 에 게재된 이 논문의 주저자입니다 . 니콜라스 워터스(25학번)도 공동 저자입니다.

합리적인 전략

인간은 사물 분류처럼 명확한 정답이 있는 간단한 작업을 수행할 때 매우 뛰어난 성과를 보입니다. 하지만 좋아하는 카페에 가는 계획을 세우는 것처럼 작업이 복잡해지면, 더 이상 단 하나의 확실한 정답이 존재하지 않을 수 있습니다. 그리고 각 단계마다 잘못될 수 있는 부분이 많습니다. 이러한 경우, 인간은 최적의 해결책이 아니더라도 작업을 완료할 수 있는 해결책을 찾아내는 데 매우 능숙합니다.

이러한 해결책에는 종종 문제 해결의 지름길, 즉 휴리스틱이 포함됩니다. 사람들이 일반적으로 의존하는 두 가지 주요 휴리스틱은 계층적 추론과 반사실적 추론입니다. 계층적 추론은 문제를 일반적인 것에서 시작하여 구체적인 것으로 나아가는 여러 층으로 분해하는 과정입니다.

반사실적 추론은 다른 선택을 했다면 어떤 일이 일어났을지 상상하는 것입니다. 이러한 전략들은 잘 알려져 있지만, 과학자들은 뇌가 주어진 상황에서 어떤 전략을 사용할지 어떻게 결정하는지에 대해서는 잘 알지 못합니다.

"이것은 인지 과학에서 정말 중요한 질문입니다. 어떻게 하면 최적이 아닌 방식으로 문제를 해결할 수 있을까요? 즉, 영리한 휴리스틱을 생각해내고 이를 연결하여 문제를 해결할 때까지 점점 더 가까워질 수 있을까요?" 자자예리는 말합니다.

이를 극복하기 위해 자자예리와 그의 동료들은 이러한 전략이 필요할 만큼 충분히 복잡하지만, 결과와 이에 필요한 계산을 측정할 수 있을 만큼 충분히 간단한 작업을 고안했습니다.

이 과제는 참가자들이 미로에서 네 가지 가능한 궤적을 따라 움직이는 공의 경로를 예측하는 것을 요구합니다. 공이 미로에 들어가면 사람들은 공이 어떤 경로를 지나는지 볼 수 없습니다. 미로의 두 교차점에서 공이 해당 지점에 도달하면 청각 신호를 듣게 됩니다. 공의 경로를 예측하는 것은 인간이 완벽한 정확도로 풀기 어려운 과제입니다.

"머리 속으로 네 번의 병렬 시뮬레이션이 필요한데, 인간은 그렇게 할 수 없습니다. 한 번에 네 번의 대화를 나누는 것과 마찬가지입니다."라고 자자예리는 말합니다. "이 작업을 통해 인간이 사용하는 알고리즘을 활용할 수 있습니다. 최적의 해결책을 찾을 수 없기 때문입니다."

연구진은 약 150명의 인간 자원봉사자를 모집하여 연구에 참여시켰습니다. 각 피험자가 공 추적 과제를 시작하기 전에, 연구진은 공이 미로의 한쪽 끝을 따라 이동하는 데 걸리는 시간인 수백 밀리초(ms)의 시간을 얼마나 정확하게 예측할 수 있는지 평가했습니다.

연구진은 각 참가자에 대해 계층적 추론만 사용하거나, 반사실적 추론만 사용하거나, 두 가지 추론 전략을 조합하여 병렬 시뮬레이션을 실행할 경우 참가자의 타이밍 기술에 따라 나타날 오류 패턴을 예측할 수 있는 계산 모델을 만들었습니다.

연구자들은 피험자의 성과와 모델의 예측을 비교한 결과, 모든 피험자의 성과는 계층적 추론을 사용하는 모델과 가장 밀접하게 연관되어 있었지만 때로는 반사실적 추론으로 전환하기도 했다는 것을 발견했습니다.

이는 공이 움직일 수 있는 모든 경로를 추적하는 대신, 참가자들이 작업을 분할했음을 시사합니다. 먼저, 참가자들은 첫 번째 교차로에서 공이 어느 방향으로 돌았을지 생각되는 방향(왼쪽 또는 오른쪽)을 선택하고, 다음 방향으로 향하는 공의 움직임을 계속 추적했습니다. 만약 다음 소리의 타이밍이 선택한 경로와 맞지 않으면, 다시 돌아가 처음 예측했던 경로를 수정했지만, 이는 일부 구간에서만 이루어졌습니다.

반대쪽으로 돌아가는 것은 반사실적 추론으로의 전환을 의미하며, 사람들은 들었던 소리에 대한 기억을 되짚어보아야 합니다. 그러나 이러한 기억이 항상 신뢰할 수 있는 것은 아니며, 연구진은 사람들이 자신의 기억력이 얼마나 좋다고 믿는지에 따라 되돌아갈지 여부를 결정한다는 것을 발견했습니다.

"사람들은 도움이 될 만큼 반사실적 추론에 의존합니다."라고 자자예리는 말합니다. "반실적 추론을 할 때 큰 손실을 입는 사람들은 반사실적 추론을 하지 않습니다. 하지만 최근 과거에서 정보를 인출하는 데 정말 능숙한 사람이라면, 반대쪽으로 돌아갈 수도 있습니다."

인간의 한계

연구진은 결과의 타당성을 더욱 검증하기 위해 머신러닝 신경망을 구축하고 해당 과제를 완료하도록 훈련시켰습니다. 이 과제를 위해 훈련된 머신러닝 모델은 연구진이 성능에 제한을 두지 않는 한, 공의 경로를 정확하게 추적하고 매번 정확한 예측을 할 것입니다.

연구자들이 인간이 직면하는 것과 유사한 인지적 한계를 추가하자, 모델의 전략이 변화하는 것을 발견했습니다. 가능한 모든 경로를 따라가는 모델의 능력을 제거하자, 모델은 인간처럼 계층적이고 반사실적인 전략을 사용하기 시작했습니다. 연구자들이 모델의 기억 회상 능력을 감소시키자, 모델은 인간처럼 정답을 얻기에 충분히 좋은 회상 능력을 가졌다고 판단될 때만 계층적 전략으로 전환했습니다.

"우리가 발견한 것은 네트워크가 인간 행동에서 발견되는 계산적 제약을 부과했을 때 인간 행동을 모방한다는 것입니다."라고 자자예리는 말합니다. "이것은 인간이 기능하기 위해 필요한 제약 하에서 합리적으로 행동한다는 것을 보여줍니다."

모델에 프로그래밍된 기억 손상 정도를 약간씩 변화시킴으로써, 연구진은 전략 전환이 명확한 종결 지점이 아니라 점진적으로 일어나는 것으로 보인다는 단서를 발견했습니다. 현재 연구진은 이러한 전략 전환이 일어날 때 뇌에서 어떤 일이 일어나는지 확인하기 위한 추가 연구를 진행하고 있습니다.

이 연구는 Lisa K. Yang ICoN 펠로우십, McGovern Institute 학생 펠로우십, National Science Foundation 대학원 연구 펠로우십, Simons Foundation, Howard Hughes 의학 연구소, McGovern 연구소의 지원을 받아 진행되었습니다.

출처: https://www.sciencedaily.com/releases/2025/06/250617014215.htm