AI로 생성된 사람과 실제 사람을 구분할 수 있나요?

최근에 사람의 이미지가 실제인지, 아니면 인공 지능(AI)을 통해 생성되었는지 파악하는 데 어려움을 겪고 계시다면 여러분만 그런 것이 아닙니다.

워털루 대학 연구자들의 새로운 연구에 따르면 사람들은 누가 진짜 사람이고 누가 인공적으로 생성되었는지 구별하는 데 예상보다 더 어려움을 겪는다는 사실이 밝혀졌습니다.

워털루 연구에서는 260명의 참가자에게 라벨이 지정되지 않은 사진 20장을 제공했습니다. 그 중 10장은 Google 검색에서 얻은 실제 사람의 사진이었고, 나머지 10장은 이미지를 생성하는 일반적으로 사용되는 두 가지 AI 프로그램인 Stable Diffusion 또는 DALL-E에서 생성된 사진이었습니다.

참가자들은 각 이미지를 실제 또는 AI 생성으로 표시하고 결정을 내린 이유를 설명하도록 요청 받았습니다. 참가자 중 61%만이 AI로 생성된 사람과 실제 사람의 차이를 구분할 수 있었는데, 이는 연구원이 예상한 85% 임계값보다 훨씬 낮았습니다.

“사람들은 자신이 생각하는 것만큼 구별하는 데 능숙하지 않습니다.”라고 워털루 대학교 컴퓨터 과학 박사 과정이자 이번 연구의 주저자인 Andreea Pocol은 말했습니다.

참가자들은 AI 생성 콘텐츠를 찾을 때 가능한 지표로 손가락, 치아, 눈과 같은 세부 사항에 주의를 기울였지만 평가가 항상 정확하지는 않았습니다.

Pocol은 연구의 특성상 참가자들이 사진을 자세히 조사할 수 있었던 반면, 대부분의 인터넷 사용자는 이미지를 지나가는 동안 볼 수 있었다고 지적했습니다.

Pocol은 “그냥 둠스크롤을 하고 있거나 시간이 없는 사람들은 이러한 신호를 포착하지 못할 것입니다”라고 말했습니다.

Pocol은 AI 기술이 발전하는 속도가 극도로 빠르기 때문에 AI 생성 이미지로 인한 악의적이거나 사악한 행동의 가능성을 이해하기가 특히 어렵다고 덧붙였습니다. 학문적 연구와 입법의 속도가 따라잡지 못하는 경우가 많습니다. AI가 생성한 이미지는 연구가 시작된 2022년 후반 이후 더욱 현실감 있게 되었습니다.

이러한 AI 생성 이미지는 정치적, 문화적 도구로서 특히 위협적이며, 이로 인해 모든 사용자가 당혹스럽거나 타협적인 상황에서 공인의 가짜 이미지를 만드는 것을 볼 수 있습니다.

Pocol은 “허위 정보는 새로운 것이 아니지만 허위 정보 도구는 끊임없이 변화하고 발전해 왔습니다.”라고 말했습니다. “아무리 훈련을 받았더라도 사람들이 실제 이미지와 가짜를 구별하는 데 여전히 어려움을 겪는 지점에 도달할 수 있습니다. 이것이 바로 우리가 이를 식별하고 이에 대응할 수 있는 도구를 개발해야 하는 이유입니다. 이는 새로운 AI 군비 경쟁과 같습니다.”

“보는 것은 더 이상 믿지 않는다: 딥페이크, AI 생성 인간 및 기타 비사실적 미디어의 상태에 대한 조사”라는 연구는 저널에 실렸습니다. 컴퓨터 그래픽의 발전.

출처: https://www.sciencedaily.com/releases/2024/03/240306003456.htm