[지디넷코리아]인공지능(AI)이 사람보다 더 공감하는 듯한 답변을 내놓더라도 정작 위로받을 상대를 선택할 때는 인간을 선호한다는 연구 결과가 나왔다. AI의 답변을 더 따뜻하고 세심하다고 평가하면서도 실제 선택에서는 사람을 찾는 이른바 'AI 공감의 역설'이 확인된 것이다.미국 펜실베이니아주립대학교와 캐나다 토론토대학교 공동 연구진은 국제학술지 '커뮤니케이션스 사이콜로지'에 발표한 연구에서 이 같은 결과를 확인했다. 해당 논문은 올해 1월 31일 처음 공개됐다.연구진은 사람들이 AI와 인간이 작성한 공감 표현을 어떻게 평가하는지, 실제로 어느 쪽의 위로를 받고 싶어 하는지 알아보기 위해 네 차례의 실험을 진행했다.연구진은 참가자들에게 인간과 AI 중 누구에게 공감과 위로의 말을 듣고 싶은지 선택하도록 했다. 이후 실제로 제공된 답변을 읽고 얼마나 공감적이었는지, 자신의 이야기를 얼마나 잘 들어줬다고 느꼈는지 등을 평가하게 했다.그 결과 참가자들은 AI 답변을 인간의 답변보다 더 공감적이라고 평가했다. AI의 답변을 읽었을 때 자신의 이야기를 더 잘 들어준다고 느끼는 경향도 나타났다.그러나 실제 선택에서는 반대 결과가 나왔다.세 번째 실험에서 참가자들이 인간의 답변을 선택한 비율은 평균 62.1%로 나타났다. 참가자 가운데 72.3%는 총 16번의 선택에서 AI보다 인간의 답변을 더 자주 골랐다.다른 실험에서도 비슷한 결과가 확인됐다. 두 번째 실험에서는 인간의 답변을 선택한 비율이 57.8%, 네 번째 실험에서는 58.4%로 나타났다.연구진은 이처럼 AI의 공감 표현을 더 높게 평가하면서도 실제로는 인간에게 위로받기를 원하는 현상을 'AI 공감 선택의 역설(AI empathy choice paradox)'이라고 설명했다.특히 참가자들은 답변에 담긴 노력의 정도를 중요하게 평가했다. 상대방이 자신을 위로하기 위해 얼마나 노력했다고 느끼는지가 공감의 질과 자신의 이야기를 충분히 들어줬다는 느낌에 영향을 미쳤다.인간의 답변이 AI보다 더 많은 노력을 들인 것으로 평가된 것은 아니었다. 오히려 참가자들은 AI의 답변에 더 많은 노력이 담겼다고 평가하는 경향을 보였다.이번 연구는 AI가 공감하는 듯한 표현을 만들어내는 능력과 사람들이 실제로 AI에게 정서적 도움을 받고 싶어 하는지는 별개의 문제라는 점을 보여준다.연구진은 AI가 생성한 답변이 높은 평가를 받더라도 사람들이 인간을 선호하는 이유를 단순히 답변의 품질 차이만으로 설명하기 어렵다고 봤다.사람들이 알고리즘 자체에 거부감을 느끼거나, 인간과의 관계에서 얻는 정서적 가치를 중요하게 생각할 가능성이 있다는 설명이다.연구진은 AI의 공감 표현이 실질적인 도움을 줄 가능성도 확인했다고 평가했다. 참가자들은 AI의 답변을 선택해 읽었을 때 높은 수준의 공감을 느꼈고, 자신의 이야기를 충분히 들어줬다고 평가했기 때문이다.이에 따라 연구진은 AI가 인간의 정서적 교류를 완전히 대체하기보다 인간의 지원을 받기 어려운 상황에서 보완적인 역할을 할 수 있다고 설명했다.연구에는 몇 가지 한계도 있다. 참가자들은 주로 글로 작성된 공감 표현을 평가했으며, 실제 가족이나 친구처럼 친밀한 관계를 맺고 있는 사람과 AI의 위로를 직접 비교한 것은 아니다.또 AI가 실제로 인간처럼 감정을 느끼거나 공감 능력을 갖췄다는 사실을 입증한 연구도 아니다. AI가 생성한 공감 표현을 사람들이 어떻게 받아들이는지 분석한 결과다.연구진은 사람들이 정서적 지원을 받을 대상을 직접 선택할 수 있어야 한다는 점을 강조했다. AI가 정교한 위로의 말을 만들어내더라도 인간과의 관계가 갖는 의미까지 대신할 수 있는지는 별도로 살펴봐야 한다는 것이다.
Continue to ZDNet Korea →You are being forwarded in 6s — stay on this page