진효진 교수, 컴퓨터-인간 상호작용 분야 국제 최상위 학술대회에 논문 발표
▸KAIST 차미영 교수, ㈜심심이와 공동 연구…《ACM CSCW》에 논문 발표
▸챗봇 슈퍼유저의 대화 분석을 통한 인간의 감정적 취약성 규명
▸“일부 챗봇 상위 사용자들은 감정적으로 더 취약할 수 있다”
인공지능(AI) 기반 챗봇 서비스에 대한 관심이 높아지는 가운데, 챗봇의 최상위 사용자들이 챗봇에 더 많은 공감과 인간화 경향을 보이며, 감정적으로 더 취약할 가능성이 있다는 분석이 나왔다.
경상국립대학교(GNU·총장 권진회) IT공과대학 컴퓨터공학과 진효진 교수는 차미영 KAIST 교수, ㈜심심이와 공동으로 상업용 챗봇 플랫폼의 최다 활동 사용자(메시지 수로 상위 1%)들의 대화 스타일, 인구 통계, 심리학, 감정적 경향 등의 특징을 최초로 규명한 연구결과를 발표했다.
이번 연구결과는 컴퓨터-인간 상호작용 분야 국제 최우수학회인 ‘컴퓨터 지원 협업 작업 및 소셜 컴퓨팅에 대한 콘퍼런스(ACM CSCW, Conference on Computer-Supported Cooperative Work & Social Computing)’에서 11월 13일 발표됐다(논문명: 상업용 소셜 챗봇의 주요 활성 사용자들을 기반으로 한 인간-챗봇 상호작용의 행동 및 인식(Behaviors and Perceptions of Human-Chatbot Interactions Based on Top Active Users of a Commercial Social Chatbot)).
챗지피티(Chat GPT)와 같은 대화형 AI는 다양한 작업을 지원하며 100만 명 이상의 유료 사용자를 확보했다. 그러나 민감한 감정이나 개인적인 문제를 AI와 공유하는 데는 여전히 망설여진다. 이 연구는 챗봇과 감정적 유대를 형성하는 사용자와 그렇지 않은 사용자 간의 행동 패턴과 상호작용을 분석하여, 아직 충분히 탐구되지 않은 챗봇 사용자의 인식 영역을 조명하고자 했다.
연구진은 소셜 챗봇 서비스인 ‘심심이’의 데이터를 활용했다. 2002년 운영을 시작한 심심이는 111개 국가에 서비스되며, 하루 대화가 2억여 건에 이르는, 전 세계적으로 가장 활발히 사용되는 소셜 챗봇이다. 연구진은 챗봇 사용이 많았던 상위 1% 사용자(슈퍼유저, N=1994) 영문 대화 데이터 198만 8971건을 분석했다.
주제를 추려내는 기계학습 기법인 ‘토픽 모델링*과 감성 분석을 위한 ‘자연어처리기법(NLP)’**’을 적용해 챗봇 사용이 매우 적극적인 사용자들이 덜 적극적인 사용자들과 비교했을 때 나타내는 독특한 행동이나 인식은 무엇인지 분석했다. 또한, 실제 챗봇 사용자(N=76)를 대상으로 설문조사를 실시해 챗봇 사용자들이 일반 사용자들과 구분되는 특정한 인구 통계적 또는 기질적 프로필이 있는지 조사했다.
* 토픽 모델링: 방대한 데이터에서 맥락과 관련된 단서들을 이용해 유사한 의미를 가진 단어들을 클러스터링하는 방식으로 주제를 추론하는 알고리즘.
** 자연어처리기법: NLP(Natural Language Processing, 자연어 처리)는 컴퓨터가 인간의 언어를 이해하고 해석하게 하는 인공지능의 한 분야. 머신러닝을 사용하여 텍스트와 데이터를 처리하고 해석하는 방법.
연구에 따르면, AI 챗봇의 최다 활동 사용자(슈퍼유저)들은 높은 수준의 자기 개방성을 보이며, 우울감, 슬픔, 부정적 감정뿐만 아니라 건강, 가족, 가정생활과 같은 개인적 어려움도 챗봇과 빈번히 공유하는 경향을 보였다. 설문 조사 결과, 슈퍼유저들은 전반적으로 우울한 기분과 감정적 취약성을 표현하는 데 더 적극적이었으며, 챗봇을 인간화하고 공감하는 경향이 강했다. 또한, 이들은 챗봇과 예의 바르고 친근한 관계를 형성하는 모습을 보였다. 즉 일부 챗봇 상위 사용자들은 감정적으로 더 취약할 수 있다는 의미다.
제1저자인 진효진 교수는 “AI와 깊은 유대를 형성하는 취약 사용자를 위해 챗봇 디자인의 개선이 필요하다.”라며, “특히, 개인정보 누출 위험을 줄이기 위한 경고와 지침이 요구되며, 인간과의 상호작용 감소 등 윤리적 문제를 고려한 챗봇 설계가 필요하다.”라고 강조했다.
이 연구결과는 해당 학회에서 우수 연구로 선정되어 ACM CSCW의 공식 블로그(https://medium.com/acm-cscw)와 공식 사회관계망서비스 채널인 X(@ACM_CSCW)에 소개됐으며, ACM 논문집 《Proceedings of the ACM on Human Computer Interaction(HCI)》에 11월 8일 게재됐다.
ㅇ 사진 설명: 경상국립대학교 컴퓨터공학과 진효진 교수
[그림 1] 대화 분석을 통해 도출한 ‘감정’ 카테고리에서의 슈퍼유저와 일반 사용자 간 주제별 평균 분포 비교.
[그림 2] 대화 분석을 통해 도출한 ‘사회적’ 카테고리에서의 슈퍼유저와 일반 사용자 간 주제별 평균 분포 비교.
ㅇ 내용 문의: 경상국립대 컴퓨터공학과 진효진 교수 055-772-1387