AI 음성에이전트 역할 규명…“인간의 판단권 보장이 신뢰 핵심”
  • ▲ 자율주행차의 윤리적 의사결정 과정에서 인공지능(AI) 음성 에이전트의 역할을 규명한 한기대 박지섭 교수 연구팀.ⓒ한기대
    ▲ 자율주행차의 윤리적 의사결정 과정에서 인공지능(AI) 음성 에이전트의 역할을 규명한 한기대 박지섭 교수 연구팀.ⓒ한기대
    한국기술교육대학교(KOREATECH·총장 유길상) 미래융합학부 박지섭 교수 연구팀이 자율주행차의 윤리적 의사결정 과정에서 인공지능(AI) 음성 에이전트의 역할을 규명하고, 승객의 신뢰 및 구매 의향을 높이는 핵심 요인을 밝혀냈다.

    이번 연구는 박지섭 교수와 유영재 강사(연세대 정보대학원), 김헌 교수(한양대 ERICA 미디어학과)가 공동 수행했으며, 인간공학 분야 상위 1위, JCR(저널인용보고서) 기준 상위 2.4% 이내에 해당하는 세계적 권위의 학술지 Accident Analysis & Prevention 7월 온라인판에 게재됐다.

    연구는 자율주행차 상용화를 앞두고 뜨거운 논쟁거리인 '트롤리 딜레마'를 중심으로 이뤄졌다. 

    실제 사고 상황에서 AI가 생사 판단을 내리는 것이 윤리적으로 가능한지를 다룬 이 실험은, 가상현실(VR) 환경에서 48명을 대상으로 진행됐다.

    참가자들은 도로에 갑자기 나타난 싱크홀을 피하기 위해 세 가지 경로(직진, 좌회전, 우회전) 중 하나를 선택해야 하는 상황에 놓였고, 연구진은 이들의 판단 기준과 반응을 정밀하게 분석했다.

    그 결과, 최종 선택권을 AI가 아닌 인간 승객에게 부여한 경우 시스템에 대한 신뢰도와 차량 구매 의향이 유의미하게 높아지는 것으로 나타났다. 

    연구진은 윤리적 판단이 필요한 상황에서는 인간의 자율성과 책임감을 보장하는 것이 자율주행차 수용에 필수적이라고 강조했다.

    또한 AI 음성 에이전트가 위험 회피 중심의 ‘예방 메시지’를 제공할 때, 긍정 결과를 강조하는 ‘촉진 메시지’보다 더 윤리적인 선택을 유도하고 신뢰를 높이는 효과가 확인됐다.

    유영재 강사는 “VR 실험을 통해 사람들이 단 5초 만에 도덕적 결정을 내리는 과정을 관찰할 수 있었다”며 “AI의 말 한마디가 사람의 윤리적 판단을 바꿀 수 있음을 실증적으로 보여준 연구”라고 말했다.

    박지섭 교수는 “자율주행차 기술의 대중화는 단순한 기술력만으로는 어렵고, 생명 관련 판단에서 인간의 선택권을 존중하는 시스템 설계가 필수”라며 “AI는 인간의 윤리적 판단을 보조하는 역할에 그쳐야 한다”고 강조했다.

    박 교수는 또, 자신이 2019년 제안한 ‘버추얼그래프(VirtualGraph, VG)’ 기술과의 연계를 통해 자율주행차 승객의 인지 과정과 신뢰 변화를 더욱 정밀하게 분석할 계획이라고 밝혔다.

    VG 기술은 인간의 경험 중심 가상현실 기술로, 디지털 실물감(Digital Realness) 개념을 바탕으로 실제 자극과 유사한 감각 체험을 구현하는 세계 최초의 접근법이다. 박 교수는 이 기술을 통해 자율주행차와 인간 간 상호작용을 보다 현실감 있게 분석할 수 있을 것으로 기대하고 있다.