고민심 한양대 ERICA ICT융합학부 교수는 6월 5일 자 <동아일보>에 칼럼 ‘‘추천 이유’ 덧붙이면 AI 신뢰도 높아져’를 기고했다. 인공지능(AI) 기술이 눈부시게 발전하고 있지만 AI를 불신하는 사람도 적지 않다. 이런 사람에게는 AI가 만들어 낸 결과를 전할 때 결과가 만들어진 이유와 과정을 함께 설명하는 ‘설명 가능한 AI’를 활용하면 도움이 된다. 설명 가능한 AI의 중요성이 큰 분야 중 하나는 추천 시스템 영역이다.

미국 펜실베이니아주립대와 캘리포니아대 공동 연구진에 따르면 추천 결과에 대한 상세한 설명은 사용자가 인식하는 추천 성능을 높이고 전반적인 사용자 경험을 개선하는 데 효과가 있는 것으로 나타났다. 자신의 개인적인 선호나 취향이 추천에 잘 반영돼 있다고 느껴지면 신뢰도를 높이는 데 도움이 된다는 의미이다.

고 교수는 이런 분석 결과를 활용하기 위해 “콘텐츠 기반의 추천 시스템을 기획하고 있다면 UI에 정체성을 강화하는 요소를 집중해 추천 시스템의 결과가 사용자의 선호와 직접적으로 관련 있고 개인의 취향을 잘 반영한다는 사실을 전달할 필요가 있다”라고 말했다. 그는 “AI 서비스 설계자가 사용자에게 전달되는 설명 장치에 좀 더 신경을 쓴다면 AI 추천 시스템의 신뢰도를 높이는 데 도움이 될 것”이라며 설명 가능한 AI를 적극적으로 활용해야 한다고 강조했다.