고민삼 ERICA캠퍼스 ICT융합학부 교수는 5월 20일자 <동아일보>에 칼럼 ‘AI와 성공적인 팀워크? 과도한 의존 줄여야’를 기고했다. 고 교수는 “인간이 인공지능(AI)과 함께 한다고 해서 항상 더 나은 성과를 내는 것은 아니다”며 “AI가 완벽한 결과를 내지 않는 데다 인간이 AI에 과도하게 의존하는 경향이 나타나기 때문이다”고 했다. 이어 “AI의 예측을 그대로 받아들이거나 최종 결정 권한 및 책임을 AI에게 전가하는 경향은 기계 편향을 강화한다”고 했다.

이같은 문제를 해결할 대안으로 ‘AI(Explainable AI, XAI)’가 주목받고 있다. 고 교수는 미국 스탠퍼드대와 워싱턴대 연구진이 진행한 한 연구를 소개했다. 연구진은 참가자 731명을 대상으로 미로 탈출 문제를 AI와 함께 풀어보는 다섯 가지 실험을 수행했다. 고 교수는 실험 결과에 관해 “인간과 AI가 과제를 함께 수행하는 데에 있어 해당 과제의 특성, AI가 제공하는 설명의 유형 및 복잡도, 과제 수행에 따른 인센티브 등이 모두 사용자의 AI 의존도에 영향을 미치는 것으로 나타났다”고 설명했다.

먼저 사람들은 과제 난도가 높을수록 AI의 설명이 더 유용하다고 판단했는데, 특히 AI의 설명을 더 신중하게 고려했을 때 얻는 이익이 커져 AI가 예측하는 결과에 무작정 의존하는 경향을 줄였다. 또 AI가 제공하는 설명이 명확할수록 AI에 대한 과도한 의존이 감소했고, 과제 수행 성공 시 제공되는 금전적 보너스가 늘어나는 경우도 AI에 대한 과도한 의존이 줄어들었다. 고 교수는 “사람들은 주어진 과제와 설명에 대한 비용-편익을 따져 AI가 내놓는 결과를 얼마나 따를지 전략적으로 결정한다”며 “비용과 이익을 잘 조절해야 인간과 AI의 상호 보완적인 협력을 이끌 수 있다”고 전했다.