최근 생성형 AI 기술을 활용한 딥페이크 영상이 전 세계적으로 큰 논란을 일으키고 있다. 생성형 AI 기술은 사람들의 얼굴이나 목소리를 이용해 가짜 영상을 만들어내는 데 사용된다. 예술적 표현이나 영화 제작에 유용한 측면이 있으나 음란물 제작 등의 범죄적 목적으로도 악용될 우려가 커지는 상황이다. 

어느 때보다도 생성형 AI의 양면성에 대한 고찰이 중요해진 지금, 딥페이크를 주제로 생성형 AI에 대한 정확한 이해와 기술의 한계를 논의해 보고자 한다. 인공지능 윤리와 철학을 연구하는 이상욱 철학과 교수를 만나 딥페이크 기술의 현재와 미래, 그에 따른 윤리적 쟁점과 규제 방안에 대해 자세한 이야기를 나눴다. 

딥페이크(Deepfake)는 딥 러닝(Deep learning)과 페이크(Fake)의 합성어로, 생성형 AI 기술을 바탕으로 사람 얼굴, 목소리 등을 조작한 가짜 영상을 만드는 기술을 의미한다. 이 교수는 "딥(Deep)은 심층 신경망이라는 인공지능 구조에서 비롯된 것이다"며 "생성형 AI의 본질은 기존의 이미지를 학습하고, 그 위에 새로운 것을 생성하는 것이다"고 설명했다.

이 교수는 "생성형 AI에는 참과 거짓을 판별하거나 검증하는 장치가 없다"며 "만들어진 결과물은 사실과 일치할 수도 있고 아닐 수도 있다"고 말했다. 해당 과정에서 발생하는 불일치가 바로 '환각' 현상(실제와 결과물이 일치하지 않는 경우)이다. 환각 현상은 사람들이 생성형 AI가 거짓말을 하고 있다고 느끼게 하는 원인이 된다. 그러나 생성형 AI 자체에는 진실과 거짓을 구별할 수 있는 능력이 존재하지 않는다. 결과적으로 생성형 AI 기술은 '사실이 아닌 것'이 아니라 사실이 아닌 것을 '악용'하는 사례에서 문제가 발생하는 것이다.

이 교수는 "딥페이크 기술의 양면성을 맥락에 따라 명확하게 구별할 필요가 있다"고 강조했다. 딥페이크 기술 자체는 참과 거짓을 구별하지 못하기 때문에 사용 목적과 맥락이 중요하다는 것이다. 

딥페이크 기술이 긍정적으로 활용되는 경우도 있다. 특히 영화 제작에서 비용을 절감하고 시각적인 효과를 극대화하기 위해 활용되고 있다. 이 교수는 "영화 분야에서의 딥페이크 활용은 도덕적으로 문제가 없다"며 "영화 자체가 허구이기 때문에 허구의 이야기에 비용 절감과 특정한 시각 효과를 위해 쓰이는 것은 문제가 없다"고 분석했다. 

그러나 성 착취물이나 학교 폭력 같은 범죄적 악용 맥락에서는 이야기가 달라진다. 이 경우는 실제로 피해자의 인격권을 모독하고, 명예를 훼손하고, 사회적 평판을 떨어뜨릴 목적으로 악의적으로 활용된 것이기 때문이다. 해당 맥락에서는 '거짓이 거짓이라는 사실'이 매우 중요해진다. 그는 "딥페이크 논의의 핵심은 기술 자체보다 기술이 어떤 맥락에서, 어떤 의도를 가지고 사용되는지에 달려 있다"고 설명했다. 

이 교수는 "딥페이크 기술의 긍정과 부정의 영역은 이미 명백하다"며 "균형 잡힌 활용을 위해서는 정교한 대처 방안이 필요하다"고 강조했다. 그러나 그는 "기술을 전면 금지하거나 모두 허용하는 극단적인 입장은 경계해야 하고, 딥페이크 기술이 사용되는 환경에 관한 관리·감독을 강화해야 한다"고 전했다.

또한 그는 "영상이 유포되는 SNS 환경에 대한 감독뿐 아니라, 유포자들의 심리 연구를 바탕으로 적절한 대응책을 마련해야 한다"고 덧붙였다. 단순한 기술적 문제를 넘어, 사회적 차원의 대처 방안이 필요하다는 것이다. 

딥페이크 기술의 활용은 '예술적 표현 자유와 범죄적 악용'의 경계에 있다. 경계의 적절한 활용을 위해 이 교수는 "기술의 활용 의도, 악의성 여부, 생성형 AI의 본질적 문제 등을 면밀히 검토할 필요가 있다"고 강조했다. 

이 교수는 "악의적 사용 가능성이 높은 기술, 낮은 기술에 따른 차별적인 규제가 필요하다"고 말함과 동시에 "기술에 있어서 모든 규제가 정당화되는 것은 경계해야 한다"고 입장을 밝혔다. 딥페이크 기술이 악의적 사용 가능성은 높지만, 법 집행과 표현의 자유 같은 사회적 가치 간의 균형을 유지하는 것은 여전히 중요하다는 것이다.

그는 "단순히 기술적 대응뿐 아니라 제도적 대응과 미디어 리터러시 교육도 함께 이뤄져야 한다"고 강조했다. 기술을 손쉽게 활용할 수 있는 환경 속에서, 사용자가 기술 활용의 위험성을 인지하고 스스로를 검열하도록 하는 교육이 필요하다.

또한 이 교수는 "생성형 AI를 통해 만들어진 결과물에 대한 법적, 도덕적 책임은 온전히 본인에게 있다는 사실을 꼭 명심해야 한다"고 말했다. AI가 만들어낸 결과물이라고 해서 법적, 도덕적 책임의 주체가 AI가 된다는 것은 위험한 착각이라는 것이다. 

마지막으로 이 교수는 "딥페이크 기술을 활용하는 사람들의 역할 뿐 아니라 기술을 활용하는 플랫폼의 역할도 매우 중요하다"고 말했다. 그는 "텔레그램 같은 플랫폼에서 딥페이크 범죄가 빈번하게 일어나는 이유는 그들이 표현의 자유를 빌미로 자체 감시를 소홀히 하기 때문이다"고 분석했다.

네이버와 카카오 같은 국내 포털은 감시 체계가 강하게 이뤄져 범죄가 일어나기 어려운 측면이 있다. 그러나 텔레그램과 같은 플랫폼은 상대적으로 규제가 거의 이뤄지지 않는다. 표현의 자유를 이유로 자체 감시를 거의 하고 있지 않기 때문이다. 그는 "국제적 협력을 통해 기술적 통제 가능성을 확보하고, 표현의 자유를 빌미로 기업의 이익을 추구하는 행위에 대해서는 적극적인 규제가 필요하다"고 마무리했다.