랜드토토H

8월 1일자 <조선일보>는 이미지 생성 인공지능(AI)을 활용해 아동 성착취물을 제작한 40대 남성이 아동·청소년의 성보호에 관한 법률(아청법) 위반 등의 혐의로 구속기소됐다고 보도했다. A 씨는 지난 4월 자신의 노트북에 설치한 AI 프로그램에 ‘10살, 나체’ 등의 명령어를 입력해 성착취물을 제작한 것으로 조사됐다. A 씨는 영국의 이미지 생성 AI ‘스테이블디퓨전’ 프로그램을 활용해 성 착취물을 만든 것으로 전해졌는데, 이러한 AI 이미지 생성 도구들은 전문적 기술 없이도 명령어 몇 개만 입력하면 정교한 이미지를 만들어낸다. 국내뿐만 아니라 해외에서도 AI를 활용한 성착취물이 손쉽게 제작·베포되면서 AI 성착취물은 심각한 사회문제로 떠오르고 있다.

장동선 창의융합교육원 교수는 “AI를 활용한 딥페이크 콘텐츠 대부분이 성 산업이나 범죄 등에 활용되고 있다”며 “AI로 사진, 영상, 목소리, 그림을 만들어내는 것은 물론 인간의 뇌와 감정을 자극하는 시도까지 이어지고 있어서 주의가 필요하다”고 지적했다.