딥러닝 기반 얼굴인식 기술은 정확한 사용자 인식을 위해 설계된 기술로, 최근 얼굴 인증 시스템에 널리 활용되고 있다. 얼굴 인증 시스템은 인증하려는 사용자의 얼굴을 기존에 등록된 얼굴 이미지와 비교해 접근을 허용하거나 거절한다. 이때 등록된 얼굴 이미지가 누출되지 않도록 보호하는 것이 중요하다.

 서 교수팀은 딥러닝 기술이 가지는 특징을 이해하고, 더 안전한 기술을 설계하기 위해 이번 연구에 착수했다. 그 결과 등록된 사용자 이미지를 기존의 방식보다 수천 배 빨리 재현할 수 있는 새로운 공격기법을 발견했다. 이번 연구는 상용기술의 보안상 취약점을 밝히고 딥러닝 기술에 대한 수학적 이해도를 높이는 데 크게 기여했다.

|  '직교 얼굴' 활용해 전례 없는 공격기법 발견

 딥러닝 기반 인공신경망은 등록된 사용자의 얼굴 이미지에서 대략 512개의 숫자정보를 추출하고 저장한다. 이렇게 저장된 숫자정보를 우리는 '템플릿'이라고 부른다. 공격자는 템플릿을 복구하거나, 타겟이 되는 템플릿과 비슷한 템플릿을 가지는 얼굴 이미지를 생성해 등록된 사용자 얼굴 이미지를 복구한다.

 기존 공격 기법은 비교적 단순하다. 얼굴 이미지를 랜덤하게 생성하고 타겟과 근접한 이미지를 선택하는 과정을 반복한다. 이 방식이 성공하려면 대략 수십만 번의 수행을 거쳐야 하기에 현실적으로 위협이 되지는 않는다.

 이에 반해 서 교수팀의 기법은 100번의 시도만으로 공격이 가능하다. 일일이 이미지를 생성하고 선택하는 과정을 반복했던 기존의 방식과는 달리, 서 교수팀의 기법은 '직교 얼굴(Orthogonal Face)'이미지를 활용하기 때문이다. 직교 얼굴은 얼굴 이미지 중 인공신경망을 통과했을 때 서로 수직이 되는 얼굴 이미지의 집합으로, 사용자의 얼굴 이미지를 복구하는 데 핵심적인 좌표로 기능한다. 복구하려는 얼굴 이미지에 대응하는 템플릿의 위치를, 직교 얼굴을 기준으로 추정할 수 있기 때문이다. 직교 얼굴 이미지 100장만 잘 만들어 두면, 실제 공격할 때는 이 100장과 등록된 사용자 이미지 간의 유사도만으로 이미지를 복구할 수 있다는 것이 서 win 토토사이트팀의 기본 아이디어다.

 쉽게 말해 기존의 공격 기법은 목표 지점 A에 도달하기 위해 현재 위치에서 사방으로 이동하고 돌아오기를 반복하면서 가장 가까웠던 방향으로 조금씩 나아가는 방식이다. 반면 서 win 토토사이트팀의 기법은 A에 도달하기 위해 B, C, D 등의 거점을 활용하며, 이 거점들과 A 사이의 거리를 종합해 A의 위치를 추정하는 방식이다. 여기서 B, C, D 같은 거점이 '직교 얼굴 이미지'이고 각 거점과 A 사이의 거리는 이미지 간 유사도를 의미한다.

 이처럼 새로운 공격 기법은 등록된 사용자 이미지와 비교하는 이미지 간의 유사도 정보를 사용한다. 보안을 강화하려면 이러한 유사도 정보가 유출되는 것을 막을 필요가 있다. 서 교수팀은 보안 취약점과 방어를 위한 조치를 아마존 웹서비스(AWS) 측에 직접 보고했다.

|  새로운 공격 기법의 발견, 딥러닝을 '수학적으로 이해'하고자 했기에 가능했다

“대상을 수학적으로 이해하려는 습성이 빛을 발한 결과”

 이번 연구의 핵심 아이디어인 '직교 얼굴(Orthogonal Face)'은 논문의 제1저자 김선필 석·박사통합과정생이 제안했다. 김 씨는 서 교수가 이끄는 Crypthology & Algorithm Lab 소속으로, 김 씨를 비롯한 학생 연구자들은 얼굴인식 기술의 학습 및 추론, 정보보호 관련 아이디어를 오랜 기간 수학적으로 분석해왔다.

 서 교수는 학생 연구자들에게 문제를 해결하는 것보다 잘 이해하는 연구 방식을 권장해왔다. 이해하는 것이 곧 문제를 해결하는 힘으로 이어진다는 믿음에서다. 그의 가르침 아래 학생 연구자들은 대상을 수학적으로 이해하려는 습성을 축적해왔다. 이번 연구의 성과는 그들이 오랫동안 지녀온 태도가 빛을 발한 결과다. 

 서 교수는 "기존의 방식을 개선하려고 했다면 우리의 사고도 그 근처를 벗어나지 못했을 것이다"며 "문제를 개선하는 것을 넘어 잘 이해하는 것을 목표로 삼았기에, 기존과는 전혀 다른 공격 기법을 발견할 수 있었다"고 설명했다.

|  본질을 고민하며 인류의 이해도에 기여하는 것이 목표

 서 교수는 '안전성'을 충족시키는 알고리즘을 연구해왔다. 잘 이해하는 것을 핵심으로 하는 그의 방식은 연구에서도 마찬가지였다. 그는 목표로 설정한 문제를 수학적으로 이해하고자 노력해왔다. 현재 그의 관심은 인공지능을 향해 있다. 영향력이 큰 기술임에도 수학적으로 밝혀지지 않은 바가 많고, 보안에 대한 인류의 이해도가 높지 않기 때문이다.

 인공지능 분야에서의 안전성이란 무엇인지 묻는 질문에 그는 "무엇이 안전한 것인지도 아직 명확하지 않다"고 답했다. 다만 현재로서는 개인정보를 보호하는 일이 안전성에 부합한다. 이에 그는 보안을 연구하고 위험을 방지하기 위해 노력하고 있다. 나아가 그는 잠재적인 위험을 새롭게 밝혀내고 이를 예방하기 위한 연구가 필요하다고 설명했다. 그는 "미지의 세계에서 무엇이 안전한지 정의하고, 공격자의 능력을 규명하고, 이에 따라 벌어질 수 있는 일을 연역적으로 추론하는 것이 수학자들이 잘 하는 일이다"며 미소 지었다.

 무엇을 보호하기에 앞서 무엇이 안전한 것인가를 고민하는 서 교수의 접근법은 본질을 향하려는 그의 신념과도 맞닿아 있다. 연구의 지향점을 묻는 질문에 그는 다음과 같이 뜻을 밝혔다. 

 "인공지능 기술은 아직 미지의 영역이지만, 신의 책 어딘가에는 이를 잘 설명한 이론이 있을 것입니다. 그 정답이 어디에 있을지는 모르지만, 그것으로 향하는 길이 존재한다고 믿습니다. 이번 연구에서 타겟 이미지를 정확히 찾아가는 법이 존재했던 것처럼 말입니다. 이러한 믿음을 갖고 인류의 이해도를 높이는 데 기여하는 것이 목표입니다."

|  "수학은 세상을 논리적으로 이해하기 위한 도구"

 서 교수에게 수학은 공식을 만들고 문제를 풀기 위한 것이 아니라 세상을 논리적으로 이해하기 위한 도구다. 그는 "죽기 전까지 수학이라는 창을 통해 세상을 조금이나마 더 이해하고, 나와 같은 방식으로 세상을 이해하려는 학생을 한명이라도 더 길러내고 싶다"고 말했다.

그는 마지막으로 수학을 공부하는 학생들에게 다음과 같은 말을 남겼다.

"수학은 없던 정의를 새롭게 내리고, 정의로 특징을 찾아내고, 그것으로 이론을 쌓아 올리는 학문입니다. 무(無)에서 시작해 엄밀히 논리를 쌓아 올리는 훈련을 잘 받았으면 합니다. 세상은 더욱 빨리 변할 것이고, 그 안에는 논리와 체계를 갖추고자 노력하는 사람들이 필요합니다. 그리고 수학자들이 그런 역할을 해야 한다고 생각합니다."  

 서 교수팀의 연구 논문 「Scores Tell Everything about Bob: Non-adaptive Face Reconstruction on Face Recognition Systems」는 작년 5월 미국 샌프란시스코에서 열린 정보보호 분야 최고 권위 국제학술대회인 'IEEE Symposium on Security and Privacy 2024'에서 발표됐다.