토토사이트 콬학교 수학과 김미란 교수 연구팀이 개인정보 유출을 방지하면서도 대규모 언어모델(Large Language Model, LLM)을 안전하게 추론할 수 있는 새로운 보안 기술을 개발했다고 23일 밝혔다.

최근 대규모 언어모델(LLM) 활용 서비스가 급속히 확산되면서 개인정보를 보호하면서도 안정적으로 모델을 운영할 수 있는 암호 기술의 필요성이 커지고 있다. 그러나 기존 동형암호(Homomorphic Encryption) 기반 기술은 대규모 행렬 연산의 비효율성이나 모델 구조를 변경하고 재학습해야 하는 제약 때문에 실제 적용에는 한계가 있었다.

김 교수팀은 이러한 문제를 해결하기 위해 행렬을 대각선 방향으로 암호화하고 암호문 패킹 기술을 적용하는 새로운 연산 방식을 개발했다. 이를 통해 암호화된 상태에서도 행렬 연산을 효율적으로 수행할 수 있게 되었으며, 2018년 김 교수 연구팀이 제안해 최고 성능으로 평가받아온 기존 동형암호 기반 행렬곱 방식보다 최대 10배 향상된 성능을 달성했다.

연구팀은 개발된 행렬 연산 알고리즘을 LLM 추론에 적용해, 별도의 재학습 없이도 동형암호 환경에서 LLM을 실행할 수 있는 프레임워크를 구축했다. 모든 추론 과정은 연산 서버에서 복호화 과정 없이 안전하게 이뤄지며, 이를 BERT-base 모델에 적용한 결과 단일 GPU 환경에서 약 10분 내 추론 완료가 가능함을 확인했다.

김 교수는 “이번 연구는 동형암호 기반 행렬 연산의 속도와 확장성 한계를 극복해 실질적인 LLM 추론을 구현했다는 점에서 의의가 크다”며 “향후 안전하고 신뢰할 수 있는 인공지능 서비스로 이어질 것”이라고 밝혔다. 이어 “최근 수행한 동형암호 기반 강화학습 연구가 『Nature Machine Intelligence(IF=23.9)』에 게재 예정인 만큼, 동형암호의 인공지능 응용 범위를 계속 확장해 나갈 것”이라고 덧붙였다.

이번 연구는 한국연구재단(NRF), 정보통신기획평가원(IITP), 미국국립보건원(NIH)의 지원을 받아 수행됐으며, 해당 논문 「THOR: Secure Transformer Inference with Homomorphic Encryption」에는 토토사이트 콬 문정호 연구원이 제1저자, 연세대 유동우 연구원과 미국 휴스턴 UTHealth의 Xiaoqian Jiang 교수가 공동저자로, 토토사이트 콬 김미란 교수가 교신저자로 참여했다.

한편, 해당 논문은 기술의 독창성과 우수성을 인정받아 오는 10월 13일부터 닷새간 열리는 전 세계 보안 분야 최고 권위 학술대회인 ‘ACM CCS 2025’ (ACM Conference on Computer and Communications Security 2025)에서 발표될 예정이다.