출처 : https://news.mt.co.kr/mtview.php?no=2023021121345770356

범인 음성 찾는 AI 개발했지만…가짜 목소리 범죄 예방 '산 넘어 산'

대검찰청은 지난해 한국어에 특화된 '자동 화자(話者) 확인 시스템'을 개발했다. 증거녹취록의 음성을 입력하면 어떤 용의자의 목소리와 일치하는지를 자동으로 비교·대조해 동일인을 찾아주는 프로그램이다. 'CSI' 같은 과학수사물에서 범인의 지문을 입력하면 범죄자 데이터베이스를 뒤져 동일한 지문을 자동으로 검색해주던 지문확인 시스템의 음성판이다.

대검 관계자는 "2016년부터 범죄 용의자의 음성을 식별하는 기술을 꾸준히 연구한 결과"라며 "보이스피싱 등 음성 관련 범죄가 늘면서 이런 기술이 수사에서도 중요해졌다"고 말했다.

하지만 검찰이 어렵사리 개발한 이 기술도 최근 국내외에서 고개를 들기 시작한 '딥보이스(인공지능을 이용해 만들어낸 가짜 목소리) 범죄' 앞에서는 속수무책이다. 현재 시스템은 인공지능이 만들어내는 가짜 목소리를 가짜로 인식하지 못하기 때문이다. 대검이 첨단 신종범죄 대응방안의 우선대책으로 2027년까지 딥보이스 탐지 기술 개발에 나서기로 한 이유다.

대검 과학수사부는 큰 틀의 계획을 세운 상태다. '합성 유형 조사→합성음 탐지 기술 개발→음성 변조 탐지 기술 개발→결과물 보완·통합 솔루션 개발' 순으로 연구를 진행할 계획이다.

기술 개발에는 긴 시간이 걸릴 수밖에 없다. 민간에서도 카이스트를 비롯해 여러 연구소가 탐지 기술을 개발하고 있지만 수천 수만가지의 딥보이스 유형에 맞춰 각각의 탐지 기술을 개발해야 하는 만큼 속도가 더디다. 특정 컴퓨터바이러스를 탐지·제거하려면 특정 백신을 개발해야 하듯 AI 프로그램으로 만드는 딥페이크와 이를 잡는 AI 탐지기술은 '창과 방패의 싸움'이다.