얼굴과 음성을 정교하게 합성해 허위 정보와 범죄에 악용되는 딥페이크 범죄는 최근 3년 사이 폭발적으로 증가.

하지만 딥페이크 판별 기술이 부족해 수사기관이 관련 증거물 분석에 어려움을 겪었던 상황.

■ AI가 해결책을 마련했습니다!

행정안전부와 국립과학수사연구원이 함께 개발한 'AI 딥페이크 분석모델'.

새롭게 개발된 딥페이크 모델은?

· 딥페이크 흔적을 자동으로 탐지.

· 변조 의심파일(이미지·영상·음성) 속 조작 여부를 빠르게 감별.

· 일부 데이터 손실 또는 음질 저하 증거물에서도 분석 가능.

■ 벌써 이런 성과가 있었어요!

5~6월 두 달 동안 증거물 60종, 총 15건의 딥페이크 감정을 성공적으로 수행.

<'AI 딥페이크 분석 모델' 주요 감정 사례>

① 공직선거법 위반: 허위사실 유포 영상 분석.

- 제21대 대통령 선거 기간 중 유포된 딥페이크 영상을 '딥페이크'라고 명확히 감정하여 신속하게 수사기관에 제공.

② 디지털 성범죄: 불법 합성물 분석.

- 지인 얼굴을 나체 이미지에 합성해 유포한 사건에서, 국과수가 '딥페이크'임을 규명했고, 수사 착수를 위한 결정적 증거로 활용.

■ 앞으로는 어떻게 활용되나요?

· '보이스피싱 음성 분석모델'과 연계해 더 많은 범죄 수사에 활용 예정.

· 'AI 딥페이크 분석모델'을 디지털증거물인증시스템(DAS)에 통합해 업무 효율성을 더욱 높일 예정.

· 여성가족부, 방송통신위원회 등의 기관에도 본 모델을 단계적으로 확산해, '딥페이크' 대응 역량을 강화할 예정.

행정안전부는 앞으로도 AI와 데이터 분석 기술을 국민 안전과 민생 안정을 위한 행정 분야에 적극적으로 도입해 나가겠습니다!

[뉴스출처 : 행정안전부]