경찰, 딥페이크 탐지 소프트웨어 개발…선거 여론조작 소탕

파이낸셜뉴스

2024.03.05 06:00:13

조회 1738 추천 0 댓글 9

/사진=뉴시스

[파이낸셜뉴스]경찰청 국가수사본부는 딥페이크 탐지 소프트웨어를 개발해 딥페이크를 이용한 범죄 단속을 위해 본격적으로 활용한다.

5일 경찰에 따르면 인공지능(AI) 기술의 급격한 발달과 함께 딥페이크 이용 범죄의 위협이 증대되고 있으며, 특히 제22대 총선을 앞두고 딥페이크 영상을 이용한 허위정보 유포 또는 여론조작에 대한 우려가 심화되고 있다.

이에 개정 공직선거법 제82조의8은 선거일 전 90일부터 선거일까지 딥페이크 영상 등을 이용한 선거운동을 금지했으며, 경찰 또한 해당 범죄에 대한 엄정 대응 기조를 천명한 바 있다.

해당 소프트웨어는 페이스 스왑(Face Swap) 등 딥페이크 영상으로 의심되는 영상을 시스템에 업로드하면 통상 5분~10분 내에 분석 작업을 완료해 가짜 영상인지 진짜 영상인지 판별한다. 또한, 판별이 완료됨과 동시에 결과보고서를 즉각 창출해 수사에 곧바로 활용할 수 있도록 한다.

기존에 만들어진 딥페이크 탐지 모델은 해외에서 제작돼 서양인 위주의 데이터로 구성된 것이 대부분이었으며, 따라서 한국인을 대상으로 합성된 영상에 대해서는 탐지율이 떨어지는 문제점이 있었다. 이번에 개발한 ‘딥페이크 탐지 소프트웨어’는 인물 5400명의 데이터 520만점(한국인 데이터 100만점 및 아시아 계열 인종 데이터 13만점 포함) 등 한국인과 관련한 다양한 데이터 학습이 이루어졌으며, 기존에 학습된 데이터가 아닌 새로운 형태의 합성 영상이 발견되더라도 대응할 수 있도록 최신 인공지능(AI) 모델을 적용했다.

해당 소프트웨어의 진위 여부 탐지율은 약 80%에 달하며, 탐지율이 100%가 아닌 점을 감안해 증거자료보다는 수사 방향을 설정하는 자료로 활용한다. 아울러 딥페이크와 관련한 새로운 기술이 끊임없이 개발.전파되고 있는 만큼, 딥페이크 영상 선거범죄에 대해서는 학계, 기업 등 인공지능(AI) 전문가로 구성된 민간 자문위원의 교차 검증을 거치도록 해 해당 소프트웨어의 오탐지 가능성도 최소화할 예정이다.

경찰청은 "딥페이크 이용 여부가 의심될 경우 ‘딥페이크 탐지 소프트웨어’를 통한 분석을 거쳐 빠르게 결과를 확인한 후, 적극적인 수사를 진행해나갈 수 있을 것으로 기대하고 있다"며 "향후 더욱 정확한 탐지가 이루어지도록 해당 소프트웨어를 고도화할 것이며, 선거범죄·합성성착취물 범죄 외에도 딥페이크를 이용한 다양한 범죄에 능동적으로 대처해 나가겠다"고 밝혔다.

beruf@fnnews.com 이진혁 기자

※ 저작권자 ⓒ 파이낸셜뉴스. 무단 전재-재배포 금지

▶ "남편과 텐트서 자는데 남성 7명이 들어오더니..." 끔찍 ▶ 배우 남친에 잠수 이별 당한 女 "관계 엄청했고, 신체 사진도.."▶ 아파트에서 발견된 남녀 시신, 둘 관계 알고보니..▶ 티아라 출신 아름 "전 남편이 대소변을..." 충격 주장 ▶ '전국노래자랑' 김신영에 돌연 하차 통보, 후임은...

고정닉 0

원본 첨부파일 1

202403041936058965_l.jpg

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	주위 눈치 안 보고(어쩌면 눈치 없이) MZ식 '직설 화법' 날릴 것 같은 스타는?	운영자	24/04/29	-	-
9766	[속보]아산 새마을금고 복면강도, 안성 복합쇼핑시설서 검거	파이낸셜뉴스	03.08	96	0
9765	이천수 폭행·협박 60~70대 남성 2명 신원 특정...불구속 입건	파이낸셜뉴스	03.08	90	1
9764	장래 대통령감은 누구?...한동훈 24%, 이재명 23%, 조국 3%	파이낸셜뉴스	03.08	109	0
9763	[단독] 檢 "'1조 먹튀' 하루인베스트, 외부운용사 1명에 예치 자	파이낸셜뉴스	03.08	83	0
9762	가수 츄, 전 소속사와 전속계약 분쟁 항소심도 승소	파이낸셜뉴스	03.08	88	0
9761	'입틀막' 임현택 회장 검찰 송치...대통령 경호처 요구 불응	파이낸셜뉴스	03.08	93	1
9760	"왜 내 행동을 막아"...흉기 공격 50대 남성 긴급 체포	파이낸셜뉴스	03.08	78	0
9759	'여친 안대 씌우고 몰카' 아이돌 래퍼 첫 공판서 "혐의 인정"	파이낸셜뉴스	03.08	90	0
9758	군인권센터 "이종섭 전 국방부 장관 구속수사해야"	파이낸셜뉴스	03.08	83	1
9757	이종섭 출국금지 해제..."수사 적극 협조하겠다고 했다"	파이낸셜뉴스	03.08	64	0
9756	'체포 중 상해'...술 취해 출동 경찰 때린 순경, 자신 체포한 경	파이낸셜뉴스	03.08	75	0
9755	의사 사칭 800만원 편취한 40대 남성...구속	파이낸셜뉴스	03.08	66	0
9754	'라임 핵심' 김봉현 도주 도운 친누나, 재판行	파이낸셜뉴스	03.08	62	0
9753	마약류 투약 후 주민센터에서 횡설수설...중국인 입건	파이낸셜뉴스	03.08	58	0
9752	응원댓글 일부만 떼어 '명예훼손' 혐의…헌재 "취소하라"	파이낸셜뉴스	03.08	56	1
9751	시민단체, '전공의 블랙리스트' 관련 고발장 접수	파이낸셜뉴스	03.08	60	0
9750	인의협 “잔류 전공의 색출은 집단 내 괴롭힘...참담함 느껴" [3]	파이낸셜뉴스	03.08	957	5
9749	[속보] 법무부 "이종섭 조사받았다…출국금지 해제"	파이낸셜뉴스	03.08	61	0
9748	이재명 "저·아내는 무작위 기소…영부인은 거부권에 특검도 막혀"	파이낸셜뉴스	03.08	60	0
9747	경찰, '의협이 전공의 블랙리스트 작성' 문건 출처 확인 중…의협 "	파이낸셜뉴스	03.08	71	0
9746	주수호 위원장, 경찰 출석…휴대전화 포렌식 참관	파이낸셜뉴스	03.08	57	0
9745	박성재 법무장관 "이종섭, 출국금지 이의신청 접수...공적 업무 감안	파이낸셜뉴스	03.08	56	0
9744	'테라' 권도형 한국행…”통보 오면 일정 협의”	파이낸셜뉴스	03.08	59	0
9743	[속보]법무장관 "이종섭 출국, 공적 업무 수행"	파이낸셜뉴스	03.08	62	0
9742	GTA 산안드레아스 멀티플레이 사설 서버 제작, 후원금 챙긴 20대 [16]	파이낸셜뉴스	03.08	1121	3
9741	'고작 70만원 훔치려다'...다방 업주 2명 살해 '이영복'[사건	파이낸셜뉴스	03.08	72	0
9740	'딸 특혜채용 의혹' 송봉섭 전 선관위 사무차장 구속영장 기각 [4]	파이낸셜뉴스	03.08	114	3
9739	음주운전·폭행 등 잇단 경찰 비위에 경찰청장 '특별경보' 발령	파이낸셜뉴스	03.07	68	1
9738	‘김영삼 전 대통령 부인’ 손명순 여사 향년 95세로 별세	파이낸셜뉴스	03.07	73	1
9737	'억대 뒷돈' KIA 장정석 前단장, 김종국 前감독 재판행	파이낸셜뉴스	03.07	63	0
9736	'전공의 행동지침' 글 작성자는 의사였다...경찰, "곧 소환 조사"	파이낸셜뉴스	03.07	70	0
9735	남현희 고발인, 수사관 교체 요청…"신뢰 저버려"	파이낸셜뉴스	03.07	57	0
9734	법원, 'YTN 최대주주' 변경 처분 집행정지 신청 기각	파이낸셜뉴스	03.07	61	0
9733	머리 맞댄 전국 법원장들..."판사정원법 개정안 조속 처리해야"	파이낸셜뉴스	03.07	61	0
9732	檢, '운전자 바꿔치기' 가수 이루 항소심…징역 1년 구형	파이낸셜뉴스	03.07	61	0
9731	'검정고무신' 저작권 유족품으로...항소심 판단은 어떨까	파이낸셜뉴스	03.07	56	0
9730	서영교 의원 의정활동 방해한 60대 남성...구속 기소	파이낸셜뉴스	03.07	51	0
9729	의협 간부, 8일 경찰 재출석…전공의 내부 갈등 거세	파이낸셜뉴스	03.07	57	0
9728	[르포]김포시 공무원 극단적 선택 배경 '악성민원', 연간 4만건 넘	파이낸셜뉴스	03.07	59	0
9727	'백현동 수사무마 의혹' 임정혁 혐의 부인…"이원석 총장 증인신청"	파이낸셜뉴스	03.07	49	0
9726	공수처, '채상병 사건 수사 외압' 이종섭 전 국방장관 소환조사	파이낸셜뉴스	03.07	48	0
9725	검찰, 전준경 전 민주연구원 부원장 억대 금품수수 혐의 수사	파이낸셜뉴스	03.07	51	0
9724	"빌라 공동현관 열려있어도 무단출입하면 주거침입" 대법 [3]	파이낸셜뉴스	03.07	1095	7
9723	檢, 대통령기록관 압수수색...울산시장 선거개입 재수사 본격화	파이낸셜뉴스	03.07	59	1
9722	檢, 'SG발 주가폭락' 가담한 피의자 41명 추가 기소	파이낸셜뉴스	03.07	51	0
9721	"개인 공인회계사 고용산재보험 사무 대행 금지는 합헌" 헌재	파이낸셜뉴스	03.07	52	0
9720	'딸 부당채용 의혹' 前선관위 사무차장 구속심사 출석 [2]	파이낸셜뉴스	03.07	73	6
9719	술 취해 거리 앉아있던 순경, 출동한 경찰관 폭행...현행범 체포 [10]	파이낸셜뉴스	03.07	1903	12
9718	[속보] 檢, 대통령기록관 압수수색...울산시장 선거개입 재수사	파이낸셜뉴스	03.07	48	0
9717	치매환자 손톱 깎아주다 손가락 괴사시킨 간병인, 집유	파이낸셜뉴스	03.07	62	0