경찰, 딥페이크 탐지 소프트웨어 개발…선거 여론조작 소탕

파이낸셜뉴스

2024.03.05 06:00:13

조회 1749 추천 0 댓글 9

/사진=뉴시스

[파이낸셜뉴스]경찰청 국가수사본부는 딥페이크 탐지 소프트웨어를 개발해 딥페이크를 이용한 범죄 단속을 위해 본격적으로 활용한다.

5일 경찰에 따르면 인공지능(AI) 기술의 급격한 발달과 함께 딥페이크 이용 범죄의 위협이 증대되고 있으며, 특히 제22대 총선을 앞두고 딥페이크 영상을 이용한 허위정보 유포 또는 여론조작에 대한 우려가 심화되고 있다.

이에 개정 공직선거법 제82조의8은 선거일 전 90일부터 선거일까지 딥페이크 영상 등을 이용한 선거운동을 금지했으며, 경찰 또한 해당 범죄에 대한 엄정 대응 기조를 천명한 바 있다.

해당 소프트웨어는 페이스 스왑(Face Swap) 등 딥페이크 영상으로 의심되는 영상을 시스템에 업로드하면 통상 5분~10분 내에 분석 작업을 완료해 가짜 영상인지 진짜 영상인지 판별한다. 또한, 판별이 완료됨과 동시에 결과보고서를 즉각 창출해 수사에 곧바로 활용할 수 있도록 한다.

기존에 만들어진 딥페이크 탐지 모델은 해외에서 제작돼 서양인 위주의 데이터로 구성된 것이 대부분이었으며, 따라서 한국인을 대상으로 합성된 영상에 대해서는 탐지율이 떨어지는 문제점이 있었다. 이번에 개발한 ‘딥페이크 탐지 소프트웨어’는 인물 5400명의 데이터 520만점(한국인 데이터 100만점 및 아시아 계열 인종 데이터 13만점 포함) 등 한국인과 관련한 다양한 데이터 학습이 이루어졌으며, 기존에 학습된 데이터가 아닌 새로운 형태의 합성 영상이 발견되더라도 대응할 수 있도록 최신 인공지능(AI) 모델을 적용했다.

해당 소프트웨어의 진위 여부 탐지율은 약 80%에 달하며, 탐지율이 100%가 아닌 점을 감안해 증거자료보다는 수사 방향을 설정하는 자료로 활용한다. 아울러 딥페이크와 관련한 새로운 기술이 끊임없이 개발.전파되고 있는 만큼, 딥페이크 영상 선거범죄에 대해서는 학계, 기업 등 인공지능(AI) 전문가로 구성된 민간 자문위원의 교차 검증을 거치도록 해 해당 소프트웨어의 오탐지 가능성도 최소화할 예정이다.

경찰청은 "딥페이크 이용 여부가 의심될 경우 ‘딥페이크 탐지 소프트웨어’를 통한 분석을 거쳐 빠르게 결과를 확인한 후, 적극적인 수사를 진행해나갈 수 있을 것으로 기대하고 있다"며 "향후 더욱 정확한 탐지가 이루어지도록 해당 소프트웨어를 고도화할 것이며, 선거범죄·합성성착취물 범죄 외에도 딥페이크를 이용한 다양한 범죄에 능동적으로 대처해 나가겠다"고 밝혔다.

beruf@fnnews.com 이진혁 기자

※ 저작권자 ⓒ 파이낸셜뉴스. 무단 전재-재배포 금지

▶ "남편과 텐트서 자는데 남성 7명이 들어오더니..." 끔찍 ▶ 배우 남친에 잠수 이별 당한 女 "관계 엄청했고, 신체 사진도.."▶ 아파트에서 발견된 남녀 시신, 둘 관계 알고보니..▶ 티아라 출신 아름 "전 남편이 대소변을..." 충격 주장 ▶ '전국노래자랑' 김신영에 돌연 하차 통보, 후임은...

고정닉 0

원본 첨부파일 1

202403041936058965_l.jpg

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	SNS로 싸우면 절대 안 질 것 같은 고집 있는 스타는?	운영자	24/05/06	-	-
10947	교제폭력 사소한 죄로 보지 말아야	파이낸셜뉴스	13:38	1	0
10946	'의대 증원' 제동 걸리나, 탄력 붙나…법원 판단에 쏠린 눈[법조인사	파이낸셜뉴스	13:35	1	0
10945	아버지 세금 고지서를 경비원이 받았으면 위법일까...법원 판단은[서초	파이낸셜뉴스	13:19	2	0
10944	잇따르는 대리수술에도 여전한 솜방망이 처벌 논란	파이낸셜뉴스	13:10	3	0
10943	<부고> 조재천(현대엘리베이터 대표이사)씨 장인상	파이낸셜뉴스	12:13	8	0
10942	<부고> 이종혁씨(삼성전자 커뮤니케이션팀 프로) 형제상	파이낸셜뉴스	12:10	13	0
10941	세네갈로 도주한 사기범, 14년만에 송환...아프리카 국가 최초	파이낸셜뉴스	11:15	10	0
10940	"신라젠 전 대표 외삼촌 BW 주식에 100억원대 증여세는 부당" 대	파이낸셜뉴스	10:20	12	0
10939	필리핀 도피 특수강도 3인방, 100일만에 전원 검거	파이낸셜뉴스	09:00	16	0
10938	'여친 살해' 의대생 프로파일러 이틀째 면담 [1]	파이낸셜뉴스	05.11	141	0
10937	'고령 리스크' 바이든 또 말실수…"김정은 한국 대통령"	파이낸셜뉴스	05.11	73	1
10936	법원도 뚫렸다…北 해킹조직 최소 2년 간 해킹 [1]	파이낸셜뉴스	05.11	92	1
10935	김해 카페서 금전 갈등 있던 여성 흉기 살해…40대男 체포	파이낸셜뉴스	05.11	75	0
10934	與, 野 초선 '채 상병 특검' 농성에 "못된 협잡 당장 멈춰야"	파이낸셜뉴스	05.11	55	0
10933	유승민 "민주당 전국민 25만원 특별법은 위헌" [1]	파이낸셜뉴스	05.11	87	0
10932	'법원 앞 유튜버 흉기 살해' 50대 남성 영장 심사 출석 포기	파이낸셜뉴스	05.11	52	0
10931	인천 미추홀 공무원, 사적 여행 하며 관용차 이용 신고	파이낸셜뉴스	05.11	44	0
10930	김정은 찬양가 '친근한 어버이' 국내 접속 차단	파이낸셜뉴스	05.11	52	0
10929	동료에게 폭언·무단결근 서울시 공무원, 직권면직 [1]	파이낸셜뉴스	05.11	85	1
10928	정부, 법원에 '의대증원' 자료 무더기 제출…'차주 결정'	파이낸셜뉴스	05.11	47	0
10927	현직 검사장, 부정청탁·조세포탈 의혹으로 검찰 조사	파이낸셜뉴스	05.11	49	0
10926	주말동안 전국에 '비' 예상…강풍 동반 최대 100㎜ 폭우	파이낸셜뉴스	05.11	54	1
10925	일본인 여성 원정 성매매 알선한 조직 검거 [67]	파이낸셜뉴스	05.11	9038	32
10924	테이블 던지고 골프채 스윙까지...아내 상습 폭행한 운동선수 출신 남 [85]	파이낸셜뉴스	05.11	16783	22
10923	공수처, '채상병 의혹' 해병대 공보실장 참고인 조사	파이낸셜뉴스	05.10	69	0
10922	"공천받게 해주겠다" .. 1억원 챙긴 전직 기자 재판행	파이낸셜뉴스	05.10	82	0
10921	정부, 법원에 '의대증원' 자료 제출.. 이르면 내주 결정	파이낸셜뉴스	05.10	75	0
10920	'조건만남' 미끼.. 흉기강도 벌인 10대 징역형	파이낸셜뉴스	05.10	105	0
10919	'성폭행·강제추행' 일본인 3명, 출국 직전 공항서 체포	파이낸셜뉴스	05.10	121	0
10918	러, 하르키우 국경 돌파 시도…우크라 "적군 격퇴"	파이낸셜뉴스	05.10	82	0
10917	'불법 체류' 네팔인, 도주 후 18시간 만에 경찰에 다시 체포	파이낸셜뉴스	05.10	73	0
10916	수사 무마 청탁과 함께 뇌물 받은 현직 경찰관 구속 기소	파이낸셜뉴스	05.10	72	0
10915	'여친 살인' 의대생, 3시간 프로파일러 면담…사이코패스 검사는 안해	파이낸셜뉴스	05.10	142	0
10914	'대법원장 낙마' 이균용, 대법관 후보로…55명 명단 공개	파이낸셜뉴스	05.10	71	0
10913	"노동절 집회방해" 민주노총·전장연, 경찰 책임자 고소	파이낸셜뉴스	05.10	60	0
10912	'핼러윈 참사 희생자 명단 공개' 민들레·더탐사 검찰 송치	파이낸셜뉴스	05.10	77	0
10911	상명대 앞 언덕서 7중 추돌사고..."인명피해 없어"	파이낸셜뉴스	05.10	72	0
10910	美대사관에 배달된 수상한 소포...."국과수 감식 결과 기다리는 중"	파이낸셜뉴스	05.10	70	0
10909	송영무 전 국방부 장관 "'계엄령 검토 문제 없다' 발언 할리 없다"	파이낸셜뉴스	05.10	67	0
10908	지하철역에서 쓰러졌다가 의식 차린 뒤 난동... 70대 남성 집행유예	파이낸셜뉴스	05.10	69	0
10907	"살려주세요!"... 집에서 의식 잃은 파킨슨병 환자, 경찰이 구조	파이낸셜뉴스	05.10	64	0
10906	'명품백 수수' 들여다보는 檢, 대면조사 가능할까	파이낸셜뉴스	05.10	62	0
10905	'배달원 사망' 만취 벤츠 DJ, 또 피해자 탓…"깜빡이 안 켰다" [15]	파이낸셜뉴스	05.10	1484	0
10904	부처님 오신 날 행사로 인해 서울 도심권 교통통제	파이낸셜뉴스	05.10	72	0
10903	전과 19범 출소 4개월 만에 소매치기로 또다시 구속	파이낸셜뉴스	05.10	92	0
10902	'인건비 부풀려 지자체서 360억원 빼돌린 혐의' 세방여행 대표 송치	파이낸셜뉴스	05.10	86	0
10901	경찰, 5월부터 모바일 총포소지허가증 운영	파이낸셜뉴스	05.10	69	0
10900	의대교수들, 오늘 휴진…응급·중증환자 진료 유지	파이낸셜뉴스	05.10	76	0
10899	충격의 강남역 '교제 살인'...'데이트 폭력범죄' 막을 방법없나 [1]	파이낸셜뉴스	05.10	396	0
10898	'강남역 교제 살인' 의대생, 범행 후 환복... 신상은 비공개하기로 [1]	파이낸셜뉴스	05.09	202	0