'대(大) AI 시대'에 판치는 'AI 음란물'... "사회적 논의 서둘러야"

파이낸셜뉴스

2023.03.05 15:09:50

조회 3593 추천 7 댓글 59

생성 AI로 각종 음란 이미지 생성
누구나 쉽게 접근·사용 가능
저작권·초상권도 모호...

범죄 이용 등 각종 악용 가능성

[파이낸셜뉴스] #지난달 중국의 한 업체가 '호화 요트파티'를 개최한다는 광고를 냈다. 선정적 복장을 하고 있는 접대부들이 요트 파티에서 5시간동안 접대를 한다는 내용이 포함됐다. 1대 1 접대 서비스 가격은 1일에 430달러. 그러나 네티즌들이 광고에 공개된 접대부들이 인공지능(AI)으로 만든 가짜라는 것을 밝혀내자 파티는 취소됐고 업체는 경찰의 수사를 받게 됐다.

5일 관련업계에 따르면 대화형 AI 서비스 '챗GPT' 등장을 기점으로 AI를 이용한 사기사건과 윤리 논란이 늘어날 것으로 전망되고 있다. 사례에 나타난 가상 인물의 경우 AI가 학습한 이미지가 인터넷상 실제 인물 사진이기 때문에 윤리적·법적 문제가 발생할 가능성이 높아서다. 해외에서 각종 선례가 나오며 국내에서도 범죄에 악용될 수도 있다는 지적이 나온다. 기존의 법체제로는 이를 제제할 수단도 마땅치 않다.

실제 인터넷 검색엔진에 'AI 실사' 등을 검색하면 각종 커뮤니티에 올라온 음란 이미지를 쉽게 찾아볼 수 있다. 댓글 역시 "실제 사진인지 구별 되지 않는다"는 반응이 주를 이룬다. 이용자들은 음란 이미지를 생성하는 방법과 노하우를 공유중이다.

이미지 생성 AI는 사용자가 대화창에 조건만 입력하면 그에 적절한 이미지를 만들어준다. 이미지 생성 AI는 사용자가 검색창에서 검색해 자신의 컴퓨터에 까는것도 어렵지 않다. 음란물 제작 역시 같은 방식으로 이뤄진다.

업체가 서비스하는 생성 AI들은 음란 이미지를 막기 위해 금칙어를 정해두고 있지만, 사용자가 이를 피할 방법은 많다. 직접적인 단어 대신 약어나 은어 등을 입력하는 식이다. 또 인터넷에 공개된 오픈 소스 AI의 경우 이런 금칙어의 제한을 받지 않는다. 누구나 마음만 먹으면 어떤 이미지도 만들어낼 수 있다는 뜻이다.

AI(인공지능) 프로그램이 기존 온라인상에 존재하는 이미지와 사람이 입력한 키워드를 종합해 만들어낸 그림. 이를 이용해 익명의 트위터 이용자는 '튀르키예 피해 후원금'을 받고 잠적한 것으로 알려졌다. 자세히 보면 구조대원 손가락이 6개다. /사진= 트위터 갈무리

AI가 만드는 이미지가 기존의 저작권이나 초상권 개념에 제한되지 않는 것도 문제다. 실제 이미지 생성 AI는 학습하는 데이터에 대한 저작권이나 초상권에 대한 사용료는 지불하고 있지 않다. 그림 생성 AI가 학습하는 이미지는 이미 인터넷 상에 있는 수억개의 이미지들이다. 그 중에는 일반인 이미지도 대다수다. AI는 이 중 무작위로 사용자가 입력한 조건에 맞는 이미지를 합성·조합해 그림을 생성해낸다.

기술이 더 발전하면 생성AI 로 음란물 영상도 제작이 가능할 것으로 전망되는 등 각종 논란은 커질 것으로 보인다. 전문가들은 저작권, 인격침해 등의 문제에 대해 선제 대응이 필요하다고 지적한다.

최병호 고려대 인공지능연구소 교수는 "생성 AI가 무료로 사용이 가능하고 유통이 쉽다는 측면에서 음란물 역시 급속도로 증가할 것"이라며 "각종 범죄와 결합해 악용될 가능성도 높기에 사회적 합의와 규범 마련이 필요하다"고 지적했다.

장병탁 서울대 AI 연구원장도 "AI로 만든 음란 이미지는 '원본'을 규명하기 불가능하다는 점에서 더 복잡한 문제가 될 것으로 보인다"며 "악용과 오용을 방지할 수 있는 사회적 제도 논의를 빨리 시작해야 한다"고 제언했다.

wongood@fnnews.com 주원규 기자

※ 저작권자 ⓒ 파이낸셜뉴스. 무단 전재-재배포 금지

▶ 대중 목욕탕 간 여배우 반전 고백 "아줌마들이 내 가슴을.."▶ 제주도 유명 관광지에서 男 변사체 발견, 알고보니 3주 전에..▶ 리조트에서 추락 후 사망한 여고생, 부검 해보니..놀라운 결과 ▶ 장인어른과 단둘이 사는 유명 개그맨, 아내 반응이..▶ 전 남친이 사준 반지 끼고 다니던 女, 현남친에게 들키자..반전

고정닉 0

원본 첨부파일 1

202303051407377347_l.jpg

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	주위 눈치 안 보고(어쩌면 눈치 없이) MZ식 '직설 화법' 날릴 것 같은 스타는?	운영자	24/04/29	-	-
10688	'윤석열 공직선거법 위반' 신고한 참여연대 경찰 출석	파이낸셜뉴스	10:26	0	0
10687	경찰, '불법 리베이트 혐의' 고려제약 압수수색	파이낸셜뉴스	10:07	0	0
10686	"5·18 북한 소행"... 전광훈, 허위사실 유포 혐의로 송치	파이낸셜뉴스	09:43	1	0
10685	무면허 상태로 회사 차 몰다 사망…법원 "업무상 재해"	파이낸셜뉴스	09:35	3	0
10684	오동운 공수처장 후보자, 채상병 사건은 "법과 원칙 따라 수사할 것"	파이낸셜뉴스	04.28	34	0
10683	강제로 재산 나눠주던 '유류분' 제도 47년만에 바뀐다[법조인사이트]	파이낸셜뉴스	04.28	36	0
10682	잇따르는 감기약 악용 사례 어쩌나[김동규의 마약 스톱!]	파이낸셜뉴스	04.28	34	0
10681	할인 쫓아 '마트 뺑뺑이'…살인 물가에 서민·자영업자 '곡소리'[르포	파이낸셜뉴스	04.28	36	0
10680	"민간자격으로 공직자후보 검증하겠다" 소송…法 "국가가 할 일"	파이낸셜뉴스	04.28	30	0
10679	[기자수첩] 수사는 '정치' 아닌 '진상규명'의 영역이다	파이낸셜뉴스	04.28	28	1
10678	'마약 투약 혐의' 오재원 1심 첫 재판 시작[이주의 재판일정]	파이낸셜뉴스	04.28	30	0
10677	"코인범죄 증가로 노년층 피해 증가 체감, 끊임없이 전문성 고도화하겠	파이낸셜뉴스	04.28	32	0
10676	'반도체 기술 유출' 형이 잡히자, 동생까지 범행...검찰의 1분기	파이낸셜뉴스	04.28	29	0
10675	재산관리인 통하지 않은 北 주민과 로펌 약정, 보수는 무효·위임은 유	파이낸셜뉴스	04.28	27	0
10674	거짓말 탐지기, 무용론과 유용론 [판결의 재구성]	파이낸셜뉴스	04.27	60	0
10673	'빅5' 병원 교수들, 주 1회 휴진 결정…의료개혁특위 '반쪽 출범' [10]	파이낸셜뉴스	04.27	9101	3
10672	현직 검사 음주측정 거부 뒤 또 음주운전, 대검 감찰 착수	파이낸셜뉴스	04.26	74	0
10671	'라임 몸통' 이인광 회장과 공모한 코스닥 상장사 전 대표 구속기소	파이낸셜뉴스	04.26	86	1
10670	무혐의 종결된 한동훈 딸 '허위 스펙' 의혹, 수사심의위서 검토 [1]	파이낸셜뉴스	04.26	104	1
10669	법무법인 지평, '글로벌 공급망 변화' 세미나 개최[로펌소식]	파이낸셜뉴스	04.26	76	0
10668	영화 불법 다운 유도한 뒤 '합의금 장사'···9억 챙긴 부부 기소	파이낸셜뉴스	04.26	94	0
10667	'의대증원' 법정 공방 지속…의대생 "입학정원 변경은 계약 위반"	파이낸셜뉴스	04.26	95	0
10666	‘디넷’ 보관 정보로 별건 수사…대법 “위법, 증거능력 없어”	파이낸셜뉴스	04.26	68	0
10665	30대 스포츠 아나운서, 음주운전 혐의 입건 [1]	파이낸셜뉴스	04.26	477	0
10664	경찰, 임현택 의협 차기회장 추가 압수수색	파이낸셜뉴스	04.26	73	0
10663	'이재명 대선 지원 의혹'...KIDA 간부 압수수색	파이낸셜뉴스	04.26	72	0
10662	'채상병 수사 외압' 의혹 유재은 법무관리관 공수처 출석 "성실히 답	파이낸셜뉴스	04.26	68	0
10661	'오송 참사 책임' 서울 강서경찰서장 직위해제	파이낸셜뉴스	04.26	69	0
10660	하이브, '뉴진스 독립 의혹' 민희진 어도어 대표 고발	파이낸셜뉴스	04.26	76	0
10659	'옆집 나무가 태양광 패널 가려'…이웃 살해한 40대 징역 23년 확 [9]	파이낸셜뉴스	04.26	1260	1
10658	한미일, 기술보호·수출통제 분야 협력 확대키로	파이낸셜뉴스	04.26	64	0
10657	'3000만원 든 가방 지하철서 슬쩍' 50대男 이틀 만 검거	파이낸셜뉴스	04.26	79	0
10656	'AI 법률상담' 등장에 변협 "혁신 명분 법률위반 안돼"	파이낸셜뉴스	04.26	167	0
10655	'행진 중 경로 이탈' 금속노조 간부 2명 구속영장 기각	파이낸셜뉴스	04.25	84	0
10654	검찰, '창업주 120억 횡령·배임' 의혹 바디프랜드·한앤브라더스 압	파이낸셜뉴스	04.25	90	0
10653	28면 사진설명	파이낸셜뉴스	04.25	90	0
10652	'사건 무마 뒷돈 혐의' 현직 경찰 수사팀장 구속	파이낸셜뉴스	04.25	85	0
10651	수사권 조정 이후 경찰 사건처리, 지난해부터 빨라져	파이낸셜뉴스	04.25	79	0
10650	"저커버크 친누나 영입".. 허위공시 코스닥 상장사 전 대표 재판행	파이낸셜뉴스	04.25	84	0
10649	"저는 죄인입니다"...칼부림 예고 후 팻말 든 30대 남성 집유	파이낸셜뉴스	04.25	78	0
10648	야구 배트에 필로폰 숨겨 들여온 미국인, 강제송환[사건 인사이드]	파이낸셜뉴스	04.25	81	0
10647	"낮에도 음주 단속합니다..." 경찰, 스쿨존 교통법규 위반 집중단속	파이낸셜뉴스	04.25	71	0
10646	고인 형제,자매에게 상속 강제하는 유류분 제도, 47년만에 '위헌'	파이낸셜뉴스	04.25	82	0
10645	[단독] 조국, 상고이유서에 '김관진 판례' 적시…대법서 반전 나오나 [1]	파이낸셜뉴스	04.25	116	0
10644	"매우 억울해"...유덕열 전 동대문구청장 첫 재판서 혐의 부인	파이낸셜뉴스	04.25	63	0
10643	검찰, 전준경 전 민주연구원 부원장 기소...'8억 뒷돈 의혹'	파이낸셜뉴스	04.25	65	0
10642	"전 연인 에세이 출판금지 해달라"…백윤식, 1심 이어 2심도 승소 [9]	파이낸셜뉴스	04.25	1863	4
10641	고인 형제·자매에게 상속 강제하는 유류분 제도…헌재, '위헌' 결정	파이낸셜뉴스	04.25	72	0
10640	간호조무사에게 수술부위 봉합시킨 의사, 벌금 1500만원	파이낸셜뉴스	04.25	73	0
10639	檢, '中에 핵심 기술 유출' 삼성전자 전 부장 등 기소...반도체 [11]	파이낸셜뉴스	04.25	1084	5