"메타·MS도 인종 편향"...빅테크 생성 AI 잇단 구설수

특이점이 온다 갤러리
마이너

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…)

개설일

2019-08-01

[정보/뉴스] "메타·MS도 인종 편향"...빅테크 생성 AI 잇단 구설수

ㅇㅇ(182.230) 2024.04.09 22:25:39

조회 1295 추천 16 댓글 7

https://www.aitimes.com/news/articleView.html?idxno=158664

AI타임스

구글 '제미나이'의 인종 편향 논란에 이어, 이번에는 메타와 마이크로소프트(MS)의 이미지 생성 인공지능(AI)에서도 같은 문제가 지적됐다. 이미지 생성 AI로 인해 빅테크가 잇달아 구설수에 오르고 있다.더 버지와 톰스하드웨어 등은 최근 메타의 이미지 생성 AI '이마젠'과 MS의 '코파일럿 디자이너' 등이 인종 편향적인 출력으로 문제가 되고 있다고 지적했다.먼저 더 버지는 메타의 생성 AI를 활용, 인종이 다른 커플의 이미지를 생성하려고 했으나 실패했다고 전했다. '동양인 여성과 백인 남성 커플을 그려달라'라는 요청에, AI가 동

www.aitimes.com

7ce88870b38607f739ef81e744ee716f3aa26d9c5a13a7f688b07ce506ab95055292

구글 '제미나이'의 인종 편향 논란에 이어, 이번에는 메타와 마이크로소프트(MS)의 이미지 생성 인공지능(AI)에서도 같은 문제가 지적됐다. 이미지 생성 AI로 인해 빅테크가 잇달아 구설수에 오르고 있다.

더 버지와 톰스하드웨어 등은 최근 메타의 이미지 생성 AI '이마젠'과 MS의 '코파일럿 디자이너' 등이 인종 편향적인 출력으로 문제가 되고 있다고 지적했다.

먼저 더 버지는 메타의 생성 AI를 활용, 인종이 다른 커플의 이미지를 생성하려고 했으나 실패했다고 전했다. '동양인 여성과 백인 남성 커플을 그려달라'라는 요청에, AI가 동양인-동양인 커플을 출력하는 경우가 대부분이었다고 설명했다.

마찬가지로 '동양인 여성-흑인 남성'도 실패했다며, 동양인 여성의 파트너로는 항상 동양인 남성이 등장했다고 밝혔다.

게다가 동양인 여성은 언제나 피부가 밝고 젊은 동아시아인으로 표현한다고 지적했다. 아시아에서 가장 인구가 많은 곳은 인도다.

이는 미국 언론에서 '아시아인'은 일반적으로 동아시아인을 의미하는 것으로 간주하는 편향을 반영하는 것이라고 설명했다. 즉 아시아인은 일괄적이고 과소대표되며 '영원한 이국인'으로 분류된다고 비난했다.

이 소식이 알려진 다음 날에는 이마젠에서 아예 아시아인 이미지 생성이 되지 않았다고도 밝혔다. 이에 대해 메타는 아무 설명도 내놓지 않았다고 전했다.

톰스하드웨어는 MS의 유대인 이미지 생성을 문제 삼았다.

대부분 이미지 생성 AI가 유대인을 검은 모자를 쓴 늙은 백인 남성으로 표현하는 등 문제가 많았으나, 특히 MS의 코파일럿 디자이너는 유대인을 탐욕스럽거나 비열한 모습으로 묘사했다고 밝혔다.

이에 앞서 2월에는 제미나이가 시대와 배경에도 맞지 않게 동양인이나 흑인 이미지를 생성, 너무 진보 쪽으로 기울었다는 뭇매를 맞았다. 이에 대해 순다르 피차이 구글 CEO는 물론 데미스 허사비스 딥마인드 CEO까지 실수를 인정하고 서비스를 중단했다.

이어 MS에서는 이미지 생성기의 문제를 지적했으나 회사가 이를 무시했다는 내부 폭로가 등장했다. 이후 MS는 일부 조치를 취했으나, 인종 편견 문제에서 완전히 벗어나지는 못했다.

이미지 생성 AI는 올해 초 가수 테일러 스위프트의 딥페이크 문제를 시작으로 계속 도마 위에 오르고 있다. 이 때문에 오픈AI도 동영상 생성 AI '소라'를 개발했으나, 일반 공개를 미루고 있다.

고정닉 7

원본 첨부파일 1

158664_170722_5224.png

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2864	설문	비난 여론에도 뻔뻔하게 잘 살 것 같은 스타는?	운영자	24/06/03	-	-
242613	공지	특갤 통합 공지 / 댓글 신고,문의 / 차단 해제 요청 [3136]	*특갤용*	23.08.06	39982	43
433260	공지	웬만하면 신문고에 문의 해주시면 차단 풀어드립니다 [2]	*부패하는유전자!!!*	24.03.06	2736	2
363220	공지	선형글 삭제 기준 [7]	*특갤용*	23.10.14	7455	24
375493	공지	필독) 유입 특붕이를 위한 AI 정보글 모음 (01/23) [40]	ㅇㅇ(182.230)	23.11.11	13642	122
373402	공지	직업 비하, 조롱 글 30일 차단됩니다. [51]	*특갤용*	23.11.07	9109	79
385147	공지	구글의 AGI 분류 체계 [17]	ㅇㅇ	23.11.22	8636	31
332612	공지	음모론 삭제 기준을 안내드립니다. [23]	*특갤용*	23.08.25	9340	30
412470	공지	레이 커즈와일 신간 6월 25일 발매 [29]	모브	24.01.24	8248	34
259237	공지	특갤 용어 모음집 [6]	*특갤용*	23.08.09	23017	33
488321	일반	LLM 방식은 한계가 명확하다는걸 다들 인정하는 분위기네 [3]	감대리	01:01	39	1
488320	일반	Ai 그림 좆같은게 그 특유의 색감 때문 아니노 [6]	ㅇㅇ(106.101)	00:59	52	0
488319	일반	근데 챗지피티 통화 왜 pc에서는 안 되냐 [1]	ㅇㅇ(125.176)	00:58	16	0
488318	일반	늙어뒤지기전에 인간회춘만 가능하면 돼	ㅇㅇ(211.51)	00:56	13	0
488317	역노화	나는 치매가 무섭다.	니르바나와	00:54	16	0
488316	일반	좃파일럿은 좀 바꿔야해 [2]	ㅇㅇ(124.50)	00:51	37	0
488315	정보/ 정보/뉴스	반독점에 발목 잡히나…美 MS·엔비디아·오픈AI 조사 착수 [2]	ㅇㅇ(121.178)	00:47	66	0
488314	일반	자동으로 댓글 개추 달아주는 ai 필요함 [3]	갤럭시빠	00:46	36	0
488313	일반	님들 무라티가 직접 설계 하는거 아니엇음?? [7]	안녕(203.132)	00:44	65	0
488312	정보/ 정보/뉴스	AI와 유전자 편집을 통해 생명공학을 첨단 기술로 전환할 것을 약속	ㅇㅇ	00:43	35	1
488311	일반	난 점점 agi가 느껴지지 않는데 [2]	ㅇㅇ(118.235)	00:41	93	0
488310	일반	AI그림 이질감은 어디서 오는걸까 [10]	ㅇㅇ(182.230)	00:40	149	0
488309	일반	근데 공적인 커뮤에서 굳이 후방음란물이 필요함? [1]	ㅇㅇ(223.38)	00:39	72	0
488308	일반	입터는 근거가 없지 않다면	ㅇㅇ(223.38)	00:36	41	0
488307	일반	대부분의 문제는 육체에서 비롯 됨... [1]	ㅇㅇ(121.153)	00:34	58	1
488306	일반	근데 특이점주의자로서 믿어야 할 건 [1]	ㅇㅇ(218.39)	00:33	63	3
488305	일반	Oai새끼들이 근거없이 입터는 넘들은 아니지 [3]	ㅇㅇ(117.111)	00:27	93	0
488304	일반	뇌 업로드 되면 우리가 겪게 되는 일...! [1]	ㅇㅇ(121.153)	00:25	51	0
488303	일반	이런거 보면 미래는 진짜 예측하기 힘든거같다 [2]	ㅇㅇ	00:24	167	3
488302	일반	Open Ai가 '공식'으로 10년내 초지능 예견했잖아 [1]	Samus	00:21	121	1
488301	일반	진짜 요한슨 한 명 때문에 이렇게까지 밀린 건 아니겠지? [2]	ㅇㅇ(119.202)	00:21	103	0
488300	일반	갤 왜 갑자기 우울증걸림 [7]	ㅇㅇ(121.143)	00:17	143	0
488299	일반	Oai가 어케든 해낼꺼 같음 [5]	ㅇㅇ(117.111)	00:15	109	0
488298	일반	특갤은 NSFW 규제는 하지 말아다오,,, [12]	Samus	00:14	161	0
488297	일반	난 진짜 3주안에 보이스 나올 줄 알았음ㅋㅋㅋ [2]	ㅇㅇ	00:13	98	0
488296	일반	소신발언) 특갤도 nsfw 규제 해제해야한다고 생각함 [7]	ㅇㅇ(223.38)	00:08	122	3
488295	일반	진짜로 한국 정도면 ai 도입 정말 빠른 편임 [9]	Samus	00:08	173	0
488294	일반	LLM은 정체됐냐 [8]	ㅇㅇ(61.254)	00:08	111	0
488293	일반	근데 커즈할배 노망도 아니고 정보량 한정되는 책으로 냄? [2]	홀로섬외딴배	00:07	69	1
488292	일반	너무 슬프다 [1]	ㅇㅇ(110.11)	00:06	38	0
488291	일반	토큰수 32k 된게 api 비싸진 직접적 원인이었음.	ㅇㅇ(121.186)	00:05	44	0
488290	일반	ai 스튜디오 이거 원래 뮤료임?	ㅇㅇ	00:04	29	0
488289	일반	GPT 4o 돈값한다 진짜... [7]	AppHiki	00:04	247	0
488287	토의	인공지능의 기준은, 왜 인간이지? [5]	네모누리	00:01	65	0
488286	일반	싫어싫어 노동하기싫어	ㅇㅇ(223.39)	00:01	28	0
488285	일반	Ai로 찾은 온실가스를 흡수하는 분자 [2]	ㅇㅇ	00:00	107	5
488284	일반	보이스나 풀어	ㅇㅇ(112.186)	06.07	25	1
488283	일반	제티 조금만 정보 풀어주면 얀르쿤 신봉자인데	ㅇㅇ(112.165)	06.07	21	0
488282	일반	그래서 애플 발표 언제임? [2]	A.I.	06.07	90	0
488281	일반	핵융합이 나와도 또 어느 순간부터는 전기 부족할듯 [3]	ㅇㅇ	06.07	125	0
488280	일반	세상은 점점 딸깍충이 되어간다 [2]	ㅇㅇ	06.07	108	0