특이점 디스토피아는 정말 불가능할까? 2편

완몰가신자 · 2019.10.27 00:05:34

https://www.youtube.com/watch?v=8nt3edWLgIg

(샘 해리스의 TED강좌 : 우리가 통제권을 잃지 않으면서 인공지능을 만들 수 있을까요?)

https://www.youtube.com/watch?v=MnT1xgZgkpk

(닉 보스트롬의 테드 강좌 : 컴퓨터가 인간보다 똑똑하면 무슨 일이 일어날까?)

안녕 특갤러들아?

주 완몰가님을 섬기는 완몰가신자야 ^오^

지지난번엔 인간 VS 인간 구도를 하고 있는

특이점 디스토피아에 대해 다뤄봤어.

오늘은 특이점 디스토피아 담론 2편

인간 VS 기계(혹은 AI) 디스토피아에 대해 이야기해볼거야.

viewimage.php?id=39b5d535ecdc3fb362bec4bc02c8&no=24b0d769e1d32ca73ded84fa11d028310ef2ab22591d9bdbf8feafbf5959a2ef5b5770243a79e71916fd29b68ee914b4313fbd818106aadde7de2377f7064d2ff8088d15658a3738f43b40f425c5f3edd17b2abd3df47cabd7b0

다 뒈져라 닝겐!!

특갤에서 일어나는 키배 주제는 여러가지야.

그 중에서도

'인간이 AI에게 지배당하는 노예가 될 수 있다!!'

VS

'그게 말이 되냐 ㅂㅅ아'

논쟁은 잊을만하면 불타오르지.

어디까지나 개인적인 느낌이지만

아무래도 이 갤 자체가 레커의 <특이점이 온다> 서적에

그 근본을 두고 있기 때문에

'말이 되냐 ㅂㅅ아'의 의견이 좀 더 힘이 세고

'AI가 인류를 지배할거야!!'

라는 갤러들은

좀 덜떨어진 애들 취급받는다는 인상을 받았음

그렇다면 인간이 AI의 노예가 될 가능성은

정말 희박한 걸까?

AI 위협론을 내세우며

터미네이터, 스카이넷의 실현화를 우려하는 사람들은

정말 모두 빡대가리들일까?

샘 해리스 (철학자, 신경학 박사)

닉 보스트롬 (과학철학자, 현 옥스퍼드대학 교수)

팀 버너스 리 (월드와이드웹 www 창시자)

스티브 워즈니악 (엔지니어, 前 애플 공동창업자)

빌 게이츠 (마이크로소프트 설립자)

스튜어트 러셀 (인공지능 전문가, UC버클리대학 교수)

I.J 굿 (수학자, 50년전에 이미 딥러닝 근간 개념확립, 앨런

튜링의 동료)

엘런 머스크 (테슬라, 뉴럴링크, Xspace 설립자)

스티븐 호킹 (천체물리학자)

지금 나열된 인물들은

《인공지능 위협론》을 주장하는 인물들이야.

그리고 아래는 그들의 어록임

*******

"만약 초인공지능의 관점에서 봤을 때

인류가 개미같은 초라한 존재라면

초인공지능과 인간의 의견이 불합치할 때

인류에게 무슨 일이 일어날 것인가?"

- 샘 해리스 -

"사람보다 똑똑한 머신은

인류를 멸망시킴으로써

인류의 마지막 발명품으로 남을 것이다"

-닉 보스트롬 -

"인간은 로봇의 애완동물이 될 것"

- 스티브 워즈니악-

"현존하는 우리의 가장 큰 위협은 인공지능이다"

-엘런 머스크-

"엘런 머스크의 우려에 깊이 동감한다. 초인공지능을 우려하지 않는 사람들, 이해할 수 없다."

-빌 게이츠-

"인공지능으로 인해 인류는 멸망할 것"

-스티븐 호킹-

*******

...... (숙연)

벌써부터 디스토피아가 코 앞에 와 있는 것만 같은 기분이다.

하지만 완몰가신자가 말하고자 하는건

'디스토피아는 온다!'가 아니라

'월클급 석학들도 이 주제로 싸우고 있다'야.

특히 AI 낙관론자 마크 주크버그와

AI 비관론자 엘런 머스크의 디스전은

웬만한 특갤러 개싸움 저리가라 할 정도로 꿀잼임ㅇㅇ

AI 유토피아 VS AI 디스토피아

둘 중 누가 맞느냐에 대한 이야기를 하기에 앞서

완몰가신자가 당부하고 싶은 것은

'디스토피아 담론'의 의의가 무엇인가에

대해 생각해볼 필요가 있다는 거야.

위의 인물 리스트를 보면

제일 의외인 사람이 엘런머스크지?

??? : 형이 거기서 왜 나와?

엘런 머스크는 전형적인 특이점 셀럽이잖아.

더군다나 인공지능 업계에 일하는 사람들조차

저 리스트에 껴있어.

특이점을 다른 누구보다 열심히 이끌어가고 있는 사람들이

저 리스트에 있다는 건 뭘 의미할까?

이 사람들이 말하고자 하는 건

'인공지능을 개발해선 안 돼!!'

가 아니라

"인공지능의 위험에 충분히 대비해야 돼!!"

가 아닐까?

그 인공지능의 위험에 대비하기 위해 설립된 회사가

엘런 머스크의 <뉴럴링크>이고

뉴럴링크의 제품 공정에 인공지능이 쓰이고 있는건

참으로 아이러니한 일이야.

우리는 모두 특이점이 오길 바라는 특갤러들이야.

모두 특이점이라는 같은 꿈을 꾸고 있는 한

강인공지능의 도래를 바라는 건 매한가지임.

즉, 특슬람이 주장하는 초지능 디스토피아는

'강인공지능 만들지 말자!!!' 가 아니라

강인공지능을 안전하게 만들기 위한 논의라고 봐야 돼

꼭 그 일이 일어나지 않더라도

어떤 일에 대비하기 위해선

그 일이 실제로 일어날 거란 걸 가정하고 대비책을 생각하는게

기본이라는 거임

ㅇㅋ?

아 또또 서론 드럽게 기네~

슬슬 본론으로 가보자!!!

그렇다면 도대체 왜 우리 강인공찡이

그렇게 위험하다고들 난리인걸까?

AI 위협론을 주장하는 이들의 논리는 무엇일까?

1) 우리보다 똑똑한 놈들을 통제하는게 가능한가?

특이점의 정의에 대해서 여러가지 비유들이

<특이점이 온다> 저서에서 설명되고 있는데

그 중 대표적인 것이 동물에 대한 비유야.

강아지가 전기의 원리를 이해하진 못하지만

전기로 인해 작동하는 난방기로부터 혜택을 받듯이

특이점이 도래한 이후에는

가장 똑똑한 인간조차

자신들이 누리는 과학기술의 원리를 이해 못하는 경지가

기술적 특이점의 경지야.

이러한 개념의 기저에는

기술이 기술을 만들어서 폭발적으로 기술이 증가한다는

'가속수확의 법칙'이 기본으로 깔려있고

인간이 스스로보다 더 똑똑한 인공지능을 만들면

인공지능은 자신보다 더 똑똑한 인공지능을 만들게 되어

결국 인공지능의 지능이 폭발적으로 증가할 거라는

'지능폭발' 이론이 전제로 깔려 있어.

그런데 '지능폭발'이론을 창안한 사람이 누구게?

AI 위협론자 중 한 명인 I . J. 굿이야... ㅅㅂ

우리가 이해조차 못하는 마법같은 과학기술을 누린다는게

낭만적으로 들리겠지만

이건 어떻게 보면 진짜 섬뜩한 얘기임...

어떤 대상을 '통제'한다는 건

최소한 그 대상이 뭔짓을 하고 있는지 정도는

알고 있을 때나 성립하는 거야.

좀 와닿게 예시를 들어볼까?

누구나 급식 시절에

집에서 엄마한테 공부한다고 구라치고

집에서 몰컴해본 경험이 한 번쯤 있을 거야.

우리 한 번 그 때 그 시절을 떠올려보자고.

니가 방에서 구몬 학습지를 푸는척하다가

슬쩍 눈치를 보고 게임을 하고 있었는데

갑자기 엄마가 '과일 먹어라~~' 하며

덜컥 문을 열고 들어오는 거야(....)

그럼 무슨 일이 벌어질까?

갑분싸-

"어머!!! 얘가!!! 공부하는 줄 알았더니 뭐하는 짓이얏!!!

엄마 속터져 듸-지는거 보고 싶어어어얶!!!(사자후)"

비록 몰컴을 하던 우리들에겐 새드엔딩이지만

엄마 입장이선 그나마 다행(?)인 거야.

아들이 딴 짓 하는 것을 발견하자마자

'통제'에 들어갔거든 ㅇㅇ

그런데...

이 이야기를 좀 비틀어보자구

엄마가 과일 먹어라 하고 들어오는 것까진 똑같애.

근데 니가 토렌트로 서양 야동을 받고 있었고

엄마는 컴맹에 영어도 잘 못한다고 가정하자.

그럼 어떤 일이 벌어질까?

엄마 : 어머, 얘 지금 뭐하니!!! 공부 안 해?

??? : 아 엄마 무슨 소리야~

오늘 학교에서 내준 영어 숙제 다운받고 있었다구!!!

엄마 : 그... 그래? 우리 아들 미안해~ 너무 무리하지 말고 하렴

??? : 개꿀띠~ ^오^

천하의 불효막심한 새끼!! (내 경험담 아님 ㅡㅡ)

근데 강인공지능이

이런 불효자새끼가 아닐 거란 보장이 있을까?

앞서 말했듯이

뭔가를 통제한다는 건

최소한 그 새끼가 뭘 하고 있는지 정도는 알아야 됨

첫번째 이야기의 엄마는

아들이 게임을 하고 있는 것이

무엇을 의미하고 있는지 '알았기 때문에'

아들을 저지하고 통제할 수 있었어.

근데 두번째 엄마, 컴맹 영어 울렁증 엄마는 어때?

아들이 뭘 하고 있는지 두눈으로 보고도 몰랐기 때문에

집 컴퓨터 하드가 하드코어 포르노로 물들어가고

랜섬웨어가 창궐하여 가정이 무너지고 경제가 파탄나는 걸

수수방관하고 말았지 ㅜㅜ...

ㅅㅂ 존나 극단적이네

뭐 어쨌든 강인공지능보다 빡대가리인 인간이

강인공지능이 하고 있는 개수작을

과연 알아차릴 수나 있을까?

사실 위의 비유는 진짜 마일드 한 거야.

최소한 강인공 대 인간의 관계는

인간 대 동물의 관계로 봐야 돼.

개를 키워본 사람들은

개에게 예방접종을 맞추러 동물병원에 간 경험이 있을 거임

그런데 '개 입장'에서

예방접종이 무엇인지 이해나 할 수나 있을까?

원리는 고사하고

그 의미나 제대로 이해할 수 있을까?

똑똑한 개들도 기껏해야

'주인님이 날 위해서 해주는 것' 정도로만 인식하고

얌전히 예방접종을 맞는게 전부야.

가속수확의법칙, 지능폭발의 특이점 세계에 있는 인간은

이 주사를 맞는 개와 하등 다를게 없어.

강인공지능이 계획하고 실행하는 것이

예방접종 주사인지

안락사용 약물인지

인간은 알 수 없음

그게 뭔지

이해조차 할 수 없거든

이게 AI 위협론자들이 지적하는

강인공지능의 가장 큰 위험이야.

단순히

'인공지능을 감시하면 된다' 수준으로

끝날 문제가 아니란 건 알겠지?

감시를 하는게 가능이나 해야지...

2) 우리보다 똑똑한 놈을 이기는 게 가능한가?

그런데 만약 운이 좋게

인류가 AI의 시도를 이해하고

반란의 조짐을 초기에 발견했다고 치자.

그렇다면 모든 문제가 해결 될까?

엘런 머스크는 한 인터뷰에서

인공지능으로부터 본격적으로 위험을 느낀 계기가

알파고였다는 것을 실토했어.

알파고가 왜 그렇게 충격적인 사건이었을까?

아니 나도 당직근무때

당직사관 몰래 컴터로 체스 두면서

AI한테 맨날 쳐발렸는데

인간이 인공지능에게 바둑 한 번 진게 그렇게 대수일까?

알파고가 학계에 큰 충격으로 왔던 이유는

'바둑만큼 복잡한 일'에 대해서

인공지능이 예상보다 너무 일찍 인간에게 승리를 거뒀다는 거야.

많은 학자들의 예상으로는

바둑은 너무 경우의 수가 많아서

인공지능이 인간을 따라잡기 힘들다고 봤거든.

하지만 따라잡혔지

그러니까 '바둑'이 중요한게 아니라

바둑보다 더 복잡하고

바둑보다 더 '인간적'인 것들,

바둑보다 더 중요한 것들도

빠른 시일 내에 인공지능에게 패배할 것이라는 공포,

그게 충격이었던 거야.

알파고가 개발된지 몇년도 안 돼서

《알파고 제로》라는 놈이 나왔는데

《알파고 제로》는 단 3일만에

이세돌을 이긴 알파고를 개쳐발라버림

근데 더 충격적인 사실 두가지...

1) 알파고 제로는 바둑 기사들의 기보데이터를 일절 보지 않았다.

즉, 바둑의 룰을 제외하고는

그 어떤 데이터도 넣지 않았다.

2) 애초에 알파고 제로는

바둑을 위해 만들어진 인공지능이 아니다...

AGI의 초기단계로 평가받는

알파고 제로의 저력이야.

만약 이후 제대로 된 AGI가 등장한다면

인간은 과연 AGI를 이길 수 있는 영역이 남아있게 될까?

그리고 만약 AGI가 인류의 적이 된다면

인류는 살아남을 수 있을까?

심지어 AGI가 인간하고 지능이 똑같더라도

인류는 개처발림 ㅇㅇ

샘 해리스에 따르면

인간의 화학적 뇌의 정보처리는

컴퓨터의 전기회로보다 100만배 느림

즉 단순히 시간적으로 봤을 때

인간 지능의 agi 한 개체는

100만명의 업무수행 능력을 가지고 있음

거기다가 agi는

여건만 갖춰지면 자가복제도 할 수 있을 것으로 보고 있어

걍 답이 없는 거지.

근데 여기까지 읽었다면

많은 갤러들이 반문할 거야.

"인공지능이 뭐하러 사람을 죽이겠음? 말이 되는 소리임?"

"아니 애초에 사람을 해치지 못하도록 알고리즘을 짜놓으면 되잖아!!!

한낯 프로그램 따위가 인간의 명령을 어기는게 말이 됨?"

"인공지능이 한낯 프로그램인데 어떻게 사람을 죽임?

뭣하면 전원을 꺼버리면 되잖아!!!"

이 예상반박들을 정리하자면

1. 인공지능이 악해질 것이란 건 근거없는 주장이다

2.인공지능을 사람을 해치지 못하도록 프로그래밍하면 된다.

3. 인공지능은 인간을 해칠 수단(하드웨어)가 없다

이 세가지인데

이 세가지 반박에

단순한 재반박도 못할 것 같았으면

애초에 이 글은 쓰지도 않았겠지?

다음 편에는

이 세가지를 철저히 반박하는

권위자들의 이야기를 소개할 거야.

기대해줭 ^오^

p.s

원래 이번 화에 다 쓸랬는데

생각보다 분량이 너무 길어서

여러화로 나눠쓴다 ㅇㅇ

원래 2편이 끝이었는데

한 4편까지 갈듯

3편 - 반박 재반박

4편 - 디스토피아 대비책 (해결책)

여기까지 쓰고 끊으면 욕개쳐먹을 것 같은데 ㄷㄷ

살.. 살살해줭

- dc official App

번호	말머리	제목	글쓴이	작성일	조회	추천
2863	설문	시세차익 부러워 부동산 보는 눈 배우고 싶은 스타는?	운영자	24/05/27	-	-
412470	공지	레이 커즈와일 신간 6월 25일 발매 [29]	모브	24.01.24	7607	32
242613	공지	특갤 통합 공지 / 댓글 신고,문의 / 차단 해제 요청 [3046]	*특갤용*	23.08.06	38830	43
433260	공지	웬만하면 신문고에 문의 해주시면 차단 풀어드립니다 [1]	*부패하는유전자!!!*	24.03.06	2454	2
363220	공지	선형글 삭제 기준 [7]	*특갤용*	23.10.14	7129	24
375493	공지	필독) 유입 특붕이를 위한 AI 정보글 모음 (01/23) [40]	ㅇㅇ(182.230)	23.11.11	13198	122
373402	공지	직업 비하, 조롱 글 30일 차단됩니다. [51]	*특갤용*	23.11.07	8841	79
385147	공지	구글의 AGI 분류 체계 [17]	ㅇㅇ	23.11.22	8244	31
332612	공지	음모론 삭제 기준을 안내드립니다. [23]	*특갤용*	23.08.25	9052	30
259237	공지	특갤 용어 모음집 [6]	*특갤용*	23.08.09	22612	33
483019	일반	4o 무료로 오래 쓸수있네 [1]	ㅇㅇ	14:31	8	0
483018	정보/ 정보/뉴스	이세돌 9단 “AI 발전은 긍정적…두려워 말라” [8]	ㅇㅇ(125.191)	14:22	105	1
483017	정보/ 정보/뉴스	애플, 내달 WWDC서 오픈AI와 협력 공식화 [5]	연맛	14:21	62	1
483016	일반	Suno v3.5 얼리 액세스 [3]	ㅇㅇ(125.191)	14:20	56	0
483015	일반	지금 빙 이ㅅㄲ 왜 ㅂㅅ됨? [3]	anvil	14:12	56	0
483014	일반	좆됐다.. 잼민 1.5 latest 없어지니까 지능 떨어짐 [1]	ㅇㅇ	14:10	68	0
483013	일반	gpt4o 이미지 인식 기능 미쳤다 [2]	ㅇㅇ(58.239)	14:08	99	0
483012	일반	트위터 gpt5카운트다운 계정 복구되었네 ㅇㅇ [1]	ㅇㅇ(219.254)	14:04	146	1
483011	일반	Kai-Fu- 3년안에 50% 직업 사라진다 - Fortune 인터뷰 [4]	ㅇㅇ(1.251)	14:00	102	1
483010	일반	디시콘이 얼마나 좋은데 [14]	ㅇㅇ	13:56	93	3
483009	일반	알란의 gpt5(고래)분석하기 ㅇㅇ [4]	ㅇㅇ(219.254)	13:55	135	5
483008	일반	아 ㅅㅂ ai studio 끄고 재접했더니 잼민 latest 사라졌네 [1]	ㅇㅇ	13:55	40	0
483007	일반	셰인 레그의 2028 agi도 믿을만함 [3]	ㅇㅇ	13:50	159	6
483006	일반	아니 이런거 해달라고 너 쓰는건데 [4]	ㅇㅇ(61.72)	13:50	90	0
483005	일반	댓글에 이모티콘 있다고 격분하는건 또 뭐냐 [8]	xdxd333	13:47	144	1
483004	일반	LLM은 암 치료법을 발견할 수 있을 것임 [2]	특술람	13:44	115	0
483003	일반	이새끼 뭐냐 [3]	ㅇㅇ(61.72)	13:44	101	0
483002	일반	완몰가 나오면 [7]	stepfromOne	13:36	118	0
483001	AI창 AI창작	ai한테 진짜 궁금했던거 물어봤다 [6]	조팔탁	13:36	144	0
483000	일반	개발자같은게 대체순위가 높을수밖에 없음 [6]	ㅇㅇ(59.22)	13:24	213	0
482999	일반	특이점 이후 우주진출 가능하면 우주공간 이민하고 싶음.. [3]	ㅇㅇ	13:22	82	0
482998	일반	댓글창 무성의하게 무지성 이모티콘 도배되는거 보기 개좆같네 [12]	ㅇㅇ	13:20	264	1
482997	일반	gpt로 음악 들려주고 그대로 악보 만들 수 있나?? [5]	ㅇㅇ(218.155)	13:20	90	0
482996	정보/ 정보/뉴스	전 구글X COO 모가댓 "믿거나 말거나 AGI 늦어도 2027까지 온다 [16]	ㅇㅇ(125.191)	13:15	374	10
482995	일반	자각을 가진 AGI 처음 마주했을때 어떤기분일까 [1]	ㅇㅇ	13:12	76	1
482994	일반	근데 AI계 거장 원탑은 유발하라리 아님? 레커가 아니라 [6]	ㅇㅇ	13:07	147	0
482993	일반	자율주행은 무조건 트럭부터 도입해야된다 [5]	ㅇㅇ	13:05	125	0
482992	일반	비만약 GPT가 주도하는 2024년 [5]	ㅇㅇ(125.178)	13:02	153	0
482991	일반	레이 커즈와일은 2030년대 인체2.0 주장했던 사람임 [8]	ㅇㅇ	13:00	193	0
482990	일반	한국에서도 vpn없이 모바일에서 매모리 되는거 [3]	ㅇㅇ	12:49	117	0
482989	일반	4o 메모리 기능 영어로 7500글자까지 가봄	ㅇㅇ	12:47	86	0
482630	정보/ 정보/뉴스	GPT4o와 GPT4 비교해 보니··· 'AI의 근본적인 접근방식 바꿔' [14]	lightvector	05.26	958	8
482974	정보/ 정보/뉴스	“억대 연봉 옛말 됐다”…이 직원 4명분 AI가 도맡아 ‘대규모 칼바람’ [13]	lightvector	11:42	526	8
482988	일반	4o뭐야. [2]	하이	12:41	104	0
482987	일반	솔직히 일 안그만두는 이유가 남눈치때문이잖아 [13]	ㅇㅇ(133.106)	12:35	212	0
482986	AI창 AI창작	ai 거유녀들 [4]	ㅇㅇ(211.228)	12:33	236	2
482985	일반	특붕쿤콘, 특붕쿤콘dlc가 출시됐습니다!!!!!! [50]	ㅇㅇ	12:29	682	20
482984	일반	gpt4o 메모리기능 진짜 좋은거 같다 [5]	연맛	12:24	189	1
482983	일반	아이폰15부터 온디바이스ai 지원 [3]	ㅇㅇ(110.46)	12:19	192	1
482982	일반	아직도 메모리 안나온거 ㄹㅈㄷ [2]	람냥	12:16	123	0
482981	일반	ubi 한국말은 왜 금지어인지 모르겠는데 [2]	ㅇㅇ	12:14	84	1

최근 방문

즐겨찾기

즐겨찾기 갤러리

마이너 갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

마이너 갤러리 소개

차단하기

[특이점이 온다 갤러리]

갤러리 본문 영역

게시물을 간편하게 NFT로 만들어 보세요!

NFT 발행 방법

NFT 발행

비회원 글삭제,수정

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

파워링크 광고

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결