[ 먼저 온 미래_장강명 ] 가치가 기술을 선도하고 있다_251225

머리가 혼란스러운 이유는, 집수리를 위해 5천만원 정도를 써야한다는 것을 깨달았기 때문이다. 처음에는 물이 조금 샜으니까 2, 3백만원 들여서 찾아서 수리하고 도배하면 되겠지 생각했는데, 그게 아니었던 것이다. 이사도 해야하고 바닥도 뜯어야하고 싱크대도 바꾸고 가구도 새로 사야한다. 놀랬다.

 

마음이 안정되기 시작한 것은 가구를 보러 다니면서다. 6인용 식탁과 10자 장농을 보러 다니면서 돈을 쓸수 있다는 생각이 들었다. 견적을 받으면서 꼭 5천만원이 아니어도 좋고, 5천만원을 들여 깨끗한 집을 만드는것도 좋겠다는 생각이 들었다. 그래서 마음이 좀 가라앉았다.

 

1. 먼저 온 미래

 

소설가 장강명이라고 하는데, 모르는 사람이다. 이 사람이 미래에 대해서 쓴다고. 그런데, 다른 소설가가 했다는 이말은 마음에 들었다. 재미있는 무엇이 중요하다.

 

"배명훈 소설가는 인터뷰에서 ‘로봇 때문에 직업을 잃을 수도 있지 않겠느냐’라는 질문을 받고 이렇게 대답했다. “ (로봇이 아니라) 누군가가 창작을 하는 것이다. 작가들 관점에서는 위대한 무엇인가가 중요하지 그것을 꼭 사람이 만들어야 하느냐는 중요한 문제가 아니다.”

 

위대한 작품이 이미 많이 쏟아져나와 있다. 어릴때 만화방에 가득한 만화책을 보면서 얼마나 흥분되었는지 모른다. 돈이 없어서 5권 보고 나면 나와야해서 얼마나 아쉬웠는지 모른다. 5분에 하나씩 위대한 작품들이 쏟아져나온다면, 즐거운 일 아닌가? 원하면 그 모든 것을 즐길수 있다면 얼마나 좋을까. 다 읽어볼수는 없겠지만 말이다.

 

인공지능의 위대함 때문에 위대함을 다시 생각해 봐야한다고. 위대함과 멀리 떨어져 살아서 제대로 생각해본 일이 없는 것은 사실이다. 지금 생각을 해볼까. 글쎄, 꼭 위대하다는 게 뭔지 알고 싶지 않은데,,,

 

"이 사고실험에는 괴이하고 거의 부적절하게 다가오는 대목이 있다. 단순히 ‘위대한 작품을 쓴 주체가 인간이 아니다’라는 점이 문제가 아니다. 그보다는 ‘위대한 작품이 24시간 동안 288편 나왔다’라는 상황이 문제다. 자동차나 휴대전화는 24시간 동안 288대가 생산되어도 괜찮지만, 위대한 작품은 그렇게 나오면 안 될 것 같다.

 

(중략) 우리는 위대함이 과연 무슨 뜻인지에 대해 다시 생각해봐야 한다."

 

알파고 제로. 바둑규칙만으로 바둑을 홀로 배우고 바둑계를 잠재워버렸다.

 

"2017년 10월 구글 딥마인드는 알파고의 새 버전이자 가장 강력한 버전을 개발했다고 밝혔다. 국제학술지 《네이처》에 논문으로 발표했다.  ‘알파고 제로’라고 불리는 이 새 버전은 이전 버전들과 근본적으로 다른 점이 있었다. 바둑을 독학으로 배운 것이다. 이세돌과 겨룬 버전 (흔히 ‘알파고 리’라고 불린다)과 커제와 겨룬 ‘알파고 마스터’ 버전은 사람 기사들이 둔 기보를 학습했다.

 

알파고 제로는 사람 기사들의 기보는 전혀 학습하지 않았으며, 오로지 바둑 규칙만 입력되어 있었다. 그런데 혼자 바둑을 둔 지 36시간 뒤에 알파고 리의 실력을 넘어섰다. 72시간 동안 490만 판을 혼자 둔 뒤에는 알파고 리와 100판을 겨뤄 100번 모두 이겼다. 40일 동안 2900만 판을 혼자 둔 뒤에는 알파고 마스터와 100판을 겨뤄 89승 11패를 거뒀다."

 

4. 평평함과 공평함

 

뚜렷한 이야기와 흐릿한 이야기가 있다. 알파고 이전에는 흐릿한 이야기가 바둑세계를 지배했다면, 알파고가 나온뒤로는 뚜렷한 이야기가 바둑을 지배한다. 게다가 확률이라는 멋진 숫자를 갖고 나왔다. 전자도 확률로 존재하고 이길 가능성도 확률로 존재한다. 마지막 순간에 이 둘 모두 뚜렷하게 결정이 난다. 삶의 길을 보여준다.

 

바둑을 두는 사람들은 확률을 보지못해 흐릿한 세계속에서 자기길을 간다. 그리고 결정된 것을 받아들인다. 삶 또한 그러하다. 다만 삶에서 흐릿하지 않으면 좋은 일들이 있다. 그때 인공지능의 도움이 필요하다. 의사, 판사, 감정평가사 등등의 결정에 따르기가 어려웠다. 이제는 좀 따를만하겠다. 인공지능이 돕든 그들이 돕든, 내가 믿을만한 도구가 생겼기 때문이다.

 

"(최명훈 9단)은 "예전에 정답으로 알고 있었던 것도 진정한 정답이 아니었고, 일류 기사라 하더라도 뭐가 정답이라고 딱부러지게 얘기하는 사람은 없었어요"라고 말했다. 과거에는 고수를 찾기도 힘들었고, 만나기도 힘들었고, 그들을 만나서 이야기를 들어도 그 말 자체가 애매했다. 그런데 인공지능은 '이런 장면에서 여기를 둬라, 저런 장면에서는 저기를 둬라, 이렇게 시작하고 그다음에는 이렇게 해라'라고 아주 뚜렷하게 알려줬다.

"공부라는 게, 내가 열심히 해서 어디까지 갈 수 있다는 목표가 보이면 쉬워요. 망망대해에서 허우적거리는 느낌이 어려운 거죠. 예전에는 고지도 안 보였고, 제가 발전하는지 아닌지도 알 수가 없었죠. 기껏해야 승부를 통해서 입증하는 방법밖에 없었습니다. 저는 요즘 후배들 보고 이런 얘기를 많이 해요. '이제는 진짜 열심히만 하면 얼마든지 성적을 낼 수 있다. 되게 좋은 시대다." (95쪽)

 

이성은, 감성의 주인이면서 변호사다.

 

"사람들이 다 함께, 한목소리로 인공지능을 거부하는 일은 아마도 벌어지지 않으리라는 것이다. 그 업계에 일단 인공지능이 도입되어 영향을 미친 뒤에는 말이다. 도덕심리학자 조너선 하이트는 인간의 감성을 코끼리에, 이성을 기수에 비유한다. 이성은 자신이 감성을 조종하고 있다고 생각하지만 실은 그 위에 올라타 있는 것에 불과한 경우가 많다. 하이트는 이성을 감성의 노예라기보다는 변호사라고 설명한다. 감성이 어떤 문제에 대해 옳고 그름을 결정하고 나면 이성은 그런 결정의 근거가 될 알맞은 논리를 찾는다." (102쪽)

 

우리는 기술의 미래에 대해 부작용에 대해 알지 못한다. 스마트폰이 제3세계의 많은 사람들에게 일자리를 만들어 그들을 절대빈곤에서 구해주지 않았을까? 우울증과 왕따가 스마트폰과 소셜미디어에서 만들어지는 것일까. 새로운 세상은 히틀러나 증기기관차의 세상보다 고통스럽고 끔찍할까. 그리되지 않도록 끊임없이 생각하고 대책을 세워나가야 한다는 것에는 고끄한다. 인공지능의 세상은 = 우리가 살아가야할 움벨트다.

 

"인공지능은 스마트폰이나 소셜미디어보다 훨씬 더 큰 변화를 일으킬 것이다. (중략) 인공지능은 스마트폰과 스마트폰 뒤에 나올 다른 여러 기기, 그리고 소셜미디어와 그 뒤에 나올 다른 여러 미디어와 결합할 것이다. 그래서 지금은 우리가 뭐라고 불러야 할지조차 알 수 없는 '무언가'가 될 것이다. 그 무언가는 사실상 우리가 살아야 하는 환경 그 자체일 것이다." (113쪽)"

 

5. 언어라는 도구 너머에서

 

사람의 권위는 제한되어 있는데, 인공지능의 권위는 고정되어 있을까? 그럴수 없지 않을까. 사람은 = 자유를 만끽해본 사람은, 허리를 잘 수그리지 않는다. 인공지능에 고끄하기도 하고 아니기도 할것이다. 바둑을 배우는 사람들이 이미 그렇게 하고 있다. 블루스팟만을 따르는 사람들은 없으며, 확률이 높은 수들에 대해 따지고 들고 내것을 만들려고 하기 때문이다. 

 

"제가 알파고 나오기 조금 전에 들었던 얘기가 뭐냐 하면요, '요즘은 다들 너무 똑같이 둔다'라는 말이었어요. 예전에는 박정환 9단이 두던 포석, 커제 9단이 두던 포석을 따라 뒀고, 지금은 카타고나 절예가 추천한 수를 따라 두는 거고요. 어차피 따라 두는 사람은 따라 두고요, 자기 뜻대로 두는 사람은 본인이 두고 싶은 대로 둬요." (124쪽)

 

어떤 새로운 느낌은, 권위에 대한 도전에서 온다. 아무 생각없이 고끄하면 쓴 말들을 = 그 말들의 권위를 곱씹어보면서, 새로운 느낌이 들고, 새로운 지식으로 나아간다. 말글의 뜻을 새롭게 세우는 것도 그리 어려운 일은 아닐것이다. 흐릿한 세계에서 확률의 세계에서 빠져나갈수 있는 것은 빠져나가도 된다.

 

"사람들은 기세라는 말을 쓰면서 별로 혼란스러워하지 않는다. 그래서 여태껏 그냥 섞어서 써왔고, 서로 다른 의미를 왜 한 단어로 부르냐고 불만을 표하는 이도 없었다. 그런데 기풍과 마찬가지로 기세도 바둑 AI 프로그램을 설명할 때 쓰려니 그제야 위화감이 든다. 인공지능에게도 기세가 있나? 인공지능이 연승을 거둘때 '기세가 대단하다'라고 표현해도 될까? 인공지능이 등장한 뒤에야 비로소 우리는 기세라는 단어가 지나치게 사람다운 뉘앙스를 품고 있었다고 생각하기 시작한다." (129쪽)

 

뇌과학에 대한 이야기를 들을때마다 그런 생각이 들었다. 다른 세계의 이야기라서 알아들을수가 없다. 인공지능의 블랙박스만이 아니라 80억의 블랙박스도 이해하기 어려운것은 마찬가지다. 너의 숨겨진 의도를 밝혀달라고 요구할수는 없다. 드러난 말과 논리로만 이해해야 한다. 그럴수밖에 없지 않은가? 사람들은 말수가 적은 사람들을 더 믿는다. 수다스러운 사람의 말은 잘 믿지 않는다. 그런데, 인공지능이 말이 없는게 왜 문제가 될까. 우리는 그들을 얼마든지 필요한만큼 이해할수 있다. 받아들이기 어려우면 버리면 된다. 우리가 결정할수 있다. 

 

“구글 딥마인드는 알파고에게 지극히 단순한 바둑의 규칙과 상대를 이겨라'라는 더 단순한 목표를 줬다. 알파고는 딥러닝으로 어찌어찌 그것을 수행할 능력을 얻었다. 그러기까지 알파고 내부에서 무슨 일이 일어났는지 우리는 거의 모른다. 그런 측면에서 알파고를 블랙박스라고 부를 수 있겠다. 그런데 사실은 우리들의 뇌 역시 같은 의미로 블랙박스이긴 마찬가지다” (130쪽)

 

사람이 감각하는 세계는 머리속에서 만들어진 세계다. 눈으로 보고 손으로 만져진다고 해서 우리가 느껴지는 것과 똑같은 현실이 있다고 믿을수 없다. 잘 만들어진 환각의 세계가 현실세계다. 여기에 인터넷과 디지털로 만들어진 세계가 하나 더해진들 무슨 문제가 있을까. 알맞게 잘 맞춰서 살아가면 된다.

 

“인터넷은 온라인이라는 새로운 세계를 현실 세계에 추가했으며, 이제 사람들은 온라인과 오프라인이 뒤섞인 세상을 산다. 온라인에서는 공간 개념이 중요하지 않으며 정보가 이동하는 데 드는 비용이 0에 가깝다. 인터넷 이후 사람들은 공간 감각이 기묘해졌고 극도로 저렴한 정보 이동 비용을 활용한 비즈니스와 사회 활동들이 등장했다. 취향이나 성 정체성, 후천적 장애 등을 이유로 과거에는 서로를 발견하기 어려웠던 사람들이 쉽게 공동체를 건설할 수 있게 됐다. 그 공동체는 장소라는 제약에서 완전히 벗어날 수도 있다.” (141쪽)

 

7. 새로운 일자리, 혹은 '죽음의 집'

 

아는것이 올바르고 많아져야 겨우 사람이 바뀔수 있다. 인공지능이 뛰어난 성과를 내는것은 아는것이 많기 때문이다. 그렇지못하다면, 잘 지켜보고 더 많이 생각해봐야 한다. 인공지능의 이야기를, 현자의 이야기를 듣듯이.

 

“그러나 결국은 사람들이 인식을 바꿀 것이다. 어떤 기술은 사람들의 현실 인식을 바꾸고, 새로운 인식을 지닌 후손들은 과거의 인식을 낯설고 우스꽝스럽게 여기게 된다. 그러면 옛 토템은 하나둘 무너진다. 그 토템이 보호하던 가치도 흔들리거나 무너진다.” (187쪽)

 

사람이 보는 손해를 기계-인터넷-인공지능에 돌려서는 안된다. 인공지능이 받아들여지는것은, 사람들이 바뀌어서 그렇다. 존경받던 교사라는 직업이 감정노동자가 되었고, 존경하는 대법관이 조롱거리가 되었다. 그리될만해서 그리 된것이다.

 

“바둑 산업의 시장 규모가 다른 요인 없이 오로지 인공지능이라는 한 가지 원인 때문에 위축된 건 아니다. 인공지능 충격을 말하는 바둑계 인사 중에서도 그런 식으로 말하는 사람은 없다. 바둑은 축구나 농구와 아주 다르다. 시간이 오래 걸리고 조용한 게임이며, 공부를 하지 않은 사람이 보면 어떤 상황인지조차 알 수 없다. 숏폼 콘텐츠의 시대에 바둑 동호인의 수는 줄고 있고, 그런 가운데 인공지능이라는 타격이 가해졌다고 말하는 게 정확하다.

 

문학계가 인공지능의 영향을 받을 때도 그런 식일 것 같다. 다른 여러 원인으로 문학작품을 읽는 사람이 점점 줄어드는 가운데 인공지능이 타격을 가할 것이다.”(209-10)

 

살릴려고 하다가 죽이는 일은 줄이면 좋지 않겠는가. 의사들을 너무 오래 진료실에 붙잡아두지 않아도 된다면 그것도 좋은 일이다. 한가지 걱정은 인공진단에 집중하다보면, 인공진단을 평가할수 있는 의사들이 없어질수도 있지 않을까 하는 것이다.

 

"우울증 환자의 자기보고와 의사의 진단, 처방, 그리고 처방의 결과는 모두 데이터베이스로 만들 수 있다. 딥러닝 기법으로 그 사례들을 학습한 AI 진단 도우미가 우울증 진단과 처방에 비범한 통찰을 지니게 되는 것은 시간문제다. AI 진단 도우미는 어떤 의사도 얻지 못한 암묵지를 얻을 수도 있고, 그러면서도 그걸 의사에게 말로는 설명해 줄 수 없을지도 모른다. 의사는 그 암묵지가 효과를 발휘함을 보면서도 그걸 이해하지 못하고 흉내도 제대로 못 낼 수 있다.

그렇다 하더라도 여전히 처방전에 자기 이름을 서명하는 존재는 의사일 것이다. 의사는 그 권한을 잃고 싶지 않을테고, 진단도우미 개발사는 그 책임을 지고 싶지 않을 테니까.” (215쪽)

 

전문가의 판단에 고끄하지 못하기 때문에 이런 이야기가 반갑다.

 

"판결 도우미의 판결이 무난하다는 인식이 법조인 사회 안팎에 퍼지면, 결국 새로운 기준으로서의 역할을 하게 된다. 그러면 인공지능이 자기 제안 내용을 설명하는 게 아니라, 인공지능과 의견이 다른 인간 판사들이 그 이유를 해명해야 할 처지에 몰린다. 판사들은 판결문 초안을 쓸 때 AI 판결 도우미의 제안 내용을 살피고 자기 생각과 비교하게 될 것이다. 감정평가사나 손해사정인도 마찬가지다." (219쪽)

 

가치있는 일은 많다. 너무 많아서 오히려 걱정이지 않을까. 부패와 부당함으로부터 멀어지는 인공지능의 시대가 될것을 바란다. 쉽지않을 것이다. 사람은 그리되기 어렵지만 기계는 된다. 사람은 24시간 일하며 살수 없지만, 기계는 된다. 사람은 삶이 걱정되어 나쁜일을 저지르지만, 기계는 나쁜 코드만 없도록 고쳐쓰면 된다. 그일도 쉽지는 않겠지만 사람을 감시하는 것보다는 쉽지않을까.

 

"나는 AI 시대가 공허의 시대가 될지도 모르겠다고 상상한다. 평범한 인간들이 가치를 잃어버리고, 가치로부터 소외되는 현대인은 종교로부터 멀어지면서 인간 외부에 객관 가치가 있다는 믿음에서 멀어졌다. 현대 주류 경제학이 노동가치설을 폐기하면서 우리는 어떤 일에 내재 가치가 있다는 믿음에서도 멀어졌다. 이제 무신론자와 자유시장주의자가 함께 합의할 수 있는 가치는 시장 가격인데, 그것은 도덕 규범이나 사회 가치와는 상관없는 개념이다.

 

(중략) 우리가 새로운 가치의 원천을 찾아내지 못하면 인공지능에 기반한 사회는 거대한 '죽음의 집'이 될지도 모른다." (225쪽)

 

8. 사람다운, 너무나 사람다운

 

이런 이야기에는 고끄하지 못한다. 너무 흔해지면 가치와 감동이 떨어지는 것은 맞다. 그래서 예술이든 뭐든 유행이 있는것이 아닐까. 합창교향곡이 멋있어서 너무 많이 듣고, 너무 많이 연주하지 말라고 할수는 없다. 질릴때까지 듣고 싶다.

 

"지브리를 더럽히다니.. 용서하지 않겠다. 지브리가 이렇게 싸구려 취급을 당하는 것을 참을 수 없다." (270쪽)

 

9. 가치가 이끄는 기술

 

그래, 고끄한다. 진리를 알고, 더많이 알면 그많큼 기즐하다.

 

"알파고가 준충격 자체는 슬프지만 알파고가 보여준 수를 모르고 죽었다면 너무 슬플 것 같아요. 그만큼 새롭고 아름다운 수가 많았으니까요. 우리가 '알 사범님'이라고 하잖아요. 그 수를 몰랐던 무지의 세계로 돌아가고 싶지는 않아요." (280쪽)

 

백신이 있었으니 지금의 아프리카가 그나마 있다. 가난한 사람이 죽어가는 문제는 인공지능 개발과 아무 관련이 없고, 오히려 인공지능에 의해서 새로운 대안이 만들어질수도 있다. 하나의 이야기만 말하면서 사기를 친다고 말하는 것에도 고끄할수 없다.

 

"백신도 개발됐음에도 불구하고, 심지어 그 가격이 그리 비싸지 않음에도 불구하고 말라리아로 사망하는 사람이 매년 수십만 명씩 발생하는 이유는 뭘까?

누군가가 이런 질문들에 제대로 답하지 못하면서 '인공지능을 개발하는 것은 옳은 일(the right thing)이다. 왜냐하면 인공지능을 이용해 신약을 더 싸고 빠르게 개발할 수 있기 때문이다'라고 말한다면, 나는 그가 바보거나, 아니면 사기를 치는 중이라고 생각한다." (284쪽)

 

쿠팡이 많은 사람들을 바꿨지만 그렇지않은 사람들도 많다. 쿠팡은 망하거나 다른 기업에 인수합병될 것이다. 빅테크기업들도 죽임을 당할수 있다. 병에 걸리면. 원래 아는것이 많아지면, 고개도 숙이고 철도 든다. 사람은 자꾸 바뀌는게 좋다.

 

"빅테크 기업들은 우리가 알던 개념을 바꾸고 있으며, 그들 스스로가 하나의 개념이 된다. 그들은 우리가 아는 세계를 이루고 유지하는 근본 개념을 파괴하면서 새로운 수익 모델을 만들어 낸다. 이것은 국가가하지 못하는 일이다. 나는 실제로 캐나다나 프랑스보다 빅테크 기업들이 내 삶에 더 큰 영향을 미친다고 생각한다. 캐나다나 프랑스가 바꾸지 못하는 나의 정신세계의 개념들을 빅테크 기업들은 바꿔왔고, 바꾸고 있다." (286쪽)

 

아주 재미있게 잘 읽었다. 인공지능에 대해 바둑을 중심에 놓고 열심히 생각을 해본게 틀림없다. 이세돌의 강연보다도 더 좋았다. 바둑이라는 말은, ①밭+독 ② 배열+독 ③ 바닥이 바뀌어 바둑이 되었다고 한다.