AI시대, 제대로 파악하고 대비하자 I 이미 끝났다 I 21세기 일상 I 유발하라리

이미 금융 시스템은 이미 컴퓨터에 의해 너무나 복잡해진 상태라고 합니다.그것을 지금 이해할 수 있는 사람이 굉장히 드물어요. 그리고  AI가 점점 개선되면서 가까운 미래에는 금융 시스템을 이해하는 인간은 아무도 없어지는 상황에 이를지도 모른답니다. 

 

은행이 당신의 대출을 거절했습니다 "왜?"라고 물으면 은행은 "알고리즘이 안 된다고 했다"고 답합니다.

당신이 "알고리즘이 왜 거절했나? 내게 무슨 문제가 있나?"라고 물으면 은행은 이렇게 답할겁니다.

우리는 모른다. 이 알고리즘은 고성능 기계 학습을 토대로 했기 때문에 그것을 이해하는 사람은 없다. 하지만 우리는 알고리즘을 신뢰하기 때문에 당신에게는 대출하지 않겠다라고요.

 

이런 차별이 여성이나 흑인 같은 특정 집단 전체를 겨낭했을 때 오히려 차별에 항의라도 할 수 있습니다.

하지만 이제 알고리즘은 당신을 개인적으로 차별할 수 있을 것이고, 당신은 왜 차별을 받는지 이유조차 알 수 없습니다.

아마 알고리즘은 당신의 DNA나 이력, 페이스북 계정에서 뭔가 못마땅한 것을 찾아냈을 수 있죠.

 

알고리즘은 여성이거나 흑인이어서가 아니라 바로 당신이라는 이유로 당신을 차별합니다. 당신에 관한 구체적인 무엇을 알고리즘이 싫어하는 것이지요. 당신은 그것이 무엇인지도 모르고요. 심지어 안다 해도 다른 사람과 조직해서 항의를 할 수도 없어요. 똑같은 선입견으로 피해를 본 사람은 아무도 없기 때문이예요. 당신 혼자뿐이예요  21세기에는 집단적인 차별을 넘어 개인 차별의 문제가 점점 더 심각해질 수 있습니다. 

 

 

 

 

21세기를 위한 21가지 제언 2(큰글자책)

기술적 진보와 역사를 통합적으로 고찰해 문명을 분석하고 미래를 전망하는 유발 하라리 히브리 대학교 역사학과 교수가 새 책으로 돌아왔다. 초대형 베스트셀러가 된 첫 책 《사피엔스》가 인류 ‘탄생의 흔적’을 뒤쫓았고, 후속작 《호모 데우스》가 신이 되려는 인간이 새겨갈 ‘진화의 지문’을 미리 내다보았다면, 신간 《21세기를 위한 21가지 제언》은 ‘통찰의 눈’으로 더 나은 오늘을 위한 해법을 제안한다. 정보기술과 생명기술의 비약적인 발전이 이끄는 유례없는 혁명기, 인류는 새로운 도전과 위협에 직면해 있다. 앞으로 불어닥칠 변화는 너무나 심대해서 삶의 기본 구조마저 바꾸어놓을 것이다. 이 책은 종횡무진 인류의 시작을 추적하고 끝을 가늠해보았던 저자가 갈림길에 선 ‘지금, 여기’의 사피엔스에게 던지는 엄숙한 제언이다. 과거와 미래에 이어 ‘인류 3부작’을 완결하는 인류 문명의 이정표다.

저자

유발 하라리

출판

김영사

출판일

2020.07.11

 

 

사피엔스의 저자 유발하라리의 21세기를 위한 21세기 제언에 나오는 이야기 입니다.

결국 우리 모두 알고리즘의 노예가 되어가고 있다는 이야기죠.  

---

 

지금 우리는 21세기, AI시대에 들어가면서 우리는 엄청나게 중요한 사실들을 간과하고 있습니다. 

 

1. 착취 대상에서 무관한 존재가 되어가는 것.

우리의 선택이 어떤 신비로운 자유 의지가 아니라 아주 짧은 순간에 확률을 계산하는 수십억 개의 뉴런에서 비롯하는 것임을 알게되었습니다. 인간의 직관이라고 과시해온 것이 사실은 '패턴 인식'으로 드러난 것이죠.

좋은 운전사, 은행사, 변호사라고 해서 교통이나 투자, 협상에 관한 직관이 있는 것이 아니라, 반복되는 패턴을 인식함으로써 부주의한 보행자나 부적격 대출자, 부정직한 사기꾼을 알아보고 피할 뿐이예요.

감정, 욕망이 사실은 생화학적 알고리즘에 불과하다면, 이런 알고리즘을 해독하고 업무를 처리하는 데 컴퓨터가 인간보다 훨씬 더 뛰어날 수 밖에 없죠.

 

유발하라리는 이미 우리는 거대한 데이터 처리 시스템속의 작은 칩이 되어가고 있다고 이야기합니다.

그 결과 우리는 식사 중에도 페이스북, 인스타그램 및 각종 미디어에가 돌아가는 세상을 바라보지만, 나 자신의 감각에 집중하는 능력은 잃어간다고 합니다. 

 

 

 

아마도 21세기 포퓰리즘 반란은 사람들을 착취하는 경제 엘리트가 아니라 더 이상 사람을 필요로 하지 않는 경제 엘리트에 맞서는 구도로 전개될 것이다. 이는 지는 싸움이 될 가능성이 높다. 착취에 반대하는 것보다 사회와 무관해지는 것에 맞서 투쟁하기가 훨씬 힘들기 때문이다. 

 

모든 부와 권력은 극소수 엘리트의 손에 집중되는 반면, 대다수 사람들은 착취의 대상으로 전락하는 정도가 아니라 그보다 훨씬 나쁜 처지에 놓일 수 있다. 바로 사회와의 관련성을 잃는 것이다. 

 

 

2.데이터 소유에 관한 문제

 

우선 AI가 인간보다 특히 월등한 두 가지 측면이 있습니다. 

1.연결성

2. 업데이트 가능성

 

인간은 개별자이기 때문에 서로서로 연결해서 모두를 최신 상태로 유지하기가 힘들다. 반면에 컴퓨터는 개별자가 아니어서 하나의 탄력적인 네트워크로 통합하기 쉽다. 따라서 우리가 생각할 때, 인간 운전사 한 명을 자율주행 한 대와 비교하는 식이지만 이는 잘못된 비교다. 그보다 인간 개인의 능력들을 합산한 것을 통합 네트워크의 능력과 비교해야 한다. 

가령, 인간 운전사는 바뀐 교통 법규에 익숙하지 않아서 위반할 때가 많다. 게다가 모든 차량이 제각각 움직이다 보니 두 대가 동시에 같은 교차로에 이르렀을 때 운전사들은 서로 의도를 오해해 충돌할 수 있다. 반면에 자율주행 차량은 모두 연결될 수 있다. 두 대의 차량이 같은 교차로에 다가갔을 때에도 둘은 사실 별개가 아닌 단일 알고리즘의 부분들이다. 따라서 서로 오해를 일으켜 충돌할 위험이 훨씬 적다. 교통부가 변경한 교통 법규도, 손쉽게 업데이트되며, 글자 하나까지 정확히 준수할 것이다. 

 

 

인간과 기계가 너무나 완전하게 통합된 나머지, 네트워크에서 절연된 인간은 생존조차 어려워질 수 있을것이다. 이제 인간은 자궁 속에서부터 네트워크에 연결될 것이고, 살면서 나중에 절연을 택하면 보험 대리점은 보험 가입을 거부하고, 고용주는 채용을 거부하며, 의료 서비스도 받지 못할 수 있다.

 

점점 더 많은 데이터가 당신의 신체와 뇌로부터 신체측정 센서를 통해 스마트 기계로 흘러들어 감에 따라, 기업과 정부 기관은 당신을 알고, 조종하고, 당신 대신 결정을 내리기가 쉬워질 것입니다. 그럼 그런 신과 같은 힘을 독점하는 것을 막고 싶다면, 우리는 이렇게 질문해봐야 합니다. 누가 데이터를 소유하는가? 나의 DNA와, 나의 뇌와, 나의 생명에 관한 정보는 나에게 속하는가, 정부에 속하는가, 기업에 속하는가, 아니면 인류 공동의 소유인가? 

 

 

오늘은 우리가 살고 있는 혁신적인 21세기에, 인터넷과 모바일 기술의 보급으로 우리의 삶이 변화하고 있고, 앞으로 더 많은 변화가 기다리고 있습니다. 한번쯤은 다가올 우리의 일상을 그려보고 다가올 미래를 준비해보면 어떨까요? 

오늘도 이렇게 철학적 사고에 한 걸음 다가가셨습니다. 다음번에도 철학적 사고로 책 읽고 돌아오겠습니다. 안녕~