[북리뷰] 넥서스 by 유발 하라리

인간은 기술발전, 특히 AI로 인해 실존적 위기에 처함 *기술통제를 상실할 위험
- 정보와 힘을 탁월하게 보유하게 되었으나, 지혜를 얻는데는 실패한 인류
  “우리가 누구인지? 무엇을 추구해야하는지? 잘사는게 무엇인가?”의 답을 못함
- 정보의 양은 무한정이나, 집단광기에 빠진 상황 🟰파이톤 이야기
- 힘을 함부로 부르면 안됨 Such as AI, 알고리즘
- 창조력이 현실에 영향을 미치는 상황에서 최악의 구성원에게 권력을 내주는
   “잘못된 선택“이 개인의 심리적 결함 뿐 아니라, 협력을 통해서 나오기도 함
- 대규모 협력 네트워크로 인간에게 힘을 주지만, 지혜로울 수 있는 기회는 적어짐
   허구와 환상에 의해 구성원을 결속시키며, 전체주의로 이어지는 패턴이 존재함
  ➡️ 역사와 문학으로 교훈을 배우고, AI시대의 책임을 마주해야 함

정보는 단순한 가치를 갖고 있지 않는다.
- 대규모 네트워크에 더 많은 정보가 수집, 처리될수록 강력하고 지혜로울거라 예상
  But, 없어질 것이라고 봤던 허위정보가 지속되는 경향이 존재함
- 정보의 양 뿐 아니라, 각 개인의 문화적 가치관으로 지혜롭게 판별할수 있어야 함
- 지나치게 빠르게 쏟아지는 정보로 인류가 자멸할 위기에 놓임
   *대량 살상무기, 환경파괴, 생태계 위기, 지도자 갈등에 따른 세계 대전

AI가 많은 문제의 해결책이 될 수 있으나, 위험성을 갖고있으며, 도덕적 의무를 요구함

정보를 무기화하는 포퓰리즘으로 인해, 전통적 체계(기관)의 신뢰가 무너짐
- 극단적 포퓰리즘에서는 각 개인만의 진실이 존재하며, 이를 통해 상대방을 공격함
- 전통적 권위를 가진 시스템을 거짓말쟁이로 둔갑시켜, 진실을 발견하려는 노력을 방해
   *엘리트 계층이 국민을 희생시키고, 허위 정보를 유포한다는 주장
- 마르크스가 지배/피지배 간의 투쟁으로 인류역사를 바라봤듯이 포퓰리즘 또한
  순수한 국민과 부패한 엘리트로 구분짓고, 정보기관을 비난하며 권력투쟁을 진행함
- 권력기관의 신뢰를 무너뜨리려 하지만, 개인의 연구 - 신비주의를 통해 권력을 쟁취함
   즉, 역설적으로 힘있는 개인에게 모든 권력을 맡기는 구도가 형성됨

대안은 균형잡힌 정보 네트워크로 스스로 힘을 견제하며, 자정장치를 마련하는 것임
- 포퓰리즘적 관점과 무오류성이란 환상을 버려야 함
- 시행착오를 이전하고 자기수정과 개선으로 계속 발전해야 함(이는 자연의 원리)

AI를 이용해 고객에게 돈을 받고, 가치를 팔아 커리어를 쌓고 있는 나에게
근본적으로 AI가 내포하고 있는 위험성과,
사용자(인간)에게 딸려진 책임, 지금까지 정보란 힘이 범했던 우
이것을 한번에 알 수 있는 기회라 생각한다.

완벽한 이성과 항상 올바른 의사결정을 할 수 있는 인간은 없으며
그렇기에 인류는 지금까지 수많은 시행착오를 겪으면서
문명이란 이름 아래 정치/사회/경제적으로 많은 시스템을 만들었으며
그 또한 고정되지 않고 여러 사건에 따라 항상 변화 중이다.

다만 정중동이라 했던가… 고정되어있으면서도 변화한다는 상태 아래
항상 그 시대, 그 장소, 그 역학관계 아래서 중용의 지점을 추구해야한다

그것을 할 수 있는 여러 수단이 있겠으나,
나는 그것을 자본주의적으로 - 비즈니스를 통해 풀 수 있다는 쪽에 걸어본 상태며,
그것이 현재 속한 조직에서 가능할 것인지는 돌이켜 봐야한다

어렸을 적 20대에는 언젠가 사업을 할 것이라 생각했지만,
이제는 창업은 선택의 문제라 보며 나를 헌신할 큰 문제를 찾았을 때
가장 좋은 방법이 ”내 사업“이었을 때 움직여야 함을 인정해야 할 듯 하다