유발하라리의 '넥서스' 을 읽고

 

 

7만 년 전 인지혁명은 인간의 마음을 탈바꿈시켜 별 볼일 없던 아프리카의 한 유인원을 세상의 지배자로 만들었다. 신과 기업을 창조하고 도시와 제국을 건설하고 문자와 화폐를 만들어 마침내 달에 갈 수도 있었다. 저자의 두 번째 책 «호모 데우스»에서  두 번째 인지혁명을 제시한다. 그것은 바로 기술 인본주의의 도래다. 

인본주의는 300년 동안 인류를 지배했다. 
거슬러 올라, 

파라오가 이집트를 3,000년 동안 지배했고, 

교황은 유럽을 1,000년 동안 지배했고, 
조선의 국왕은 이 나라를 500년 동안 지배했다. 

중국의 황제는 어떠한가? 

 

당신이 람세스 2세 시대의 이집트인에게 언젠가 파라오가 사라질 거라고 말한다면 그는 아연실색할 것이다
 "파라오 없이 어떻게 삽니까  누가 질서와 평화 정의를 보장하죠? "신 없이 어떻게 삽니까?” 
누가 인생의 의미를 주고 우리를 혼돈에서 보호해 줍니까?라고 물을 것이다.

 

 

오늘날의 상황은 매우 다르다. 수 백 년 동안 인본주의는 우리가 의미의 최종원천이고 그러므로 우리의 자유의지가 최고의 권위라고 설파해 왔다. 어떤 외적 실체가 뭔지 알려줄 때까지 기다리지 말고, 자신의 느낌과 욕망에 의지하면 된다.  우리는 어릴 적부터 인본주의 사상으로부터 포화를 받는다. 
  

자신의 목소리에 귀를 기울여라.
자신에게 충실해라. 자신을 믿어라.
마음 가는 대로 행동해라.
자신이 좋다고 느끼는 것을 해라._ 장 자크 루소

 

이제 그의 세 번째 책을 읽었다.

다가올 정보혁명의 시대.
AI는 이전 정보 기술과 무엇이 다르고, 왜 위험할까? 나는 무엇을 준비해야 하나?

 "과거가 현재를 도울 수 있는가?", "죽은 자가 산 자를 구할 수 있는가?"는 노벨 문학상 수상자인 한강 작가가 던진 질문이다.

 

나는 다시 질문한다.  

 

 현재가 미래를 도울 수 있을까? 그럴수 있다면 난 현재에 무엇을 준비해야 할까?

쏟아지는 A.I 플랫폼( Open AI 의 chatGPT, Google Gemini , Perplexity) 속에서
난 무엇을 생각해야 하는가.  인생에 육성이라는 것이 있다면 그게 곧 시라고 믿고 있다. 신형철 선생의 글이다.  

저자는 시를 읽는 일에는 이론의 넓이보다 경험의 깊이가 중요하게 생각했다. 나는 A.I 의 이론과 경험을 ​구하고자  유발하라리의 책을 선택하게 되었다.

 

그가 이 책을 통해 독자에게 던진 질문과 해답은 다음과 같다.

 

1. AI는 이전 정보 기술과 무엇이 다르고, 왜 위험한가?
2. 당신이 알고 있는 진실과 내가 알고 있는 진실이 다른 이유는 무엇인가?
3. A.I 가 가져야 할 기본적 원칙은 무엇인가?
4. 향후 컴퓨터의 가장 큰 위협은 무엇인가?
5. 당신 국가가 디지털 인프라와 AI 기반 시스템에 전적으로 의존하고 있으면서도 그 시스템에 대한 실질적인 통제 권한이 없다면 어떻게 될까? (데이터 식민주의에 기반하여)

 

---

 

AI 특히 GPT4가 세상에 선보인지 한 달 만에 튜링 테스트 Turing Test (컴퓨터가 인간을 속여 자신을 인간이라고 믿게 하는 것) 와 Loverace Test( 컴퓨터가 창조적인 작업을 수행해 인간이 만든 결과물이라고 말하는 테스트) 를 모두 통과했다. 변호사 시험. 신경외과 전문의 자격도 통과 했다. 다시말해 인간의 지각력과 창의력을 평가하는 시험에세 최고의 성적을 받을 것이다.

 

그런데 기이한 점은 우리가 이 시스템을 만들었고 기술적으로 어떻게 작동하는지 이해하고 있음에도 AI가 이 모든일을 어떻게 해내는지 명확히 알 수 없다는 것이다. AI 기술발전이 어디를 향하는 지 전문가들도  정확히 알수 없다는 것이다. 

 

2017년 구글 연구진이  Transfomer 라는 논문을 발표했는데 특히 인간의 언어를 이해하고 처리하는 방식에 중대한 변화를 가져왔다. 연구진은 컴퓨터가 인간의 의사소통방식을 더 잘 처리하도록 트랜스포머 Transformer 라는 새로운 아키텍처를 제안했다. 바로 주의 메카니즘 attention mechanism 으로 해결했다. 가장 오류를 보인것이 키보드 화면에서 다음 단어를 자동으로 추천해주는 자동완성문구 기능은 엉망이였지만  주의 매커니즘을 활용하면 AI 가 텍스트 덩어리에 있는 단어와 구문의 중요도를 평가함으로써 굉장히 많은 문제를 해결할 수 있었다.

 

 

 

이제 LLM 은 사전 학습 이후 미세조정 fine-turning 이라 불리는 추가적인 개선을 거친다. 미세조정의 핵심과정은 사람이 관여하는 것이다 AI 기업은 이 임무를 담당할 사람을 고용할 때 높으급여를 받는 전문가부터 케냐처럼 영어를 사용하는 국가에 거주하는 저임금 노동자까지 포함한다.  정확성을 중심으로 평가하고 음란한 답변을 걸러내는데 집중한다. 이렇게 얻은 피드백은 AI의 추가 학습에 반영되어 인간이 선호하는 방식으로 AI의 성능이 미세조정된다. 이런과정을 인간피드백 강화학습 RLHF (Reinforcement Learning from Human Feedback) 이라고 한다. 

 

요컨데 여지껏 개발된 AI 는 인간과 상당히 비슷해 보이지만, 인간적이지 않는 방식으로 작동한다. 어떻게 보면 지각이 있는 것처럼 보이지만 그렇지 않다는 사실은 확실하다.