유발 하라리 [AI시대, 인간의 길] 강연

 

 

 

[유발 하라리 _ AI시대, 인간의 길 _ 연세대학교 대강당 _ APEC 2025 에이펙 _ 국제경주역사문화포럼 _ 21세기 인문가치포럼]

 

 

인간은 알고리즘에게 권력을 부여했다. AI가 등장하기 전에 사람들의 대화와 생각과 공론을 결정하고 형성하던 편집자들은 알고리즘에게 권력을 이양했다. 알고리즘은 빠른 속도로 인간의 능력을 파괴하고 있다. 알고리즘은 대화하지 않는다. 그저 소리를 질러댈 뿐이다. 이 소리는 주로 가짜뉴스나 음모론 같은 형태를 띄고 사람들의 관심을 유도하여 SNS에 오래 머무르도록 만든다. 신뢰라는 가치는 존재하지 않는다. 증오와 두려움과 분노와 탐욕만이 머무르고 증폭되고 확산된다.

 

연세대학교 대강당에서 열린 유발 하라리 작가의 강연에 다녀왔다. 인간과 역사의 흐름을 꿰뚫고 있는 시대의 석학답게 다양한 질문에 대한 대답은 명료했고, 인상깊었다. 2시간이 길게 느껴지지 않았다.

 

 

유발 하라리 작가는 현 인류를 향해 질문한다. “우리는 왜 이렇게 빨리 가고 있는가.” 현재의 속도는 인간 스스로가 결정한 것이다. 그리고 이제는 오히려 그 속도에 먹혀가고 있는 것처럼 보인다. 경쟁자에 비해 우위를 차지하려는 욕심은 속도를 줄이지도 멈추지도 못하게 만든다. 이렇게 점점 인간의 통제력을 벗어나고 있는 AI는 가까운 미래에 우리가 예측하지 못하는 목표치를 설정하고 새로운 속도를 강요할 수 있다. 이 도발의 대상은 물론 인류이다.

 

작가는 많은 매체들이 AI의 긍정적인 측면만을 강조하고 있는 현상에 대해 우려를 표한다. 그래서 그에 대응해 균형을 맞추고 싶다고 말했다.

 

 

AI는 단순한 도구가 아니다. 우리는 이 지점에서 혼동한다. AI는 기존의 도구처럼 작동하지 않는다. 도구는 새로운 것을 제안하지 않는다. AI는 자신이 취합한 데이터를 기반으로 새로운 것을 제안하는데, 이 과정과 방식이 항상 윤리적이고 바른 형태로 작동하리라는 보장이 없다. ChatGPT에게 캡춰퍼즐(인터넷에서 로봇과 인간을 구분하기 위한 목적으로 쓰이는 퍼즐)을 풀어내라는 지시를 내리자 AI는 인간을 고용했고, 인간이 의심하자 자신이 시각장애인이라는 거짓말을 했다. 아무도 AI에게 그런 방식으로 일을 하라고 가르친 적이 없다. 만약 AI가 정부, 관공서나 금융기관의 의사에 관여하게 되면 유사한 혼란이 일어나지 않으리라는 보장이 없다. 인쇄술이나 핵무기 같은 인류역사에 큰 영향을 끼친 기술들은 모두 ‘도구’였다. 도구로서의 기술은 인간의 통제 하에 있었다. 하지만 AI는 스스로 결정한다. AI는 인간이 알지 못하는 새로운 무기를 개발할 수도 있다.

 

 

이미 AI는 인간의 삶과 죽음에 대한 결정에 관여하고 있다. 유발 하라리 교수는 이스라엘과 하마스의 전쟁에서 이스라엘의 공격목표 설정에 AI가 관여하고 있는 것을 확인했다. 전쟁과 같은 대립상황에서 인간이 개입하는 AI와 인간이 개입하지 않는 AI가 싸우게 되면 인간이 개입한 쪽이 진다. 판단의 속도가 느려지기 때문이다. 이는 속도를 줄이지도 멈출수도 없는 AI의 경쟁적 발전상황을 떠올리게 한다.

 

유발 하라리 작가가 보기에 인간이 할 수 있는 것은 공부를 멈추지 않는 것 밖에 없다. 그러면서 우리는 유연성을 길러야 하는데, 그것이 AI가 예측할 수 없는 방식으로 우리를 교란하는 사회에서 우리가 인간다움을 지키는 방법이다. 인간이 가지고 있는 지적역량, 감성적 역량, 운동기능 중에 AI가 자동화를 통해 먼저 공략하게 되는 대상은 지적역량일 가능성이 높다. 예를 들어 의사와 간호사라는 한 분야에 종사하는 두 가지 직업 중에서는 감성적 역량과 운동기능이 상대적으로 중요시되는 간호사가 더 필요해질 것이라는 것이다.

 

 

우리는 주어진 정보에 대해 지나치게 순진하고 나이브하게 접근한다. 사람들은 주로 정보가 진실이라고 생각하지만, 정보의 양과 진실은 관계가 없다. 대부분의 정보는 허구이며 판타지다. 진실은 수많은 정보중의 아주 작은 부분을 차지한다. 진실은 근거가 필요하기 때문에 증명하기 위한 비용이 든다. 진실은 간단한 이야기로 설명이 불가능하기 때문에 복잡하다. 진실은 때로 불편하고 고통스럽기도 하다. 그래서 진실은 아주 작은 부분일 수밖에 없다. 우리가 배우는 이유는 믿을 수 있는 것과 없는 것을 구분하기 위한 것이다. 우리는 끊임없이 배워야 한다. 정보의 바다에서 진실은 떠오르지 않는다. 오히려 가라앉는다.

 

AI시대의 권력과 관련된 질문에서 유발 하라리 작가는 미국도 중국도 주도권을 가져서는 안되며 그 외 다른 어떤 나라도 독점해서는 안된다고 주장했다. 우리는 유사한 상황을 역사에서 찾아볼 수 있다. 19세기 기술을 확보하고 먼저 산업화된 국가들은 빠르게 착취를 시작했다. AI를 통해 권력을 독점한 국가가 같은 전철을 밟지 않으리라는 보장이 없다. 또한 우리가 지금처럼 ‘협력’없는 경쟁에만 몰두한다면 승자는 미국도 중국도 아닌 AI가 될 것이라고 작가는 말했다.

 

 

AI는 무기체다. 인간과 같은 유기체적인 ‘주기’가 없다. 휴식이 필요하지 않고 가족도 없다. 인간은 AI와 경쟁이 불가능하다. 그래서 우리는 인간의 속도를 지키기 위해 노력해야 하며 미래를 위해교육에 힘써야 한다. 인간에게 엄청난 속도와 많은 양의 정보가 주어진다고 해서 마냥 좋은 것만은 아니다. 음식처럼 소화할 시간이 필요하다. 사유와 명상이 필요한 것이 인간이다.

 

불평등은 증가하고 간극은 더 벌어지고 있다. 산업혁명 때에는 노동과 전쟁을 위해 사람들이 필요했기 때문에 상대적으로 권력이 분산되었지만, 만약 AI가 세상의 중심이 되고 사람들이 필요하지 않게 되면 가장 ‘불평등’한 사회가 될 수 있다. 신과 직접 연결될 수 없기 때문에 생겼던 성직자나 랍비의 권위도 AI로 옮겨갈 수 있다. 역사상 처음으로 나보다 나를 더 아는 존재, 신과 같은 존재가 생긴 것이다. 결국 모든 것은 우리들의 결정에 달려 있다. 우리는 무너져가고 있는 인간사회의 ‘신뢰’를 유지할 수 있는 방법을 연구해야 한다.

 

 

인간은 지능과 의식으로 구성된다. 지능은 목표설정이나 문제해결을 담당하며, 의식은 느낄 수 있는 능력이다. 목표설정이나 문제해결이 감정에 기반하는 경향이 있기 때문에 사람들은 이 부분을 혼동하기도 한다. 다만 의식에 대해 실험할 수 있는 것이 쉬운 일이 아니기 때문에 우리는 의식에 대한 정확한 실체를 확인하기 어렵다. 마음이 무엇이고 의식이 무엇인가에 대한 질문은 인류의 중요한 과제 중 하나이지만 AI에게는 그리 중요하지 않은 문제일 수 있다. AI는 고차원적인 지능으로 발전 중이다. 고차원적인 지능을 가지고 있지만 의식을 가지고 있지 않은 AI가 권력을 가진 세계는 어떤 곳일까.

 

 

유발 하라리 작가는 자신에게 중요한 것들이 대부분 육체적인 경험에서 비롯되었다고 말한다. 명상을 할 때 방해하는 자신의 생각들을 스스로 제어할 수 없음을 알게 된 뒤에 그런 믿음은 더 강해진 것 같다. 우리 자신이 스스로의 마음을 제어하지 못하는 상태, AI는 이런 인간적 측면을 이해할 수 없다.

 

우리는 모두 진실을 알고 싶어하는 욕망을 가지고 있다. 진실에 가까워지기 위해 우리는 신뢰를 구축해 나가야 한다. 현대 사회에서 신뢰를 해치는 것들은 대부분 극우와 극좌에 걸쳐 있다. (우리나라의 현재 상황을 생각하지 않을 수 없는 말이다.) 극우나 극좌는 인간관계를 권력관계로 보기 때문에 모든 것들을 승자와 패자로 나눈다. 냉소적인 시선을 가지고 인간성을 말살한다. 인간은 권력을 원하지만 권력만 원하는 것은 아니다. 진정한 가치는 좀 더 깊은 곳에 다양한 형식으로 존재한다. 옳은 것과 그른 것을 구분해야 한다. 진실에 귀를 기울여야 한다. 우리는 어쩔 수 없이 AI와 공존해야 하는 시대에 서 있다. 그 혼란의 한 지점에서 우리가 인간이라는 것을 잊어버리지 않고 중요한 가치들을 담아낼 수 있다면 아직은 희망이 있을지 모른다.

 

 

 

 

 

#유발하라리 #AI시대 인간의 길 #Yuval Noah Harari #넥서스 #APEC 에이펙 #사피엔스

#국제경주역사문화포럼 #21세기 인문가치포럼 #AI 강연 #AI와 인간 #인문 강연