[시사뉴스 정춘옥 기자] 지난 2023년 9월 미국과 영국에서 출간된 후 화제를 몰고 온 책이다. 알파고 개발의 주역이자 AI 기업 딥마인드와 인플렉션 AI의 창립자로 인공 지능 개발의 최전선에서 기술 혁명의 새로운 역사를 쓰고 있는 저자가 직접 AI 산업의 미래를 전망하고 이로 인해 무엇이 어떻게 바뀔 것인지 예측했다.
미래 기술의 축복과 위기
저자는 이 책을 통해 AI의 발전이 가까운 미래, 인류에 대한 새로운 정의를 내릴 것이라고 말한다. 그는 불과 바퀴, 전기의 발명이 인류 역사의 궤적을 완전히 바꾸었듯이 AI가 그러한 역할을 하게 되고, 이로 인해 우리는 인류라는 종의 역사에서 가장 중요한 문턱에 서게 될 것이라고 주장한다. 즉 새로운 물결을 맞이하게 된다는 것이다.
다가오는 물결의 고유한 특징으로 비대칭성, 초진화성, 만능성, 자율성을 들면서 특히 만능성, 즉 옴니유즈(omni-use technology)라 명명한 어디에나 쓸 수 있는 범용성을 강조한다. AI는 ‘새로운 전기’이며 우리의 일상생활 깊숙이 침투해 로봇, 생물학, 화학 등 다양한 분야와 결합해 해당 산업의 발전을 이끌 것이라고 예측한다. 또한 양자 컴퓨팅과 같은 분야가 AI의 발전을 돕고 또 AI가 이들을 도와 한 단계 도약하는 선순환 구조에 이를 것이라고 전망하고 있다. 이로 인해 AI와 관련 산업은 급속도로, 그리고 광범위하에 발전하고 기존에 존재하지 않던 새로운 생물을 만들거나 관련 기능을 변형하는 합성 생물학이 함께 발전하면서 인간에 대한 정의를 새롭게 내리게 된다는 것이다.
저자가 우려하는 부분은 이러한 미래, 피할 수 없는 변화를 우리가 어떻게 통제하고 억제할 수 있는가이다. 거대 기술 기업들은 물론 전 세계의 국가는 과거와 다름없이 사활을 걸고 AI 기술 개발에 나설 수밖에 없다. 문제는 핵 무기와 달리 AI 기술은 범용적이고도 다양한 측면에서 활용할 수 있기 때문에 전통적인 방식으로는 규제에 실패할 것이라는 데 있다. 저자는 과거 신기술에 반대했던 러다이트 운동의 실패를 예로 들면서 AI 기술도 이와 같을 것이라 말하고 있다.
기술의 통제가 가능해야 한다
이 책은 억제되지 않은 기술의 물결이 불러올 거대한 권력 재분배의 정치적 함의를 살펴본다. 현재 정치 질서의 근간이자 기술 억제의 가장 중요한 주체는 바로 국민 국가다. 이미 위기에 흔들리고 있는 국가는 새로운 형태의 폭력, 잘못된 정보의 홍수, 사라져 가는 일자리, 치명적인 사고 등 새로운 물결로 증폭된 일련의 충격으로 더 약화될 것이다. 더 나아가 그 물결은 중앙 집중화와 탈중앙화를 동시에 이끄는 일련의 지각변동을 일으킬 것이다. 이는 거대한 기업들을 새로 만들어 내고 권위주의를 강화하는 한편, 전통적인 사회 구조 밖에서 살아가는 집단과 움직임에도 힘을 실어 줄 것이다. 국민 국가의 정교한 협상은 우리가 그와 같은 제도를 가장 필요로 할 때 엄청난 압박을 받게 될 것이다. 결국 이러한 방식으로 우리는 딜레마에 빠지게 된다.
저자는 AI 기술을 정부와 사회가 적절하게 관리하기 위해서는 반드시 ‘억제(con-tainment)’가 가능해야 한다고 주장한다. AI를 일일이 규제하기보다 AI를 적절하게 견제할 수 있는 각종 정책 즉 거버넌스, 지배구조, 그리고 억제할 수 있는 기술들을 다각도로 모색하고 갖추자는 것이다. AI가 인류의 재앙이 될지 축복이 될지는 인류의 선택에 달려있다. 이 책은 기술을 억제하고 딜레마에서 벗어날 수 있는 대안을 구체적으로 제시한다.
