AI 시대의 전쟁과 평화 - 키신저

기계가 전략과 국가책략을 형성하는 것이 세계에 어떠한 의미를 가지는가?

What It Will Mean for the World When Machines Shape Strategy and Statecraft

By Henry A. Kissinger, Eric Schmidt, and Craig Mundie

November 18, 2024

 

At a military convention in Washington, D.C., October 2024  Nathan Howard / Reuters

 

 

 

군사 전략의 재조정에서 외교의 재구성에 이르기까지, 인공지능은 세계 질서를 결정짓는 핵심 요소로 자리 잡게 될 것이다. 두려움과 편향에 흔들리지 않는 AI는 전략적 의사결정에 새로운 객관성을 제시할 가능성을 열어준다. 그러나 전쟁 수행자와 평화 중재자 모두가 이를 활용하더라도, AI가 제공하는 객관성은 인간의 주관성을 반드시 보존해야 한다. 이는 책임 있는 무력 사용을 위해 필수적이기 때문이다. 전쟁에서의 AI는 인류의 가장 고귀한 표현과 가장 어두운 측면을 동시에 드러낼 것이다. AI는 전쟁을 수행하는 도구로, 또한 이를 종식시키는 수단으로 작용할 것이다.

 

인류는 자신을 점점 더 복잡한 체제로 구성하며 어떤 국가도 타국에 절대적인 우위를 점하지 못하도록 끊임없이 노력해 왔다. 이러한 노력은 이제 마치 자연법처럼 지속적이고 중단 없는 과정으로 자리 잡았다. 주요 행위자들이 여전히 인간이라는 점에서 -비록 AI가 정보를 제공하고 조언하며 협력하는 역할을 하더라도- 국가는 여전히 시간의 조율과 조정 속에서 공유된 행위 규범에 기반한 일정한 안정성을 누려야 할 것이다.

 

그러나 AI가 사실상 독립적인 정치적, 외교적, 군사적 행위 주체로 부상한다면, 이는 오래된 세력 균형을 새로운, 미지의 불균형으로 대체하도록 강요할 것이다.

지난 몇 세기 동안 성취된 국가들의 국제적 협력체—불안정하고 변화무쌍한 균형—는 행위자들 간의 고유한 평등성 덕분에 유지될 수 있었다.

그러나 극단적인 비대칭성을 특징으로 하는 세계—예를 들어 일부 국가가 고도의 AI 기술을 다른 국가보다 더 빨리 도입하는 경우—는 훨씬 더 예측 불가능해질 것이다.

일부 인간이 군사적 또는 외교적으로 고도로 AI를 활용하는 국가, 혹은 AI 자체와 맞서야 하는 상황에서는, 인간은 경쟁은커녕 생존조차 어려움을 겪을 수 있다. 이러한 중간 단계의 질서는 사회 내부의 붕괴와 통제할 수 없는 외부 갈등의 폭발을 동시에 목격하게 될 가능성이 크다.

 

다양한 가능성이 존재한다. 인간은 오랜 세월 동안 단순히 안전을 추구하는 것을 넘어, 승리를 갈망하거나 명예를 지키기 위해 전쟁을 벌여왔다.

그러나 기계는—현재로서는—승리나 명예에 대한 개념 자체를 가지고 있지 않다.

 

대신, 기계는 복잡한 계산을 기반으로 영토를 신중히 나누는 즉각적인 조정을 선택하며 전쟁을 피할 수도 있다.

혹은 특정 결과를 중시하고 개인의 생명을 우선순위에서 제외하면서, 피로와 소모전의 끝없는 인간 전쟁을 촉발하는 행동을 선택할 수도 있다.

 

한 가지 시나리오에서는, 인류가 완전히 변화하여 인간적 행위의 잔혹성을 완전히 회피하는 경지에 이를 가능성이 있다.

반면 다른 시나리오에서는 기술에 철저히 종속되어 오히려 야만적 과거로 퇴행하게 될 위험도 존재한다.

 

AI안보딜레마 (THE AI SECURITY DILEMMA)

많은 국가가 "AI 경쟁에서 승리하는 방법"에 집착하고 있다. 이러한 추진력은 어느 정도 이해할 만하다. 문화, 역사, 소통, 그리고 인식이 복합적으로 작용하여 오늘날 주요 강대국들 사이에 불안을 증폭시키고 상호 의심을 조장하는 외교적 환경을 만들어냈기 때문이다. 지도자들은 점진적인 전술적 우위가 미래의 어떤 갈등에서도 결정적인 역할을 할 수 있다고 믿으며, AI가 바로 그러한 우위를 제공할 수 있는 수단이라고 간주하고 있다.

 

각국이 자국의 입지를 최대화하려 한다면, 인류가 전례 없이 직면하게 될 심리적 대결의 조건이 성립될 것이다. 이는 존재론적 안보 딜레마를 예고한다. 초지능 AI—즉 인간을 능가하는 지능을 가진 가상의 AI—를 보유하게 된 어떤 행위자라도 가장 먼저 가지게 될 논리적 소망은 이 강력한 기술이 타인의 손에 넘어가지 않도록 보장하려는 시도일 것이다. 이러한 행위자는 또한 그와 동일한 불확실성과 위험을 직면한 경쟁자 역시 유사한 움직임을 고려하고 있으리라는 가정을 자연스럽게 하게 될 것이다.

 

전쟁에 이르지 않더라도, 초지능 AI는 경쟁 프로그램을 전복시키고 약화시키며 방해할 수 있다. 예를 들어, AI는 기존의 컴퓨터 바이러스를 전례 없는 강력함으로 강화하고 이를 완벽히 위장할 가능성을 제공한다. 2010년에 발견된 사이버 무기인 스턱스넷(Stuxnet)이 이란의 우라늄 원심분리기 중 약 20%를 파괴한 것으로 알려진 것처럼, AI 에이전트는 자신의 존재를 감추면서 경쟁자의 진전을 방해하는 방식으로 작동할 수 있다. 이는 적국의 과학자들을 혼란에 빠뜨리고 허상을 쫓게 만들 것이다. 더 나아가, 인간 심리의 약점을 조작하는 AI의 독특한 능력은 경쟁국의 미디어를 장악해 인공적인 허위 정보의 홍수를 일으킬 수 있다. 이러한 정보는 지나치게 충격적이어서 대중의 강력한 반발을 불러일으키고, 그 나라의 AI 기술 발전에 대한 내부적 저항을 촉진할 가능성마저 있다.

 

국가들이 AI 경쟁에서 자신들의 상대적 위치를 명확히 파악하는 것은 점점 더 어려워질 것이다. 이미 가장 대규모 AI 모델들은 인터넷과 단절된 보안 네트워크에서 훈련되고 있다. 일부 경영진은 AI 개발이 결국 침투 불가능한 벙커로 옮겨갈 것이며, 이곳에서는 초컴퓨터가 원자로로 구동될 것이라고 믿고 있다. 현재도 해저에 데이터 센터가 건설되고 있으며, 머지않아 지구 궤도로 격리될 가능성도 있다. 기업이나 국가들은 악의적인 행위자들을 막기 위해서뿐만 아니라 자국의 개발 속도를 은폐하기 위해 점점 더 "은둔"에 가까운 행태를 보이며 AI 연구 결과를 공개하지 않을 수 있다. 반대로, 자신들의 진척 상황을 왜곡하기 위해 의도적으로 오도된 연구를 발표하려는 시도도 있을 수 있다. 이 과정에서 AI는 정교한 조작된 자료를 만들어내는 데 활용될 수 있다.

 

이러한 과학적 속임수에는 선례가 있다. 1942년, 소련의 물리학자 게오르기 플료로프는 미국과 영국이 갑자기 원자핵 분열에 관한 과학 논문을 발표하지 않는다는 점을 관찰하고, 이들이 핵폭탄을 개발하고 있다고 정확히 추론했다. 오늘날 이러한 경쟁은 인공지능처럼 추상적인 개념의 발전을 측정하는 데 따르는 복잡성과 모호성으로 인해 더욱 예측 불가능해지고 있다. 일부는 AI 모델의 규모를 우위의 척도로 보지만, 더 큰 모델이 모든 맥락에서 항상 우월하거나 작은 모델들을 대규모로 활용한 경우에 대해 항상 승리하는 것은 아니다. 소규모이면서도 특화된 AI는 마치 항공모함에 대항하는 드론 군집처럼 작동할 수 있다. 이들은 항공모함을 파괴할 수는 없더라도, 이를 무력화하기에는 충분할 수 있다.

 

특정 능력에서의 성과를 입증하면, 해당 행위자가 전체적으로 우위를 점하고 있다는 인식을 받을 수 있다. 그러나 이러한 사고방식의 문제는 AI가 단일 기술에 국한되지 않고 광범위한 기술 스펙트럼에 내재된 기계 학습 과정에 불과하다는 점이다. 따라서 특정 영역에서의 능력은 다른 영역의 능력과 전혀 다른 요인에 의해 좌우될 수 있다. 이러한 측면에서, 일반적으로 계산되는 "우위"라는 개념은 실체가 없는 환상일 가능성이 크다.

 

최근 몇 년간 AI 능력의 폭발적인 예상 밖 발전이 보여주듯, 진보의 궤적은 선형적이지도, 예측 가능하지도 않다. 한 행위자가 다른 행위자보다 몇 년 또는 몇 달 정도 앞서 있다고 평가받는다 하더라도, 중요한 순간에 특정 핵심 분야에서의 갑작스러운 기술적 또는 이론적 돌파구는 모든 플레이어의 위치를 뒤집을 수 있다.

 

이러한 세계에서는, 지도자들이 가장 확실한 정보, 본능, 심지어 현실의 기초조차 신뢰할 수 없는 상황에서 정부가 최대한의 의심과 불신을 바탕으로 행동하는 것도 비난받기 어렵다. 지도자들은 이미 자신들의 노력이 감시당하거나 악의적인 영향으로 왜곡되고 있다는 가정 하에 결정을 내리고 있을 가능성이 높다. 최악의 시나리오를 기본값으로 상정하며, 선두에 선 행위자의 전략적 계산은 안전보다 속도와 비밀을 우선시하는 방향으로 기울어질 것이다. 인간 지도자들은 "2등은 의미가 없다"는 두려움에 사로잡혀, 외부 방해에 대한 억지력을 강화하기 위해 AI 배치를 성급히 가속화할 위험이 있다.

 

새로운 전쟁의 패러다임 (A NEW PARADIGM OF WAR)

인류 역사의 대부분에서 전쟁은 명확히 정의된 공간에서 벌어졌으며, 적대적 세력의 능력과 위치를 비교적 확실하게 파악할 수 있었다. 이러한 두 속성의 결합은 각 측에 심리적 안정감과 공통의 합의를 제공하여 치명성을 자제할 수 있는 기반이 되었다. 전쟁이 어떻게 치러질지에 대한 기본적인 이해를 공유한 계몽된 지도자들이 존재했을 때만이, 교전 세력은 전쟁을 벌일지 여부를 결정할 수 있었다.

 

속도와 기동성은 특정 군사 장비의 능력을 뒷받침하는 가장 예측 가능한 요소들 중 하나였다. 초기의 사례로 대포의 발전을 들 수 있다. 테오도시우스 성벽은 건설 이후 천 년 동안 콘스탄티노플을 외부 침략자로부터 방어했다. 그러나 1452년, 헝가리 출신의 포병 기술자가 콘스탄티누스 11세 황제에게 거대한 대포의 제작을 제안했다. 이 대포는 방어벽 뒤에서 적군을 분쇄할 수 있는 무기였다. 그러나 안일했던 황제는 기술의 중요성을 인식하지 못한 채, 물적 자원도 부족했기 때문에 이 제안을 거절했다.

 

불행히도 황제에게 등을 돌린 헝가리 기술자는 용병이었다. 그는 전술(과 동맹)을 바꾸어 설계를 보다 기동성이 뛰어나게 개량했으며, 최소 60마리의 소와 400명의 인력을 동원해 운반할 수 있도록 만들었다. 이후 그는 황제의 경쟁자인 오스만 제국의 술탄 메흐메드 2세에게 접근했다. 메흐메드는 뚫을 수 없는 요새를 포위할 준비를 하고 있었다. 이 대포가 "바빌론의 성벽조차 부술 수 있다"는 기술자의 주장에 흥미를 가진 젊은 술탄은 그를 고용했고, 이 헝가리 기술자는 터키군이 55일 만에 고대의 성벽을 돌파하는 데 기여했다.

 

이 15세기 드라마의 양상은 역사를 통해 반복적으로 나타난다. 19세기에는 속도와 기동성이 먼저 프랑스의 운명을 바꾸었다. 나폴레옹의 군대는 이러한 요소를 통해 유럽을 제압했다. 이후 프로이센은 헬무트 폰 몰트케(장로)와 알브레히트 폰 룬의 지휘 아래 새로 개발된 철도를 활용하여 더욱 빠르고 유연한 기동을 가능하게 했다. 비슷하게, 독일군의 군사 원칙이 진화한 전격전(Blitzkrieg)은 제2차 세계대전에서 연합군을 상대로 막대한 효과와 끔찍한 결과를 낳았다.

 

"Lightning War"라는 개념은 디지털 전쟁의 시대에 새로운 의미와 보편성을 획득했다. 속도는 즉각적이며, 지리는 더 이상 제약이 되지 않아 공격자는 기동성을 유지하면서도 치명성을 희생할 필요가 없다. 이러한 조합은 디지털 공격에서 대체로 공격자에게 유리하게 작용해왔지만, AI 시대에는 반응 속도가 급격히 증가하며 사이버 방어가 사이버 공격에 대응할 수 있는 균형을 이루게 될 가능성이 있다.

 

물리적 전쟁에서도 AI는 또 다른 도약을 촉발할 것이다. 예를 들어, 드론은 극도로 빠르고 상상할 수 없을 정도로 기동성이 뛰어나질 것이다. AI가 단일 드론을 조종하는 데 그치지 않고 드론 군단을 지휘하도록 배치된다면, 드론 구름은 완벽히 동기화된 하나의 응집된 집단으로 형성되어 비행하게 될 것이다. 미래의 드론 군단은 특수작전 부대가 독립적인 지휘 능력을 가진 다양한 규모의 유닛으로 구성되듯이, 크기와 형태를 자유롭게 해체하고 재구성하며 작전을 수행할 수 있을 것이다.

 

또한, AI는 이와 유사한 속도와 유연성을 갖춘 방어 수단도 제공할 것이다. 드론 군단은 기존의 발사체로 격추하기에는 비효율적이거나 불가능에 가깝다. 그러나 AI로 구동되는 무기가 탄약 대신 광자와 전자를 발사한다면, 태양 폭풍이 노출된 위성의 회로를 손상시키듯 치명적인 무력화 능력을 재현할 수 있을 것이다.

 

AI로 구동되는 무기는 전례 없는 정확성을 가질 것이다. 적의 지리적 위치에 대한 한계는 오랫동안 교전 세력의 능력과 의도를 제한해왔다. 그러나 과학과 전쟁의 결합은 점점 더 정확한 도구의 발전을 보장해왔으며, AI는 이러한 진전을 더욱 가속화할 것으로 기대된다. 이에 따라 AI는 특히 치명적 무력 사용에 있어 원래의 의도와 궁극적 결과 간의 간극을 줄일 것이다. 지상 기반 드론 군단이든, 해상에 배치된 기계 부대든, 심지어는 행성 간 함대든, 기계는 인간을 매우 높은 정확도로, 거의 불확실성 없이 살상할 수 있는 능력을 가지게 될 것이다.

 

이러한 파괴의 잠재적 한계는 오직 인간과 기계의 의지와 자제력에 달려 있게 될 것이다.

 

그렇다면 AI 시대의 전쟁은 주로 적의 능력에 대한 평가가 아니라, 그 의도와 전략적 적용 방식에 대한 평가로 귀결될 것이다. 핵 시대에 이미 우리는 이러한 국면에 진입했지만, AI가 전쟁 무기로서 가치를 입증함에 따라 그 역학과 중요성은 훨씬 더 선명해질 것이다.

 

이처럼 가치 있는 기술이 전쟁에 관여하게 되면, 인간은 AI 기반 전쟁의 주된 표적이 아닐 수도 있다. AI는 인간을 전쟁의 대리인 역할에서 완전히 배제함으로써 전쟁의 치명성을 줄일 수 있지만, 그 결정적 성격은 여전히 유지될 가능성이 크다. 마찬가지로, 단순히 영토 문제만으로는 AI의 공격성을 유발하기 어려울 것으로 보인다. 그러나 데이터 센터나 기타 중요한 디지털 인프라는 분명히 AI의 공격 표적이 될 수 있다.

 

따라서 항복은 더 이상 적의 병력이 감소하고 무기가 소진될 때 이루어지지 않을 것이다. 대신, 상대의 실리콘 방패가 기술 자산을 보호할 수 없게 되고, 마침내 인간 대리인들까지 방어하지 못하게 되는 순간 항복이 이루어질 것이다. 전쟁은 순전히 기계적 피해로 구성된 게임으로 진화할 수 있으며, 결정적 요인은 완전한 파괴의 돌파적 순간을 감수할지, 이를 방지하기 위해 포기할지를 결정해야 하는 인간(혹은 AI)의 심리적 강인함이 될 것이다.

 

새로운 전장을 지배하는 동기들 또한 어느 정도 낯설게 느껴질 것이다. 영국 작가 G. K. 체스터은 한때 “진정한 군인은 자신 앞에 있는 것을 미워해서가 아니라, 자신 뒤에 있는 것을 사랑하기 때문에 싸운다”고 말한 바 있다. 그러나 AI 전쟁에서는 사랑이나 증오, 더 나아가 병사의 용기라는 개념조차 포함되지 않을 가능성이 높다. 반면, 자아, 정체성, 충성심은 여전히 중요한 요소가 될 수 있다. 다만, 그 정체성과 충성심의 본질은 오늘날 우리가 이해하는 것과 일치하지 않을 수도 있다.

 

전쟁에서의 계산은 항상 비교적 간단했다. 전투의 고통을 먼저 견딜 수 없게 되는 쪽이 패배할 가능성이 높았다. 자신의 한계를 인식하는 의식은 과거에는 절제를 낳았다. 그러나 이러한 인식이 없고, 고통에 대한 감각이 부재하여 큰 관용을 보이는 존재라면, 전쟁에 도입된 AI가 무엇에 의해 절제를 하게 될지, 그리고 그가 벌이는 갈등이 어떻게 종결될지 의문을 품지 않을 수 없다. 체스를 두는 AI가 만약 게임 종료를 규정하는 룰에 대해 전혀 배우지 않았다면, 마지막 폰(pawn,체스에서의 쫄병)이 사라질 때까지 경기를 계속할 수도 있을 것이다.

 

지정학적 재구성(GEOPOLITICAL RESTRUCTURING)

인류의 모든 시대에서, 마치 자연법에 따르듯, "자신의 가치에 따라 국제 시스템 전체를 형성할 권력, 의지, 그리고 지적·도덕적 동력을 가진 단위"가 등장했다는 것은, 키신저가 한때 지적한 바와 같다. 인간 문명의 가장 익숙한 체제는 일반적으로 이해되는 베스트팔렌 체제다. 그러나 주권 국가라는 개념은 17세기 중반 체결된 베스트팔렌 조약으로부터 등장한, 불과 몇 세기밖에 되지 않은 것이다. 주권 국가라는 단위는 예정된 사회 조직의 형태가 아니며, AI 시대에 적합하지 않을 수도 있다.

 

실제로, 대규모 허위정보와 자동화된 차별이 이러한 체제에 대한 신뢰 상실을 초래하면서, AI는 국가 정부의 권력에 내재적 도전을 제기할 가능성이 있다. 반대로, AI가 오늘날의 체제 내 경쟁자들의 상대적 위치를 재설정할 수도 있다. 만약 AI의 힘이 주로 국가 자체에 의해 통제된다면, 인류는 패권적 정체 상태에 갇히거나, 혹은 AI로 무장한 국가들의 새로운 균형으로 나아갈 가능성이 있다. 그러나 이 기술은 더 근본적인 전환의 촉매제가 될 수도 있다. 국가 정부가 세계 정치 인프라에서 중심적 역할을 포기해야만 하는 완전히 새로운 체제로의 이동을 초래할 수 있는 것이다.

 

하나의 가능성은 AI를 소유하고 개발하는 기업들이 사회적, 경제적, 군사적, 정치적 권력을 모두 독점적으로 축적하게 되는 것이다. 현재 정부들은 이러한 기업들을 지원하는 동시에, 독점적 탐욕과 비밀주의를 의심하는 시민들의 요구를 지지해야 하는 어려운 위치에 놓여 있다. 이는 지속 가능하지 않은 모순으로 드러날 가능성이 크다.

 

한편, 기업들은 이미 상당한 영향력을 더욱 공고히 하기 위해 동맹을 형성할 수 있다. 이러한 동맹은 상호 보완적인 이점과 통합의 이익을 바탕으로 하거나, AI 시스템의 개발 및 배치에 대한 공통된 철학에 기반하여 구축될 수 있다. 이러한 기업 동맹은 전통적인 국가의 기능을 대신할 수도 있다. 다만, 경계로 구분된 영토를 정의하고 확장하려는 대신, 이들은 자신들의 영역으로서 분산된 디지털 네트워크를 육성할 것이다.

 

또 다른 대안도 있다. 통제되지 않은 오픈 소스의 확산은 열악하지만 상당한 AI 역량을 보유한 소규모 집단이나 부족의 탄생을 가능하게 할 수 있다. 이러한 집단은 제한된 범위 내에서 자치를 이루고, 자원을 제공하며, 스스로를 방어하기에 충분할 수 있다. 기존 권위를 거부하고 탈중앙화된 금융, 소통, 통치를 선호하는 인간 집단들 사이에서, 이러한 기술 기반의 원시적 무정부 상태가 우위를 점할 가능성도 있다. 혹은 이들 집단이 종교적 요소를 결합할 가능성도 있다. 결국, 기독교, 이슬람교, 힌두교는 그 영향력 면에서 역사상 어떤 국가보다도 더 크고 오래 지속되었다. 다가오는 시대에는 국가적 시민권보다 종교적 소속이 정체성과 충성심의 더 중요한 틀이 될 가능성도 있다.

 

기업 동맹이 지배적인 미래이든, 혹은 느슨한 종교 집단으로 분산된 미래이든, 각 집단이 주장하고 다투게 될 새로운 "영토"는 물리적 토지가 아니라 디지털 풍경이 될 것이다. 각 집단은 개별 사용자의 충성을 얻기 위해 경쟁할 것이다. 이러한 사용자와 행정 조직 간의 연결은 전통적인 시민권의 개념을 전복시킬 것이며, 이들 간의 합의는 기존의 동맹과는 전혀 다른 형태를 띨 것이다.

 

역사적으로 동맹은 개별 지도자들에 의해 구축되었으며, 전쟁 시 국가의 힘을 증대시키는 역할을 해왔다. 이에 반해, 평화 시기에 일반 사람들의 의견, 신념, 그리고 주관적 정체성에 기반한 시민권, 동맹—나아가 정복이나 십자군 전쟁 같은 형태—이 조직화될 가능성은 전혀 새로운(혹은 매우 오래된) 제국의 개념을 요구할 것이다.

 

이는 충성을 맹세하는 데 따른 의무에 대한 재평가를 촉구할 것이며, AI와 얽혀 있는 미래에서 탈출의 선택지가 존재한다면 그 비용에 대해서도 숙고하게 만들 것이다. 이러한 재구성된 제국은 기존의 국가적·지리적 경계를 넘어, 새로운 방식으로 충성과 정체성의 개념을 재정립해야 할 것이다.

 

평화와 권력(PEACE AND POWER)

국가의 외교 정책은 이상주의와 현실주의 사이의 균형을 통해 구축되고 조정되어 왔다. 지도자들이 이루어낸 임시적 균형은, 시간이 지난 후에는 최종 상태가 아니라 당시 필요한 일시적 전략으로 간주된다. 새로운 시대가 도래할 때마다 이러한 긴장은 정치 질서를 구성하는 방식의 새로운 표현을 만들어냈다.

 

이익 추구와 가치 추구—혹은 특정 국가의 이익과 전 지구적 선의 추구—라는 이분법은 이 끝없는 진화 과정의 일부였다. 역사적으로 소규모 국가들의 지도자들은 자신들의 생존이라는 필수 조건을 우선시하며 비교적 단순하게 대응해왔다. 반면, 추가적인 목표를 실현할 수 있는 수단을 가진 세계 제국의 책임자들은 보다 고통스러운 딜레마에 직면해 왔다. 이들은 자국의 이익과 전 세계적 책임 사이에서 고도의 판단을 요구받는 상황에 놓이곤 했다.

 

문명이 시작된 이래, 인간 조직 단위가 확대되면서 동시에 새로운 수준의 협력을 이루어왔다. 그러나 오늘날, 행성적 차원의 도전 과제와 국가 간, 그리고 국가 내부에서 드러나는 물질적 불평등으로 인해 이러한 경향에 대한 반발이 나타나고 있다. AI는 이처럼 더 거대한 규모의 인간 거버넌스 요구에 부합할 가능성을 가지고 있으며, 개별 국가의 필요뿐 아니라 전 지구적 상호작용까지 세밀하고 정확하게 포착할 수 있을 것이다.

 

우리는 AI가 국내외 정치적 목적을 위해 활용될 때 단순히 균형 잡힌 절충안을 제시하는 데 그치지 않고, 새로운 글로벌 최적화 해법을 제공할 수 있기를 바란다. 이상적으로, AI는 인간이 가능한 것보다 더 긴 시간적 관점에서, 더 높은 정밀도로 작동함으로써 경쟁하는 인간의 이익을 조정할 수 있을 것이다. 다가오는 세계에서 갈등을 조정하고 평화를 협상하는 기계 지능은 전통적 딜레마를 명확히 하거나 심지어 이를 초월하는 데 기여할 수 있을 것이다.

 

그러나 AI가 우리가 스스로 해결해야 했던 문제를 실제로 해결하게 된다면, 우리는 두 가지 형태의 신뢰 위기에 직면할 수 있다.

하나는 과도한 자신감, 또 하나는 자존감의 결여다.

먼저, 우리의 자기 수정 능력의 한계를 이해하게 된 순간, 인간의 행동에 관한 실존적 문제를 해결하는 데 있어 기계에 너무 많은 권한을 넘겨주었다는 사실을 인정하기 어려워질 수 있다.

반면, 단순히 인간의 개입을 배제하는 것만으로 가장 난제였던 문제들이 해결되었다는 사실을 깨닫게 되면, 인간 설계의 한계를 지나치게 명백히 드러내게 될지도 모른다.

평화가 언제나 단순히 자발적 선택의 문제였다면, 인간의 불완전함의 대가는 끊임없는 전쟁이라는 화폐로 지불되어 온 것이다. 해결책이 항상 존재했으나 우리가 그것을 인식하지 못했다는 사실은 인간의 자부심에 깊은 타격을 줄 것이다.

 

안보의 경우, 과학이나 학문적 영역에서 인간의 역할이 대체되는 것과는 달리, 기계적 제3자의 공정함이 인간의 이기심보다 본질적으로 우월하다는 점을 더 쉽게 받아들일 수 있을 것이다. 마치 격렬한 이혼 소송에서 중재자의 필요성을 쉽게 인정하는 것처럼 말이다. 역설적으로, 우리의 가장 부정적인 특성 중 일부가 우리가 최고의 모습을 보여줄 수 있도록 만든다. 즉, 인간이 타인의 희생을 무릅쓰더라도 자기 이익을 추구하려는 본능은, AI가 인간의 자아를 초월하는 것을 받아들일 준비를 하게 하는 역할을 할 수 있다.