AI군비통제를 위한 길(The Path to AI Arms Control)

미국과 중국은 참극을 피하기 위해 협업해야한다.( America and China Must Work Together to Avert Catastrophe)

By Henry A. Kissinger and Graham Allison

October 13, 2023

 

올해는 역사상 가장 치명적인 전쟁이 끝난 지 78주년이 되는 해이며, 현대에서 대국 간 전쟁이 없는 가장 오랜 기간이 시작된 해이기도 하다. 제1차 세계대전 후 불과 20년 만에 제2차 세계대전이 발발한 상황에서, 인류 전체를 위협할 정도로 파괴적인 무기로 전개될 제3차 세계대전의 유령이 냉전 시기 동안 세계를 감쌌다. 미국의 원자폭탄 공격으로 히로시마와 나가사키가 파괴되면서 일본은 즉각 무조건 항복을 했고, 그 후 70여 년간 핵무기 사용에 대한 사실상의 모라토리엄이 유지될 것이라고는 아무도 예상하지 못했다. 또한, 78년이 지난 지금까지도 핵무기를 보유한 국가가 단 9개국에 불과하다는 점은 더더욱 놀라운 일이다. 지난 수십 년간 핵전쟁을 피하고, 핵 확산을 지연시키며, 대국 간 평화를 유지하는 국제질서를 구축하는 데 있어 미국이 보여준 지도력은 역사의 가장 중요한 업적 중 하나로 남을 것이다.

 

오늘날, 인류는 또 다른 전례 없는 기술, 인공지능이 제기하는 독특한 도전에 직면해 있다. 많은 이들이 역사에서 교훈을 얻으려는 것은 놀라운 일이 아니다.

1.초인적인 능력을 지닌 기계들이 인류의 우위를 위협하게 될 것인가?

2.AI가 국가의 폭력에 대한 독점을 약화시킬 것인가?

3.AI가 소수 개인이나 집단이 기존 강대국에만 가능했던 규모의 살상 능력을 지닌 바이러스를 만들어내는 것을 가능하게 할 것인가?

4.AI가 핵 억제력을 약화시켜 현재의 세계 질서를 뒤흔들 수 있을 것인가?

 

현재 이 질문들에 대해 누구도 자신 있게 대답할 수 없다. 그러나 지난 2년 동안 AI 혁명의 최전선에 있는 기술 리더들과 이러한 문제들을 탐구한 결과, 통제되지 않은 AI의 발전이 미국과 전 세계에 재앙적 결과를 초래할 가능성이 매우 높다는 결론에 도달했다.

정부 지도자들은 앞으로 어떤 미래가 펼쳐질지 알 수 없더라도, 오늘날 충분히 이해된 점들을 바탕으로 어려운 결정을 내리고 조치를 취해야 하며, 이는 시간이 지나며 새로운 사실이 밝혀질 때마다 반복적인 수정이 필요할 것이다.

 

지도자들이 이러한 선택을 할 때, 핵 시대의 교훈이 그들의 결정에 도움이 될 수 있다.

수백만 명의 생명을 앗아갈 수 있는 전례 없는 기술을 개발하고 배치하려는 경쟁을 벌이던 적대국들조차도 공동의 이해관계를 발견했다.

듀오폴리스트(duopolist)였던 미국과 소련은 자신들에게 위협이 될 수 있는 다른 국가로의 이 기술의 확산을 방지할 공통의 이해관계를 공유했다.

워싱턴과 모스크바 모두 핵 기술이 자국 내의 불량 세력이나 테러리스트의 손에 들어가면 자신들을 위협할 수 있다는 점을 인식하고, 자국의 무기고에 대한 강력한 보안 체계를 구축했다. 또한, 적대국 내 불량 세력이 핵무기를 획득할 경우 자신들도 위협을 받을 수 있음을 알게 되면서, 양측은 이를 방지하기 위해 서로의 보안 관행과 기술을 공유하며 논의할 필요성을 느꼈다.

양국의 핵무기가 어느 정도 수준에 도달하여 한쪽이 공격하면 상대방의 반격으로 인해 자신이 파괴될 수밖에 없게 되자, 양국은 ‘상호 확증 파괴(MAD)’의 역설적 안정성을 발견했다.

이 냉혹한 현실을 내재화하면서 각국은 스스로를 제한하는 법을 배우고, 충돌로 인한 전쟁을 피하기 위해 상대방이 자국의 이니셔티브를 억제할 수 있도록 설득하는 방법을 찾아냈다.

실제로, 미국과 소련의 지도자들은 자국이 제1의 희생자가 될 수 있는 핵전쟁을 피하는 것이 최우선적인 책무라는 점을 인식하게 되었다.

 

오늘날 AI가 제기하는 도전은 단순히 핵 시대의 두 번째 장이 아니다. 역사는 정해진 조리법에 따라 음식을 완성할 수 있는 요리책이 아니기 때문이다. AI와 핵무기 사이에는 유사점만큼이나 중요한 차이점이 존재한다. 그러나 적절하게 이해하고 변형한다면, 지난 80년 동안 대국 간 전쟁을 방지한 국제 질서 구축에서 얻은 교훈은 오늘날 AI 문제에 직면한 지도자들에게 가장 효과적인 지침을 제공할 수 있다.

 

현재 AI 초강대국은 단 두 나라에 불과하다. 미국과 중국만이 가장 정교한 AI 모델을 훈련하는 데 필요한 인재, 연구 기관, 대규모 컴퓨팅 능력을 갖추고 있다. 이는 AI의 가장 위험한 발전과 응용을 방지할 지침을 마련할 수 있는 한정된 기회를 제공한다. 조 바이든 미국 대통령과 시진핑 중국 국가주석은 이러한 기회를 잡아야 하며, 이를 위해 11월 샌프란시스코에서 열리는 아시아태평양경제협력체(APEC) 회담 직후 양국 정상 회담을 개최해 오늘날 직면한 가장 중요한 문제 중 하나에 대해 직접적이고 심도 있는 논의를 나눌 수 있을 것이다.

 

핵시대로부터의 교훈(LESSONS FROM THE NUCLEAR AGE)

 

1945년 원자폭탄이 일본 도시들을 파괴한 후, 판도라의 상자를 연 과학자들은 자신들이 만든 것이 초래한 참상을 보고 공포에 휩싸였다. 맨해튼 프로젝트의 수석 과학자인 로버트 오펜하이머는 바가바드 기타의 한 구절을 떠올리며 “나는 이제 죽음이 되어 세상의 파괴자가 되었다”고 말했다. 오펜하이머는 핵무기를 통제하기 위한 급진적 조치를 강력히 옹호한 나머지 보안 승인마저 박탈당했다. 1955년, 버트런드 러셀과 알베르트 아인슈타인뿐만 아니라 라이너스 폴링과 막스 보른을 포함한 11명의 과학자가 서명한 러셀-아인슈타인 선언은 핵무기의 무서운 힘을 경고하며 세계 지도자들에게 그 사용을 절대 피할 것을 호소했다.

 

미국 대통령 해리 트루먼은 자신의 결정을 후회하지 않았으나, 그와 국가안보팀 구성원들 모두 이 엄청난 기술을 전후 국제 질서에 통합할 수 있는 실질적인 방안을 가지고 있지 않았다. 미국은 유일한 원자력 보유국으로서 독점적 지위를 유지하려 해야 하는가? 그것이 가능하기는 한가? 이러한 목표를 위해 미국이 소련과 기술을 공유할 수 있는가? 이 무기를 가진 세계에서 생존하기 위해 지도자들은 국가 정부를 초월하는 권위를 창출해야 하는가? 독일과 일본에 승리를 안긴 전쟁장관 헨리 스팀슨은 미국이 소련의 지도자 요제프 스탈린과 영국 총리 윈스턴 처칠에게 원자폭탄 독점을 공유하여 핵무기 확산을 막을 수 있는 대국 간 “합동체”를 구축할 것을 제안했다. 트루먼은 스팀슨의 제안을 추진하기 위해 미국 국무부 차관 딘 애치슨이 이끄는 위원회를 구성했다.

 

애치슨은 기본적으로 스팀슨의 의견에 동의했다. 핵무기 경쟁이 재앙적인 전쟁으로 끝나는 것을 막기 위한 유일한 방법은 핵무기를 독점적으로 보유할 국제적 권위를 창설하는 것이었다. 이를 위해서는 미국이 소련 및 유엔 안전보장이사회 회원국들과 핵 비밀을 공유하고, 핵무기를 유엔의 새로운 “원자력 개발 기구”에 이양하며, 모든 국가가 핵무기 개발과 무기급 핵물질 생산 능력 구축을 금지해야 했다. 1946년, 트루먼은 금융가이자 대통령 고문인 버나드 바루크를 유엔에 파견하여 애치슨의 계획을 실현할 협정을 협상하게 했다. 그러나 이 제안은 소련의 유엔 대표 안드레이 그로미코에 의해 단호히 거부되었다.

 

3년 후, 소련이 자체 핵무기 개발을 목표로 한 급속 프로젝트에 성공하면서 미국과 소련은 폭탄과 총알을 제외한 모든 수단을 동원한 경쟁을 벌이는 냉전 시대로 진입하게 되었다. 이 경쟁의 핵심 요소는 핵 우위 추구였다. 양대 초강대국의 핵무기 보유고는 최대 6만 개 이상의 무기를 포함했으며, 이 중 일부는 인류 역사상 사용된 모든 무기의 폭발력을 능가하는 위력을 지닌 탄두였다. 전문가들은 전면 핵전쟁이 발생할 경우 지구상의 모든 생명이 멸망할 것인지 여부를 놓고 논쟁을 벌였다.

 

수십 년 동안 워싱턴과 모스크바는 핵무기 개발에 수조 달러를 투입해왔다.

현재 미국의 핵무기 관련 연간 예산은 500억 달러를 초과한다. 경쟁 초기, 미국과 소련은 결정적인 우위를 얻기 위해 상상할 수 없던 수준의 발전을 이루었다. 무기의 폭발력이 증가하면서 새로운 단위가 필요하게 되었다. 초기 핵분열 무기의 폭발력은 1,000톤의 TNT와 같은 킬로톤 단위로 측정되었지만, 수소 폭탄의 경우 1백만 톤에 해당하는 메가톤 단위가 사용되었다. 양측은 지구 반대편 목표에 탄두를 30분 내로 전달할 수 있는 대륙간 미사일을 개발하고, 수백 마일 상공을 도는 위성에 탑재된 카메라로 몇 인치 단위까지 좌표를 식별할 수 있는 기술을 개발했으며, 본질적으로 탄환으로 탄환을 맞출 수 있는 방어 체계까지 구축했다. 일부 관측자들은 핵무기를 무력화하고 시대에 뒤처지게 만드는 방어 체계를 상상하며, 이를 레이건 대통령이 표현한 바와 같이 “무력화하고 쓸모없게” 만들 것을 진지하게 고찰했다.

 

 

개념적 무기고(THE CONCEPTUAL ARSENAL)

본문의 내용은 아니지만, 부르디외의 개념적 무기고 개념에서 차용한것 같은데, 잘 이해는 안되는 부분.

 

이러한 발전을 조율하는 과정에서 전략가들은 개념적 무기고를 발전시켰다.

그들은 제1격(선제 공격)과 제2격(보복 공격)을 구분하고, 신뢰할 수 있는 보복 대응을 위해 필수적인 요건을 명확히 했다. 또한, 적이 특정 취약점을 발견하더라도 보복 수단이 남아 있을 수 있도록 하기 위해 핵 삼위일체(잠수함, 폭격기, 지상 발사 미사일)를 개발했다.

무기의 우발적 또는 비인가 발사 위험에 대한 인식은 허가 조치 링크(PAL)라는 전자 잠금 장치를 고안하게 했다. 이는 올바른 핵 발사 코드가 없으면 핵무기가 활성화되지 않도록 설계된 장치였다. 명령통제 체계를 위협할 수 있는 기술적 돌파에 대비해 중복 시스템이 설계되었으며, 이는 인터넷으로 발전하게 된 컴퓨터 네트워크의 발명을 자극했다. 저명한 전략가 허먼 칸이 말했듯이, 이들은 "생각할 수 없는 것을 생각하는" 작업을 수행하고 있었다.

 

핵 전략의 핵심은 억지력 개념이었다. 억지란 상대방이 공격을 통해 얻을 수 있는 이익보다 훨씬 큰 대가를 치르도록 위협하여 공격을 방지하는 것이었다. 성공적인 억지를 위해서는 단순한 능력뿐 아니라 신뢰성도 필수적이라는 인식이 확립되었다. 잠재적 피해자는 결정적인 대응 수단뿐만 아니라 이에 대한 의지도 필요했다. 전략가들은 이러한 기본 개념을 더 발전시켜, 확장 억지라는 개념을 도입했다. 이는 동맹을 통한 보호의 약속을 통해 주요 국가들이 자체 무기고를 구축하지 않도록 설득하는 정치적 메커니즘이었다.

 

핵 전략의 핵심에는 억지(deterrence) 개념이 있었다. 억지는 상대방이 얻을 수 있는 이익보다 훨씬 큰 대가를 위협하여 공격을 막는 것을 의미한다. 성공적인 억지에는 단순히 대응할 능력뿐 아니라 그 대응 의지의 신뢰성도 필수적이라는 인식이 확립되었다. 따라서 잠재적 피해자는 결정적인 대응 수단뿐만 아니라 이에 대한 확고한 의지도 필요했다. 전략가들은 이러한 개념을 더 발전시켜, *확장 억지(extended deterrence)*를 도입했다. 이는 동맹을 통한 보호의 약속을 통해 주요 국가들이 자체 핵무기 보유를 추구하지 않도록 설득하는 정치적 메커니즘이었다.

1962년, 소련이 쿠바에 핵미사일을 배치하면서 미국의 케네디 대통령은 소련의 흐루쇼프와 대치하게 되었고, 미국 정보기관은 케네디가 선제 공격을 성공적으로 가하더라도 소련의 보복으로 인해 미국에서 6,200만 명이 사망할 수 있다고 추정했다. 1969년 리처드 닉슨이 대통령이 되었을 때, 미국은 이 새로운 현실에 맞춰 방어 전략을 재검토해야 했다. 헨리 키신저는 이를 이렇게 설명했다: “우리가 우위를 점했던 시기에 수립한 방어 전략은 새로운 현실의 냉혹한 빛 아래에서 재검토되어야 했다. … 기존의 핵무기 보유량만으로도 인류를 파멸시킬 수 있다는 사실을 부인할 수는 없었다. 핵전쟁이라는 재앙을 방지하는 것보다 중요한 책무는 없었다.”

 

이 조건을 명확히 하기 위해 전략가들은 아이러니한 약어 *MAD(상호확증파괴, Mutual Assured Destruction)*를 만들었으며, 그 핵심은 레이건 대통령의 유명한 발언으로 요약되었다: “핵전쟁은 이길 수 없다. 그러므로 절대로 벌어져서는 안 된다.” MAD는 상호 확증 취약성을 의미했으며, 양국은 이를 벗어나려 했으나 결국 그럴 수 없음을 인정하고 관계를 근본적으로 재구성해야 했다. 1955년 처칠은 “안전은 공포의 튼튼한 자식이 될 것이며, 생존은 소멸의 쌍둥이 형제가 될 것”이라는 아이러니를 지적했다. 양국은 가치 차이와 국가의 중요한 이익을 포기하지 않고서도, 전면전을 제외한 모든 수단을 동원해 상대를 제압하기 위한 전략을 개발해야 했다.

 

이 전략의 중요한 한 축은 묵시적이든 명시적이든, 지금은 군비 통제라고 알려진 일련의 제약 조치들이었다. MAD 이전에도, 양국은 각기 우위를 점하려 노력하면서도 공통의 이해관계를 발견했다. 실수의 위험을 줄이기 위해 미국과 소련은 서로의 영토 감시에 간섭하지 않기로 비공식적으로 합의했다. 방사능 낙진으로부터 자국민을 보호하기 위해 대기 중 핵실험을 금지했고, “위기 불안정성”(상대가 선제 공격을 감행할 것으로 믿어 선제 공격을 하려는 상황)을 피하기 위해 1972년 *탄도탄 요격 미사일 제한 협정(ABM Treaty)*에서 미사일 방어체계의 제한에 합의했다. 1987년 *중거리 핵전력 조약(INF Treaty)*에서는 레이건과 소련의 고르바초프가 중거리 핵전력의 철거에 합의했다. 1972년과 1979년에 서명된 *전략무기 제한 협정(SALT)*은 미사일 발사대 수의 증가를 제한했으며, 이후 1991년에 서명된 *전략무기 감축 협정(START)*과 2010년의 뉴스타트 조약은 무기의 절대 수를 줄였다. 가장 중요한 것은, 미국과 소련은 핵무기의 다른 국가로의 확산이 양국 모두에게 위협이 되며 궁극적으로 핵 무질서 상태를 초래할 수 있다고 결론내렸다. 이들은 현재 핵비확산 체제로 알려진 제도를 마련했으며, 그 중심에는 1968년의 *핵확산방지조약(NPT)*이 자리 잡고 있다. 오늘날 186개국은 이 조약을 통해 자체 핵무기 보유를 자제할 것을 약속했다.

 

AI에 대한 통제(CONTROLLING AI)

현재 AI 통제 방안에 대한 제안들은 과거의 반향을 담고 있다. 억만장자 일론 머스크의 AI 개발 6개월 중단 요구, AI 연구자 엘리에저 유드코우스키의 AI 폐지 제안, 심리학자 게리 마커스의 AI를 글로벌 기구가 통제해야 한다는 주장 등은 사실상 핵 시대에 나왔던 실패한 제안들을 반복하고 있다. 그 이유는 이러한 제안들이 모두 주요 국가들이 자국의 주권을 다른 곳에 종속시킬 것을 요구하기 때문이다. 역사상 어느 대국도 경쟁자가 새로운 기술을 사용해 자신의 생존과 안보를 위협할 수 있는 상황에서 스스로 그 기술 개발을 포기한 적이 없다. 미국의 가까운 동맹국인 영국과 프랑스조차도 미국의 핵우산에 의존하면서도 자체적인 핵무기 개발을 선택했다.

 

핵 역사에서 얻은 교훈을 현재 AI 문제에 적용하려면 AI와 핵무기의 중요한 차이를 인식하는 것이 필수적이다.

 

첫째, 핵기술 개발은 정부가 주도한 반면, AI는 민간 기업가, 기술자, 기업들이 주도하고 있다. Microsoft, Google, Amazon, Meta, OpenAI와 소수의 스타트업에서 일하는 과학자들은 정부가 수행하는 그 어떤 유사한 노력보다 훨씬 앞서 있다. 더욱이 이들 기업은 서로 경쟁하는 “검투사” 같은 상황에 처해 있으며, 이는 혁신을 촉진하지만 위험과 보상의 균형에서 희생을 초래한다. 이러한 민간 주체들이 위험과 보상을 저울질하는 과정에서, 국가의 이익은 필연적으로 과소평가될 가능성이 크다.

 

둘째, AI는 디지털 기술이다. 핵무기는 우라늄 농축부터 핵무기 설계에 이르기까지 복잡한 인프라가 필요한 생산 과정이 있어 생산이 어렵고 물리적이며, 개수를 세는 것이 가능했다. 상대의 활동을 확인할 수 있었기 때문에 제약이 가능했다. 그러나 AI는 본질적으로 전혀 다른 도전을 의미한다. 주요 진보는 인간의 사고 속에서 이루어지며, 실험실에서 개발이 진행되고, 배치 상황을 관찰하기 어렵다. 핵무기는 유형의 존재이지만, 인공지능의 본질은 개념적이다.

 

셋째, AI는 빠르게 발전하고 확산하고 있어 장기적인 협상이 불가능하다. 군비 통제는 수십 년에 걸쳐 발전해왔지만, AI에 대한 제약은 각 사회의 보안 구조에 AI가 자리 잡기 전에, 즉 일부 전문가들이 향후 5년 내로 발생할 수 있다고 경고하는 기계가 스스로 목표를 설정하기 시작하기 전에 시행되어야 한다. 이를 위해 우선 국가 차원의 논의가 필요하며, 이어서 국제적 토론과 분석이 이루어져야 하며, 정부와 민간 부문 간 관계에서도 새로운 역동성이 요구된다.

 

다행히, 생성형 AI를 개발하여 미국을 AI 초강대국으로 만든 주요 기업들은 자사 주주뿐 아니라 국가와 인류에 대한 책임을 인식하고 있다. 많은 기업이 이미 배포 전에 위험을 평가하는 지침을 마련하고, 훈련 데이터의 편향을 줄이며, 위험한 모델 사용을 제한하는 자체 규정을 도입했다. 또 일부 기업은 클라우드 컴퓨팅 제공업체에 대해 '고객 파악' 요건을 적용하고 AI 훈련을 제한하는 방안을 모색하고 있다. 7월 바이든 행정부는 주요 AI 기업 7곳의 대표들을 백악관으로 초청해 “안전, 보안, 신뢰”를 보장하는 가이드라인 수립을 위한 공동 서약을 이끌어내는 중요한 진전을 이루었다.

 

키신저가 그의 저서 The Age of AI에서 지적했듯, AI의 발전이 초래할 장기적 영향을 체계적으로 연구하는 것은 시급한 과제다. 미국이 남북전쟁 이후 가장 분열된 상태라 해도, 통제되지 않은 AI 발전으로 인한 위험이 엄청나기 때문에 정부와 기업 지도자들이 지금 즉시 행동에 나서야 한다. 대규모 컴퓨팅 능력으로 새로운 AI 모델을 훈련하는 각 기업과 새 모델을 개발하는 기업 및 연구 그룹은 자사 상업적 AI 운영이 인류와 지정학에 미치는 영향을 분석할 그룹을 조직해야 한다.

 

이 과제는 초당적이며 통합된 대응이 필요하다. 대통령과 의회는 이러한 정신에 따라 민간 부문, 의회, 군, 정보기관의 비정파적 전직 지도자들로 구성된 국가 위원회를 설립해야 한다. 이 위원회는 구체적인 안전장치 규정을 제안해야 한다. 여기에는 GPT-4와 같은 AI 모델을 훈련하는 데 필요한 대규모 컴퓨팅 능력을 지속적으로 평가하고, 새로운 모델이 출시되기 전에 극단적 위험에 대한 스트레스 테스트를 요구하는 방안이 포함되어야 한다.

규정 개발 작업이 필요하며,  위원회는 국가 AI 안전위원회의 모델을 참고할 수 있다. 2021년 발표된 위원회의 권고안은 미군과 정보기관이 중국과의 AI 경쟁에서 추진하는 이니셔티브에 방향성을 제시하며 중요한 추진력을 제공했다.

 

두개의 AI 슈퍼파워(THE TWO AI SUPERPOWERS)

아직 초기 단계이지만, 미국이 자국 내 AI 통제 프레임워크를 마련하는 동안에도 세계의 유일한 또 다른 AI 초강대국인 중국과 본격적인 대화를 시작하기에 충분한 시점이다. 중국의 기술 부문 주요 기업인 바이두(중국 최대 검색 엔진), 바이트댄스(TikTok 개발사), 텐센트(위챗 개발사), 알리바바(전자상거래 선두 기업) 등은 ChatGPT와 유사한 중국어 AI 모델을 개발하고 있으나, 중국의 정치 시스템이 AI 발전에 특별한 어려움을 제기해 왔다. 중국은 고급 반도체 제조 기술에서 여전히 뒤처져 있지만, 당분간 AI에서 앞서 나갈 수 있는 필수 요소는 갖추고 있다.

 

따라서 바이든 대통령과 시 주석은 가까운 시일 내에 AI 군비 통제에 대해 비공식 회담을 열어야 한다. 11월 샌프란시스코에서 열리는 아시아태평양경제협력체(APEC) 회의가 그 기회를 제공할 수 있다. 각 지도자는 AI가 초래하는 위험에 대해 개인적인 견해를 공유하고, 자국이 이러한 위험을 예방하기 위해 무엇을 하고 있는지, 그리고 자국의 기업들이 위험을 수출하지 않도록 어떻게 관리하고 있는지를 논의해야 한다. 이후의 논의를 위해 미국과 중국의 AI 과학자 및 관련 전문가들로 구성된 자문 그룹을 만들어 이 사안의 파급 효과에 대해 고찰하도록 할 필요가 있다. 이는 기존의 트랙 II 외교 모델을 기반으로 하며, 이는 공식적으로 정부의 승인을 받은 것은 아니지만 신중하고 공정한 판단을 가진 개인들로 구성된 그룹이다. 양국 과학자들과의 논의를 통해 이러한 접근이 매우 생산적인 대화를 이끌 수 있음을 확신하고 있다.

 

미국과 중국 간의 논의와 행동은 AI에 관한 글로벌 논의의 일부분이 될 것이며, 여기에는 11월 영국이 주최하는 AI 안전 정상회의와 유엔에서 진행 중인 대화가 포함된다. 각국이 자국민의 삶을 향상시키면서 사회의 안전을 보장하기 위해 AI를 활용하고자 할 것이기 때문에, 장기적으로 글로벌 AI 질서가 필요해질 것이다. 이를 위한 작업은 AI로 인한 가장 위험하고 잠재적으로 재앙적인 결과를 방지하기 위한 국가 차원의 노력으로 시작해야 한다. 이러한 이니셔티브는 대규모 AI 모델을 개발하는 각국 과학자들과 각국의 국가 위원회 구성원 간의 대화를 통해 보완되어야 한다. 초기에는 선진 AI 프로그램을 보유한 국가들 간의 공식 정부 협상이 국제적 AI 프레임워크를 마련하고, 국제 원자력기구(IAEA)와 유사한 국제 기구를 설립하는 방향을 모색해야 한다.

 

바이든, 시 주석 및 다른 세계 지도자들이 과거 핵 위협을 직시한 선례를 따르며 AI가 초래하는 도전에 지금 맞선다면, 그들은 성공할 수 있을까? 오늘날 역사적 맥락과 심화되는 분열을 감안하면 낙관하기는 어렵다. 그럼에도 불구하고 핵보유국 간 평화가 78년 동안 이어지고 있다는 역사적인 사실은 모든 이에게 AI가 가져올 혁신적이고 피할 수 없는 도전에 대응할 용기를 북돋아 줄 것이다.