UN AI 논쟁, 감독 요구와 Trump의 “super intelligence” 프레이밍 충돌

인공지능은 유엔총회에서 미래를 둘러싼 가장 날카로운 쟁점 중 하나가 됐다. AP에 따르면 António Guterres 유엔 사무총장은 연설에서 더 강한 감독을 요구하며 생사가 걸린 결정을 기계에 넘겨서는 안 된다고 경고했다. 반면 Donald Trump 미국 대통령은 같은 무대에서 반대 방향의 수사를 택했다. 그는 미국 공식 문서에서 인공지능을 “super intelligence”라고 부르길 원한다고 말했다.

이 대비는 세계 AI 논쟁의 더 큰 균열을 보여준다. Guterres와 규제를 요구하는 지도자들은 강력한 AI 시스템이 충분한 인간 책임 없이 무기, 핵심 인프라, 의사결정 시스템에 배치될 수 있다는 점을 우려한다. “킬러 로봇”이라는 표현은 극적이지만, 실제 질문은 자율 시스템이 의미 있는 인간 통제 없이 표적을 선택하거나 공격해도 되는지다. Guterres는 재앙적이고 돌이킬 수 없는 피해 가능성을 경고한 새로운 유엔 과학 보고서도 언급했다.

Trump의 메시지는 속도, 자신감, 국가 경쟁에 집중됐다. Axios에 따르면 그는 artificial이라는 단어가 기술을 가짜처럼 보이게 한다며, 미국 문서가 “super intelligence”라는 표현을 써야 한다고 밝혔다. 또 AI를 통제하는 글로벌 체계를 거부하고 중국과의 경쟁을 미국이 반드시 이겨야 하는 싸움으로 제시했다. 이 용어는 중요하다. superintelligence는 AI 분야에서 이미 인간 능력을 넘어선 지능을 뜻하는 개념이기 때문이다.

유엔이라는 장소는 이 충돌을 더 중대한 문제로 만들었다. AI 거버넌스는 더 이상 컴퓨터 과학자와 기술 변호사만의 논의가 아니다. 외교, 안보 정책, 공공 신뢰의 일부가 됐다. 자율무기, 알고리즘 허위정보, 첨단 모델의 통제 상실을 걱정하는 국가는 배치가 너무 앞서가기 전에 국제 규범을 원한다. 경제 경쟁을 중시하는 국가는 글로벌 규칙이 자국 기업을 늦추거나 경쟁자의 우위를 고착할까 우려한다.

이 논쟁은 대중의 불안도 반영한다. 사람들은 글쓰기, 코딩, 검색, 고객 지원에 AI를 쓰면서도 연구자들의 경고를 본다. 지도자들이 킬러 로봇이나 슈퍼인텔리전스 같은 표현을 사용할 때, 그들은 정책 입장뿐 아니라 유권자가 AI의 미래를 상상하는 방식도 형성한다.

실용적 해법은 어렵다. 미국, 중국, 주요 기업이 치열하게 경쟁하는 상황에서 포괄적 세계 협정은 쉽지 않다. 군사 자율성, 긴급 사고 통보, 모델 평가, 투명성 같은 좁은 규칙이 더 현실적일 수 있다. 유엔 논쟁은 AI가 어려운 문제를 풀 수 있지만 사후 대응으로는 관리하기 힘든 위험도 만든다는 두 가지 사실을 각국이 아직 하나의 언어로 다루지 못하고 있음을 보여준다.