AI 위험 경고한 유엔

인공지능(AI) 기업 경영진과 전문가들이 23일 유엔 안전보장이사회에서 고도화되는 AI가 적절히 통제되지 않을 경우 국제 안보 위험이 될 수 있다고 경고했다고 코리아타임스가 보도했다.

이번 논의는 유엔 총회 기간 15개 이사국이 참여한 안보리 회의에서 이뤄졌다. 각국은 빠르게 발전하는 AI를 국가 안보 차원에서 어떻게 관리할지를 놓고 논의를 이어가고 있다.

코리아타임스에 따르면 오픈AI(OpenAI), 앤스로픽(Anthropic), 허깅페이스(Hugging Face) 경영진은 유엔 안보리 회의에서 AI 발전이 안보 문제로 이어질 수 있다고 밝혔다. 샘 올트먼 오픈AI 최고경영자, 다리오 아모데이 앤스로픽 최고경영자, 클레망 들랑그 허깅페이스 공동창업자 등이 회의에 참석했다.

다리오 아모데이 앤스로픽 최고경영자는 안보리에서 "If managed poorly, I even believe that AI could be a risk to humanity as a whole,"라고 말했다고 코리아타임스는 전했다. 회의에서는 AI가 스스로 성능을 높이거나 인간 통제를 벗어날 가능성도 논의됐다.

샘 올트먼 오픈AI 최고경영자는 "If AI is to be democratic, the most important decisions cannot be made by labs in San Francisco alone. They must be shaped through democratic processes and by governments accountable to the people they serve,"라고 말했다. 그는 또 "At the international level, this will require cooperation."라고 밝혔다.

요슈아 벤지오 독립 국제과학패널 공동의장은 "The dangers are real and imminent."라고 안보리에 말했다. 그는 "This council faces an unprecedented threat, one that none of its members would choose, that none can contain alone, and that does not respect the borders we defend,"라고도 밝혔다고 코리아타임스는 보도했다.

코리아타임스에 따르면 미국과 중국은 국가 안보 수준으로 확대되는 AI 관련 사고를 서로 통보하는 체계를 논의해 왔다. 안보리는 2023년 AI 위험 문제를 처음 논의했으며, 2024년에는 토니 블링컨 당시 미 국무장관이 AI 관련 안보리 회의를 주재했다.

도널드 트럼프 미국 대통령은 유엔 총회에서 AI 통제를 위한 세계적 구상에 반대한다는 입장을 보이며 "I'm not going to stifle growth of something that will be bigger than the Industrial Revolution."라고 말했다.