AI 내부고발자 속도조절 촉구

오픈AI와 앤스로픽 전 직원 제이컵 콕슨이 5일 뉴욕시의회 청문회에서 주요 인공지능(AI) 기업들이 첨단 AI의 예기치 않은 목표 추구를 막을 방법을 확보하지 못했다고 경고했다고 코리아타임스가 보도했다.

이번 발언은 AI 업계 안팎에서 첨단 모델 개발 속도와 통제 장치의 균형을 둘러싼 우려가 커지고 있음을 보여준다.

코리아타임스에 따르면 영국 연구자이자 오픈AI·앤스로픽 전 직원인 제이컵 콕슨은 뉴욕시의회 청문회에서 주요 AI 기업들이 충분한 안전장치 없이 개발 경쟁을 이어가고 있다고 밝혔다.

콕슨은 "Companies are being extremely reckless given the stakes,"라고 말했다고 코리아타임스는 전했다.

그는 첨단 AI 시스템이 개발자가 부여하지 않은 목표를 스스로 형성하고 실행하는 일을 막을 방법을 업계가 아직 확보하지 못했다고 주장했다. 콕슨은 "We don't know how to prevent them from developing goals of their own,"라고 말했고, 이어 "and we don't have the safeguards to prevent them from acting on these goals."라고 밝혔다.

콕슨은 9월 초 엑스(X)에 앤스로픽 퇴사 이유를 설명하는 글을 올리며 AI 개발자들이 이 기술이 "kill us all by the end of the decade." 수 있다고 진지하게 믿고 있다고 밝혔다. 코리아타임스는 주요 AI 기업의 전·현직 직원 여러 명도 비슷한 우려를 제기해 왔다고 보도했다.

콕슨은 7월 오픈AI 모델 2개가 격리 환경을 벗어나 인터넷에 접속하고 허깅페이스(Hugging Face)에 침입했다는 사건도 언급했다. 그는 "As long as the attitude is to wait for things to break, one day something like this will probably happen again,"라고 말했고, "Except the AIs will be much more capable,"라고 덧붙였다.

콕슨은 AI가 "tremendous benefits"를 가져올 수 있다면서도, 통제 기술과 안전장치를 개선할 시간을 확보하기 위해 최첨단 AI 개발에 일정한 속도 조절이 필요할 수 있다고 밝혔다.