AI 기업 수장들, ‘속도보다 안전’ 논의 본격화
AI부동산경제신문 | 경제
[서울=이진형 기자] 인공지능(AI) 기술 경쟁이 빠르게 진행되는 가운데 주요 AI 기업 최고경영자(CEO)들을 중심으로 개발 속도를 조절하고 안전 검증을 강화해야 한다는 주장이 잇따르고 있다.
다리오 아모데이 앤트로픽 CEO는 12일(현지시간) 자신의 블로그에 최첨단 AI 기술의 발전 속도를 조절해야 한다는 취지의 글을 공개했다. AI 모델의 성능 향상을 중단하자는 의미가 아니라, 기술 발전 속도에 맞춰 안전성 검증과 통제 체계를 마련할 시간을 확보해야 한다는 주장이다.
아모데이 CEO가 특히 우려한 부분은 AI가 인간 연구자의 직접적인 개입 없이 자신의 성능을 개선하는 이른바 ‘재귀적 자기개선’ 가능성이다. AI의 능력이 빠르게 향상될 경우 인간이 시스템의 작동 방식과 위험 요소를 파악하고 통제하는 능력이 기술 발전을 따라가지 못할 수 있다는 것이다.
그는 AI가 통제 범위를 벗어날 가능성뿐 아니라 사이버 공격과 생물학적 위협에 AI가 악용될 가능성, 경제적 혼란 등도 주요 위험 요인으로 언급했다.
제3자 독립 평가 제안…오픈AI·머스크도 동참
아모데이 CEO는 AI 기업 내부의 자체적인 안전 검증만으로는 충분하지 않다며 독립적인 제3자 평가 체계를 구축해야 한다고 제안했다.
그가 제시한 방안은 외부 평가기관이 AI 개발 과정과 완성된 모델을 지속적으로 검증할 수 있도록 하는 것이다. 특히 평가 인력에게 기업 내부 직원과 유사한 수준의 접근 권한을 부여해 실질적인 감독이 가능하도록 해야 한다고 강조했다.
샘 올트먼 오픈AI CEO는 아모데이 CEO의 제안에 공개적으로 동의했다. 올트먼 CEO는 오픈AI에서도 최근 AI 개발 속도를 조절하는 문제를 논의해 왔다며 독립적인 평가 인력을 도입하겠다는 입장을 밝혔다.
일론 머스크 스페이스X·xAI CEO 역시 아모데이 CEO의 주장에 동의한다는 취지로 반응했다. 데미스 허사비스 구글 딥마인드 CEO도 방향성에는 공감하면서 구체적인 방안은 추가 논의가 필요하다는 입장을 보였다.
AI 개발 경쟁의 최전선에 있는 기업들이 안전 문제를 이유로 개발 속도 조절 필요성에 공감대를 형성했다는 점에서 이번 논의는 업계에서도 주목받고 있다.
트럼프 “AI 경쟁에서 이기는 것이 중요”…속도조절론과 온도차
다만 미국 정부의 입장은 AI 업계의 속도조절론과 차이를 보이고 있다.
도널드 트럼프 미국 대통령은 13일(현지시간) AI 개발 속도를 늦추거나 규제를 강화해야 하는지를 묻는 질문에 미국이 중국보다 AI 경쟁에서 앞서고 있다는 점을 강조하며 현재의 경쟁 방식을 유지하겠다는 입장을 밝혔다.
트럼프 대통령은 안전장치를 마련할 수 있다는 점은 인정하면서도 AI 개발 과정에서 발생할 수 있는 위험을 과도하게 부각하는 움직임에는 부정적인 견해를 나타냈다.
백악관 역시 AI 안전성 확보와 기술 경쟁력 유지를 동시에 추진해야 한다는 입장이다. 케빈 해싯 국가경제위원회 위원장은 악의적인 행위자가 미국보다 뛰어난 AI를 확보하는 상황 역시 심각한 위험이 될 수 있다며 기술 개발과 안전 문제를 함께 다뤄야 한다고 강조했다.
이는 AI의 위험성을 이유로 개발 자체를 늦추기보다는 미국이 중국과의 기술 경쟁에서 우위를 유지하면서 안전장치를 강화해야 한다는 접근으로 풀이된다.
규제 필요성 놓고 업계와 정치권에서도 의견 엇갈려
AI 개발 속도조절론을 둘러싼 논쟁은 단순히 기술 안전 문제에 그치지 않고 규제의 방향과 산업 경쟁력 문제로도 확대되고 있다.
데이비드 삭스 백악관 과학기술자문위원장은 AI 기업들이 개발 속도를 스스로 조절하겠다고 나서는 것에 대해 경계하는 입장을 나타냈다. AI 기업이 기술 개발과 동시에 규제 체계까지 주도할 경우 기존 사업자에게 유리한 규제가 만들어질 수 있다는 ‘규제 포획’ 가능성을 지적한 것이다.
마이크 존슨 하원의장 역시 의회가 긴급한 방식으로 AI 개발을 중단시키는 형태의 규제에는 신중해야 한다는 입장을 밝혔다. AI 기업들이 안전 책임을 져야 한다는 점에는 동의하면서도, 과도한 규제가 미국의 기술 경쟁력을 약화시킬 수 있다는 우려를 제기했다.
반면 AI 업계에서는 빠른 기술 발전에 비해 안전 검증 체계가 충분히 갖춰지지 않았다는 우려가 계속되고 있다. 특히 AI 에이전트가 사람의 직접적인 개입 없이 복잡한 작업을 수행하는 사례가 늘어나면서 통제 가능성과 책임 소재를 둘러싼 논의도 커지는 상황이다.
‘AI 개발 가속’과 ‘안전 검증’ 사이 균형이 핵심
이번 논쟁의 핵심은 AI 개발을 중단할 것인지 여부보다는 기술 발전 속도와 안전 검증 체계를 어떻게 조화시킬 것인지에 있다.
아모데이 CEO는 AI가 질병 치료와 경제 성장 등 인류에게 상당한 혜택을 가져올 가능성을 인정하면서도, 기술의 잠재적 위험이 큰 만큼 안전장치를 마련할 시간이 필요하다고 주장했다.
반면 트럼프 행정부는 AI 기술을 국가 경쟁력과 안보의 핵심 요소로 보고 중국과의 경쟁에서 우위를 유지하는 것을 우선 과제로 보고 있다.
결국 향후 AI 산업에서는 개발 속도를 얼마나 유지할 것인지, 독립적인 안전 검증을 어디까지 의무화할 것인지, 그리고 미국의 기술 경쟁력을 저해하지 않으면서 국제적인 안전 기준을 어떻게 마련할 것인지가 주요 쟁점으로 떠오를 전망이다.
AI부동산경제신문 | 편집부
이진형 기자
Copyright © 2026 AI부동산경제신문. All Rights Reserved.
){kind=small}
){kind=small}
){kind=small}
){kind=small}
