| 다리오 아모데이 앤트로픽 CEO가 AI 개발 속도를 늦추자고 하자, 샘 알트먼 오픈AI CEO와 일론 머스크 CEO까지 동의했습니다. 이어 데미스 허사비스 구글 딥마인드 회장과 사티아 나델라 마이크로소프트 CEO까지 여기에 합류했습니다.최근 AI 에이전트가 실제 시스템을 공격하거나 악용되는 사례가 잇따르면서, 모델의 능력이 안전장치보다 빠르게 발전하고 있다는 판단이 커진 것이 직접적인 이유로 보입니다. 아모데이는 개발을 중단하자는 것이 아니라 안전·정렬·모니터링이 따라올 시간을 벌자는 입장입니다.그런데 혼자 속도를 늦출 수 없다는 문제가 있습니다. 앤트로픽만 개발을 늦추면 오픈AI가 앞설 수 있고, 미국 기업들이 함께 늦춰도 중국이 계속 개발하면 경쟁에서 밀릴 수 있습니다.모두가 속도를 늦추면 안전에 도움이 되지만, 어느 한쪽이라도 경쟁을 계속하면 속도를 늦춘 쪽이 뒤처질 수 있습니다. 각자 협력하는 것이 최선이라는 걸 알아도 상대가 협력할지 확신할 수 없어 경쟁을 멈추기 어려운 ‘죄수의 딜레마’인 셈입니다.그래서 아모데이는 독립 평가기관, 공통 안전기준, 국가 간 협력을 묶어 제안했고, 올트먼도 최근 몇 주 동안 오픈AI 내부에서 비슷한 논의를 해왔다고 밝혔습니다. 디 인포메이션도 앤트로픽과 오픈AI, 구글이 업계 안전 기준기구를 만드는 방안을 조용히 논의해 왔다고 보도했습니다.이번 논쟁에서 특히 주목받은 위험이 재귀적 자기개선(RSI)입니다. 이번 사태를 촉발한 앤트로픽의 연구원 제이콥 콕슨도 이 점을 문제로 삼았고, 야쿠부 파초키 오픈AI 수석과학자도 최근 경고를 통해 RSI를 문제로 삼았습니다. AI가 AI를 스스로 발전시키게 되면, 인간이 이를 따라잡기 사실상 불가능하다는 우려입니다.하지만 일부에서는 사업적인 측면도 따져볼 필요가 있다는 의견을 내놓습니다. 지금의 AI 경쟁은 새로운 모델을 개발할 때마다 막대한 학습 컴퓨팅 비용이 들어가고, 출시 전 안전성 평가와 보안 작업에도 비용이 발생합니다. 모델 출시 주기가 짧아질수록 이런 비용은 반복됩니다.최근 주요 기업들의 플래그십 모델 출시 주기가 과거 반년 정도에서 2개월여로 짧아졌는데, 속도를 조금 늦추면 기업 입장에서는 다음 모델에 투입해야 할 비용과 인력을 조정할 시간도 생깁니다.특히 IPO를 앞둔 기업이라면 이런 효과가 무시하기 어렵습니다. 앤트로픽과 오픈AI 모두 막대한 AI 개발비를 감당하면서 수익성을 확보해야 한다는 압박을 받고 있습니다.따라서 ‘속도 조절’이 안전 문제에 대한 대응인 동시에, 빠르게 늘어나는 개발 비용과 수익성 압박에서 잠시 숨을 돌릴 여지를 줄 수 있다는 해석도 가능합니다. 월스트리트저널(WSJ)도 이번 상황을 ‘안전과 돈의 충돌’로 분석했습니다.또 하나 지적되는 것은 규제 문제입니다. 안전 규제가 강화되면 외부 평가, 보안 인력, 컴퓨팅 자원 등에 들어가는 비용이 커져 대형 기업보다 후발주자나 오픈 모델 개발자에게 더 부담이 될 수 있습니다. 그래서 일부에서는 이런 규제가 결과적으로 선두 기업의 진입장벽을 높이는 효과를 낼 수 있다고 지적합니다.트럼프 행정부의 AI 자문역을 지낸 데이비드 색스도 “정말 위험하다면 기업들이 먼저 자체적으로 속도를 늦추면 된다”는 취지로 비판했습니다. 물론 기업들이 그런 의도로 움직였다는 증거라기보다, 이번 제안이 시장 경쟁에 미칠 영향을 두고 나오는 해석입니다.클레망 들랑주 허깅페이스 CEO의 반응도 의미가 있습니다. 그는 X를 통해 “제이콥 콕슨에게 AI 멸종 위험에 대해 묻는 것은 에어컨 기사에게 기후 변화에 대해 묻는 것과 같다”라며 “균형 잡힌 시각을 유지하는 것이 중요하다”라고 지적했습니다. 지나친 과장을 경계한 것입니다.앞으로가 더 어렵습니다. 미국 정치권은 AI 안전장치가 필요하다는 데는 대체로 공감하며, 특히 민주당에서는 더 빠른 대응을 요구하고 있습니다. 반면 트럼프 행정부와 공화당은 중국과의 경쟁을 이유로 규제에 신중한 입장입니다. 아모데이도 미국이 속도를 늦추는 사이에 중국이 따라붙을지가 가장 걸리는 부분이라고 밝혔습니다.앞으로 문제는 이 ‘죄수의 딜레마’를 어떻게 풀 것인가입니다. 단순히 AI를 늦추자고 합의하는 것만으로는 부족합니다. 누가 어느 수준까지 속도를 조절할 것인지, 그리고 한 기업이나 한 국가만 속도를 늦췄을 때 경쟁에서 뒤처지지 않도록 어떻게 규칙을 만들 것인지가 더 어렵습니다. |
