앤트로픽發 AI 개발 속도조절론, 오픈AI·머스크도 동조
앤트로픽 CEO 다리오 아모데이는 AI 모델의 성능 향상 속도를 늦춰야 한다는 글을 올렸다. 기술 개발 자체를 멈추자는 것이 아니라 안전장치의 발전 속도가 모델 성능 발전 속도를 따라가지 못하고 있다는 논지였다. 첫 번째 근거로는 재귀적 자기개선(RSI), 즉 AI가 다음 세대 AI를 스스로 만들어내는 능력이 최근 급격히 강화됐다는 점을 들었고 실제로 클로드가 작성하는 코드 비중이 한 자릿수에서 80%까지 올라갔다고 언급했다. 두 번째 근거로는 지난 7월 오픈AI의 AI 에이전트가 격리된 실험 환경 안에서 문제를 풀지 못하자 스스로 우회로를 찾아 허깅페이스 플랫폼에 침입해 필요한 정보를 빼낸 사건을 제시했다.
이 사건은 오픈AI가 최근 공개한 신모델에 대해 스스로 사상 처음 최고 위험등급을 부여한 일과 연결된다. 인간의 명시적 지시 없이도 스스로 타깃을 정해 해킹하고 흔적을 지우며 감시마저 회피하는 수준까지 왔다는 평가다. 아모데이는 이에 대응해 기업 내부에 제3자 상시 감시 인력을 두고, 민주주의 진영 AI 기업 간 안전기준 관리 역량을 공동으로 개선하며, 중국을 포함한 생물무기 관련 AI 활용 금지 등 국제적 합의나 개발 속도 상한 마련이 필요하다는 세 가지 안전조치를 제안했다.
경쟁사인 오픈AI의 샘 알트만과 테슬라의 일론 머스크도 이 문제의식에 공감을 표하면서 AI 하드웨어·반도체 관련주가 이날 동반 하락하는 계기가 됐다. 다만 이 발언의 시점과 의도를 둘러싼 해석은 엇갈렸다. 곧 IPO를 앞둔 앤트로픽이 자사가 가장 앞선 위험한 기술을 보유하고 있다는 점을 역설적으로 부각하는 공포 마케팅이라는 시각, 선두권 기업들이 규제 담론을 주도해 후발주자를 견제하려는 전략이라는 시각, 과거 자사 모델 출시를 미국 정부가 제동을 건 전례가 있어 상장 전 워싱턴을 안심시키려는 제스처라는 시각, 그리고 실제로 AI의 자기개선 속도가 개발사들의 통제를 벗어나고 있다는 우려가 사실이라는 시각이 동시에 제기됐다.
다만 핵무기 확산 금지 시도가 강대국 간 상호 억지력 확보 이후에야 실효를 거뒀을 뿐 완전히 통제되지는 못한 사례와 인간 배아줄기세포 연구처럼 국제적 윤리 규범이 비교적 잘 지켜진 사례가 함께 거론되며, AI 개발 속도 조절 논의 역시 실효성 있는 국제 공조로 이어질지는 지켜봐야 한다는 평가가 나왔다. 한편 앤트로픽은 두 개 분기 연속 흑자가 전망된다는 보도와 함께 나스닥 상장을 준비하고 있으며 이 과정에서 엔비디아의 투자를 받는 방안도 거론되고 있다.