칼럼 · 2026-09-15
[광수 생각] 재귀적 자기개선과 AI 통제 불능론
방송은 재귀적 자기개선(RSI, AI가 AI를 학습해 스스로 진화하는 단계)에 대한 진행자들의 논평으로 시작됐다. 이광수는 이 논의가 왜 하필 지금 불거졌는지에 의문을 제기하며, AGI의 위험성은 이미 알려진 사실인데 새삼스레 거론되는 배경을 따져봐야 한다고 지적했다.
박시동은 핵무기 확산 방지 협약의 실패 사례를 들어 국가 간 구두 합의로는 AI 위험을 통제할 수 없다고 진단했다. 그는 나쁜 AI를 막는 가장 현실적인 방법은 더 선한 AI를 개발하는 것이라며, 지난주 언급한 보안 관련 기업들에 관심을 가지라는 투자 힌트를 다시 제시했다.
두 진행자는 핵확산은 미소 양강이 압도적 억지력으로 후발주자를 통제하며 억제된 사례인 반면, 인간 배아줄기세포 연구는 전 세계적 윤리 규범으로 자율 규제된 사례라고 대비했다. AI 규제는 이 두 모델 중 어느 쪽으로도 완전히 들어맞지 않아 앞으로 국제적 질서 논의가 필요하다는 것이 결론이었다.