コラム · 2026-09-15
[グァンスの視点] 再帰的自己改善とAI統制不能論
放送は再帰的自己改善(RSI、AIがAIを学習して自ら進化する段階)に関する進行者らの論評から始まった。イ・グァンスはこの議論がなぜ今浮上したのかに疑問を呈し、AGIの危険性は既に知られている事実であるにもかかわらず今さら取り上げられる背景を検討すべきだと指摘した。
パク・シドンは核兵器拡散防止条約の失敗事例を挙げ、国家間の口頭合意ではAIの危険を統制できないと診断した。彼は悪いAIを防ぐ最も現実的な方法はより善いAIを開発することだとし、先週言及したセキュリティ関連企業に注目するよう投資のヒントを改めて示した。
両進行者は核拡散は米ソ両大国が圧倒的抑止力で後発国を統制し抑制された事例である一方、ヒト胚性幹細胞研究は世界的な倫理規範により自律規制された事例だと対比した。AI規制はこの二つのモデルのいずれにも完全には当てはまらず、今後国際的な秩序に関する議論が必要だというのが結論だった。