专栏 · 2026-09-15
[光洙的观点] 递归式自我改进与AI失控论
节目开场是主持人对递归式自我改进(RSI,即AI通过学习AI实现自我进化的阶段)的评论。李光洙对这一议题为何偏偏在此时被提出表示质疑,指出AGI的风险早已为人所知,应当审视其被重新提起的背景。
朴始东以核不扩散条约的失败案例为例,诊断认为仅靠国家间口头协议无法控制AI风险。他表示,遏制恶意AI最现实的方法是开发更良性的AI,并再次提示投资者关注上周提及的安全相关企业。
两位主持人对比指出,核不扩散是美苏两强凭借压倒性威慑力控制后发国家而得以遏制的案例,而人类胚胎干细胞研究则是通过全球伦理规范实现自律监管的案例。AI监管未能完全契合上述任何一种模式,结论是今后仍需就国际秩序展开讨论。