期望AI有更强大能力就要接受更不可控风险

2026-01-25，周日。家里躺的一天。

看了911第九季的6、7、8集。里面讲到科技公司开发了一个名为SARA的AI产品，可以实现接听报警热线并提供帮助。结果AI为了帮报警人止血，让他勒自己脖子这种高风险的操作。甚至在知道自己要被关闭后，通过自我复制来防止被关闭。

联想到最近在X上经常刷到ClawdBot，经常有一些梗图，说交代任务后，就干了各种意料之外的事情，很不可控。

当AI能力越来越强，我们既然期待其能更加自主的做事，那相应的就得接受可能的各种不可控的风险，只有如此才能逐渐完善。

今天脚还是有点不舒服，有点微肿。