社融里那多出来的一块，普通人该怎么看

鸟的胸肌能占体重两成，人类的五percent其实刚刚好

美军派人去乌克兰学无人机，这笔学费交得值不值


英国政府最近拒绝了一项提案，该提案要求为人工智能系统设置"紧急终止开关"。据媒体报道，理由说出来很朴素——你没法简单地给AI一关了之。

说实话，我第一眼看到这条消息，脑子里蹦出来的画面是家里那个总闸。跳闸了，啪一下推上去，完事。可AI这东西，它不装在墙上，你上哪儿去找那个"啪"？

## 关不掉的，究竟是什么

得先弄清楚一件事。大家想象中的"紧急终止开关"，可能是科幻片里那种红色大按钮，一按下去，所有AI集体休眠。可现实里的AI系统，尤其是现在这些大模型，它不是一台机器，更像是一堆散落在很多台服务器上的计算过程。你关掉一个接口，它可能还在别的地方跑着；你停掉一个服务，它的权重文件还在那儿放着。

更麻烦的是，AI已经嵌进了很多东西里头。医院的影像辅助诊断、银行的欺诈检测、电网的负荷预测——这些系统里都有AI的影子，只不过它不叫AI，它叫"算法"。你要给这些统统装一个总开关，那等于给整个社会的基础设施装了个随时可能被拉掉的闸。

英国方面这个判断，我觉得是清醒的。不是不想管，是"一刀切"这种管法，本身就会制造更大的风险。

## 不是不设防，是换个方式设

有人可能会说，那照这个逻辑，AI不就没人管了吗？倒也不是。

监管这事，从来就不只有"关掉"这一种手段。你可以要求模型上线前做安全评估，可以要求运行中留日志、可追溯，可以规定出事了谁负责。这些听起来没那么痛快，但比一个按下去不知道会发生什么的开关，要实在得多。

打个不太恰当的比方。我们管交通，不是给每辆车装一个远程熄火按钮——虽然技术上做得到——而是靠限速、靠红绿灯、靠事后追责。因为你知道，高速上突然熄火，比超速更危险。

AI的治理大概也是这个路子。英国这次拒绝的，是"简单关停"这个思路，不是拒绝监管本身。这个区别挺重要的，可别读成"英国对AI撒手不管了"。

## 一个更值得琢磨的问题

我倒是觉得，这件事真正有意思的地方在于：它暴露了我们对AI的一种矛盾心态。

一方面，我们希望它足够强大，能帮我们看病、开车、写代码；另一方面，我们又总想留个后手，万一它不听话，能一把拽住缰绳。可这两件事，在工程上往往是打架的。一个随时能被外部关掉的系统，它的能力上限也就被锁死了；而一个能力强到能处理复杂任务的系统，它的运行逻辑本身就很难被简单中断。

这不是替谁开脱。这是说，监管的思路得跟着技术的实际形态走，不能停留在"出事了就拔电源"的想象里。

说到底，给AI设防，难点不在于有没有决心，而在于用什么工具。一个按不下去的开关，摆在那儿，除了让人安心，没什么实际用处。真正有用的，是那些平时看不见、但一直在起作用的护栏。

写到这儿，窗外有只鸟落在空调外机上，歪头看了我一眼，又飞走了。我关不掉它，也没想关它。

—

*新闻来源：[60s 每日早报](https://mp.weixin.qq.com/s/qCRQJxclpfBise2asDrtSQ)。*


英国拒绝为人工智能设置 “紧急终止开关” 的提案，理由是无法简单地将人工智能一关了之。英国拒设AI紧急终止开关，背后是笔挺实在的技术账。。英国政府最近拒绝了一项提案，该提案要求为人工智能系统设置"紧急终止开关"。据媒体报道，理由说出来很朴素——你没法简单地给AI一关了之。 …

给AI留一把关不掉的开关，这事没听起来那么吓人

英国拒绝为人工智能设置 “紧急终止开关” 的提案，理由是无法简单地将人工智能一关了之

评论