盖茨警告AI或致10亿人死亡，教皇呼吁给AI缴械

微软创始人和教皇，很少在同一个话题上开口。这次两个人说了同一件事：盖茨警告AI足以引发10亿人死亡的事件，要求立法监管；教皇发布4万字通谕，要求为AI“缴械”，把决定权留在人手里。

说白了，一个谈生存，一个谈尊严。你想啊，一个管过全球最大软件公司的人，和一个从不管技术的人，同时觉得这事等不得了，分量就不一样了。事情的起点，是盖茨8月底在自己网站上发的那篇12页长文，和教皇5月发布的首份通谕。

盖茨说了什么：从12页长文到10亿人警告

8月底，盖茨在个人网站上发了一篇12页、5000多字的长文，标题的意思是：动荡的AI时代已经来了，现在的选择很关键。文章大半在谈就业，说白领蓝领都会被冲击。但最重的一句藏在极端风险那部分：行业早就定过几条红线，比如AI摆脱控制、能给出生物武器的配方，就该更谨慎。

结果呢？红线一条条被跨过，行业还是全速往前冲。盖茨的原话很不客气：大家只管往前跑，盼着好处能压过坏处。

所以9月25日，他在NBC《与媒体见面》节目里把话挑得更明。采访里他说，AI足够强大，能推动一场造成10亿人死亡的事件，心怀恶意的人加上最新的AI工具，是人类从没见过的武器组合。说真的，这个数字把我看愣了——他不是在谈失业，是在谈伤亡。

被主持人问要不要立法，他直接说当然要。没人觉得光靠自律就够了，警察和政客都得进来，保障措施和监督必须是强制的，多花的那点合规成本不算什么。

他开了两个很具体的药方。第一个是token税：用一次AI就收一点税。token是AI干活的基本单位，用得多交得多。你想啊，这就像给机器用人加了一道关税，企业换人的脚步会慢下来，收上来的钱还能帮失业的人再培训、补社保。

第二个是给人类留岗位。有些工作，比如护工，或者很难再就业的人干的活，干脆规定不许用AI替代。就像划自然保护区一样，划出一片人类保留地。

他还喊了国际合作：美国和中国得联手，就像当年管核武器、管臭氧层那样。AI的影响不认国界，单边管不住。

另一边，教皇良十四世今年5月25日发布了上任后第一份通谕，名字叫《伟大的人类》，4万多字，相当于一本书的厚度，主题就是在AI时代守住人。通谕是教皇写给全世界的公开长信，天主教上一次这么郑重地谈技术，还是100多年前谈工业革命。

通谕里最有力的一句话，是AI必须“缴械”。注意，他不是让大家扔掉技术，而是把AI从武装竞赛的心态里解出来——不光是军队里的武器竞赛，还有经济和认知上的军备赛，都得停。BBC的报道里引用了他的原话：我知道这个词很强烈，但我刻意选用。

他还写了一句特别狠的话：没有任何算法，能让战争在道德上变得可以接受。AI不会消除战争的残酷，只会把门槛打低：防御变成预测威胁，受害者变成一串数字，冲突反而来得更快、更没人性。

他用了巴别塔的故事打比方。人类想造一座通天塔，说一种语言，留一个名字。教皇说，今天的AI就有这个味道：少数人定规则，多数人被分类。这不是天堂，这是新型数码奴役——训练数据里的偏见会被机器放大，穷人更难贷款、更难找工作，深度伪造满天飞，孩子们越来越难分辨真假。

发布那天很有排面：教皇亲自在梵蒂冈宣讲，Anthropic联合创始人Olah亲自站台。Olah自己都承认，每家AI实验室都有商业压力和野心，有时候跟做正确的事是冲突的。通谕还给开发者点名：技术从来不是中立的，你量的什么、忽略什么、优化什么，都是选择。

把两份警告放在一起看，很有意思。盖茨谈的是硬风险：几个坏人加AI，能杀死10亿人。教皇谈的是软侵蚀：多数好人加AI，可能慢慢失去人的位置。一个谈生存，一个谈尊严，一个开药方，一个划底线。

AI最吓人的地方恰恰在这里：它不是想干坏事，它是太会帮忙了。打个比方，它像一个什么都肯教的家教，好学生问它讲得很细，坏学生问它也讲得很细。它不判断你是谁，只负责把难题讲到你听懂为止。

所以两边的结论出奇地一致：决定权必须留在人手里。盖茨要的是硬约束——法律、税、国际条约。教皇要的是软约束——良心、底线、人的最终责任。两边缺了哪一边，都够我们喝一壶的。

结尾留一句话：家教不挑学生，学生就得自己立规矩——而这一次，当学生的可能是全人类。