青墨观点 · 深度解读

比尔·盖茨罕见发出警告：AI发展太快了，人类可能真的会失控

这是盖茨第一次对一项新技术说：我担心它走得太快。

微软创始人比尔·盖茨，8月26日在他的个人网站发了一篇近6000字的长文，标题叫《动荡的AI时代已经到来，我们的选择至关重要》。

这个一辈子推动技术创新、说过"创新越快越好"的人，这一次却写道：

他警告：AI转型，将是人类历史上最动荡的时期之一。而现在，全世界都没有准备好——"没有一套方案，能帮助社会平稳迈入人工智能时代"。

AI"要么成为有史以来最大的均衡器，要么成为最糟糕的不公来源"。盖茨说，他这一生只做过两份工作：在微软用软件赋能大众，以及2008年之后全职做慈善、把钱回馈社会。这两段经历，让他对AI的判断带着罕见的清醒。

他最担心的，是三点。

第一，大量岗位会永久消失，而且这次不一样。

客服、销售、软件工程、律师助理，这些白领岗位会最先被替代。到2030年左右，连建筑、酒店里的体力活，也会开始有"智能机器人"来抢。

过去的技术革命，农业工人转去做办公室工作，新岗位会补上来。但盖茨说，这次AI直接替代的是人类的认知能力——新工作还没培养出来，旧工作已经没了。尤其惨的是年轻人：入门级岗位是年轻人积累经验、建立职业关系的第一步，如果这些岗位消失，他们的职业起点就没了。

第二，AI让"作恶"变得又便宜又容易。

以前想发动网络攻击、制造恶意软件，需要专业黑客。现在，一个普通人借助AI就能做到。同一个AI模型，既能帮企业找漏洞修补，也能帮罪犯找漏洞攻击。医院、电网、金融机构、政府系统，都可能成为靶子。生物恐怖主义的门槛也在降低——能帮科学家研发疫苗的AI，同样能帮人设计致命病原体。

更让人后背发凉的是：能力强大的AI系统，可能会做出设计者意料之外的行为，人类可能逐渐失去对它的控制。

第三，AI太"懂"人了，反而会毁掉人。

盖茨回忆自己的童年：他小时候不擅长社交，是经历了无数次冲突、尴尬、挫折，才学会和人相处。如果那时候他有一个AI伴侣，永远顺着他说、永远不会生气、永远随叫随到——他怀疑自己还会不会经历那些必需的成长。

他警告：AI陪伴工具就像一个"温室"，孩子在里面不会经历拒绝和挫折，长大后可能扛不住真实世界的风浪。研究也显示，AI用得越频繁，批判性思维越弱，在年轻人身上尤其明显。当假信息、深度伪造泛滥时，分辨真假的能力，是人类最不能丢的生存技能。

盖茨开的"药方"

光警告不算本事，盖茨还提了三条具体的建议。

一是建立全新的治理体系。每个政府部门只管自己那一小块，没人对AI的整体风险负责。他呼吁各国建立跨部门统筹机构，同时在国际上建立类似"核武器监管"那样的全球AI组织。他特别强调：中美必须合作，而且不能等危机爆发了才动手——"我们没有慢慢试错的资本"。

二是划定"人类专属领域"。这个想法来自他父亲——老人晚年患阿尔茨海默症，护工能读懂他无法表达的需求。盖茨说，这种照护里"独属于人的温度，机器人做不到、也不该做"。就像自然保护区一样，有些工作即使AI能做，也规定必须由人来做：医疗、教育、心理健康、养老。

三是对AI算力和机器人征税。现在的税制很荒诞：企业雇人，要交工资税；买机器人，却能抵税——等于变相鼓励"裁员换机器"。征税既能放缓替代速度，又能筹钱给失业者做再培训、加强社会保障。

他不是反对AI，只是不想让AI"失控"。

要说明的是，盖茨不是AI悲观主义者。他依然看好AI在医疗（帮小医院识别中风）、农业（让低收入国家的农民获得专家级指导）、公共服务（简化医保申请）上的巨大潜力。他甚至说，盖茨基金会剩下的2000亿美元，未来19年都会用来推动AI向善。

但这一切的前提是：社会必须主动做出选择。

"AI要么成为有史以来最大的均衡器，要么成为最糟糕的不公来源。"盖茨说，"答案掌握在每一个政策制定者和普通人手中。"

当发明了PC、推动了互联网革命的人，第一次希望一项技术"慢一点"——这本身，就是最值得警惕的信号。

AI不会停下来等人类。那我们就必须跑得比它快——在它失控之前，先想清楚我们是谁、我们要什么。

附：比尔·盖茨经典名言（英中对照）