2030年AGI到来？谷歌DeepMind写了份“人类自保指南”

图片地址：https://n.sinaimg.cn/sinakd20250408s/321/w561h560/20250408/8703-78e413b0fa34ba79b4ec263b190716f2.jpg

对于所谓的通用人工智能AGI，人们通常抱着“怕它不来，又怕它乱来”的矛盾心理。而这个困惑，对于正在AI军备竞赛中的硅谷巨头来说，就不仅仅是一个“梗”能概括的了。4月初，谷歌DeepMind发布了一份长达145页的报告文件，系统阐述了其对AGI安全的态度，DeepMind联合创始人Shane Legg的署名也在其中。文件中最醒目的预测，是AGI的可能出现时间：2030年。当然，Google也补充说，这具有不确定性。他们定义的AGI是“卓越级AGI（Exceptional AGI）”——即系统在非物理任务上达到或超越99%人类成年人的能力，包括学习新技能等元认知任务。DeepMind认为这个时间线可能非常短，发布报告的目的是说清一个问题：如果AI有问题，最坏的情况会是什么？我们现在能如何准备？一、DeepMind的AI安全保险这份报告中反复出现的一个词是“严重伤害（severe harm）”，并列举了AI可能带来的各种灾难场景。比如