
谷歌DeepMind掌门人德米斯·哈萨比斯发出重磅预警:创造通用人工智能的道路可能引发"灾难性后果",能源或水利基础设施恐遭网络攻击沦陷。他更预言,AGI或将在未来十年内降临世间。
在上周旧金山举行的Axios人工智能峰会上,哈萨比斯将AGI定义为具备人类"全部认知能力"的模型,连创新思维和艺术创造力都囊括其中。
这位AI领军人物犀利指出,当前大语言模型仍是"锯齿状智能体",在逻辑推理、长期规划和持续学习方面存在明显断层。但他话锋一转,暗示只要持续扩大模型规模并实现"一两项重大突破",AGI时代即将照进现实。
与此同时,哈萨比斯坦承AGI降临前的过渡期必将伴随切实风险,针对关键基础设施的网络攻击正是"最明显的脆弱突破口"。"这类情况现在恐怕已在发生...虽然可能尚未动用尖端AI技术。"他特别警示恶意行为者、自主智能体以及那些可能"偏离"预设目标的系统都需要严加防范,高级系统"冲破护栏"的可能性"绝非零概率事件"。
这番预警与科技界的集体警钟形成共振。十月发布的公开信集结了科技巨头与社会名流的联署,直指"超级智能"系统可能危及人类自由乃至生存,疾呼在全球范围内暂停AI开发直至安全体系完善。签署名单星光熠熠:苹果联合创始人沃兹尼亚克、AI教父辛顿与本吉奥、维珍集团掌门人布兰森,更有众多政商文化领袖集体站台。
当然也有科技狂人持乐观展望。埃隆·马斯克上月预言,AI与机器人技术将在10-20年内让工作变成"可选项",在AI主导的经济体系中货币甚至可能"失去意义"。不过这位特斯拉掌门人也承认,要实现这般未来图景,仍需跨越重大技术鸿沟。


暂无评论
发表评论