“AI教父”发出重大灾难警告 警惕AI技术风险【AI教父图灵奖】 ypxx.net

诺贝尔奖得主、“AI教父”Geoffrey Hinton近日在接受采访时表示,人工智能领域在未来一两年内可能发生切尔诺贝利等级的事故。他认为今年夏天OpenAI智能体入侵Hugging Face事件是一次类似三哩岛核事故的警告。而更为严重的情况可能是AI攻击导致大规模停电或金融系统瘫痪一周。人类可能能够承受这种重大灾难的考验,然后意识到人工智能技术的危险性。

辛顿对Meta扎克伯格、SpaceX和SI马斯克以及OpenAI奥尔特曼等人工智能企业的领导人表示不信任。他认为这些领导人虽然明白风险,但更关注技术带来的经济效益,放任人工智能的发展。

辛顿相信人工智能有潜力为人类带来美好的未来,但也认为其中蕴藏的重大隐患可能让他认为这项技术当初就不该被开发出来。他认为人类将在十年甚至更短的时间内知道能否安全管控人工智能技术的风险。他支持对前沿人工智能进行强制性测试、独立评估并制定政府间通用标准。