乐鱼体育-《人类简史》作者尤瓦尔·赫拉利：超级智能AI终将操控人类

2025-04-02

【LEYU科技消息】据LEYU了解，《人类简史》作者尤瓦尔·赫拉利近日在接受国内媒体采访时谈到超级智能的话题。其认为，超级智能AI很难控制，甚至将操控人类。

尤瓦尔·赫拉利

对于“假设AI变得有意识或产生了欲望，人类是否还能控制它？”这一经典问题，赫拉利表示，人类无法控制超级智能，一旦它变得超级智能，游戏就结束了。没有任何智力较低的物种能长期控制智力较高的物种。他认为，人类可以对AI设置各种限制，但如果它比我们更智能，就会找到规避方法，或说服我们改变限制。在网络安全领域，最薄弱的环节总是人类。你可以创建完美的网络安全系统，但敌人可以操控一个人类绕过所有防御。超级智能AI终将操控人类。

如何避免这样的问题？赫拉利认为，人类无法预见未来所有潜在发展和AI自身的发展。如何在几年内为一个思维和行为方式与我们完全不同的超级智能非有机体做到这一点？这是个巨大问题，因为你无法预见所有情况……人们说2030年就会有超级智能，但我们不可能在2030年前解决为AI制定宪法规则的哲学问题。

在赫拉利看来，最好的办法是放慢速度。与其试图设计AI，不如建立一种关系，让我们在共同进化中互相学习，在通用人工智能到来前有足够时间纠正错误。赫拉利指出，然而我们陷入了AI军备竞赛的局面，我们会迅速创造出超级智能AI，无法控制和约束它们。最终统治世界的不是美国人，也不是中国人，而是AI。

-乐鱼体育

热门资讯

企业数字化智能体：打造企业数智化AI底座

2024-04-02

TitanIDE（社区版）重磅免费开放使用！

2023-09-26

CloudOS：落地平台工程，实现真正的DevOps

2023-08-16

热门标签

企业数字化智能体 Agent AI 智能体企业智能体数智化AI底座 TitanIDE（社区版）免费在线代码编辑器 CloudIDE免费 TitanIDE免费云端IDE 平台工程 DevOps CloudOS 云原生开发平台落地平台工程云原生物联网开发平台云原生物联网物联网容器云 cloudos 微服务容器编排边端交付 TITANIDE 在线IDE 云原生开发远程研发 IDE TitanIDE 云端开发环境模板 K8s 不懂K8s也能用K8s