赫拉利担心AI“造反”，大佬齐聚上海制定规则，萨顿笑：想得太多

抖音热搜 2025年09月17日 00:57 5 admin

你是不是曾担心过自己的工作会被AI代替！

历史学家尤瓦尔·赫拉利早就警告过，人工智能正在以超过人类平均水平的能力掌握语言，而通过掌握语言AI正在掌握入侵人类文明系统的钥匙。

如果AI开始"反客为主"的时代，人类真的准备好了吗？

AI从"工具"到"主体

赫拉利将称AI称为"外星智能"而非"人工智能"，因为它们做决策的方式与人类思维有根本的不同。

在最新的研究中发现，AI不仅能够学习还存在一定的欺骗性。

并且AI掌握语言是即将非常快速的事情，我们用语言创造神话和神灵，用语言创造金钱，创造艺术和科学，创造友谊和国家。当AI掌握了这把万能钥匙，它就能够重塑我们认知世界的方式。

赫拉利提出了一个更加宏大的概念"硅幕”，即由硅基芯片和计算机代码所组成的屏障，可能使人类分裂并分属于不同的数字帝国。

如果说冷战时期的"铁幕"分割了地理空间，那么AI时代的"硅幕"将分割人类的认知空间。这样的分割会让人类社会面临前所未有的撕裂风险。

从"十问"到共生

面对赫拉利抛出的AI治理难题，2025外滩大会给出了一个颇具创意的回应方式。

大会邀请了包括Deepseek、LLaMA、Qwen、Nova、腾讯混元、Gemini、ChatGPT、Kimi、豆包和Grok在内的全球最具代表性的大模型，让它们向人类提出十个问题。

这十个问题几乎涵盖了人机共生的所有核心议题：从"你愿意让AI管理你的健康档案吗？"的信任问题。

到"除了用AI降本增效，哪些岗位是要永远留给人类来做的？"的价值问题，再到"如果AI做了错误决定并造成损害，AI该背锅吗？"的责任问题。

从"人机信任、社会分工、劳动的意义、发展机会平等"，到更加具体的"知识传递、情感抚慰、信息茧房、AI幻觉、安全隐私"，几乎都在表露其迫切希望与人类有更坚实的共生基础。

外滩大会邀请了16位院士和图灵奖得主、550多位行业专家和企业领袖，包括强化学习之父理查德·萨顿、《人类简史》作者尤瓦尔·赫拉利等重量级嘉宾。

同样面对AI的发展，2024年图灵奖得主萨顿的态度明显比赫拉利更加乐观。他认为"大家对人工智能的恐惧被夸大了"，强调人类最伟大的成功在协作本身。

全球协作

近年来国际社会在AI治理方面的努力值得关注。中国提出的《全球人工智能治理倡议》强调，各国应秉持共同、综合、合作、可持续的安全观，通过对话与合作凝聚共识，构建开放、公正、有效的治理机制。

2024年世界人工智能大会发表的《人工智能全球治理上海宣言》以及联合国教科文组织与八家全球性科技机构签署的AI伦理协议，都体现了国际社会对AI治理的共同关切。

这些提案都是强调AI的风险是全球性的，任何一个角落的AI失控都可能给人类带来灾难。

正如赫拉利所说，"我们能真正控制AI、开发出一种可以与人类共存的AI的唯一机会，就是通过全球合作来实现"。

海外滩大会、新加坡金融科技节、香港金融科技周主办方首次齐聚上海实现"三会聚首"，这种跨地区的协作机制正是打破"硅幕"阻隔的桥梁。

从理念到实践的跨越

理论探讨固然重要但更关键的是如何将"技术向善"的理念转化为可操作的实践路径。在这方面，外滩大会展示了一些令人鼓舞的进展。

大会现场展示了诸多科技应用，如外骨骼机器人、AI健康应用AQ等，后者已服务超1.4亿用户，近6成来自三线及以下地区。

这些应用的普及程度说明，AI技术正在真正惠及普通民众，而非仅仅服务于精英阶层。

历年外滩大会都很重视创新技术的安全性、可靠性：从CSA"AI安全工作组"成立，到"IIFAA分布式可信认证体系"共建，再到涵盖Agent对齐、智能体零信任防御等功能的"蚂蚁蚁天鉴"大模型安全解决方案展出。

AI治理不能仅靠政策法规，更需要通过技术手段来解决技术问题。

就像凯文·凯利所说："对于科技带来的问题，永远不能靠减少科技解决，而应该发明出更好的科技"。

大会结束后，联合国教科文组织等国际组织已经开始推动AI伦理的全球传播与实施，这种从上而下的规范引导，结合技术层面的创新突破，为AI治理提供了双重保障。

总结

AI记录学习了人类的反思它们的提问也许正是人类思考的镜像。在这面镜像中，我们看到的不应该是恐惧，而应该是机遇。

只要我们秉持开放合作的态度，坚持技术向善的理念，人类完全有能力驾驭AI这个强大的工具，共同开创一个更加美好的未来。

毕竟正如人类历史上的每一次技术革命一样，关键不在于技术本身，而在于我们如何运用它。

编辑：木

经济“结构性”分化严重，全国房价低迷，这些领域却突围

福建舰穿越台海，中国海军迈向三航母，重塑印太力量新秩序

发表评论