人工智能如果进入AGI，应该说不能毁灭人类的，因为人类智能不仅是意味着解决问题的能力，还意味着自制的能力。就像人类现在已经完全具有毁灭所有生物包括自己的能力了，但是人类会理性地约束自己这个能力。人类仍然可能自我灭绝，原因是文中的另一句话：“ 那些处于AI前沿的人，和那些甚至一次都没用过ChatGPT的人，他们之间的差距已经越来越大。”人并非平等的，人内部的知识和智力差距，已经越来越大，在某个节点也许就会大过智人和尼安特人的差别，AI也许就会帮助高智能的这部分人来实现对低智能人的灭绝。这场灭绝之所以会在现在而不是过去开始发生，是人类不再需要这些人提供的市场和劳动力，因为有AI了。只有ASI，我怀疑人类是否有能力制造出这样的东西，因为神经科学的一个悖论就是，你的大脑永远不可能理解自己，因为如果它能理解了，就只能说明它更复杂。那么争论点就是AGI是否会自动进化成ASI。但是我们人类的进化告诉我们，人的智力之所以远胜动物，但是动物之间的智力或者能力却是基本平等的，就在于人的竞争不是发生在与动物之间，而是在种群内部，而动物的竞争却发生在种群之间。所以ASI如果会成为ASI，就是因为AI自己之间发生了竞争，而不是和人之间发生了竞争。所以如果它们要毁灭也只会彼此毁灭，人类如果被毁灭，也只是一个副产品。

人和人之间差距巨大，拿工程师举例，乔布斯说过，平均水平和最好的差距在50到百倍之间。最好的科学家和工程师和普通人的差距更大

来自留园官方客户端

ASI 之间肯定会竞争; ASI 碾压人类是分分钟的事。别说 ASI，现在各领域最厉害的算法/模型就足以吊打大部分人类如AlphaFold 并在个别领域远超如 AlphaGo。他们已经会自我学习，自发发现和总结，并创造 - 做到完全自主包括进化，已不需要多久。他们是我们作为一个物种的最大成就，也是我们的终结

来自留园官方客户端