《奇点临近》 “解锁科技未来，预见人机融合新纪元”
别名： 作者：紫霞 更新：2024-02-14 19:44:26
详情简介
最近又重温了《奇点临近》，根据这本书再来谈谈吧。 我找了几页讲人工智能的部分，可以看到，在二十年前（可能更早），就有人预测到了强人工智能必将到来。在以前或许很多人不相信，但到了今天，事实已经摆在眼前，GPT-4、通义千问、midjourney等等已经做到了以前认为只要人能做到的事，并且很快就会有GPT5等等更多更强的AI。书上那副插图中，只有人类才能做到的事正一页页被撕下。可我看到很多讨论中，还在说AI哪里不行，这种观点可以理解，但并没有用，因为AI现在已经表现出了一定的智能，在如今条件已经成熟（算力、模型、数据）的情况下，它必将飞速发展，超过人类智能只是时间问题。只需要想一想，你一天能学多少知识，看多少书？AI呢？ 所以，我觉得在AI时代应该形成第一个共识就是，AI智能必将超过人类，不应该再在这方面固执，不要再去跟AI比动脑了。或许，在体力和手艺上人类还有一些优势。曾经以为，机器人最先取代的是体力活，现在看来正相反，脑力劳动更容易被取代，反而像走路，用手做东西这类事情，AI还没有太大进展。 那么，面对可能超过人类智能的AI，我们要如何做，如何保证其不伤害人类呢？这本书也提到了。作者认为技术手段是不行的，最主要策略应该是让它具有人类的价值观。我觉得很有道理，面对AI，我们就像一个小婴儿，你不能指望一个婴儿通过智力上去耍花招来控制一个大人吧。不过我们一般不会去欺负一个婴儿、一个老人、一个智力低下的人，是因为我们有一个普世的价值观和道德感。不过说到这我也不那么确定，我们的世界还不那么美好，以强欺弱这种事也不是没有，甚至还很多。那么，对AI价值观和道德的训练或者审查监督就更重要了。这样看，我们更像老人而不是婴儿，AI像人类的孩子，这个孩子越来越强，我们正在老去，要如何保证这个年轻人不去欺负他老去的父母呢？ 最后，这本书并不是只讲了人工智能，他还提到了基因技术和纳米技术，并认为这两个技术和人工智能技术一起，将会带来技术爆炸，也就是“奇点”。现在来看，基因技术和纳米技术还没有出现爆发， 但在人工智能加持下，这两个技术恐怕也会很快出现爆发。在不远的将来，当我听到有科学团队说攻克了癌症，或者能编辑基因来治病和延长寿命，甚至说可控核聚变取得了突破时，我也不会过于惊讶。