庞劲东一字一顿的道：“矩阵系统再怎么强大也只是一台电脑。”
“矩阵系统不只是一台电脑，更是AI，也就是人工智能。”苍浩颇有信心的说道：“最初的矩阵系统，只是一台采用独特算法的超级计算机，可以侵入其他任何电脑系统。但矩阵系统具备股市判断能力，并且可以跟我们进行简单会话的时候，就已经发展成为弱人工智能。几年来，矩阵系统不断进行升级，墨师说过，弱人工智能就像是弱智一样，当然不可能跟人类相比。但有一天矩阵系统会进化成为强人工智能，那个时候就会真正超过人类，不但知道过去，还可以预测未来，可以帮助我们做出很多判断，及早应对这个不断变化的世界。”
庞劲东摇头道：“这个根本不是重点，重点是即便强人工智能，说到底仍然是电脑系统，而不是真正意义上的人类，没有人类的喜怒哀乐，自然也不会像人类一样思考问题。”
苍浩不得不承认这一点：“这倒是。”
庞劲东质疑道：“如果我们完全听命电脑，咱们还是不是人？”
庞可儿对这话很费解：“咱们怎么不是人了？”
“我们只是电脑的附属品而已。”庞劲东很认真的解释道：“正因为电脑没有人类的喜怒哀乐，做出的决策全部都是高度理性的，表面看起来可以把我们的利益最大化，问题偏偏就出在这里。人类社会发展到今天，从来都不是理性设计的结果，而是各种感性因素堆叠在一起形成的，所以让电脑控制社会运转的话，人类社会也就不再是人类社会，而是变成了蚂蚁社会，所有蚂蚁全听蚁后的，而蚁后就是矩阵系统。”
苍浩依然认可庞劲东的话：“很多人追求有那么一个最高主宰，可以帮助自己决定一切事务，自己只需要服从即可，不需要为任何事情操心，那么必然少去很多烦恼。也就是说，其实人类一直在追求不是人的过程，但当这个机会真正出现的时候，我们还是需要审慎的。”
“是啊，我们都知道铁钉灭世理论，如果有一天矩阵系统认为，消灭全部人类是最理性的选择，难道人类就只能乖乖去死吗？”庞劲东质疑道：“事实上，即便是弱人工智能的矩阵系统，已经掌控大量智能化和无人化装备，从地面的无人战车、机器人到天上的各种无人机，甚至太空中的轨道电浆炮也可以被矩阵系统调动。如果有一天，矩阵系统发了疯，决定向血狮雇佣兵开战，以当前这种情况来说，就算血狮雇佣兵最后生存下来，只怕也要从此一蹶不振。”
庞可儿缓缓点了点头：“一方面是随着时代的发展，我们越来越无法离开电脑，另一方面是电脑发展成为强人工智能，可能会危害到我们，这真是一个困近身兵王(酸菜炖粉条)最新章节手机访问：https://m.xtxtaikan.com/wapbook2994/42407352/