末世救亡计划

        并且人类的机器、道路、房子等工程的总质量，也似乎很快就能赶上地球上所有生物的总质量了。

        换句话说，即使不发生智能爆炸，很快地球上大部分展现出目标导向性质的物质都会是设计出来的，而不是进化出来的。

        建筑物、道路、汽车这类工程实体似乎很快就要赶上植物和动物这类进化出来的实体了。

        这种设计出来的“第三类”新型目标导向行为的物体可能比它的产生过程更加多姿多彩，所有进化而来的物体都有一个共同的目标，即复制。

        而设计出来的物体却可能拥有各种各样的目标，甚至拥有相反的目标。比如烤箱的目标是加热食物，而冰箱的目标则是冷冻食物。

        发电机将动能转化为电流，而电动机将电流转化为动能。标准象棋程序想要赢得比赛，而还有一种程序参赛的目标是输掉象棋比赛。

        设计产品还有一个历史趋势它们的目标不仅变得越来越多样化，而且变得越来越复杂，人类的机器变得越来越聪明了。

        最早的机器和人造物的目标都很简单，比如房子的目标是让人类保持温暖、干燥和安全。

        后来，人类逐渐学会了建造拥有目标更加复杂的机器，比如扫地机器人、自己飞行的火箭和无人驾驶汽车。

        人工智能方面的进展还给人类带来了像深蓝计算机、沃森和aphag这样的系统，它们的目标分别是赢得象棋比赛、猜谜游戏和围棋比赛。这些目标都十分复杂，人们费尽心思才理解了它们高超的技艺。

        当人类建造机器来帮助人类时，可能很难保证它们的目标与人类的完全一致。譬如说捕鼠器可能会错把你的脚趾头当成饥饿的老鼠，结果让你疼得龇牙咧嘴。

        内容未完，下一页继续阅读