末世救亡计划

        目前这还只是理论上的推测，但是需要谨慎地认识到，超级智能机器人可能会仅受控于物理学定律和人们早期给智能机器人设定的程序。

        早期的程序是基于人类十分有限的物理学知识设计的，如果面对一个智能机器人时人们给出的指令是“为人类创建更伟大的未来”，那么最好能够确定它会做出怎样的反应。

        基于超级计算机在很多领域的应用经验，在具体领域中，人工智能能够有效地降低风险。然而对于应用全面人工智能的领域，应持有谨慎的观点。

        超级计算机的认知系统和其他现代计算机系统一样，是基于云计算结构、运算法则和大量数据构建的。为了防止违规现象出现，这些系统的运转是可以被记录、追踪和审查的。

        这些认知系统不是在自主运转，所以它们的指令、数据、结构需要采取一定的保护措施来防止人为的外部攻击。任何接入、更新系统的人都是可控的，主要通过复杂的加密和数字签名来保护数据，通过漏洞扫描和其他技术手段保护运算代码，通过隔离等手段保护计算机结构。

        超级计算机在医疗领域的应用是通过处理大量患者的医疗数据为医生提供多种处理建议，但它不会给出诊断意见。

        医生会考虑它提出的建议，并综合分析其他因素，然后做出最终的诊断。医生在诊断中犯错的主要原因在于医生无法完全掌握关于某种疾病的全部信息，计算机能够帮助医生减少失误，因为计算机能提供更加全面的医疗建议。

        有史以来，人类一直通过制造工具来完成之前做不到的事情，每一代工具的产生都会引发人们对自然和工作方式的思考。

        生产力提高，工作被重新定义，新的职业诞生，一些职业消失。计算机认知系统拓展了人类的思维能力，替代性的潜力更强。问题的关键是应该建立一个机构，快速培养专业人士，让他们能够将计算机认知系统作为助手辅助他们各自的工作。这些技能能够加强人类的专业性，为“专家”设定一个全新的标准。

        全面人工智能何时实现，甚至是否能够实现，都存在很大的不确定性，但是不确定性并不是不去思考控制人工智能问题的借口。针对如何控制人工智能的问题，有针对性的研究刚刚开始，可能需要几十年才能有结果。

        内容未完，下一页继续阅读