比人类聪明的计算机将从根本上改变世界。计算机的速度越来越快，功能也越来越强大，这都要归功于我们由多巴胺驱动的能力——利用抽象概念创造新技术的能力。一旦计算机变得足够聪明，能够自我建造和改进，它们的进步将大大加快。到那时候，没人知道会发生什么，而这一天的到来可能会比我们想象的要快。世界领先的未来学家雷·库兹韦尔（Ray Kurzweil）认为，我们最早将在2029年拥有超级智能的计算机。
使用传统技术编程的计算机是完全可预测的。从计算开始到结束，它们都遵循一套明确的指示。然而，人工智能的新进展产生了不可预测的结果。不是程序员决定计算机如何工作，而是计算机根据自己在实现目标方面的成功程度来调整自己，优化自身的程序以解决问题。这就是“进化计算”。通往成功的电路被加强，而导致失败的电路被削弱。随着这个过程的进行，计算机在给定的任务（如识别人脸）上变得越来越好。但没人知道它是怎么做到的。随着时间的推移，它不断进行调整，电路变得极其复杂，以至于让人无法理解。
因此，没有人确切地知道一台超级智能计算机能做什么。有一天，给自己的电路编程的人工智能可能会得出这样的结论：消灭人类是实现其目标的最佳途径。科学家们可以尝试编写程序来设计安全措施，但是由于程序的发展超出了程序员的控制范围，所以什么样的安全措施足够强大，使人类能够在“优化”过程中生存下来还不得而知。一种选择是直接停止用人工智能制造计算机。然而，这将削弱我们追求更多的能力，因此我们可以排除这种可能性。不管多巴胺对我们有没有好处，它都会推动科学向前发展。不过，我们也可能会幸运地避免最坏的结局。我们可能会找到一种方法来确保人工智能以道德的方式运行。该领域的许多专家认为，这应该是计算机科学家的首要任务。