长期关注的是如果我们达到“奇点”会发生什么 – 一般人工智能系统变得比人们聪明的假设点。担心的是，这些系统可能会利用他们的智能来改善自己，然后运用他们更聪明的自我来进一步提高自己，等等。也许人工智能将超出人类的控制范围，甚至可能对我们的存在构成威胁。像这样的场景是科幻小说的主要内容，熟悉电影，如终结者和电视剧，如太空堡垒卡拉狄加。
在关于奇点的讨论中，有人通常建议我们需要由着名科幻作家艾萨克・阿西莫夫提出的“机器人三法则”：
1机器人不得伤害人类，或通过不作为，让人类受到伤害。
2机器人必须服从人类的命令，除非它们与第一定律发生冲突。
3只要不与第一或第二定律冲突，机器人就必须保护自己的存在。
不幸的是，阿西莫夫定律要求机器人能够预测其所有行为对遥远未来的影响。这在计算上太具有挑战性。
科学观点对于奇点是否可能发生存在分歧。即使这样做，也不清楚为什么应该发生噩梦。人工智能的长期未来存在很多不确定性。然而，在可预见的未来，可以肯定的是，更多的人会死于自然愚蠢而不是人工智能。