与自由意志一样，满足意识的定义是众所周知的难以捉摸的。我们对脑科学的了解越多，有意识的抽象概念就越成问题。一些研究人员将意识与情绪状态和物理实体的作用联系起来。其他人已经证明，阻断大脑各个部分的通信将导致意识停止。对植物人状态的患者的研究表明，意识不是完全是黑人或白人，而是介于两者之间，导致意识有限和对外部事件作出反应的能力。南加州大学认知神经科学家安东尼奥・达马西奥（Antonio
Damasio）发展了一种名为“体细胞标记假说”的有影响力的理论，14在威斯康星大学麦迪逊分校担任意识科学杰出教授的朱利奥托诺尼认为，有意识的产生源于大脑内信息的广泛整合。15
直到我们有一种客观的方式来定义和测试人类意识，而不仅仅是通过观察他人，没有合理的基础来相信人们是有意识的但是
机器不能。但断言机器可以有意识也同样没有道理。目前，没有可靠的方法来确定计算机和动物或其他人，就此而言 – 以我们认为的方式体验意识。
这是一个严重的问题。我们大多数人都同意，伤害或杀害有意违反其意志的行为在道德上是错误的。但如果没有意识呢？我可以构建一个强烈反对被关闭的机器，但这样做是否会导致错误？（我将在下一节进一步讨论这个问题。）
也就是说，我个人认为，更为普遍的意识或主观经验的概念根本不适用于机器。到目前为止，我当然没有看到任何证据。如果没有一些定义指南来指出我们如何解决这个问题，我就迷失了。机器很可能至少表现得像是有意识的，让我们对后果留下一些困难的选择。而我们的孩子，可能会长大，受到耐心，无私，有见识的机器的温柔照顾，很可能会以不同于我们今天的方式回答这个问题。
电脑能“感受”吗？
到目前为止，您可能已经注意到了一个共同点：我们问题的答案在很大程度上取决于您是否将智力，思维和感觉等词语视为对人类（或至少是生物生物）神圣不可侵犯的内容，或者您是否舒适地扩展他们对某些工件的适用性。
在这方面，我们自己的语言正在反对我们。人工智能所带来的挑战是如何描述，以及如何理解和推理人类经验中从未遇到过的现象 – 可以用于感知，推理和复杂行为的计算设备。但是
似乎最接近这些新发展的词语与人类的独特性有关。从正确的角度来看，自从我们上次面临对我们在宇宙中的地位的信念的严重挑战以来，已经有几百年左右的时间了 – 这是我们从能力较弱的生物中产生的理论。在某些方面，这项提案并没有顺利进行。然而今天，人们普遍（尽管不是普遍的）接受和安慰我们的想法，即我们的起源不是通过一些突然神圣的有意创造行为，而是通过达尔文所指出的自然选择过程等。
好的，我们是动物 – 那又怎样？事实证明，这种看似简单的类别转变比你预期的要大得多。它引发了一场远未解决的激烈辩论，人工智能有望在这场口水战中开辟新的前沿。问题是我们对其他生物有什么道德义务？突然之间，它们变成了遥远的对象，而不仅仅是为了方便和使用而放在地球上的资源。这个问题的基础是其他动物是否感到疼痛，以及我们是否有权对它们施加伤害。
确定动物是否感到疼痛的逻辑起点是考虑它们与我们有多么相似或不同。有大量的科学文献研究动物疼痛的生理表现，主要关注它们的反应与我们自己的反应有多大。16正如您所料，这些动物与人类的关系越紧密，它们的反应就越一致。但是，尽管知识越来越多，但事实是没有人确切知道。动物权利的倡导者，如彼得辛格，指出你甚至不能确定其他人是否感到疼痛，尽管我们大多数人，除了精神病患者和唯我论者之外，都认为这是真的。用他的话说：“我们……我们知道其他动物的神经系统并非人工构建 – 因为机器人可能是人工构建的 – 以模仿人类的疼痛行为。动物的神经系统就像我们自己一样进化，实际上是进化的
人类和其他动物，特别是哺乳动物的历史，直到我们神经系统的核心特征已经存在，才会出现分歧。“ 17
许多动物权利倡导者对这个问题采取了更安全而不是抱歉的方法。治疗动物的后果是什么，好像他们感到疼痛，而不是因为他们没有这样做的后果？在前一种情况下，我们只是对自己施加了一些潜在的不必要的不便和代价，而在后一种情况下，我们冒着造成极端和持久痛苦的风险。但是，这场辩论的基本假设是，对我们来说，动物越相似，我们的道德义务就越大，我们认为这些动物是他们独立的利益。
现在让我们将这个逻辑应用于机器。构建一个机器人，相当简单，当你捏它时，它会退缩，哭泣，和/或简单地说，“哎哟，这会伤害”。但是，正如彼得辛格指出的那样，这是否说明了它是否感到痛苦？因为我们能够超越其对内部结构的反应，所以答案是否定的。它会以这种方式做出反应，因为这是我们设计它的目的，而不是因为它感觉疼痛。（在第8章中，我将考虑人体塑造我们创作的好处和危险。）虽然有些人对他们的财产形成了不恰当的依恋，例如爱上他们的汽车，但我们大多数人都认为这是错误的应用。我们培养本能的阳离子。我们构建的工具，嗯，工具 – 用于我们认为合适的改进。这些工具是否简单无生气，像锤子一样，或者像空调一样复杂和活跃，似乎没有问题。这些小玩意缺乏必要的生命气息值得道德考虑。在这方面，没有理由看到计算机有任何不同。由于计算机与我们（至少在今天）是如此不同，并且是由我们为特定目的而设计的（而不是自然发生的），所以说它们没有，并且很可能永远不会有真正的感受，这似乎是合乎逻辑的。
现在让我说服你完全相反。想象一下，你（或你的配偶）生下一个漂亮的女婴 – 你唯一的孩子。不幸的是，在她五岁生日后不久，她开始出现罕见的退行性神经系统疾病，导致她的脑细胞过早死亡，一个接一个。幸运的是，对于她（和你）来说，那时神经修复术的发展水平已经大大提高，并且她被认为是一种新颖的治疗方法。每隔几个月，您就可以带她去看医生进行扫描和神经元替换，这些脑细胞在过渡期间已经不再完全发挥作用。这些非凡的植入物，由体热驱动的微观电路和电线的混合物，精确地反映了自然神经元的活跃特性。在一种模仿人体免疫系统的巧妙技术中，它们被静脉插入，然后它们在死亡的最后阶段回归神经元，溶解并原位替换。结果非常壮观 – 你的小女孩继续成长和茁壮成长，经历了与正常童年相关的所有考验和胜利。
经过多年的定期门诊访问，没有比常规牙科检查更值得注意的事项，医生告诉您不再需要继续。你问这是否意味着她已经治好了，但答案并不完全符合你的预期 – 医生不加思索地通知你她100％的神经元已被替换。她是一个充满功能，活泼，充满激情的少年 – 显然是人工大脑。
她的生活一直持续到有一天，作为一个年轻的成年人，她将她的一首音乐作品带入了新兴作曲家的着名竞赛中。在得知其童年残疾后，其他参赛者请求法官小组取消她的资格，理由是她的作品违反了其中一项比赛规则 – 所有参赛作品都是在没有电脑或其他人工辅助工具的情况下编写的。在一次非常简短的听证会之后，她被提到了一个平行的比赛赛道
电脑音乐。看到你的女儿如此沮丧，你会深感痛苦。她哭了，她是如何与小提琴比赛中由于滑雪事故而有人工肘的球员或角膜植入物允许她在没有眼镜的情况下进行视力阅读的球员有什么不同？
无论你是否同意评委的决定，冷静地考虑你的亲属感而不偏不倚的事实迫使你承认他们至少有一点 – 你女儿的大脑是一个人造的计算设备，即使它在每个相关方面产生正常的人类行为和发展。尽管如此，你不愿得出这样的结论：她只不过是一件聪明的神器，无法表达真实的感情，不值得道德考虑或人权。那么这又给我们留下了什么？一方面，我们的直觉使我们相信，无论多么复杂，机器本身都不会引起任何道德问题。另一方面，我们不能仅仅根据它们所构成的材料，将某些实体从生物群落中轻易地排除在外。我的个人意见，并非普遍分享，这就是我们在这个问题上做出的决定，只不过是我们决定选择谁或者我们选择延伸我们同情的礼貌。我们相信其他人或动物的感受，或者我们比陌生人更强烈地爱我们的亲戚这一事实，只不过是大自然指导我们的行为走向自己特殊目的的方式，这种争论不是通过逻辑和劝说而是通过本能和冲动。虽然今天我们可能有理由为我们的计算创作感到自豪，但很难想象为什么我们应该关心他们的福利和成就，而不是他们如何使我们受益。但大自然有一种偷偷摸摸的习惯。可以机器感觉？谁在乎？重要的问题是高度复杂的自我再现自适应设备，我们可能在创建过程中，可能会继承地球 – 无论我们在帮助这种情况发挥作用。像我们面前的这么多物种一样，我们可能只是一个我们无法理解的绊脚石。
笔记
1.
Stuart Armstrong，Kaj Sotala和Sean S. OhEigeartaigh，“人工智能预测的错误，见解和教训 – 以及它们对未来的意义”，牛津大学人类学院的未来，2014年，http：// www。
fhi.ox.ac.uk/wp-content/uploads/ FAIC.pdf。
2.
卡雷尔Č APEK和克劳迪娅・诺瓦克–琼斯，RUR（Rossum的通用机器人）（纽约：企鹅经典，2004年）。
3.
图灵，上午（1950年）。“计算机器和智能，”Mind，59,433-460， http：//www.loebner.net/Prizef/TuringArticle.html。
4.
如果你已经听说过更具政治正确性的图灵测试的消毒版本，也就是说它是一台试图让人类认识它是人类的机器，我鼓励你阅读图灵的原始论文。
5. 图灵论文的第6部分。
6.
在数学中，像这样的符号和规则系统的研究被称为“抽象代数”。
7.
R. Quillian，“Semantic Memory”（PhD diss。，Carnegie Institute of Technology，1966），在Marvin Minsky，Semantic Information Processing（Cambridge，MA：MIT Press，2003）中重印。
8.
对于Searle观点的简短非正式表达，请参阅Zan Boag，“Searle：当我阅读我的同时代人所写的废话时，它让我感到不安 ”，NewPhilosopher
，2014年1月25日，http：//
www
.newphilosopher.com /
articles / john-searle-it-upsets-me-when-i
-read-the-nonsense-written-by-my-contemporaries /。
9.
约翰普雷斯顿和马克毕晓普，编辑，中国室的观点：关于塞尔和人工智能的新论文（牛津：牛津大学出版社，2002年）。
10. http://en.wikipedia.org/wiki/Free_will。
11.
图灵的论点的要点是，有许多不同的计算机程序作为整数，但这些程序一起表现的方式与有理数一样多 – 而且你不能用整数计算理性。艾伦・图灵，“关于可计算数字，应用于Entscheidungsproblem”，“ 伦敦数学学会会刊”，第一卷。s2-42，第1期，（1937）：230-65。
12. Sam Harris，Free Will（纽约：Free Press，2012）。
13.
Chun Siong Soon，Marcel Brass，Hans-Jochen Heinze和John-Dylan Haynes，“自由决定的无意识决定因素
Human Brain，“ Nature Neuroscience 11（2008）：543-45，http：// www
.nature.com /神经/杂志/ V11 / N5 / ABS /
nn.2112.html。
14.
例如，见安东尼奥达马西奥，“发生的事情的感觉：意识形成中的身体和情感”（Boston：Harcourt，1999）。
15.
Giulio Tononi，Phi：从大脑到灵魂的旅程（纽约：Pantheon，2012）。
16.
关于这个问题的优秀和非常简洁的评论，请参阅Lynne U. Sneddon，“动物会感到疼痛吗？”http://www.wellcome.ac.uk/ en / pain / microsite / culture2.html。
17.
Peter Singer，动物解放，第二版。（纽约：Avon Books，1990），第10页，http：
//www.animal-rights-library.com/texts-m/sin ger03.htm。