关注微信公众号“高速商务通”，马上办理ETC。
系统基本上变成野性的可能性（如果不是可能的话）是非常真实的。甚至今天都有例子。计算机病毒的作者偶尔会失去对其创作的控制。解决这些错误的程序是非常困难的，因为他们继续通过计算机网络进行复制和传播，例如连锁信件。像比特币这样的虚拟货币的生态系统不在其中
对主权政府（或任何当局）的习惯控制。只要满足其追随者的需要，它们就可以被取缔，但不能根除。
如何通过人工智能系统实现这一目标？与更多专用应用程序相比，此类系统的标志是自动化，自主性和适应性。许多人工智能项目的目标是，他们无需人工干预或监督，独立决策，适应变化的环境。如果设计师没有将系统的能力与其预期用途的操作范围完全匹配，那么它完全有可能逃脱控制并造成相当大的损害。作为一个简化的例子，今天的商用飞行无人机存在明显失去与控制器连接的风险。要解决此漏洞，大多数设计用于检测通信中的延长中断，并在那种情况下回到它们发射的确切位置。但迷失方向和损失的可能性，可能导致个人或财产损失，是今天在美国严格限制此类设备的许可证的主要原因之一。
但技术或设计失败并不是人工智能系统松动的唯一方式：它也可能是故意发生的。为了保护自己的遗产，许多有进取心的企业家已经采用了信托和遗产计划等法律手段，以确保他们的继承人在死后不会破坏或拆除他们的手工。没有理由不能使用类似的技术来保持智能机器的永久性。
在我关于人工智能的伦理和影响的斯坦福大学课程中，我讲述了Curbside
Valet的故事，这是一家虚构的公司，其创始人遭遇了一次不幸的事故。13他为自己的机器人行李搬运工队伍感到非常自豪，特别是他在免提管理方面的巧妙设计。根据与旧金山机场的合同，抵达的乘客可以使用他的一个可爱的粗纱推车办理登机手续，将行李放在上锁
舱室交付给航空公司。当他们的电池电量不足时，推车会在数小时后寻找一个电源插座，最好是在一个僻静的黑暗位置，并插上电源进行充电。如果检测到故障，他们会根据合同向维修车间发送信息，以进行现场维修，传达诊断信息及其准确位置。收入自动存入PayPal账户，并自动发送维修服务付款（以及所有其他费用）以响应电子提交的发票。当利润超过某个阈值时，超出部分用于订购额外的单位以进行交付和激活。
在创始人在一次自行车事故中不合时宜地消亡之后，由于垂直起飞飞机的日益普及，这种受欢迎的系统在无人看管的情况下持续了多年，直到机场本身被关闭，这种飞机从靠近城市的更小的设施运行。最终，电力被切断到机场，迫使机器人车进一步冒险，主要是在晚上，寻找带电插头。起初，圣布鲁诺附近的居民被这些滚动的小玩意儿逗乐了，这些小玩意儿在黑暗之后将自己连接到人们的车库和甲板外的电源插座，但最终电子帐单，受惊的宠物和踩踏的花园导致该镇雇用了一个机器人减员人员漫游邻居 – 收集和处置机械违法者。
这个伪造的故事说明了一种似是而非的场景，其中人工智能自主设备可能比其预期用途和边界更长，从而导致意外的复杂化。你会发现它与那些与奇点社区有关的广泛而有感觉的能力相差甚远。
关注微信公众号“高速商务通”，马上办理ETC。