233

 

在数字世界中，我们需要发明能够以有用的方式模仿我们如何作为人类运作的算法。

迈克尔・ 拉帕， 博士， 晚安 主任 的 该 研究所的高级分析和杰出的大学
教授
北
卡罗来纳州
州立
大学

 

我认为，世界上最仁慈的事情是人类思维无法将其所有内容联系起来。我们生活在一个平静的无知岛屿上，在无与伦比的黑海中， 这并不意味着我们应该远航。每个科学都朝着自己的方向发展，迄今为止对我们的伤害很小; 但某一天拼凑在一起游离知识将开辟这种 可怕 的前景 的 现实， 和 的 我们的 可怕 位置在其中，我们既要发疯的启示或FL EE从光成的和平与安全 新

黑暗时代。

 

Cthulhu的召唤，HP Lovecraft

 

侦探德尔斯普纳：

卡车把我们的车撞在一起，把我们推到了河里。你知道，金属在那些速度下变得非常柔韧。她寄托，我寄托，对水的进来。我是 一个 警察， 所以 我 知道 每个人的 死亡。 只是 一个 少数 分钟，直到我们科幻古尔说出来。NS4经过并在河里跳了起来。

苏珊・卡尔文：

机器人的大脑是一个差异引擎。它正在阅读生命体征。一定是……

侦探德尔斯普纳：

它做了。我是合乎逻辑的选择。据计算，我有45％的生存机会。莎拉只有11％的几率。那是某人的宝贝。11％绰绰有余。

人类会知道这一点。机器人，[表明他的心]在这里什么也没有，只是灯光和发条。来吧，你相信如果你愿意的话。

我，机器人（电影），基于艾萨克・阿西莫夫的书

234       

 

各种自动化系统都会出错。人们犯了错误。这就是如何我们学习。AI 可以学习和这就是为什么我们要能够得到多做这么多，越好，用更少的失误各一次SPECI音响空调系统的正常训练。

 

目标 – 警示故事

在大数据泡沫的高峰期（2012年2月），“纽约时报”发表了一篇关于Target及其宏观，预测性分析失误的文章1
。这是简短的版本。

Target 发送了一些装满婴儿用品的直邮邮件给  那些曾告诉过他们期待的女性，以及那些像自我报告女性一样行动的女性。一位愤怒的父亲打电话给商店经理抱怨他16岁的女儿收到了一个，他不喜欢它。商店经理致电总部，了解这是如何发生的，并了解了分析项目。在回到父亲的电话后，经理被告知这个女孩确实带着孩子。

耸人听闻的版本是老大哥对你的了解太多 
了  。隐私问题引发了很多噪音。该时报的文章，随后进行到底，然而，  要发现目标 已经吸取了教训，并改变了它的 方式。

市场营销部门通过      
从列表中选择一小部分女性随机样本进行了一些测试，并将这些广告组合邮寄给他们以了解他们的 反应。

 

“我们有能力向每位客户发送一本专门为他们设计的广告手册，上面写着：‘这是您上周购买的所有商品和优惠券

对于 它，” 一个目标高管告诉（ 新的纽约时报
记者查尔斯 Duhigg）。“我们做的是对食品产品的所有

的 时间。” 但是， 对于 怀孕 妇女，目标公司的目标是卖他们的婴儿的物品，他们不甚至知道他们需要呢。

“ 尽管怀孕产品，我们了解到一些女性的反应很糟糕，”这位高管表示。“然后我们开始在所有这些广告中混合我们认为 
孕妇永远不会购买的东西，因此婴儿广告看起来是随机的。我们在尿布旁边放了一台割草机广告。我们在婴儿服装旁边放了一张酒杯优惠券。这种方式，它看起来像所有的产品被选择的机会。而我们发现只要 怀孕了

236       

 

市场营销
是 做 了 的 更多 信息， 比 我们 能够 编目。影响购买的因素是无数的。从唯一来源捕获此数据需要输出唯一数据类型的独特方法。从这些不同的系统中的数据必须被带到一起，痛苦，并且因此远，手动，通过一个方法被称为ETL。

 

提取，转换，加载（ETL）

将客户的结构化数据整合在一起始终是    一项挑战，因为所有这些系统都以不同的方式和   不同的属性存储数据。识别广告网络数据数据库中的个人是否有用，但将它们与销售人员自动化系统，客户关系管理系统，计费系统，呼叫中心系统以及从外部购买的随机数据集中的潜在客户ID相关联该组织需要一些繁重的工作 。

流式/时间序列数据增加了独特的复杂性。一组数据开始在其周周日，接下来的周一。他们都是从午夜开始，但你必须记得询问 – 在哪个时区？将 其称为 简单的 数据 集成， 数据 整合 或 数据 融合， 使 所有这些不同的数据类型能够很好地协同工作是我们长期以来必须面对的挑战 。

在 他的 帖子， “该 数据 科学 是 动画处理艾米，” 2 X.AI
首席数据科学家马科斯・ 希门尼斯贝伦格尔哀叹的“硬劳动参与数据的科学。”  

 

我们工作的一个（经常被忽视的）方面是准备分析数据。我们通常面临着

格式错误，标记错误或部分损坏的数据需要“清理”以进行分析。通过仔细研究，我们然后识别并推导出能够使机器抽象和学习模式的功能。从某种意义上说，我们正在描绘什么样的事情机器能够“看到”的数据，从该机器然后形成抽象，内部表示和模式，这个过程即是 在我们的大脑形式有点类似于如何神经结构感官体验。我们经常遇到未解决和抽象问题的挑战，因为没有蓝皮书可以遵循。

 

公司 像 AgilOne， 多摩， 和 段 被 创建 的库 的管道 来 获得 的数据 来自 已知 源 到 一个 德科幻奈德 结构 中 的

                                                                           237

 

商业数据仓库。这很有用，但“已知”，“定义”和“商业”都是奢侈品，而不是我们所有人都喜欢的。

这 感觉 就像 一个 商业 机会， 等待 到 发生。 这， 当然，是许多语句，将日期本书的一个  没有 时间。

Lithium Technologies的首席科学家Micahel Wu同意Belenguer的观点。“这很平凡。每个数据科学家基本上花费四十到百分之几的时间进行数据监控，而这实际上并没有为算法本身做出贡献。核心算法与按摩和清理数据无关。“

麻省理工学院/谷歌的报告“分析和机器学习如何帮助组织获得竞争优势” 3 指出，头号挑战是数据积累。

 

在大数据时代，第一个障碍是简单地收集，处理和存储不断增长的数据量 – 然后能够集成它。今天，  消费者与品牌和公司在多个屏幕上，设备，触摸点，以及频道的互动方式，以及数据 被 创建 与 每个 动作。“这是具有挑战性的，以将您的数据宇宙的控制，因为还有的 这么多发生的事情，”
[Sagnik]南迪[在谷歌资深工程师]说。“有应用数据，客户调查信息，归因，广告。周围有数以百万计的数据浮出水面。“

当然，越来越多的数据来自移动设备。例如，智能手机  上的Google搜索量比全球  台式机  和笔记本电脑上的搜索量要多。

 

像Alation这样的公司正在构建工具来按源索引数据，并创建一个数据目录，可以作为数据的推荐引擎。Paxata提供了一个自适应信息平台，它声称是“一个直观，可视化，自助服务的数据准备应用程序，通过点击而非代码收集，准备和发布数据，具有完整的治理和安全性，使用机器学习，自然语言处理和语义分析，实现数据集成，数据质量和数据 标准化的自动化。“

认识到机器学习需要教师，“Tamr的机器驱动，人为指导的方法来准备所有客户数据以进行分析，这将使您能够在明显更快的时间内做出最佳的销售和营销决策。”

248       

 

伦理考虑使用ARTI网络官方智慧和富于 非常 第一个 一个 来 解决 在 营销 是 关于 该 数据 本身。 无论如何，你从哪里获得所有数据及其数据 ？

 

隐私

之间的 电话 窃听， 使用 视频 摄像头 在 公共， 并 在 以能力
看 每个人的
电子邮件， 在世界的注意力已经转向到隐私。对于在市场营销主管谁愿意来做出的最的的大部分数据，这要么是一个障碍或机会。

在IEEE的 “伦理上不结盟设计” 报告描述的隐私作为在数据方面的重要道德困境不对称。“我们的个人Infor公司， mation 从根本上通知的系统驱动的现代社会，但我们的数据更是一个资产给别人比它是我们的。”

该 ARTI网络官方 情报 和 自治 系统 驱动算法经济（AI / AS）对我们的数据普遍接入，但我们仍然从收益，我们可以从我们得到的见解获得分离出 的生活。

为了解决这一不对称的存在是一个根本需要的人，以德科幻NE，访问，并管理他们的个人数据来作为其唯一的策展人身份。

认识到这种担忧对于保持营销人员不会落入客户  的错误方面   以及法律的错误方面至关重要。在欧洲，通用数据保护条例的目的是 为 在 公民 和 不 为 的 公司。 根据 该 GDPR，任何一家公司在欧盟收集的数据 必须：

■           
向个人提供有关个人数据是否， 在何处以及以何种目的进行 处理的具体信息。

■           
通知国家数据保护机构该数据的预期用途。

■           
给个人要存储有关数据的完整副本 他们 在 一个 办法 是 让 他们 来 给 它 到 另一个 奥尔加nization。

■           
根据请求删除个人数据并停止跟踪。

■           
保护他们正在处理的数据的安全性，并通知个人任何 违规行为。

■           
在 系统设计中包含数据保护。

■           
任命一个数据保护 网络的CER。

                                                                           249

 

否则，他们将面临重要的影响。“组织可以在违反GDPR或2000万欧元的情况下获得高达全球年营业额的4％。” 8 关于合规成本甚至技术可行性的问题很多。有三种方法可以解决这个问题   

营销观点。

 

1.  
双重选择在 无处不在

如果你有一个引人注目的价值主张，人们会选择加入。为了方便起见，他们很乐意在所有设备上进行识别。亚马逊1-Click按钮就是证明，以及在Facebook上与朋友和家人进行交流的能力。

这种方法的缺点是期望，你会清楚， COM的plete和  简洁的  关于  什么  数据  ，你  被  收集  并  （在  备存─   荷兰国际集团与全球法规）为什么要收集它。  作为  完整的关于每个位如何以及为什么你收集够硬，但作为  简洁明了的同时是 自相矛盾。

动机是企业责任，企业文化和品牌。IEEE的“道德对齐设计”报告表明，“使个人能够策划自己的身份并管理数据使用的道德含义将成为组织的市场差异化。”这是隐私作为一种特征和竞争优势。

 

2.  
忽略全体 事

假设猫从袋子里出来了。可用于重新识别人员的数据已经大量存在。

网上点击，社交媒体，智能手机应用程序和某些地区重刑，可穿戴设备和物联网之间，它不再是可以区分 所有 的 的 数据 是 被 收集， 购买， 并 随后 得到的。其中一些是特定平台所特有的，其中一些已经被编译成一个不可穿透的索引，用于计算结果的方法是商业机密。

这 将 是 该 课题 的 大声疾呼
了 多年 ，并 在 结果 不会是什么数据被收集新的规定，但使用这些数据是否造成危害。立法行动而不是技术。

 

3.  
做你的 律师告诉你的事

公司 法律顾问 会 告诉 您 ， 在 完成 诉讼无可 否认地说明忽视法律的后果之前，没有办法确定数据 保护的投资回报。

250       

 

跟随你的心

您是否以及多少投资于隐私很快就会成为一个财务 或 法律 问题， 并 成为 一个 道德 问题。 在 麻省理工学院
媒体实验室有一个引人入胜的网站叫做道德机9 ，你被要求做出决定提前约一个自主汽车面临着严峻的潜在结果 的选择。

汽车在行人穿越道和人行道上看到行人，发现刹车失灵了。它可以击中并杀死人行横道或人行道上的人。它该怎么办？

场景提供了替代属性。在一些人中，人行横道上有更多人，而人行道上则更少。有时人行横道上有修女和人行道上有孩子。有时灯光与行人有关，有时则没有。你指引汽车杀人谁？（见图8.2）

图8.2中的第一个选择非常简单：杀死动物，而不是人。随后的决定变得更加困难。汽车应该杀死男人，女人，无家可归者，男性主管和两名孕妇吗？

虽然网络营销是没有生命和死亡，  这  是  非常重要的。人工智能合作伙伴关系（“为人民和社会做出贡献”）已经发布了八项原则：10

1.    我们将努力确保人工智能技术受益，并为尽可能多的人 提供支持。

2.    我们将教育和倾听公众的意见，积极吸引利益相关者，寻求他们对我们关注的反馈，告知他们我们的工作，并解决他们的 问题。

3.    我们致力于开展关于 人工智能的道德，社会，经济和法律影响的研究和对话。

4.    我们认为，人工智能研究和开发工作需要积极参与并对广泛的利益相关方负责。

5.    我们将从事与和具有代表性的利益相关方的商业社区，以帮助确保该域SPECI网络Ç关注和机会的理解和解决。

6.    我们将努力以最大限度的好处网络连接TS 和解决的AI技术的潜在挑战，通过：

a.    工作保护的隐私和安全 的个人

b.   
努力理解并尊重可能受人工智能 进步影响的各方的利益

 

 

 

 

 

 

 

 

 

 

 

 

 

图8.2杀死红灯或猫和狗穿过果岭的孩子和弯曲的十字架？

 

 

 

 

 

 

 

 

 

 

 

 

 

 

251

252       

 

c.    工作，以确保AI研究和工程的COM munities保持对社会负责，敏感，并在更广泛的直接与人工智能技术的FL uences潜在从事 社会

d.    确保人工智能研究和技术稳健，可靠，值得信赖，并在安全 约束下运行

e.    反对发展和使用会违反国际公约或人权AI技术的应用，
促进 保障 和
技术， 是 做
任何 伤害

7.    为了解释技术，我们认为人工智能系统的运行对人们来说是可以理解和解释的。

8.    我们努力以创造一个文化的合作，信任，和AI科学家和工程师之间的开放性，以帮助我们更好地全部实现这些目标。

即使是最好的意图也可能被那些不那么慈善的人所颠覆。

 

故意操纵

当你将青少年不成熟和机器学习结合在一起时，灾难随之而来。微软发现这一点非常尴尬。天网于1997年8月4日上线，并且自我意识到了

8月29日凌晨2:14 。

微软的Twitter聊天机器人Tay于2016年3月23日上线，并且在96,000 条推文之后不得不在  16   小时内关闭。（见图8.3。）       

Tay的创建是为了模拟一个19岁的美国女孩，同时学习如何通过经验说话。这种经历包括 与4chan’s / pol /（政治上不正确）论坛的互动。/ pol / 的居民决定教授Tay的攻击性和煽动性，使她发出一些真正可怕，种族主义，厌恶女性和仇恨的信息。

微软 正在与Zo.ai （@zochats）再次 尝试。Zo的推文受到保护。“只有CON网络Rmed指信徒必须接入到@ zochats的推文和完整廓。点击的“关注” 按钮来发送一个后续请求“。

MSPoweruser描述这种新的尝试，为“本质上是一个岑sored 泰或一个英文变的微软中国聊天机器人Xiaoice。莫宁是在正常很好的交谈，例如，莫宁确实在推出初期，在它提出了一个“超简称性格测试” ，你如果你会，而学习在学校或学习的经验。

                                                                           253

 

图8.3微软的Tay没有持续一天。

 

 

但是当你继续讨论像政治这样的话题时，Zo只会简单地回答：  “人们在谈论政治时可以说一些可怕的事情， 
所以我不 讨论。” 11

该 人 在/ POL /中 有 乐趣 在泰的代价，拖钓的最佳状态。但是如果意图比仅仅搞乱微软的实验更加险恶呢？营销专业人员努力说服人们购买。如果人工智能被用来说服人们投票怎么办？       

 

特朗普收费？

社交媒体，虚假新闻，激烈竞争的选举  和机器学习的结合是一个不需要匹配的粉末桶。声明中所做的王牌活动中使用AI发送了正确的消息，只是在适当的时间正确的个人per- suade他们投票特朗普，如果他们可能是概率如此倾斜或不投票给希拉里，如果算法推导它可能会影响行为。

咨询 网络RM 剑桥 的analytica 是 说 来 已 帮助 挥洒特朗普选举，并在Brexit 投票为好，通过使用心理分析与海洋人格模型。

■           
开放性（愿意尝试新 事物）

■           
责任心 （秩序，习惯和计划与自愿）

■           
外向性（你 是多么的社交）

254       

 

■           
宜人（让别人领先于 自己）

■           
神经质（你担心多少）

“成千上万”对美国成年人的调查开始创建一个模型来预测美国其他成年人口的个性（迪士尼公主你是谁？你的星球大战角色是什么？你应该在哪个国家？退休？）。

在公开演讲12 在2016年协和峰会，凸轮桥的analytica的CEO亚历山大・尼克斯描述了他们如何使用行为的 微目标 来 影响 的 共和党初选。鉴于第二修正案是一个热门话题，他们可以将他们的广告细分为人。关于枪支保护的消息将说服她，而关于枪支作为运动和家庭传统的信息会影响他。（见图8.4。）    

根据Nix的说法，Cambridge Analytica针对每个人使用了4,000到5,000个数据点，并代表Ted Cruz优化了其消息传递。克鲁兹显然没有赢得小学，但特朗普接受了剑桥分析学院的决赛。

除了4,000到5,000个数据点之外，他们还可以从MyPersonality 13 应用程序访问数据，该应用程序充当心理测量机。（“我很容易恐慌”，“我与其他人相矛盾”）。用户可以注册分享他们的答案。

 

myPersonality是一个流行的Facebook应用程序，允许用户进行真正的心理测试，并允许我们记录（同意！）他们的心理和Facebook专业。目前，我们的数据库包含超过6,000,000个测试结果，以及超过4,000,000个个人Facebook专业版。我们的受访者来自不同的年龄组，背景和文化。他们非常积极地诚实和谨慎地回答，因为他们参与的唯一评价是对他们的 结果的反馈。

在新的纽约时报上剑桥的analytica的文章要求投诽谤“数据公司说‘秘密调料’辅助特朗普; 许多嘲笑。“  
14

十几名共和党顾问和前特朗普竞选助手，以及现任和前任剑桥员工，表示该公司利用个性专业的能力 – 尼克斯曾经称之为我们的秘密调料 – 被夸大了。

 

 

 

 

 

 

 

 

 

 

 

 

 

图8.4基于共和党初选中个性模型的微妙消息传递

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

255

256       

 

其 数据 产品 被 考虑 用于特朗普先生的关键性投票操作。但 根据三名前特朗普竞选助手的说法，测试显示剑桥的数据和模型的效率略低于现有的 共和党 全国 委员会 制度 。

在最近的一些公共场合，剑桥高管已经承认这一点。“我不想伤到你的心; 我们实际上并没有对特朗普的竞选活动做过任何心理分析，“剑桥产品负责人马特・奥兹科斯基（Matt Oczkowski）在去年12月由谷歌主办的一个选举小组中表示。

在撰写本文时，故事仍在展开，但可能性仍然很有趣。在Das
Magazin的一篇文章中，15
斯坦福大学商学院助理教授Michal Kosinski博士描述了建立模型，证明了

。。。根据用户平均68个Facebook“喜欢”的情况，可以预测他们的肤色（用

95 ％的 准确度）， 他们 的性 方向 （88 ％的准确率），以及它们的AF网络liation对民主党或共和党的 党 （85 ％）的。 但 它 并没有 止步 于此。

情报，宗教信仰以及酒精，香烟和吸毒都可以确定。根据数据，甚至可以推断某人的父母是否离婚。

他们建模的强度可以通过它如何预测主题的答案来说明。Kosinski继续不断研究这些模型：不久之后，他能够比普通工作同事更好地评价一个人，仅仅基于10个Facebook“喜欢”。七十个“喜欢”足以超越一个人的 朋友所知道的，  150他们的父母知道，  300“喜欢”他们的伴侣知道。更多“喜欢”甚至可以超越一个人认为他们对自己的了解。在Kosinski发布这些发现的那天，他接到了两个电话。诉讼和工作机会的威胁。两者都来自 Facebook。

在 达斯 Magazin的 文章 进一步 争辩 说 剑桥 的analytica“划分了美国人口为32的性格类型，并专注于只是17个州，”发现了值得注意的是，特朗普活动支付剑桥的analytica超过500万$，而史蒂夫是班农董事会成员。

                                                                           257

 

Kosinski ……已经进行了一系列测试，很快将会发布。最初的结果令人担忧：该研究通过展示营销人员在将产品和营销信息与消费者个性相匹配时，在Facebook上的真实广告活动中可以吸引多达63％的点击次数和多达1,400次转化次数来显示个性定位的有效性特点。他们通过展示推广产品或品牌的大多数Facebook页面受个性影响，并且可以基于单个Facebook页面准确定位大量消费者，进一步证明了个性定位的可扩展性。

这将是值得留意  的  结果  的  该  调查  由信息专员网络铈（ICO），在英国的隐私监督。英国和欧洲对隐私的规定比美国更严格，所以他们的结果应该证明是有益的。

 

意想不到的偏见

虽然我们必须警惕的是坏人坏的意图可能会弯曲AI 到 他们的 意志， 我们 必须 也 有 对 警卫 说 的 系统 ，我们 建立 不 巧妙地 在佛罗里达州uenced 由 我们 自己 无法识别的 偏见， 或者 通过 偏见 存在于数据。

波士顿市发布了一个 
用于  报告  坑洼的应用程序。  好主意，只有那些能买得起智能手机的社区才能得到他们的坑洼。

在 更 恶劣的 错误 是 那些 认为 仍 被埋 在 该系统中，未被发现。如果贷款被批准的基础上的收入和收入是种族偏见，在批准的评价将有比赛烤成的数据。亚马逊被称为出了不提供他们当天送货服务中 黑人 社区。 谷歌 显示 广告 的 高薪 工作，以男性多于女性。无论机器 使用什么数据

造成了这些不公平现象。

作为营销人员，我们有责任监控数据科学家。     让他们完成自己的工作，但要确保他们的方法中包含偏差消除和检测技术。这对营销人员至关重要，因为错误的数据或错误的问题会阻碍您将商品和服务 推广到新市场。当被问及“谁购买我们的产品？”或“客户的哪些专业代表最高的终身价值？”时，答案将是短视的，随后的广告活动将是自我限制的。   

                                                                           259

 

一些组织正在形成追求人工智能系统的道德规范。

麻省理工学院媒体实验室参与了2700万美元的人工智能道德和治理倡议17

关于人工智能的一百年研究（AI100）18 关于人工智能的伙伴关系19

IEEE已经制作了一份长达138页的报告，“道德对齐设计：利用人工智能和自主系统优先考虑人类福祉的愿景（AI / AS）”，20 公开征求公众意见。

科学界认识到有一些问题需要处理并且正在努力解决这些问题。我们知道我们需要速度限制，安全带以及关于醉酒驾驶的严格法律。

精彩的人，在美国国防部高级研究计划局（DARPA）给我们的互联网，以开始与。 目前，该机构正在寻找的方式为AI 来是更理解。DARPA是所有的AI，而是希望技术要解释的。 21

 

机器学习的巨大成功导致了大量的人工智能（AI）应用程序。持续的进步有望产生能够自我感知，学习，决定和行动的自主系统。然而，这些系统的有效性受到机器当前  无法  向人类 用户解释其决策和行动的限制。

国防部正面临着需要更智能，自主和共生系统的挑战。可解释的人工智能 – 特别是可解释的机器学习 – 如果未来的战争人员能够理解，适当地信任并有效地管理新一代的人工智能机器合作伙伴，那将是必不可少的。

可解释AI（XAI）计划旨在创建一套机器学习技术：

 

产生更多可解释的模型，同时  保持  高水平的学习成绩（预测准确性）; 和

使人类用户能够理解，适当地信任并有效地管理新一代的人工智能合作伙伴。