大多数AI应用程序需要大量数据才能学习和做出明智的决策。人工智能是大多数行业的重要议程，因为它有可能从根本上改善服务，商业突破和财务收益。在未来，我们将面临一系列法律和道德困境，寻求以人工智能的名义和基本隐私权之间的相当大的社会进步之间的平衡。构成AI的数据和算法不仅准确而且性能高; 他们还需要满足隐私问题并满足监管要求。数据问题可以在严格监管的行业中发挥作用，例如保险，这种行业正在从基于风险共担的历史模型转向包含预测特定风险的因素的方法。但有些属性是排他性的。
随着技术竞争领先于消费者的期望和偏好，企业在人工智能计划，隐私保护和客户服务之间的界限越来越小。例如，金融服务提供商正在使用语音识别技术来识别电话上的客户，以节省验证身份的时间。客户欢迎而不是不喜欢这种体验，部分原因是他们重视服务并信任公司不要滥用能力或数据来实现它。
新的欧盟数据保护条例于2018年5月生效，这将加强我们的隐私权，同时加强对处理此类数据的要求。组织将根据法规承担更多处理个人数据的责任，透明度要求将更加严格。在要求得到加强的同时，对数据的需求也在增长。基于AI的系统只有在有足够的相关数据可供学习的情况下才能变得智能化。智能聊天机器人分析它所提供的所有信息 – 客户提出的问题和客户服务传达的响应的组合。根据其分析，聊天机器人可以“理解”客户所询问的内容，因此能够给出有意义的答案。
一般数据保护条例（GDPR）的规定2在处理个人信息时管理数据控制者的职责和数据主体的权利。因此，当人工智能在个人数据的帮助下开发并且用于分析或达成有关个人的决策时，GDPR也适用。管理个人数据处理的规则有其基本原则。GDPR第5条列出了适用于所有个人数据处理的原则。这些原则的实质是个人信息应以最佳可能的方式保护数据主体的隐私，并且每个人都有权决定如何使用他或她的个人数据。在人工智能开发中使用个人数据挑战了其中几个原则。综上所述，
・
以合法，公平和透明的方式处理（合法性，公平性和透明度原则）
・
收集用于特定的，明确陈述的和合理的目的，而不是以与这些目的不相符的新方式处理（目的限制原则）
・
充分，相关且仅限于满足其处理目的所必需的（数据最小化原则）
・
正确，如有必要，更新（准确性原则）
・
未以可识别的形式存储的时间长于目的所需的时间（与数据保留期有关的原则）
・
以确保充分的个人数据保护（完整性和机密性原则）的方式进行处理
人工智能是一种快速发展的技术。这同样适用于有助于应对使用AI提出的数据保护挑战的工具和方法。我们收集了几个示例来说明一些可用的选项。这些方法尚未在实践中进行评估，但根据其可能的潜力进行评估。这意味着从技术上讲，它们今天可能不合适，但这些概念令人兴奋，并且它们具有进一步研究和未来使用的潜力。