HIT思考

为什么隐私和人工智能仍需要协调

现在注册

头条新闻宣布了人工智能的下一个伟大应用,并且出现的频率很高。通常情况下,医疗保健似乎会收到更多这样的通知。

确定关于人工智能的断言背后的有效性可能很困难。将有真实的主张和其他不辜负炒作的主张。可能更有趣的问题是,包括开发和使用在内的人工智能对隐私有何影响。

人工智能系统需要开发,训练和不断完善大量数据。数据从哪里来?如果谈论医疗保健,则数据必须是关于患者的,这意味着必须吸收,利用和保存敏感,规范的信息。在使用医疗信息的情况下,HIPAA的影响最为明显,因为HIPAA控制着患者信息的使用和披露。

如果患者信息对于人工智能是必不可少的,那么人工智能对隐私的挑战是什么?一些主要问题包括可能导致无法进行身份识别,算法偏差以及患者安全或治疗错误。

不可辩驳的无法识别数据是最大的担忧之一。关注的基础是人工智能系统将从许多不同的源中提取数据点,以至于即使删除了HIPAA取消标识标准所要求的所有标识符,仍然可以标识个人。如果人工智能使取消身份识别成为不可能,那么那些系统可能会失去HIPAA的能力,无法获取和保留某种程度上用于开发和维护系统所需的数据。

第二个隐私问题是算法偏差。这种关注的基础是,人工智能系统要么包含引入或推动不适当决策的数据源,要么会训练人工智能的人员有偏见。无论哪种方式,偏见的引入都可能需要从更多来源获取更多信息或采取不必要的干预措施,从而侵犯个人的隐私。

如果无法找到问题的根源,那么将此类风险嵌入系统中可能就不容易纠正。从失去隐私的角度考虑,消除基于不良来源数据的偏见的观点是从越来越多样化的来源中吸取更多数据。如果发生这种情况,那么停止点在哪里?

总是可以争辩说要引入越来越多的数据,但是将所有数据馈送到系统中可能会产生未知的,意想不到的以及其他无法预料的影响。同时,如果无法从数量有限的来源中获取数据,则可能无法使系统充分满足可能使用该系统的各种人群的需求。因此,非常真实的潜在偏差可能会鼓励设计,因为隐私可能会阻碍收集足够的数据以减少偏差的能力,因此设计不会给隐私提供足够的空间。

关于人工智能的最后(目前)隐私问题是患者信任度下降。如果患者知道信息将被输入到人工智能系统中并存储在未知数量的地方,那么患者可以隐瞒信息吗?如果隐瞒信息,那么该信息将是什么?对于确定适当的治疗方法或行动有多重要?

关于维护技术隐私的担忧并非没有根据,尤其是考虑到是否存在隐私(至少是传统的隐私概念)的争论。如果技术系统中不存在隐私,则一个论点是,重新建立隐私的唯一方法是避免将信息完全输入到电子系统中。尽管至少从轶事上讲,扣留数据并不是一个新问题,但扣留的速度可能会增加或扩大到新的患者群体,这将阻碍提供护理的能力。

破坏识别​​,偏见和隐瞒信息的例子都落在方程的“敌人”一侧。这些担忧当然是正确的,并且植根于现实。但是,每个关注点也构成了人工智能成为解决关注点解决方案的一部分的基础。因此,人工智能的力量不仅在于分解,而且还在积累。

人工智能虽然会给反身份识别带来风险,但从不同的角度来看,人工智能也可以创建构造反身份数据新手段的能力。正如人工智能可以从多个来源获取信息以从较小的一组数据中识别个人一样,该过程也可以反过来用于实施新的保护措施,从而使数据的识别性比以前更高。

如上所述,HIPAA要求删除某些被认为是未识别数据的标识符。不过,这只是实现取消身份验证的两种方法之一。第二种方法是让个人具有适当的统计和科学方法知识,以使信息被取消识别,以证明数据已被取消识别。人工智能系统可以填补这个角色吗?

在不久的将来的某个时刻,可能需要回答这个问题。因此,像大多数工具一样,人工智能既可以是福音,也可以是祸根。跌落的一面由所建议的用途驱动。

人工智能带来的第二个(目前在实践中)对隐私保密的优势是增强了合规性监控。根据HIPAA和通常真正好的隐私惯例,应该对信息系统和数据进行审核和监视。审核和监视的目的是确定是否正在发生数据泄漏,对数据的不适当访问或其他损害。从历史上看,审计和监视一直是手动过程。

当系统不包含价值TB的数据时,手动过程可以随机查看相当数量的数据,尽管仍然不是全部。随着数据泛滥的不断深入,手动过程只能触及一小部分。手动过程也是一个令人沮丧的过程,并不是很多人都想进入的过程。这就是人工智能系统可以介入的地方。这些系统能够审计和监视所有数据,并且在这一点上也足够完善,不会产生大量错误的红旗。正如在这一点上实际上已成为不可避免的加密一样,如果人工智能可以从根本上减少发现潜在的隐私折衷的时间,那么在什么时候还需要加密呢?必须回答该问题的时间点可能并不遥远。

需要考虑的第三个领域是人工智能如何增强整体安全状况。安全性可能不是隐私,但是没有安全性就无法拥有隐私。如果没有以安全的方式保护数据,那么如何确保隐私?从这个角度来看,人工智能系统可以帮助提供分层保护,并提供灵活的背景,从而有可能与网络攻击的不断变化的性质保持同步。就像审核和监视一样,为什么不利用可以运行大量分析的系统呢?

可以很容易地将人工智能描述为威胁,但最初可以将威胁变成朋友。

对于本文的转载和许可请求, 点击这里.