每年，约有 22000 名美国人因医院的严重医疗失误而死亡，其中许多是在手术台上。在有些医疗事故中，外科医生会将手术海绵留在患者体内，或者完全执行了错误的手术。

美国斯坦福大学外科教授特奥多·格兰恰罗夫（Teodor Grantcharov）认为，他已经找到了一种使手术更安全、最大限度地减少人为错误的工具。

他开发了一种在手术室中使用的人工智能“黑匣子”，其工作方式与飞机上的黑匣子类似。

这些设备由格兰恰罗夫的外科安全技术公司制造，通过全景摄像头、天花板上的麦克风和麻醉监视器记录手术室里的一切，然后使用人工智能帮助外科医生理解数据。

它们将手术室作为一个整体，捕捉的信息包括开门的次数，手术过程中发生的与病例无关的对话次数等等。

这些黑匣子在美国、加拿大和西欧的近 40 家机构中使用，从西奈山到杜克大学再到梅奥诊所。

但是，医院是处于一个新的安全时代的风口浪尖上，还是在创造一个混乱和奇怪的环境？

（来源：STEPHANIE ARNETT/MIT TECHNOLOGY REVIEW | ENVATO）

作为一个具有更广泛意义的故事，这引起了我的共鸣。各行各业的组织都在考虑如何采用人工智能，使工作变得更安全或更高效。医院的例子表明，真实应用情况并不总是很明朗，你需要避免很多陷阱。

以下是我从这个故事中学到的关于采用人工智能的三个教训：

隐私很重要，但并不总是能得到保证。格兰恰罗夫很快意识到，让外科医生使用黑匣子的唯一方法是让他们感到自己受到了保护，免受可能的影响。

他设计了一个系统来记录行动，但隐藏了患者和工作人员的身份，甚至是在 30 天内删除所有记录。他的观点是，任何人都不应该因为犯了错误而受到惩罚。

黑匣子录音中的每个人都是匿名的。他用了一种算法会扭曲人们的声音，模糊他们的脸，将他们变成阴影般的黑色人物。所以，即使你知道发生了什么，你也不能用它来针对一个人。

但这个过程并不完美。在 30 天前的记录被自动删除之前，医院管理员仍然可以看到手术室号码、手术时间和患者的病历号码，因此即使从技术上抹除了人员身份，他们也不是真正的匿名。

美国杜克大学医院临床运营副主任克里斯托弗·曼蒂（Christopher Mantyh）说，使用黑匣子的结果是一种“老大哥在监视你”的感觉。该医院在七个手术室里都装了黑匣子。

如果不首先获得人们的支持，就无法采用新技术。人们通常会找理由质疑新的工具，而该系统在隐私方面的缺陷也是工作人员一直不愿接受它的部分原因。许多医生和护士都在抵制新的监控工具。

在一家医院里，摄像头被人转向或故意拔掉插头，并遭到破坏。一些外科医生和工作人员拒绝在有摄像头的房间里工作。

在一些摄像头遭到破坏的医院，外科医生花了长达六个月的时间才适应它们。但一旦工作人员了解了这项技术的防护措施，事情就顺利多了。

在一对一的谈话中，管理者解释了数据是如何被自动识别和删除的，之后员工开始更加信任它。

更多的数据并不总是能带来解决方案。你不应该为了采用新技术而采用新技术，如果它们实际上没有用处的话。但要确定人工智能技术是否适合你，你需要回答一些棘手的问题。

一些医院根据黑匣子数据汇报了一些小的改进。杜克大学医院的医生利用这些数据来检查抗生素按时使用的频率，他们报告说，利用这些数据可以帮助减少手术室在两个病例轮换之间空置的时长。

但从一些医院获得支持一直很困难，因为还没有任何大规模的同行评审研究表明，黑匣子是如何帮助减少患者并发症和挽救生命的。

美国西奈山医院的普外主任西莉亚·迪维诺（Celia Divino）说，过多的数据可能会导致运转异常。她问道：“你怎么解读这些数据？你用它做什么？这始终是一个问题。”

支持：Ren

运营/排版：何晨龙