加州大学圣地亚哥分校健康中心(UC San Diego Health)正在引进一名头脑敏锐的人来帮助指导其在人工智能方面的努力。

　　大学卫生系统最近宣布招聘Karandeep Singh博士担任其第一位“首席卫生人工智能官”，任命密歇根大学的研究人员和临床医生担任加州大学圣地亚哥分校医学院数字健康创新琼和欧文·雅各布斯(Joan and Irwin Jacobs)捐赠主席。

　　郑重声明:

　　18点。这个故事的前一个版本称辛格在《美国医学会杂志》上发表了一篇论文。正确的参考文献是《美国医学信息学协会杂志》。

　　加州大学圣地亚哥分校负责健康科学的副校长John M. Carethers博士在最近的一份大学公告中表示，辛格以其在这一快速发展领域的专业知识而闻名。

　　“在我们之前的职业生涯中曾与Singh博士合作过，我亲眼目睹了他令人印象深刻的业绩记录和在医疗保健技术方面的深厚专业知识，”Carethers说。“他是人工智能专利技术评估方面的全国领军人物，是人工智能治理方面的专家，并以丰富的经验和影响力积极参与影响人工智能政策。”

　　这项工作包括今年在《美国医学信息学协会杂志》上发表的一篇论文，该论文开发了一种方法，可以在医疗资源受限时精确评估机器学习模型的净收益。去年《自然机器智能》(Nature Machine Intelligence)杂志上的一篇文章涵盖了使用这种技术预测卫生系统中的急性肾损伤，辛格还参与了《美国医学会杂志》(Journal of the American Medical Association) 2021年的一篇文章，该文章发现，一种据称能够预测败血症的模型存在缺陷，败血症是一种可导致器官损伤性炎症的致命疾病。

　　辛格是密歇根大学的肾病专家，在加州大学洛杉矶分校医学中心完成了内科住院医师培训，他还在哈佛医学院获得了生物医学信息学硕士学位。在密歇根大学，他担任该校人工智能首席医疗信息官。

　　随着他的新职位于上周生效，辛格说他计划把家搬到圣地亚哥。他的妻子Tejpreet Kaur Nakai医生是一名初级保健和内科专家，也计划在圣地亚哥执业。这对夫妇有两个孩子，一个7岁，一个10岁。

　　加州大学圣地亚哥分校健康中心对在其运营中使用新的人工智能技术并不陌生，他们在急诊科部署了软件，以帮助预测哪些患者可能会患上败血症。Epic Systems是美国最受欢迎的电子病历系统的制造商，该公司已经在一个试点项目中使用ChatGPT人工智能系统起草给患者的日常电子邮件。该系统帮助医生节省通信时间，同时保持对信息的监督。

　　加州大学圣地亚哥分校正在大力投资基础设施，使自己成为研究人工智能如何提高医疗保健服务效率和准确性的领先地点之一，这一努力的很大一部分将是建立一个高科技中心，收集和整理床边和诊所产生的不同数据源。这一努力得到了校园琼和欧文·雅各布斯健康创新中心2200万美元的资助。

　　辛格的角色将是双重的:帮助指导监督和整合已经审查的人工智能技术到加州大学圣地亚哥分校的运营中，并对新开发的模型和方法的安全性和有效性进行研究。

　　加州大学圣地亚哥分校是加州大学第三个增加首席健康人工智能官职位的校园，此前加州大学旧金山分校和加州大学戴维斯分校在2023年招聘了类似的人员。

　　辛格最近花了一些时间与《圣地亚哥联合论坛报》讨论了他在医疗保健领域的人工智能方法。以下是经过编辑的与这位新任高管的问答环节:

　　问:您的工作最近被引用到有关卫生保健领域人工智能的国家政策中。考虑到这个城市离华盛顿最远，而且还在美国，为什么是加州大学圣地亚哥分校呢?

　　答:加州大学在华盛顿特区有很大的影响力(克里斯·朗赫斯特博士)(加州大学圣地亚哥分校首席医疗和数字官)去年在华盛顿特区讨论这个话题的次数比我多，所以我认为实际上有很多机会参与政策讨论。但是，虽然政策是我们使命的重要组成部分，但我认为，首要目标是照顾社区。这就是吸引我来加州大学圣地亚哥分校的原因，有机会真正思考我们如何利用人工智能让接受和提供护理成为更好的体验。

　　问:自2019冠状病毒病(COVID-19)大流行以来，医疗保健行业普遍存在工人短缺的情况，有人断言，在这种情况下，这种职位是一种奢侈，您对此有何看法?

　　答:当人们第一次听到这个消息时，他们会说，“等等，为什么我们需要一个人来领导人工智能?”我认为这个职位存在的原因有两个。首先，你需要在卫生系统中有人对这项技术的使用情况了解并负责。第二个是关于规划和战略，当我们决定如何组织我们的护理时，需要有人在房间里，谁能跟上可用的人工智能工具的速度，未来会发生什么，我们可能会考虑使用什么。

　　问:随着生成式人工智能的突然到来，尤其是以ChatGPT为代表的人工智能，目前似乎有一种数字淘金热的心态，每天都有新产品发布。人工智能导演如何在如此多的炒作中识别出真正的前景?

　　答:我们在联邦层面上的很多工作都涉及到对系统的评估，并确保它们按照预期正常运行。我希望能把这种严谨带进这份工作中，这样我们就不会仅仅依赖于公司告诉我们的东西，而是要通过我们自己的研究和调查来核实这些说法。我来自一个乐观的地方，但也怀疑任何一种工具。我认为，在我的职位上，我要做的很多事情将是努力帮助我们从混乱中脱颖而出，严格地审视现有的东西，这样我们就可以成为领导者，帮助别人确定哪些是有效的，哪些是无效的。

　　问:拜登政府最近发布的指导意见称，人工智能应“带来公平、适当、有效、有效和安全的医疗保健结果”。考虑到即使它们的创造者也会说这些人工智能模型是黑盒子，没有人能完全理解它们的内部工作原理，你如何确保这些目标，尤其是安全性和准确性得到维护?

　　A:即使它是一个黑匣子，我认为我们可以评估任何系统。我们可以悄无声息地运行它，这意味着我们只是把它连接起来，看看它对现实世界的信息处理得如何，但我们实际上并不根据它的发现做出任何决定。通过将实际结果与模型发现的结果进行比较，我们可以验证它是否是一个好系统。

　　问:提高效率是将机器学习和人工智能模型整合到日常医疗保健中的最大承诺之一。但是，在早期，我们已经看到一些模型最终会创造更多的工作。例如，用于评估胸部x光的系统，虽然能够发现人类可能遗漏的异常，但也被证明会产生更多的假阳性。人工智能的某些用途是否存在这样的危险，即需要太多的人为监督，而无法有效地提高效率?

　　A:当然，我认为你必须按照你打算使用它们的方式来看待事物。在两个不同的工作流中使用的相同工具可能具有非常不同的效果。放射科医生不会乐意停止他们的工作，对一个算法做出反应，这个算法会标记出并不异常的异常。这只会增加工作量。但是，如果我们不打断放射科医生的工作，而是使用算法来安排他们的工作，这样他们下一个要检查的图像是最有可能有异常的?它们仍然在读取所有相同的图像，但它们可能只是以更有效的顺序读取它们。

　　问:鉴于您的工作是理解和验证人工智能技术，您认为医疗保健的哪个领域正处于变革的尖端，您认为我们距离能够使用人工智能来影响患者护理还有很长的路要走?

　　答:用文本解释来回应的大型语言和多模态模型可能是任何人都会说的尖端技术。很明显，用这些模型来起草病人的书面答复已经在加州大学圣地亚哥分校进行了试点，总结信息是另一个正在测试的方法。假设有人准备回家了，但他们已经在医院住了一个月了。简单地说，要准确地把这个人在那段时间里发生的所有事情拼凑在一起，可能需要做很多工作。当病人从一个医生转到另一个医生时，这也是一个挑战。因此，通过精确的摘要来减少文档负担是另一个即将出现的想法。环境文档是另一个处于风口浪尖的文档。这样，医生就不用盯着电脑屏幕记笔记了，你可以很自然地和病人交谈，这种交流是实时处理的，不仅仅是纯粹的转录，还可以格式化这些信息，医生需要这样做，以便记录这种交流。这种技术目前正在一些地方进行测试，但我们还没有看到大型研究告诉我们它是否有效。我认为自动化决策还很遥远。临床医生做的很多事情都不像数学。他们试图理解他们面前的那个人，那个人的价值体系是什么?对他们来说什么是重要的?你能给他们什么信息或建议来帮助他们为自己做出最好的决定?加州大学旧金山分校(UCSF)首席人工智能官萨拉·穆雷(Sara Murray)将人工智能在医疗保健领域的作用称为“键盘解放”。这是为了让我们远离键盘，让我们花更多时间和病人在一起。