AI在医疗网络安全：风险与策略并存

人工智能，特别是生成式AI平台的兴起，已迅速从专业技术应用转变为广泛的消费者使用。皮尤研究中心的一项研究显示，到2025年初，58%的30岁以下美国成年人曾使用ChatGPT，比2023年的33%显著增加。这种广泛应用意味着员工可能已熟悉或正在使用生成式AI服务，即使没有正式的组织政策，他们也常常依赖公共工具。这种情况给组织带来了相当大的数据隐私和安全风险。

雪上加霜的是，网络犯罪分子也能接触到这些先进的AI工具，并利用它们策划更复杂的攻击。例如，纽约大学已向其校园社区发布指导，警告防范AI辅助的社会工程威胁。随着AI在各行业日益普及，了解其对网络安全的深远影响至关重要，特别是对于正在应对这一不断演变格局的医疗机构而言。

双刃剑：AI在网络安全中的担忧

网络安全专家将AI相关的安全考量大致分为三个视角：利用AI实现安全、保护AI本身的安全以及防范AI带来的安全威胁。每种视角都给组织带来了独特的挑战。

• 利用AI实现安全（Security with AI）： 许多现代安全平台现在都整合了AI驱动的功能，以增强威胁检测和响应能力。组织面临的主要挑战在于辨别哪些解决方案能有效融入其现有基础设施和特定需求，并确保它们能提供切实的安全性益处。

• 保护AI本身的安全（Security for AI）： 在医疗领域，AI用例已试点和部署多年，从虚拟护理项目中的计算机视觉到协助临床医生处理行政任务的聊天机器人。这些应用程序需要严格的防护措施。美国国家标准与技术研究院（NIST）已警告恶意行为者故意操纵AI系统以引发故障的风险，强调保护AI系统本身的关键必要性。

• 防范AI带来的安全威胁（Security from AI）： 也许最紧迫的担忧是网络犯罪分子将AI武器化的潜力。ISC2 2024年的一项调查显示，网络安全专业人士对利用AI传播虚假信息深感担忧，其中深度伪造、虚假信息宣传活动和社会工程攻击位居他们担忧清单的首位。今年早些时候，YouTube发布了一项关于网络钓鱼邮件的警告，这些邮件中包含AI生成的其首席执行官的视频片段，这说明了AI驱动欺骗的实际威胁。

利用AI增强网络安全防御

尽管存在固有风险，AI也为增强网络安全提供了显著优势。同一项对1000多名网络安全专业人士进行的ISC2调查发现，82%的人认为AI将提高他们的工作效率。大多数人预计AI将在处理耗时、低价值的功能方面表现出色，例如分析用户行为模式、监控网络流量和检测威胁。

这种能力对于面临持续人员短缺的医疗机构尤为重要，这不仅体现在临床部门，也体现在其网络安全团队中。根据其规模和预算限制，一些医疗系统可能缺乏持续、全天候安全监控的资源。在这种情况下，自动化流程和托管服务（通常由AI增强）可以提供关键支持，即使内部资源有限也能实现强大的安全监管。

最终，随着这些新兴技术和流程日益普及，建立强大的AI和数据治理框架对医疗机构来说至关重要。就像临床团队为患者护理而协作一样，组织可以通过与合作伙伴合作，制定全面的AI和安全策略，从而培养多学科方法，确保弹性且安全的数字环境。