英国政府AI赋能公共服务，但“幻觉”风险引担忧

英国政府公布了一系列雄心勃勃的“典范”项目，标志着其在人工智能领域迈出重要一步，承诺创造数百亿英镑的经济价值并从根本上重塑公共服务。这些举措的核心愿景是开发由AI驱动的虚拟助手，旨在引导公民应对政府表格和法律术语的复杂迷宫。尽管技术大臣彼得·凯尔议员声称这可以提供“难以想象”的服务水平，帮助个人寻找职业机会并减轻行政负担，但批评者立即指出，这些工具旨在帮助应对现有官僚体系，而非从根本上简化它。

这项面向公民战略的一个关键组成部分是，在未来六到十二个月内开发一个AI助手原型。如果评估成功，计划从2027年末开始在全国范围内推广。然而，政府尚未澄清是哪些“世界上最顶尖的AI开发者”参与了这项工作，也未就这些大型语言模型（LLM）“幻觉”（指AI生成看似合理但事实不准确的信息）可能带来的法律影响提供保证。如果此类错误应用于官方政府互动中，可能会使公民面临重大的法律风险。科学、创新和技术部（DSIT）表示，面向公民的计划将是“完全可选的”，但关于用户保护的细节仍不明确。

除了公共互动，政府还在其运营框架内推进AI应用。例如，医生将能够使用LLM技术，通过从病历中提取关键细节（包括诊断和检测结果）来加快出院文件的起草。这项由切尔西和威斯敏斯特NHS信托基金在AI典范项目资助下开发中的倡议，也引发了对“幻觉”问题和LLM“上下文窗口长度”限制的类似担忧，这可能导致患者记录不准确。另一个项目“司法转录”（Justice Transcribe）正在积极部署机器学习模型，供缓刑监督官进行实时笔记和转录，并计划在试点阶段后向全国12,000名工作人员推广。其他已公布的项目包括为学校设立的“AI内容商店”、一个名为“提取”（Extract）的工具，用于快速数字化旧手写规划文件和地图中的信息，以及此前透露的公务员助手“汉弗莱”（Humphrey）——这个名字讽刺性地选自讽刺电视系列剧《是，大臣》中那位马基雅维利式的公务员。

凯尔表示，这些集体AI典范项目预计将在英国全国范围内带来高达450亿英镑的生产力提升。负责大部分战略指导的是梁玉（Jade Leung），她已被任命为首相的AI顾问，同时兼任AI安全研究所的首席技术官。梁玉拥有牛津大学AI治理博士学位和在OpenAI的工作经验，其任务是使英国成为利用AI优势和应对其社会影响方面的全球领导者。她的任命凸显了政府将AI融入其核心职能和公共服务的坚定承诺。

英国政府对AI的热情拥抱是显而易见的，其雄心勃勃的时间表和重大的经济预测令人瞩目。然而，随着这些变革性技术从理论承诺走向实际应用，关于如何减轻AI固有风险的关键问题依然存在，特别是事实不准确的可能性及其对公民的法律影响。前方的道路既充满巨大机遇，也伴随着复杂的挑战，需要为安全、可靠性和问责制提供强有力的解决方案。