Reino Unido apuesta por la IA en servicios públicos, ¿riesgo de 'alucinaciones'?
El gobierno del Reino Unido ha presentado un ambicioso conjunto de programas “Ejemplar”, señalando un salto significativo al ámbito de la inteligencia artificial con la promesa de generar miles de millones en valor económico y remodelar fundamentalmente los servicios públicos. En el corazón de estas iniciativas se encuentra una visión para asistentes virtuales impulsados por IA, diseñados para guiar a los ciudadanos a través de las laberínticas complejidades de los formularios gubernamentales y la jerga legal. Mientras que el Secretario de Tecnología, Peter Kyle MP, afirma que esto podría ofrecer un nivel de servicio “inimaginable”, ayudando a las personas a encontrar oportunidades profesionales y reduciendo las cargas administrativas, los críticos señalan de inmediato que estas herramientas están destinadas a ayudar a navegar la burocracia existente, en lugar de simplificarla en primer lugar.
Un componente clave de esta estrategia orientada al ciudadano implica el desarrollo de un prototipo de asistente de IA en los próximos seis a doce meses. Si esta evaluación resulta exitosa, se prevé que un despliegue a nivel nacional comience a finales de 2027. Sin embargo, el gobierno aún no ha aclarado qué “desarrolladores de IA más brillantes del mundo” han participado en este esfuerzo, ni ha proporcionado garantías sobre las implicaciones legales si estos grandes modelos de lenguaje (LLM) “alucinan”—un término para cuando la IA genera información plausible pero fácticamente incorrecta. Tales errores, si se aplican a interacciones gubernamentales oficiales, podrían potencialmente poner a los ciudadanos en un riesgo legal significativo. El Departamento de Ciencia, Innovación y Tecnología (DSIT) ha declarado que el programa orientado al ciudadano será “completamente opcional de usar”, pero los detalles sobre la protección del usuario siguen siendo esquivos.
Más allá de la interacción pública, el gobierno también está avanzando en aplicaciones de IA dentro de sus marcos operativos. Los médicos, por ejemplo, tendrán acceso a la tecnología LLM para acelerar la redacción de documentos de alta extrayendo detalles cruciales de los registros médicos, incluidos diagnósticos y resultados de pruebas. Esta iniciativa, ya en desarrollo en el Chelsea y Westminster NHS Trust con financiación del programa AI Exemplars, plantea preocupaciones similares sobre el problema de la “alucinación” y las limitaciones de la “longitud de la ventana de contexto” de un LLM, lo que podría llevar a imprecisiones en los registros de los pacientes. Otro proyecto, “Justice Transcribe”, está desplegando activamente modelos de aprendizaje automático para la toma de notas en vivo y la transcripción por parte de los agentes de libertad condicional, con planes para un despliegue nacional a toda la fuerza laboral de 12.000 personas después de una fase piloto. Otros proyectos anunciados incluyen una “Tienda de Contenido de IA” para escuelas, una herramienta llamada “Extract” para digitalizar rápidamente información de antiguos documentos de planificación y mapas escritos a mano, y el asistente “Humphrey” previamente revelado para funcionarios públicos, un nombre irónicamente elegido en honor al maquiavélico funcionario de la serie de televisión satírica Sí, ministro.
Estos esfuerzos colectivos de AI Exemplar, según Kyle, se proyectan para generar un impresionante aumento de productividad de 45 mil millones de libras esterlinas en todo el Reino Unido. Gran parte de esta dirección estratégica está supervisada por Jade Leung, quien ha sido nombrada Asesora de IA del Primer Ministro, mientras que simultáneamente se desempeña como directora de tecnología en el Instituto de Seguridad de la IA. Leung, con una formación que abarca un doctorado de Oxford en gobernanza de IA y un período en OpenAI, tiene la tarea de posicionar al Reino Unido como un líder global en el aprovechamiento de los beneficios de la IA y la preparación para sus impactos sociales. Su nombramiento subraya el profundo compromiso del gobierno de integrar la IA en sus funciones centrales y servicios públicos.
El ferviente abrazo de la IA por parte del gobierno del Reino Unido es inconfundible, con plazos ambiciosos y proyecciones económicas significativas. Sin embargo, a medida que estas tecnologías transformadoras pasan de la promesa teórica a la aplicación práctica, persisten preguntas críticas sobre la mitigación de los riesgos inherentes de la IA, particularmente el potencial de inexactitudes fácticas y sus ramificaciones legales para los ciudadanos. El camino a seguir está pavimentado con inmensas oportunidades y complejos desafíos que exigen soluciones sólidas para la seguridad, la fiabilidad y la rendición de cuentas.