Modelo para la innovación responsable
HERRAMIENTA DEL GOBIERNO DE REINO UNIDO PARA INNOVAR DE MANERA RESPONSABLE CON DATOS E INTELIGENCIA ARTIFICIAL
La inteligencia artificial (IA) ya está transformando los servicios públicos: desde la atención médica hasta el transporte. Su capacidad para procesar datos, automatizar decisiones y generar predicciones abre oportunidades sin precedentes. Sin embargo, junto con sus beneficios, emergen riesgos éticos que no pueden ignorarse, como:
- Sesgos.
- Opacidad.
- Invasión a la privacidad.
- Fallos de seguridad o impactos sociales no deseados.
Frente a este escenario, surge una pregunta clave: ¿Cómo aseguramos que la innovación con IA sea responsable, justa y confiable?
Para responder a este reto, el gobierno del Reino Unido, a través de la Unidad de Adopción Responsable de Tecnología (RTA), desarrolló el Modelo para la Innovación Responsable, una herramienta práctica que busca guiar a equipos del sector público en el desarrollo ético y confiable de soluciones basadas en IA y datos.
¿QUÉ PROPONE ESTE MODELO?
El eje central del modelo es la confianza justificada: no se trata solo de que los sistemas funcionen, sino de que estén construidos de manera que merezcan la confianza de quienes los usan y de quienes se ven afectados por ellos. La confianza se concibe no como una expectativa automática, sino como el resultado del diseño responsable.
Para lograr esto, el modelo se estructura en dos componentes clave:
1. FUNDAMENTOS ÉTICOS
Principios que deben guiar todo proyecto con IA:
- Transparencia: que el sistema pueda ser comprendido y auditado.
- Responsabilidad: claridad sobre quién toma decisiones y cómo se rinden cuentas.
- Valor humano: que el sistema aporte beneficios reales a las personas.
- Equidad: evitar sesgos y asegurar resultados justos.
- Privacidad: protección efectiva de datos personales.
- Seguridad física y mental: prevenir daños a los usuarios.
- Ciberseguridad: resistencia ante accesos o usos no autorizados.
- Bienestar social: impacto positivo para la sociedad y el planeta.
2. CONDICIONES PARA IMPLEMENTARLOS PRINCIPIOS
Estas condiciones técnicas y organizacionales garantizan que los fundamentos puedan cumplirse en la práctica:
- Participación significativa de actores clave.
- Diseño técnico robusto.
- Datos apropiados y accesibles.
- Límites claros de uso del sistema.
- Recursos disponibles (humanos, legales, financieros). Mecanismos de gobernanza efectivos.
TALLERES ÉTICOS DE LA UNIDAD DE ADOPCIÓN RESPONSABLE DE TECNOLOGÍA (RTA)
Uno de los pilares más innovadores y útiles del Modelo para la Innovación Responsable es la implementación de talleres tipo red-teaming dirigidos por la Unidad de Adopción Responsable de Tecnología (RTA). Estos talleres son mucho más que sesiones de capacitación: se trata de espacios de colaboración estructurada donde los equipos pueden analizar éticamente sus propios proyectos con el apoyo de especialistas en tecnología, ética y gobernanza.
¿Qué es un taller red-teaming?
Es una evaluación semiestructurada y participativa del proyecto que un equipo está desarrollando (ya sea una herramienta de IA o una solución basada en datos). Durante el taller, se analizan los riesgos éticos, legales, sociales y técnicos del proyecto bajo el marco del Modelo, con un enfoque centrado en la construcción de confianza.
¿Cómo funcionan?
El proceso completo consta de cinco momentos clave:
- Preparación previa (1 semana antes): La RTA envía al equipo una hoja de calentamiento con preguntas introductorias sobre el proyecto: su propósito, tecnología utilizada, grupos afectados, datos empleados, riesgos conocidos, etc.
- Sesión central del taller (Modelo – Fundamentos): Una reunión de trabajo en la que, mediante preguntas provocadoras y ejercicios guiados, se analiza el proyecto desde los ocho Fundamentos del Modelo.
- Sesión complementaria (opcional): Si se considera útil, se realiza una segunda sesión enfocada en las Condiciones del Modelo.
- Informe de resultados: La RTA elabora un reporte breve, claro y accionable con los riesgos identificados, buenas prácticas observadas y recomendaciones puntuales para reforzar la confiabilidad del sistema.
- Seguimiento a 6 meses: Se ofrece una sesión de seguimiento para conocer los avances realizados, resolver dudas surgidas en la implementación y ofrecer guía adicional.
CASOS REALES DEL TALLER
A. BOLD (Better Outcomes through Linked Data):
Un programa que conecta datos de salud, justicia y gobiernos locales. Tras los talleres, el equipo rediseñó su modelo de gobernanza ética y mejoró la documentación de sus datos.
B. Chatbot del Departamento de Energía (DESNZ):
Durante el taller se identificaron riesgos como el uso de datos sensibles y sesgos en el entrenamiento. Gracias a la intervención, se introdujeron ajustes clave en el desarrollo del sistema.
Bibliografía:
Department for Science, Innovation and Technology (2024). The Model for Responsible Innovation. Reino Unido. Sitio: https://www.gov.uk/government/publications/the-model-for-responsible-innovation/the-model-for-responsible-innovation