Perspectivas

Cuando la IA entra en la empresa

10 preguntas que el órgano de administración no debería saltarse

La escena empieza a ser habitual.

Una empresa incorpora herramientas de IA.

Primero para tareas puntuales. Después para procesos más relevantes. Más tarde, casi sin darse cuenta, la IA empieza a influir en decisiones, tiempos, costes, dependencias, datos y capacidades internas. En ese punto, la tecnología pasa a ser también una cuestión de gobierno.

Comparto esta síntesis visual del artículo que publiqué esta semana sobre Magnifica Humanitas y gobierno corporativo:

10 preguntas que el órgano de administración no debería saltarse cuando la IA entra en la empresa.

No son preguntas técnicas.

Son preguntas de supervisión: qué usos existen, cuáles son materiales, qué marco regulatorio aplica, quién responde, qué terceros intervienen, qué datos alimentan los sistemas, qué controles existen, qué métricas permiten seguirlos, cuándo debe elevarse una cuestión y qué usos o pérdidas de capacidad no deberían aceptarse.

En el fondo, todas apuntan a lo mismo: si una empresa quiere hablar de IA responsable, debe poder mostrar evidencia de cómo la gobierna.

Porque la IA responsable no empieza cuando una empresa declara principios.

Empieza cuando puede demostrar cómo se gobierna.

Infografía «Cuando la IA entra en la empresa. 10 preguntas que el órgano de administración no debería saltarse»: 1. Inventario: ¿qué usos de IA existen hoy en la organización? 2. Materialidad: ¿cuáles impactan en personas, derechos, continuidad, cumplimiento, reputación, datos o estrategia? 3. Regulación: ¿qué usos pueden quedar sujetos al RIA o a normativa sectorial? 4. Responsables: ¿quién responde internamente por cada uso relevante? 5. Terceros críticos: ¿qué proveedores intervienen y qué dependencia crean? 6. Datos: ¿qué datos alimentan los sistemas y con qué calidad? 7. Controles: ¿qué controles existen sobre sesgo, privacidad, ciberseguridad, explicabilidad y supervisión humana? 8. Métricas: ¿qué métricas permiten conocer funcionamiento, desviaciones e incidentes? 9. Elevación: ¿qué umbrales determinan elevación a dirección, comité u órgano? 10. Límites y capacidades: ¿qué usos no aceptamos y qué capacidades humanas debemos preservar? «La IA responsable no empieza en los principios. Empieza cuando puede demostrarse cómo se gobierna.»