La Inteligencia Artificial (IA) influye cada vez más en la vida cotidiana de las personas y desempeña un papel clave en la transformación digital de las empresas y Administraciones Públicas gracias a su capacidad para automatizar y facilitar la toma de decisiones. Los beneficios que conllevan los sistemas inteligentes son extraordinarios, pero incluso superiores pueden ser los riesgos que traen consigo, por lo que es más necesario que nunca contar con un buen gobierno de la IA.

El Gobierno de la IA  es el responsable de rendir cuentas sobre el uso eficaz, eficiente y aceptable de la IA por parte de la organización, necesaria para acometer la estrategia del negocio. Debemos diferenciar adecuadamente el alcance del Gobierno de la IA, que tiene un carácter más estratégico, mientras que la gestión de la IA tiene un carácter más orientado a materializar los objetivos marcados en la estrategia.

Como señalan Piattini y Fernández, el gobierno de la IA cae en el ámbito de la norma ISO/IEC 38507, mientras que la gestión de la IA lo hace en el de la ISO/IEC 42001, y además existen otras muchas normas relacionadas con calidad, seguridad, etc. tanto del modelo, como de los datos o el software de la IA.

Rand aconseja integrar las prácticas de gobierno de la IA en los marcos existentes en lugar de crear otros nuevos, ya que al aprovechar los procesos existentes se fomenta la eficiencia.

Debido a que el Gobierno de la IA tiene que incluir necesariamente al Gobierno del Dato, desde I2SC consideramos que es muy interesante partir de la especificación UNE 0077 como base para desarrollar el Gobierno de la IA.

Para ello, siguiendo la UNE 0077, I2SC propone cinco procesos adicionales y complementarios para el Sistema de Gobierno de la IA, además de la revisión -en primer lugar- del propio Sistema de Gobierno del Gobierno del Dato:

• Revisión del Gobierno del Dato que exista en la organización, y si fuera necesario ampliar su alcance para que contemple el gobierno de todos los datos utilizados por los sistemas de IA (de entrenamiento, prueba, operación, etc.), con el fin de que los datos contribuyan al buen desempeño de los sistemas de IA, obteniendo el mayor valor, a la vez que se mitigan los riesgos derivados de su adquisición, uso y explotación.
• Establecimiento de la estrategia de la IA, que contenga la visión, metas y objetivos de la organización para asegurar que la IA contribuye a su buen desempeño, obteniendo el mayor valor, a la vez que se mitigan los riesgos derivados de su adquisición, uso y explotación.
• Establecimiento de políticas, buenas prácticas y procedimientos de la IA, con el fin de definir un entorno organizativo normativo formado por políticas, buenas prácticas y procedimientos que permitan hacer operativa la estrategia de la IA de la organización.
• Establecimiento de estructuras organizativas para el gobierno, gestión y uso de la IA, necesarias para asumir las responsabilidades relacionadas y que deben dotarse con recursos humanos suficientemente capacitados como para abordar con éxito dichas responsabilidad Determinar otros órganos y roles implicados en la gestión de la IA. Especialmente los relativos al Director de la IA (Chief AI Officer) -responsable del gobierno de la IA-, a la Oficina de Proyectos de la IA y a los responsables de los diferentes sistemas de IA.
• Optimización de los riesgos de la IA, (regulatorios, financieros, de reputación, seguridad, protección y privacidad de datos…), analizando el posible impacto en la organización, y desarrollando los mecanismos sostenibles de contingencia y monitorizándolos de forma continua. En este proceso resulta útil, además de las normas de la familia ISO/IEC 27000, la norma ISO/IEC 23894.
• Optimización del valor de la IA, que tiene como objetivo determinar y optimizar el valor de los servicios y activos de IA de la organización. Siguiendo la ISO/IEC TR 21221 podemos identificar los diferentes beneficios que pueden aportar los sistemas inteligentes: beneficios funcionales, personales, sociales, culturales, intelectuales, económicos, etc.

Además, al estar la especificación UNE 0077 basada también en el marco ISO/IEC 38500 y en COBIT, el Gobierno de la IA puede integrarse fácilmente en cualquier organización que tenga implementados (aunque sea parcialmente) elementos (y especialmente procesos) de gobierno de TI.