-
ISO/IEC 42001 y EN 18286: ¿por qué existen dos normas tan parecidas?
El panorama europeo de normalización de la inteligencia artificial se encuentra en un momento especialmente relevante. Tras la publicación de ISO/IEC 42001 como primer estándar internacional para los sistemas de gestión de la inteligencia artificial, recientemente CEN/CENELEC ha publicado EN 18286 como norma europea orientada a los sistemas de gestión de la calidad para fines…
-
Normas CEN/CENELEC para el Gobierno, Gestión y Calidad de los Sistemas de IA
Los organismos europeos CEN (European Committee for Standardization) y CENELEC (European Committee for Electrotechnical Standardization), así como también el ETSI (European Telecommunications Standards Institute), desarrollan normas armonizadas que soportan el Reglamento de Inteligencia Artificial (RIA, conocido como “AI Act”), y que incluyen buenas prácticas que pueden de ser interés para las organizaciones que quieren gobernar,…
-
La robustez y la capacidad de generalización de los modelos de aprendizaje automático
Como investigadores en IA, a menudo nos dejamos seducir por métricas de validación interna casi perfectas. De hecho, los modelos actuales de aprendizaje profundo (incluyendo los grandes modelos del lenguaje) destacan por la enorme precisión que pueden alcanzar en tareas concretas. Sin embargo, que acierten mucho no significa necesariamente que los patrones que han aprendido…
-
Certificaciones ISO/IEC para la calidad del software de IA
Como ya señalamos, una IA funcional y de calidad es la base esencial para una IA ética y legal. En este post resumimos los dos principales estándares para crear, evaluar y certificar tanto los procesos software para desarrollar sistemas de IA (ISO/IEC 5338) como para el propio producto software de IA (ISO/IEC 25029). Ingeniería de…
-
IA con Gobierno y Gestión: El Eje Estratégico Empresarial
Nueva Agenda Empresarial basada en ISO 38507 e ISO 42001 La Inteligencia Artificial (IA) ha dejado de ser una tendencia tecnológica para convertirse en un eje estratégico en la toma de decisiones empresariales. Sin embargo, su adopción acelerada ha abierto nuevas preguntas sobre gobernanza, ética, control y responsabilidad corporativa. En este contexto, los estándares internacionales…
-
Nueva certificación ISO/IEC 5259 para la calidad de los datos de la IA
Importancia de la calidad de los datos en la IA La calidad de datos de la IA se puede entender como el conjunto de propiedades (técnicas y de negocio) que hacen que los datos sean aptos para entrenar, validar y operar modelos de IA de forma fiable, robusta, justa y auditable. En IA, los datos…
-
Gobierno de la IA vs. Gestión de la IA: la verdad que nadie te cuenta
En los últimos meses, con la llegada de ISO/IEC 42001, han proliferado cientos de artículos, posts y opiniones sobre “gobierno de IA”, “sistemas de gestión de IA” y “cómo implantar IA responsable”. Problema: analizando muchos de ellos, la mayoría confunde gobierno con gestión, o incluso usan ambos términos como sinónimos y… no lo son. Eso…
-
ISO 42001 y prEN 18286: gestión y regulación para una IA responsable
La rápida evolución de la Inteligencia Artificial ha impulsado la creación de nuevas normas que ayuden a las organizaciones a gestionarla de manera segura, fiable y conforme a la regulación europea. En este contexto emergen distintos estándares que, aunque relacionados, desempeñan funciones complementarias en el ecosistema de gobernanza y cumplimiento de la IA. Por un…
-
Una IA funcional y de calidad como base para una IA ética y legal
Aunque toda nueva tecnología informática presenta riesgos, quizás la IA sea de las que más incrementa la magnitud de los riesgos, tanto negativos (por su impacto potencial a nivel organizacional y social) como positivos (por las magníficas oportunidades que ofrece, por ejemplo, para el soporte a las decisiones). Respecto a los riesgos tradicionales de las…
-
Gobierno de la IA como extensión del Gobierno del Dato basado en UNE 0077
La Inteligencia Artificial (IA) influye cada vez más en la vida cotidiana de las personas y desempeña un papel clave en la transformación digital de las empresas y Administraciones Públicas gracias a su capacidad para automatizar y facilitar la toma de decisiones. Los beneficios que conllevan los sistemas inteligentes son extraordinarios, pero incluso superiores pueden…
