-
Estándares ISO relacionados con el gobierno, la gestión y la calidad de la IA (III)
En las contribuciones anteriores, Estándares ISO relacionados con el gobierno, la gestión y la calidad de la IA (I) y (II), presentamos las normas que abordan temas relacionados con el gobierno y la gestión de la IA. En esta ocasión abordaremos las normas [1] relacionadas con la calidad de los SIA, empezando por las normas…
-
El Reglamento de IA e ISO/IEC 25870: cómo documentar y aprender de los incidentes
El Reglamento Europeo de Inteligencia Artificial ha situado la notificación de incidentes graves entre las principales responsabilidades asociadas a los sistemas de IA de alto riesgo. Sin embargo, cumplir esta obligación no consiste únicamente en comunicar que se ha producido un incidente. También exige disponer de información suficiente para reconstruir lo sucedido, evaluar sus consecuencias…
-
Estándares ISO relacionados con el gobierno, la gestión y la calidad de la IA (II)
En la contribución anterior, Estándares ISO relacionados con el gobierno, la gestión y la calidad de la IA (I), presentamos las normas que abordan temas relacionados con el gobierno de la IA. En esta ocasión abordaremos las normas [1] relacionadas con la gestión organizacional de la IA, que no hay que confundir con el…
-
Estándares ISO relacionados con el gobierno, la gestión y la calidad de la IA (I)
La Inteligencia Artificial (IA) influye cada vez más en la vida cotidiana de las personas y desempeña un papel clave en la transformación digital de las empresas y Administraciones Públicas gracias a su capacidad para automatizar y facilitar la toma de decisiones. Por lo tanto, se requieren unas prácticas para gobernar, gestionar y asegurar la…
-
ISO/IEC 42001 y EN 18286: ¿por qué existen dos normas tan parecidas?
El panorama europeo de normalización de la inteligencia artificial se encuentra en un momento especialmente relevante. Tras la publicación de ISO/IEC 42001 como primer estándar internacional para los sistemas de gestión de la inteligencia artificial, recientemente CEN/CENELEC ha publicado EN 18286 como norma europea orientada a los sistemas de gestión de la calidad para fines…
-
Normas CEN/CENELEC para el Gobierno, Gestión y Calidad de los Sistemas de IA
Los organismos europeos CEN (European Committee for Standardization) y CENELEC (European Committee for Electrotechnical Standardization), así como también el ETSI (European Telecommunications Standards Institute), desarrollan normas armonizadas que soportan el Reglamento de Inteligencia Artificial (RIA, conocido como “AI Act”), y que incluyen buenas prácticas que pueden de ser interés para las organizaciones que quieren gobernar,…
-
La robustez y la capacidad de generalización de los modelos de aprendizaje automático
Como investigadores en IA, a menudo nos dejamos seducir por métricas de validación interna casi perfectas. De hecho, los modelos actuales de aprendizaje profundo (incluyendo los grandes modelos del lenguaje) destacan por la enorme precisión que pueden alcanzar en tareas concretas. Sin embargo, que acierten mucho no significa necesariamente que los patrones que han aprendido…
-
Certificaciones ISO/IEC para la calidad del software de IA
Como ya señalamos, una IA funcional y de calidad es la base esencial para una IA ética y legal. En este post resumimos los dos principales estándares para crear, evaluar y certificar tanto los procesos software para desarrollar sistemas de IA (ISO/IEC 5338) como para el propio producto software de IA (ISO/IEC 25059). Ingeniería de…
-
IA con Gobierno y Gestión: El Eje Estratégico Empresarial
Nueva Agenda Empresarial basada en ISO 38507 e ISO 42001 La Inteligencia Artificial (IA) ha dejado de ser una tendencia tecnológica para convertirse en un eje estratégico en la toma de decisiones empresariales. Sin embargo, su adopción acelerada ha abierto nuevas preguntas sobre gobernanza, ética, control y responsabilidad corporativa. En este contexto, los estándares internacionales…
-
Nueva certificación ISO/IEC 5259 para la calidad de los datos de la IA
Importancia de la calidad de los datos en la IA La calidad de datos de la IA se puede entender como el conjunto de propiedades (técnicas y de negocio) que hacen que los datos sean aptos para entrenar, validar y operar modelos de IA de forma fiable, robusta, justa y auditable. En IA, los datos…
