En las contribuciones anteriores, Estándares ISO relacionados con el gobierno, la gestión y la calidad de la IA (I) y (II), presentamos las normas que abordan temas relacionados con el gobierno y la gestión de la IA. En esta ocasión abordaremos las normas [1] relacionadas con la calidad de los SIA, empezando por las normas relacionadas con los datos.
Ciclo de vida de los datos
ISO/IEC 8183 Information technology — Artificial intelligence — Data life cycle framework
El objetivo de esta norma es proporcionar un marco de alto nivel, práctico y general aplicable a cualquier organización que procese datos para IA, independientemente de si utiliza enfoques basados en Machine Learning (aprendizaje automático) u otras tecnologías de IA. Para ello regula las acciones asociadas al procesamiento de datos a lo largo de todo el ciclo de vida del sistema de IA, desde la concepción inicial hasta su retiro definitivo; para organizaciones de cualquier tamaño o sector que adquieran, creen, desarrollen, desplieguen o mantengan datos orientados a sistemas de IA.
Al estructurar el flujo de los datos, la ISO/IEC 8183 actúa como un pilar fundamental para cumplir con los requisitos de gobierno de datos exigidos por la norma ISO/IEC 42001 (Sistema de Gestión de IA) y normativas internacionales de cumplimiento ético y legal.
Calidad de los datos
El objetivo de esta norma, la primera de la familia de normas ISO/IEC 5259, es establecer un lenguaje común y un marco de referencia unificado para describir, medir y gestionar la calidad de los datos utilizados en el desarrollo y operación de sistemas de IA y ML (Machine Learning). Reconoce que la calidad de los datos es el factor determinante para el rendimiento, la equidad (fairness) y la seguridad de los modelos.
El objetivo principal de esta norma es sustituir las evaluaciones subjetivas de «buenos o malos datos» por medidas e indicadores de calidad estandarizados y replicables. Aplica tanto a datos estructurados (tablas, bases de datos relacionales) como no estructurados (texto, imágenes, audio y video), los cuales son habituales en el entrenamiento de modelos de Machine Learning (ML). El estándar se construye sobre la base de normas de calidad de datos previas como la norma ISO/IEC 25012, pero adaptándolas a las necesidades específicas de la IA.
El objetivo principal de esta norma es asegurar que la calidad de los datos para IA/ML no sea un esfuerzo técnico aislado, sino un proceso continuo, sistemático y gobernado a nivel institucional. Adopta la filosofía de los sistemas de gestión tradicionales de la ISO (como el ciclo PHVA: Planificar, Hacer, Verificar, Actuar) para aplicarlo específicamente al gobierno del dato analítico, mitigando riesgos operativos, éticos y legales antes de que los datos alimenten a los algoritmos.
La norma específica una serie de obligaciones institucionales para las organizaciones que desarrollan o despliegan IA: Política de Calidad de Datos para IA, Roles y Responsabilidades Claros; y Asignación de Recursos y Competencias.
El objetivo fundamental de esta norma es definir un marco de referencia de procesos estándar para la ingeniería de datos orientada a IA; que describe las actividades técnicas, las tareas operativas, las entradas (inputs) y las salidas (outputs) que los equipos técnicos deben ejecutar para asegurar que los datos mantengan su idoneidad a lo largo de todo su ciclo de procesamiento. Establece una secuencia lógica de ingeniería aplicable tanto a proyectos pequeños de Machine Learning como a grandes arquitecturas de datos en la nube.
El objetivo principal de esta norma es asegurar que la calidad de los datos de IA sea tratada como un activo estratégico corporativo y una responsabilidad de la alta dirección, no meramente como un problema técnico del departamento de ingeniería.
Se basa en los principios globales de gobierno de TI (como la familia ISO/IEC 38500) y los adapta a los riesgos específicos de la IA, tales como las consecuencias legales, financieras y reputacionales de entrenar modelos con datos sesgados, desactualizados o de procedencia dudosa.
El objetivo de este informe técnico es proporcionar directrices y mejores prácticas para traducir las métricas numéricas complejas de calidad de datos (definidas en la Parte 2) en representaciones visuales comprensibles; actuando como una guía de ingeniería y diseño. Aplica a la visualización de la calidad de datos en cualquier fase del ciclo de vida (según la norma ISO/IEC 8183), abarcando datos estructurados y no estructurados (imágenes, texto, audio).
El objetivo central de la norma es proporcionar un marco de referencia internacional y directrices técnicas para evaluar, medir y gestionar la calidad de las salidas (outputs) generadas por aplicaciones de IA Generativa. Busca que las organizaciones cuenten con metodologías estandarizadas para determinar si el texto, las imágenes, el código de programación, el audio o el video producidos por un modelo (como un LLM o un modelo de difusión) son seguros, confiables y aptos para su uso comercial u operacional.
El objetivo de este informe técnico es proporcionar una visión general y una guía conceptual sobre cómo crear y utilizar perfiles de datos diseñados específicamente para proyectos de analítica avanzada y Aprendizaje Automático (ML).
En el contexto de la IA, un perfil de datos es un conjunto de metadatos estructurados que describe de forma exhaustiva las características, limitaciones, origen y calidad de un dataset. La norma busca estandarizar estos perfiles para que cualquier desarrollador, auditor o regulador pueda entender de inmediato si un conjunto de datos es apto y seguro para entrenar un modelo específico.
Otras normas
Existen normas e informes técnicos específicos para Big Data que también pueden resultar útiles para los SIA:
- ISO/IEC 20546 Information technology — Big data — Overview and vocabulary
- ISO/IEC TR 20547-1 Information technology — Big data reference architecture Part 1: Framework and application process
- ISO/IEC TR 20547-2 Information technology — Big data reference architecture Part 2: Use cases and derived requirements
- ISO/IEC 20547-3 Information technology — Big data reference architecture Part 3: Reference architecture
- ISO/IEC 20547-4: Information technology — Big data reference architecture Part 4: Security and privacy
- ISO/IEC TR 20547-5 Information technology — Big data reference architecture Part 5: Standards roadmap
- ISO/IEC 24668 Information technology — Artificial intelligence — Process management framework for big data analytics
- ISO/IEC DIS 27045.2 Information technology — Big data security and privacy — Guidelines for managing big data risks
[1] Los resúmenes de los contenidos presentados en esta entrada han sido proporcionados directamente por GEMINI, y revisados por I2SC.