{"id":967,"date":"2026-09-01T07:56:04","date_gmt":"2026-09-01T07:56:04","guid":{"rendered":"https:\/\/i2sc.es\/?p=967"},"modified":"2026-09-01T07:58:58","modified_gmt":"2026-09-01T07:58:58","slug":"estandares-iso-relacionados-con-el-gobierno-la-gestion-y-la-calidad-de-la-ia-i","status":"publish","type":"post","link":"https:\/\/i2sc.es\/en\/blog\/estandares-iso-relacionados-con-el-gobierno-la-gestion-y-la-calidad-de-la-ia-i\/","title":{"rendered":"ISO standards relating to the governance, management and quality of AI (I)"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\">La Inteligencia Artificial (IA) influye cada vez m\u00e1s en la vida cotidiana de las personas y desempe\u00f1a un papel clave en la transformaci\u00f3n digital de las empresas y Administraciones P\u00fablicas gracias a su capacidad para automatizar y facilitar la toma de decisiones. Por lo tanto, se requieren unas pr\u00e1cticas para \u00a0<a href=\"https:\/\/www.amazon.es\/Gobierno-Gesti%C3%B3n-Calidad-Inteligencia-Artificial\/dp\/B0GQL2KZJY\" target=\"_blank\" rel=\"noopener\">gobernar, gestionar y asegurar la calidad de los Sistemas de Inteligencia Artificial<\/a> (SIA).<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Afortunadamente, organismos como <a href=\"https:\/\/www.une.org\/\" target=\"_blank\" rel=\"noopener\">UNE<\/a><a href=\"#_ftn1\" id=\"_ftnref1\"> [1]<\/a>, CEN\/CENELEC o ISO\/IEC proponen continuamente nuevas normas que recogen las mejores pr\u00e1cticas disponibles para <a href=\"https:\/\/www.iso.org\/sectors\/it-technologies\/ai\" target=\"_blank\" rel=\"noopener\">mejorar la transparencia, la calidad de los datos y la fiabilidad de los SIA, mitigando los riesgos y maximizando los beneficios.<\/a> En una serie de \u00a0publicaciones resumiremos los principales est\u00e1ndares propuestos por el <a href=\"https:\/\/www.iso.org\/cms\/%20render\/live\/en\/sites\/isoorg\/contents\/data\/committee\/67\/94\/6794475.html\" target=\"_blank\" rel=\"noopener\">subcomit\u00e9 ISO\/IEC JTC1\/SC42<\/a>, el m\u00e1s activo en esta \u00e1rea.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">En esta contribuci\u00f3n presentamos las normas que abordan temas relacionados con el gobierno de la IA <a href=\"#_ftn2\" id=\"_ftnref2\">[2]<\/a>.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\"><strong>Marco de gobierno<\/strong><\/h3>\n\n\n\n<p class=\"wp-block-paragraph\"><\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><a href=\"https:\/\/www.iso.org\/standard\/56641.html\" target=\"_blank\" rel=\"noopener\">ISO\/IEC 38507 Information technology \u2014 Governance of IT \u2014 Governance implications of the use of artificial intelligence by organizations.<\/a><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Esta norma constituye el marco internacional de referencia para que los \u00f3rganos de gobierno (alta direcci\u00f3n, juntas directivas) aborden los desaf\u00edos estrat\u00e9gicos y \u00e9ticos derivados de la implementaci\u00f3n de la Inteligencia Artificial (IA); y articula el gobierno de la IA a trav\u00e9s de los siguientes ejes cr\u00edticos:<\/p>\n\n\n\n<ul style=\"padding-right:25px;padding-left:25px\" class=\"wp-block-list\">\n<li><strong>Responsabilidad y Rendici\u00f3n de Cuentas (<em>Accountability<\/em>):<\/strong> Enfatiza que la responsabilidad final sobre el uso de la IA y sus decisiones automatizadas recae en el liderazgo humano, no en el sistema tecnol\u00f3gico. Define estructuras claras para la toma de decisiones y supervisi\u00f3n.<\/li>\n\n\n\n<li><strong>Alineaci\u00f3n Estrat\u00e9gica:<\/strong> Asegura que los proyectos de IA no se desarrollen de forma aislada, sino que respondan directamente a la estrategia de negocio y contribuyan a los objetivos de la organizaci\u00f3n.<\/li>\n\n\n\n<li><strong>Gesti\u00f3n de Riesgos y Cumplimiento:<\/strong> Integra los riesgos espec\u00edficos de la IA (sesgos, opacidad, alucinaciones, fallos de seguridad) en el marco de gesti\u00f3n de riesgos corporativos existente, trat\u00e1ndolos con el mismo rigor que los riesgos financieros o legales.<\/li>\n\n\n\n<li><strong>\u00c9tica y Consideraciones Sociales:<\/strong> Establece la necesidad de evaluar el impacto de la IA en los derechos humanos, la equidad y los valores organizacionales, promoviendo el desarrollo de pol\u00edticas que gu\u00eden un uso \u00e9tico y eviten efectos sociales negativos.<\/li>\n\n\n\n<li><strong>Transparencia y Trazabilidad:<\/strong> Fomenta la implementaci\u00f3n de mecanismos que permitan auditar y explicar el funcionamiento de los algoritmos, garantizando que la organizaci\u00f3n pueda justificar sus procesos de toma de decisiones.<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\"><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La implementaci\u00f3n de esta norma permite a las organizaciones:<\/p>\n\n\n\n<ul style=\"padding-right:25px;padding-left:25px\" class=\"wp-block-list\">\n<li>Fomentar la Confianza: Genera seguridad frente a clientes, reguladores y la sociedad, al demostrar un control robusto sobre el despliegue de la IA.<\/li>\n\n\n\n<li>Preparaci\u00f3n Regulatoria: Facilita la adaptaci\u00f3n a normativas emergentes (como el RIA o \u00a0AI Act), que exigen expl\u00edcitamente sistemas de gobierno y gesti\u00f3n de riesgos para aplicaciones de alto riesgo.<\/li>\n\n\n\n<li>Resiliencia Operativa: Establece ciclos de revisi\u00f3n peri\u00f3dica, monitoreo de m\u00e9tricas clave (KPIs) y v\u00edas de escalamiento para incidentes, garantizando que la organizaci\u00f3n sea capaz de reaccionar ante cambios o fallos en sus sistemas inteligentes.<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\"><\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Riesgos<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\"><\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><a href=\"https:\/\/www.iso.org\/standard\/77304.html\" target=\"_blank\" rel=\"noopener\">ISO\/IEC 23894 Information technology \u2014 Artificial intelligence \u2014 Guidance on risk management<\/a><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Esta norma internacional proporciona directrices claras y detalladas sobre c\u00f3mo las organizaciones que desarrollan, proveen o utilizan sistemas de inteligencia artificial deben gestionar los riesgos relacionados con la IA, y est\u00e1 dise\u00f1ado expresamente para ayudar a las organizaciones a integrar la gesti\u00f3n de riesgos de la IA dentro de sus actividades de gobierno, toma de decisiones y operaciones generales. Es aplicable a cualquier tipo de organizaci\u00f3n (p\u00fablica, privada o sin fines de lucro) y es independiente de su tama\u00f1o o sector industrial.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">El contenido normativo busca que las organizaciones logren de forma exacta:<\/p>\n\n\n\n<ul style=\"padding-right:25px;padding-left:25px\" class=\"wp-block-list\">\n<li>Alineaci\u00f3n de objetivos: Asegurar que la gesti\u00f3n de riesgos de la IA est\u00e9 directamente vinculada con los objetivos estrat\u00e9gicos y el prop\u00f3sito de la organizaci\u00f3n.<\/li>\n\n\n\n<li>Fomento de la confiabilidad: Gestionar los riesgos para aumentar la confiabilidad de los sistemas de IA de cara a los usuarios, reguladores y la sociedad.<\/li>\n\n\n\n<li>Abordar la incertidumbre: Responder de manera formal a los riesgos derivados de la opacidad (efecto \u00abcaja negra\u00bb), la naturaleza cambiante de los modelos de IA (aprendizaje continuo) y el uso de datos.<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\"><\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><a href=\"https:\/\/www.iso.org\/standard\/90754.html\" target=\"_blank\" rel=\"noopener\">ISO\/IEC CD TS 25568 Information technology \u2014 Artificial Intelligence \u2014 Guidance on addressing risks in generative AI systems.<\/a><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Este documento proporciona orientaci\u00f3n espec\u00edfica orientada a identificar, evaluar y abordar los riesgos \u00fanicos y caracter\u00edsticos asociados con los sistemas de IA generativa (como modelos grandes de lenguaje, generadores de im\u00e1genes, v\u00eddeo o c\u00f3digo), complementando la norma ISO\/IEC 23894, y ofreciendo controles, metodolog\u00edas y recomendaciones t\u00e9cnicas dise\u00f1adas exclusivamente para las propiedades y el comportamiento de los modelos generativos.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">\u00c9tica<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\"><\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><a href=\"https:\/\/www.iso.org\/standard\/78507.html\" target=\"_blank\" rel=\"noopener\">ISO\/IEC TR 24368 Information technology \u2014 Artificial intelligence \u2014 Overview of ethical and societal concerns<\/a>.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Este informe t\u00e9cnico proporciona una visi\u00f3n general de las preocupaciones \u00e9ticas y sociales relacionadas con los SIA. Su prop\u00f3sito central es identificar, describir y estructurar los desaf\u00edos no t\u00e9cnicos que surgen con el desarrollo, despliegue y uso de la IA, sirviendo como una base de conocimiento com\u00fan para que las organizaciones, los desarrolladores y los comit\u00e9s de normalizaci\u00f3n comprendan el impacto socio-\u00e9tico de estas tecnolog\u00edas.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Otras normas relacionadas<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\"><\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><a href=\"https:\/\/www.iso.org\/standard\/86902.html\" target=\"_blank\" rel=\"noopener\">ISO\/IEC FDIS 42105 Information technology \u2014 Artificial intelligence \u2014 Guidance for human oversight of AI systems.<\/a><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Esta norma proporciona directrices y orientaci\u00f3n pr\u00e1ctica para el dise\u00f1o, la implementaci\u00f3n y la evaluaci\u00f3n de mecanismos de supervisi\u00f3n humana en SIA. Su prop\u00f3sito central es definir metodolog\u00edas que permitan a las organizaciones asegurar que los seres humanos mantengan el control, la comprensi\u00f3n y la capacidad de intervenci\u00f3n adecuada sobre las decisiones y operaciones de la IA, con el fin de mitigar riesgos, proteger los derechos fundamentales y garantizar la seguridad.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><a href=\"https:\/\/www.iso.org\/standard\/88723.html\" target=\"_blank\" rel=\"noopener\">ISO\/IEC FDIS 24970 Artificial intelligence \u2014 AI system logging.<\/a><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Este documento especifica los requisitos y proporciona directrices para el registro de eventos (logging) en sistemas de inteligencia artificial, con el prop\u00f3sito de definir qu\u00e9 informaci\u00f3n debe ser registrada de manera persistente a lo largo del ciclo de vida de un sistema de IA para permitir la trazabilidad, la auditabilidad, la rendici\u00f3n de cuentas (accountability) y la transparencia de su comportamiento y decisiones.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><a href=\"https:\/\/www.iso.org\/standard\/91804.html\" target=\"_blank\" rel=\"noopener\">ISO\/IEC AWI 25870 Artificial intelligence \u2014 Reporting framework for AI incidents<\/a>.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Este documento est\u00e1 siendo desarrollado para proporcionar un marco de referencia estandarizado para la notificaci\u00f3n y el reporte de incidentes de inteligencia artificial, con el prop\u00f3sito de establecer la estructura, los formatos de datos, los criterios de clasificaci\u00f3n y los canales de comunicaci\u00f3n necesarios para documentar de manera consistente cualquier evento o anomal\u00eda en un sistema de IA que resulte (o tenga el potencial de resultar) en da\u00f1os, perjuicios o violaciones de la seguridad, la privacidad o los derechos.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><a href=\"https:\/\/www.iso.org\/es\/contents\/data\/standard\/08\/66\/86690.html\" target=\"_blank\" rel=\"noopener\">ISO\/IEC TR 21221 Information technology \u2013 Artificial intelligence \u2013 Beneficial AI systems<\/a><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Este informe t\u00e9cnico proporciona una visi\u00f3n general y directrices conceptuales sobre los \u201cSIA beneficiosos\u201d. Su prop\u00f3sito central es explorar c\u00f3mo los SIA pueden ser dise\u00f1ados, desarrollados y desplegados de manera que maximicen activamente los impactos positivos para la humanidad, alineando sus objetivos con el bienestar social, el desarrollo sostenible y los valores humanos fundamentales.<\/p>\n\n\n\n<hr class=\"wp-block-separator has-alpha-channel-opacity\"\/>\n\n\n\n<p class=\"wp-block-paragraph\"><\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><a href=\"#_ftnref1\" id=\"_ftn1\">[1]<\/a> Hay que destacar la magn\u00edfica labor que desarrolla UNE, no s\u00f3lo traduciendo normas (que pueden encontrarse en castellano en su sitio web) sino tambi\u00e9n impulsando y elaborando tanto normas como especificaciones internacionales y nacionales.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><a href=\"#_ftnref2\" id=\"_ftn2\">[2]<\/a> Los res\u00famenes de los contenidos presentados en esta entrada han sido proporcionados directamente por GEMINI, y revisados por I2SC.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>La Inteligencia Artificial (IA) influye cada vez m\u00e1s en la vida cotidiana de las personas y desempe\u00f1a un papel clave en la transformaci\u00f3n digital de las empresas y Administraciones P\u00fablicas gracias a su capacidad para automatizar y facilitar la toma de decisiones. Por lo tanto, se requieren unas pr\u00e1cticas para \u00a0gobernar, gestionar y asegurar la [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":968,"comment_status":"closed","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[7],"tags":[],"class_list":["post-967","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-blog"],"_links":{"self":[{"href":"https:\/\/i2sc.es\/en\/wp-json\/wp\/v2\/posts\/967","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/i2sc.es\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/i2sc.es\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/i2sc.es\/en\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/i2sc.es\/en\/wp-json\/wp\/v2\/comments?post=967"}],"version-history":[{"count":2,"href":"https:\/\/i2sc.es\/en\/wp-json\/wp\/v2\/posts\/967\/revisions"}],"predecessor-version":[{"id":970,"href":"https:\/\/i2sc.es\/en\/wp-json\/wp\/v2\/posts\/967\/revisions\/970"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/i2sc.es\/en\/wp-json\/wp\/v2\/media\/968"}],"wp:attachment":[{"href":"https:\/\/i2sc.es\/en\/wp-json\/wp\/v2\/media?parent=967"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/i2sc.es\/en\/wp-json\/wp\/v2\/categories?post=967"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/i2sc.es\/en\/wp-json\/wp\/v2\/tags?post=967"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}