ISO 42001 - 0. Introducción
La inteligencia artificial (IA) se aplica cada vez más en todos los sectores que utilizan tecnología de la información y se espera que sea uno de los principales impulsores económicos. Una consecuencia de esta tendencia es que ciertas aplicaciones pueden plantear desafíos sociales en los próximos años.
Este documento tiene la intención de ayudar a las organizaciones a desempeñar responsablemente su papel con respecto a los sistemas de IA (por ejemplo, utilizar, desarrollar, monitorear o proporcionar productos o servicios que utilicen IA). La IA potencialmente plantea consideraciones específicas, como:
— El uso de IA para la toma de decisiones automática, a veces de manera no transparente y no explicativa, puede requerir una gestión específica más allá de la gestión de sistemas de TI clásicos.
— El uso de análisis de datos, percepción y aprendizaje automático, en lugar de lógica codificada por humanos para diseñar sistemas, aumenta las oportunidades de aplicación para los sistemas de IA y cambia la forma en que se desarrollan, justifican e implementan dichos sistemas.
— Los sistemas de IA que realizan un aprendizaje continuo cambian su comportamiento durante el uso. Requieren una consideración especial para garantizar que su uso responsable continúe con el cambio de comportamiento.
Este documento proporciona requisitos para establecer, implementar, mantener y mejorar continuamente un sistema de gestión de IA dentro del contexto de una organización. Se espera que las organizaciones centren su aplicación de requisitos en características que sean únicas para la IA. Ciertas características de la IA, como la capacidad de aprendizaje continuo y mejora o la falta de transparencia, pueden justificar salvaguardias diferentes si plantean preocupaciones adicionales en comparación con cómo se realizaría tradicionalmente la tarea. La adopción de un sistema de gestión de IA para extender las estructuras de gestión existentes es una decisión estratégica para una organización.
Las necesidades y objetivos de la organización, los procesos, el tamaño y la estructura, así como las expectativas de las diversas partes interesadas, influyen en el establecimiento e implementación del sistema de gestión de IA. Otro conjunto de factores que influyen en el establecimiento e implementación del sistema de gestión de IA son los numerosos casos de uso para la IA y la necesidad de encontrar el equilibrio adecuado entre los mecanismos de gobierno y la innovación. Las organizaciones pueden optar por aplicar estos requisitos utilizando un enfoque basado en el riesgo para garantizar que se aplique el nivel adecuado de control para los casos de uso de IA, servicios o productos particulares dentro del alcance de la organización. Se espera que todos estos factores influyentes cambien y se revisen de vez en cuando.
El sistema de gestión de IA debe integrarse con los procesos de la organización y la estructura de gestión general. Se deben considerar problemas específicos relacionados con la IA en el diseño de procesos, sistemas de información y controles. Ejemplos cruciales de tales procesos de gestión son:
— determinación de objetivos organizacionales, participación de partes interesadas y política organizacional;
— gestión de riesgos y oportunidades;
— procesos para la gestión de preocupaciones relacionadas con la confiabilidad de los sistemas de IA, como seguridad, seguridad, equidad, transparencia, calidad de los datos y calidad de los sistemas de IA a lo largo de su ciclo de vida;
— procesos para la gestión de proveedores, socios y terceros que proporcionan o desarrollan sistemas de IA para la organización.
Este documento proporciona pautas para la implementación de controles aplicables para respaldar dichos procesos.
Este documento evita orientaciones específicas sobre procesos de gestión. La organización puede combinar marcos generalmente aceptados, otros estándares internacionales y su propia experiencia para implementar procesos cruciales como gestión de riesgos, gestión del ciclo de vida y gestión de calidad de datos que sean apropiados para los casos de uso de IA, productos o servicios específicos dentro del alcance.
Una organización que cumple con los requisitos de este documento puede generar evidencia de su responsabilidad y rendición de cuentas con respecto a su papel con respecto a los sistemas de IA.
El orden en el que se presentan los requisitos en este documento no refleja su importancia ni implica el orden en que se implementan. Los elementos de la lista se enumeran solo con fines de referencia.
Compatibilidad con otros estándares de sistemas de gestión
Este documento aplica la estructura armonizada (números de cláusulas idénticos, títulos de cláusulas, texto y términos comunes y definiciones principales) desarrollada para mejorar la alineación entre los estándares de sistemas de gestión (SSG). El sistema de gestión de IA proporciona requisitos específicos para manejar los problemas y riesgos derivados del uso de IA en una organización. Este enfoque común facilita la implementación y la consistencia con otros estándares de sistemas de gestión, por ejemplo, relacionados con la calidad, la seguridad, la seguridad y la privacidad.
Tecnología de la información — Inteligencia artificial — Sistema de gestión
