Nuevas directrices sobre seguridad de la IA publicadas por el NCSC, el CISA y otras agencias internacionales

Las Directrices para el desarrollo de sistemas seguros de IA se redactaron para ayudar a los desarrolladores a garantizar que la seguridad esté integrada en el corazón de los nuevos modelos de IA.

El Centro Nacional de Seguridad Cibernética del Reino Unido, la Agencia de Seguridad de Infraestructura y Ciberseguridad de EE. UU. y agencias internacionales de otros 16 países han publicado nuevas directrices sobre la seguridad de los sistemas de inteligencia artificial.

Le Directrices para el desarrollo seguro de sistemas de inteligencia artificial. están diseñados para guiar a los desarrolladores específicamente a través del diseño, desarrollo, implementación y operación de sistemas de IA y garantizar que la seguridad siga siendo un componente crítico durante todo su ciclo de vida. Sin embargo, otras partes interesadas en proyectos de IA también deberían encontrar útil esta información.

Estas directrices se publicaron poco después de que los líderes mundiales se comprometieran con el desarrollo seguro y responsable de la inteligencia artificial en la Cumbre de Seguridad de la IA a principios de noviembre.

En resumen: directrices para desarrollar sistemas de IA seguros

Las Directrices para el desarrollo de sistemas seguros de IA establecen recomendaciones para garantizar que los modelos de IA, ya sea construidos desde cero o basados ​​en modelos existentes o API de otras empresas, “funcionen según lo previsto, estén disponibles cuando sea necesario y funcionen sin revelar datos confidenciales a partes no autorizadas”. . “

La clave para esto es el enfoque de “seguridad por defecto” defendido por el NCSC, el CISA, el Instituto Nacional de Estándares y Tecnología y varias otras agencias internacionales de ciberseguridad en los marcos existentes. Los principios de estos marcos incluyen:

• Asumir la responsabilidad de los resultados de seguridad para los clientes.
• Adoptar una transparencia y una rendición de cuentas radicales.
• Construir una estructura organizacional y liderazgo para que la “seguridad por diseño” sea una prioridad empresarial máxima.

Según el NCSC, un total de 21 agencias y ministerios de un total de 18 países han confirmado que aprobarán y sellarán conjuntamente las nuevas directrices. Esto incluye la Agencia de Seguridad Nacional y la Oficina Federal de Investigaciones de los Estados Unidos, así como el Centro Canadiense de Seguridad Cibernética, la Agencia Francesa de Seguridad Cibernética, la Oficina Federal de Seguridad Cibernética de Alemania, la Oficina Federal de Seguridad Cibernética de Singapur Agencia de Seguridad Cibernética y Centro Nacional de Incidentes de Japón. Preparación y estrategia en ciberseguridad.

Lindy Cameron, directora ejecutiva del NCSC, dijo en comunicado de prensa : “Sabemos que la inteligencia artificial se está desarrollando a un ritmo fenomenal y es necesario que haya una acción internacional concertada, entre los gobiernos y la industria, para mantener el ritmo. ”.

Asegure las cuatro fases clave del ciclo de vida del desarrollo de la IA

Las directrices para el desarrollo seguro de sistemas de IA están estructuradas en cuatro secciones, cada una de las cuales corresponde a diferentes fases del ciclo de vida de desarrollo de un sistema de IA: diseño seguro, desarrollo seguro, implementación segura y operación y mantenimiento seguros.

• Diseño seguro ofrece orientación específica para la fase de diseño del ciclo de vida de desarrollo del sistema de IA. Enfatiza la importancia de reconocer los riesgos y realizar modelos de amenazas, así como de considerar diversos temas y compensaciones al diseñar sistemas y modelos.
• Desarrollo seguro Cubre la fase de desarrollo del ciclo de vida del sistema de IA. Las recomendaciones incluyen garantizar la seguridad de la cadena de suministro, mantener una documentación exhaustiva y gestionar eficazmente los recursos y la deuda técnica.
• Implementación segura aborda la fase de implementación de los sistemas de IA. Las directrices en este caso se refieren a salvaguardar la infraestructura y los modelos de compromisos, amenazas o pérdidas, la definición de procesos para la gestión de incidentes y la adopción de principios de liberación responsable.
• Operación y mantenimiento seguros contener indicaciones sobre la fase de operación y mantenimiento tras el despliegue de los modelos de inteligencia artificial. Cubre aspectos como el registro y seguimiento efectivos, la gestión de actualizaciones y el intercambio responsable de información.

Directrices para todos los sistemas de IA

Las directrices son aplicables a todo tipo de sistemas de IA y no solo a los modelos “de frontera” que se debatieron ampliamente en la Cumbre de Seguridad de la IA celebrada en el Reino Unido los días 1 y 2 de noviembre de 2023. Las directrices también son aplicables a todos los profesionales que trabajan en y en torno a la IA, incluidos desarrolladores, científicos de datos, gerentes, tomadores de decisiones y otros “propietarios de riesgos” de la IA.

“Dirigimos las pautas principalmente a los proveedores de sistemas de IA que usan modelos alojados por una organización (o usan API externas), pero alentamos a todas las partes interesadas… a leer estas pautas para ayudarlos a tomar decisiones informadas de diseño, desarrollo, implementación y operación de sus sistemas de inteligencia artificial”, dijo el NCSC.

Resultados de la Cumbre de Seguridad de la IA

Durante la Cumbre de Seguridad de la IA, celebrada en el sitio histórico de Bletchley Park en Buckinghamshire, Inglaterra, representantes de 28 países firmaron el Declaración de Bletchley sobre la seguridad de la IA , que resalta la importancia de diseñar e implementar sistemas inteligencia artificial de forma segura y responsable, con énfasis en la colaboración. y transparencia.

La declaración reconoce la necesidad de abordar los riesgos asociados con los modelos de IA de vanguardia, particularmente en áreas como seguridad informática y biotecnología, y apoya una mayor colaboración internacional para garantizar el uso seguro, ético y beneficioso deIA.

Michelle Donelan, secretaria de ciencia y tecnología de Gran Bretaña, dijo que las directrices recientemente publicadas "colocarán la ciberseguridad en el centro del desarrollo deinteligencia artificial”desde el inicio hasta la implementación.

Reacciones a estas directrices de IA por parte de la industria de la ciberseguridad

La publicación de las directrices sobreinteligencia artificial ha sido bien recibido por expertos y analistas la seguridad cibernética.

Toby Lewis, jefe global de análisis de amenazas de Darktrace, ha defiFinalizada la guía "un proyecto de bienvenida" para sistemas inteligencia artificial seguro y confiable.

En un comentario por correo electrónico, Lewis dijo: “Me complace ver que las directrices resaltan la necesidad de inteligencia artificial proteger sus datos y modelos de los atacantes y que los usuarios de IA apliquen los correctos astucia artificial para la tarea correcta. Quienes desarrollan IA deberían ir más allá y generar confianza guiando a los usuarios a través del camino de cómo su IA alcanza las respuestas. Con confianza, lograremos los beneficios de la IA más rápido y para más personas”.

Georges Anidjar, vicepresidente para el sur de Europa de Informatica, dijo que la publicación de las directrices marca "un paso significativo para abordar los desafíos de ciberseguridad inherentes a este campo en rápida evolución".

BlogInnovazione.it