Нови насоки за сигурността на AI, публикувани от NCSC, CISA и други международни агенции

Насоките за разработване на сигурни AI системи са написани, за да помогнат на разработчиците да гарантират, че сигурността е вградена в сърцето на новите модели на AI.

Националният център за киберсигурност на Обединеното кралство, Агенцията за киберсигурност и сигурност на инфраструктурата на САЩ и международни агенции от 16 други страни публикуваха нови насоки за сигурността на системите с изкуствен интелект.

Le насоки за безопасно развитие на системи с изкуствен интелект те са предназначени да напътстват разработчиците конкретно през проектирането, разработването, внедряването и работата на AI системи и гарантират, че сигурността остава критичен компонент през целия им жизнен цикъл. Въпреки това, други заинтересовани страни в проекти за ИИ също трябва да намерят тази информация за полезна.

Тези насоки бяха публикувани скоро след като световните лидери се ангажираха с безопасното и отговорно развитие на изкуствения интелект на срещата на върха за безопасността на AI в началото на ноември.

Накратко: насоки за разработване на безопасни AI системи

Указанията за разработване на безопасни системи за изкуствен интелект дават препоръки, за да се гарантира, че моделите на изкуствен интелект – независимо дали са създадени от нулата или базирани на съществуващи модели или API от други компании – „работят по предназначение, налични са, когато е необходимо, и работят, без да разкриват чувствителни данни на неоторизирани страни . “

Ключът към това е подходът „сигурен по подразбиране“, застъпен от NCSC, CISA, Националния институт за стандарти и технологии и различни други международни агенции за киберсигурност в съществуващите рамки. Принципите на тези рамки включват:

• Поемете отговорност за резултатите за безопасността на клиентите.
• Възприемане на радикална прозрачност и отчетност.
• Изградете организационна структура и лидерство, така че „безопасността по проект“ да е основен бизнес приоритет.

Според NCSC общо 21 агенции и министерства от общо 18 държави са потвърдили, че ще одобрят и ще подпечатат съвместно новите насоки. Това включва Агенцията за национална сигурност и Федералното бюро за разследване в Съединените щати, както и Канадския център за киберсигурност, Френската агенция за киберсигурност, Федералната служба за киберсигурност на Германия, Сингапур Агенция за киберсигурност и Японски национален център за инциденти. Подготовка и стратегия за киберсигурност.

Линди Камерън, главен изпълнителен директор на NCSC, каза в съобщение за пресата : „Знаем, че изкуственият интелект се развива с феноменална скорост и трябва да има съгласувани международни действия, между правителствата и индустрията, за да се поддържа темпото. ”.

Осигурете четирите ключови фази от жизнения цикъл на разработка на AI

Насоките за безопасно разработване на AI системи са структурирани в четири раздела, всеки от които съответства на различни фази от жизнения цикъл на разработка на AI система: сигурен дизайн, сигурна разработка, сигурно внедряване и сигурна работа и поддръжка.

• Безопасен дизайн предлага конкретни насоки за фазата на проектиране на жизнения цикъл на разработката на AI системата. Той подчертава важността на разпознаването на рисковете и провеждането на моделиране на заплахи, както и отчитането на различни теми и компромиси при проектирането на системи и модели.
• Безопасно развитие обхваща фазата на разработка на жизнения цикъл на AI системата. Препоръките включват гарантиране на сигурността на веригата за доставки, поддържане на изчерпателна документация и ефективно управление на ресурсите и техническия дълг.
• Сигурно внедряване се отнася до фазата на внедряване на AI системи. Насоките в този случай се отнасят до защитата на инфраструктурата и моделите от компромиси, заплахи или загуби, defiопределяне на процеси за управление на инциденти и приемане на принципи за отговорно освобождаване.
• Безопасна експлоатация и поддръжка съдържа указания за фазата на експлоатация и поддръжка след внедряването на моделите с изкуствен интелект. Той обхваща аспекти като ефективно регистриране и наблюдение, управление на актуализации и отговорно споделяне на информация.

Насоки за всички AI системи

Насоките са приложими за всички видове AI системи, а не само за „гранични“ модели, които бяха обстойно обсъдени на срещата на високо равнище за безопасността на AI, организирана в Обединеното кралство на 1 и 2 ноември 2023 г. Насоките Те са приложими и за всички професионалисти, работещи в и около AI, включително разработчици, специалисти по данни, мениджъри, лица, вземащи решения и други AI „притежатели на риск“.

„Ние насочихме насоките основно към доставчици на системи за изкуствен интелект, които използват модели, хоствани от организация (или използват външни API), но насърчаваме всички заинтересовани страни... да прочетат тези насоки, за да им помогнат да вземат информирани дизайнерски решения, разработване, внедряване и експлоатация на техните системи с изкуствен интелект”, - каза той NCSC.

Резултати от срещата на върха за безопасността на изкуствения интелект

По време на срещата на върха за безопасността на изкуствения интелект, проведена на историческото място в парка Блечли в Бъкингамшър, Англия, представители от 28 държави подписаха Изявление на Bletchley относно безопасността на AI , което подчертава важността на проектирането и внедряването на системи изкуствен интелект безопасно и отговорно, с акцент върху сътрудничеството. и прозрачност.

Изявлението признава необходимостта от справяне с рисковете, свързани с авангардни AI модели, особено в области като ИТ сигурност и биотехнологии и подкрепя по-голямото международно сътрудничество за гарантиране на безопасна, етична и полезна употреба наIA.

Мишел Донелан, министър на науката и технологиите на Великобритания, каза, че новопубликуваните насоки „ще поставят киберсигурността в основата на развитието наизкуствен интелект” от създаването до внедряването.

Реакции на тези насоки за ИИ от индустрията за киберсигурност

Публикуването на насоките заизкуствен интелект беше приветствано от експерти и анализатори кибер защита.

Тоби Люис, глобален ръководител на анализ на заплахи в Darktrace, има defiзавърши ръководството "добре дошъл проект" за системи изкуствен интелект безопасно и надеждно.

Коментирайки по имейл, Люис каза: „Радвам се да видя, че насоките подчертават необходимостта от изкуствен интелект защитават своите данни и модели от нападатели и потребителите на AI да прилагат правилните интелигентност изкуствени за правилната задача. Тези, които разработват AI, трябва да отидат по-далеч и да изградят доверие, като преведат потребителите през пътуването на това как техният AI достига до отговорите. С увереност и доверие ще осъзнаем предимствата на AI по-бързо и за повече хора.“

Жорж Аниджар, вицепрезидент за Южна Европа в Informatica, каза, че публикуването на насоките бележи „значителна стъпка към справяне с предизвикателствата пред киберсигурността, присъщи на тази бързо развиваща се област“.

BlogInnovazione.it