Noi ghiduri privind securitatea AI publicate de NCSC, CISA și alte agenții internaționale

Ghidurile pentru dezvoltarea sistemelor AI securizate au fost scrise pentru a ajuta dezvoltatorii să se asigure că securitatea este construită în inima noilor modele AI.

Centrul Național de Securitate Cibernetică din Marea Britanie, Agenția SUA pentru Securitate Cibernetică și Infrastructură și agenții internaționale din alte 16 țări au publicat noi ghiduri privind securitatea sistemelor de inteligență artificială.

Le linii directoare pentru dezvoltarea în siguranță a sistemelor de inteligență artificială sunt concepute pentru a ghida dezvoltatorii în mod specific prin proiectarea, dezvoltarea, implementarea și operarea sistemelor AI și să asigure că securitatea rămâne o componentă critică pe tot parcursul ciclului lor de viață. Cu toate acestea, și alte părți interesate din proiectele IA ar trebui să găsească aceste informații utile.

Aceste linii directoare au fost publicate la scurt timp după ce liderii mondiali s-au angajat să dezvolte în siguranță și responsabilă inteligența artificială la Summit-ul privind siguranța AI de la începutul lunii noiembrie.

Pe scurt: linii directoare pentru dezvoltarea sistemelor AI sigure

Ghidurile pentru dezvoltarea sistemelor IA sigure stabilesc recomandări pentru a se asigura că modelele AI – fie că sunt construite de la zero, fie pe baza modelelor existente sau API-uri de la alte companii – „funcționează conform intenției, sunt disponibile atunci când este necesar și funcționează fără a dezvălui date sensibile părților neautorizate. . „

Cheia pentru aceasta este abordarea „securizată implicit” susținută de NCSC, CISA, Institutul Național de Standarde și Tehnologie și diverse alte agenții internaționale de securitate cibernetică în cadrele existente. Principiile acestor cadre includ:

• Asumați-vă responsabilitatea asupra rezultatelor în materie de siguranță pentru clienți.
• Îmbrățișând transparența radicală și responsabilitatea.
• Construiți o structură organizațională și conducere, astfel încât „siguranța prin proiectare” să fie o prioritate de top de afaceri.

Potrivit NCSC, un total de 21 de agenții și ministere dintr-un total de 18 țări au confirmat că vor aproba și co-sigilează noile linii directoare. Aceasta include Agenția Națională de Securitate și Biroul Federal de Investigații din Statele Unite, precum și Centrul Canadien pentru Securitate Cibernetică, Agenția Franceză de Securitate Cibernetică, Oficiul Federal pentru Securitate Cibernetică din Germania, Singapore. Agenția de Securitate Cibernetică și Centrul Național de Incidente din Japonia. Pregătirea și strategia de securitate cibernetică.

Lindy Cameron, directorul executiv al NCSC, a declarat în un comunicat de presă : „Știm că inteligența artificială se dezvoltă într-un ritm fenomenal și trebuie să existe o acțiune internațională concertată, între guverne și industrie, pentru a ține pasul. ”.

Securizează cele patru faze cheie ale ciclului de viață al dezvoltării AI

Orientările pentru dezvoltarea în siguranță a sistemelor AI sunt structurate în patru secțiuni, fiecare corespunzând diferitelor faze ale ciclului de viață de dezvoltare a unui sistem AI: proiectare sigură, dezvoltare sigură, implementare sigură și operare și întreținere sigure.

• Design sigur oferă îndrumări specifice pentru faza de proiectare a ciclului de viață al dezvoltării sistemului AI. Subliniază importanța recunoașterii riscurilor și a modelării amenințărilor, precum și luarea în considerare a diferitelor subiecte și compromisuri atunci când se proiectează sisteme și modele.
• Dezvoltare sigură acoperă faza de dezvoltare a ciclului de viață al sistemului AI. Recomandările includ asigurarea securității lanțului de aprovizionare, menținerea unei documentații detaliate și gestionarea eficientă a resurselor și a datoriei tehnice.
• Implementare sigură abordează faza de implementare a sistemelor AI. Orientările în acest caz se referă la protejarea infrastructurii și modelelor de compromisuri, amenințări sau pierderi deficrearea de procese pentru managementul incidentelor și adoptarea principiilor de eliberare responsabilă.
• Operare și întreținere în siguranță conțin indicații privind faza de operare și întreținere în urma implementării modelelor de inteligență artificială. Acesta acoperă aspecte precum înregistrarea și monitorizarea eficientă, gestionarea actualizărilor și partajarea responsabilă a informațiilor.

Orientări pentru toate sistemele AI

Orientările sunt aplicabile tuturor tipurilor de sisteme AI și nu doar modelelor „de frontieră”, care au fost discutate pe larg la summitul AI Safety Summit găzduit în Regatul Unit la 1 și 2 noiembrie 2023. Orientările sunt aplicabile și tuturor profesioniștilor care lucrează în și în jurul AI, inclusiv dezvoltatori, oameni de știință de date, manageri, factori de decizie și alți „proprietari de riscuri” AI.

„Am îndreptat ghidurile în primul rând către furnizorii de sisteme AI care utilizează modele găzduite de o organizație (sau folosesc API-uri externe), dar încurajăm toate părțile interesate... să citească aceste linii directoare pentru a le ajuta să ia decizii informate de proiectare, dezvoltare, implementare și operare a acestora. sisteme de inteligență artificială”, a spus NCSC.

Rezultatele Summit-ului pentru Siguranța AI

În timpul summitului pentru siguranța AI, desfășurat la situl istoric Bletchley Park din Buckinghamshire, Anglia, reprezentanți din 28 de țări au semnat Declarația Bletchley privind siguranța AI , care evidențiază importanța proiectării și implementării sistemelor inteligenta artificiala în mod sigur și responsabil, cu accent pe colaborare. și transparență.

Declarația recunoaște necesitatea de a aborda riscurile asociate cu modelele de IA de ultimă oră, în special în domenii precum securitate IT și biotehnologie și sprijină o mai mare colaborare internațională pentru a asigura utilizarea sigură, etică și benefică aIA.

Michelle Donelan, secretarul Marii Britanii pentru Știință și Tehnologie, a declarat că noile linii directoare publicate „vor pune securitatea cibernetică în centrul dezvoltăriiinteligenta artificiala” de la început până la implementare.

Reacții la aceste linii directoare AI din industria securității cibernetice

Publicarea ghidurilor privindinteligenta artificiala a fost salutat de experți și analiști securitate cibernetică.

Toby Lewis, șeful global al analizei amenințărilor la Darktrace, a făcut-o defia terminat ghidul „un proiect binevenit” pentru sisteme inteligenta artificiala sigur și de încredere.

Comentând prin e-mail, Lewis a spus: „Sunt încântat să văd că liniile directoare evidențiază necesitatea inteligenta artificiala protejează-și datele și modelele de atacatori și ca utilizatorii AI să le aplice pe cele potrivite inteligență artificiale pentru sarcina potrivită. Cei care dezvoltă AI ar trebui să meargă mai departe și să construiască încredere, ghidând utilizatorii prin călătoria în care AI-ul lor ajunge la răspunsuri. Cu încredere și încredere, ne vom da seama de beneficiile AI mai repede și pentru mai mulți oameni.”

Georges Anidjar, vicepreședinte pentru Europa de Sud la Informatica, a declarat că publicarea ghidurilor marchează „un pas semnificativ către abordarea provocărilor de securitate cibernetică inerente acestui domeniu în evoluție rapidă”.

BlogInnovazione.it