NCSC, CISA ja teiste rahvusvaheliste agentuuride poolt avaldatud uued juhised tehisintellekti turvalisuse kohta

Turvaliste AI-süsteemide arendamise juhised on kirjutatud selleks, et aidata arendajatel tagada, et turvalisus on uute tehisintellekti mudelite keskmes.

Ühendkuningriigi riiklik küberjulgeoleku keskus, USA küberturvalisuse ja infrastruktuuri turvaagentuur ning veel 16 riigi rahvusvahelised agentuurid on avaldanud uued tehisintellektisüsteemide turvalisuse juhised.

Le juhised tehisintellektisüsteemide ohutuks arendamiseks need on loodud selleks, et juhendada arendajaid konkreetselt tehisintellektisüsteemide kavandamisel, arendamisel, rakendamisel ja kasutamisel ning tagada, et turvalisus jääb kriitiliseks komponendiks kogu nende elutsükli vältel. Kuid ka teistele tehisintellektiprojektide sidusrühmadele peaks see teave kasulik olema.

Need juhised avaldati varsti pärast seda, kui maailma juhid pühendusid tehisintellekti turvalisele ja vastutustundlikule arendamisele novembri alguses toimunud tehisintellekti ohutuse tippkohtumisel.

Kokkuvõttes: juhised ohutute AI-süsteemide arendamiseks

Ohutute tehisintellektisüsteemide väljatöötamise juhistes on esitatud soovitused tagamaks, et tehisintellekti mudelid – olenemata sellest, kas need on loodud nullist või põhinevad olemasolevatel mudelitel või teiste ettevõtete API-del – „töötaks ettenähtud viisil, oleksid vajaduse korral saadaval ja töötaksid ilma tundlikke andmeid volitamata osapooltele avaldamata. . “

Selle võtmeks on vaikimisi turvaline lähenemine, mida propageerivad NCSC, CISA, riiklik standardite ja tehnoloogia instituut ja mitmed teised rahvusvahelised küberjulgeolekuagentuurid olemasolevates raamistikes. Nende raamistike põhimõtted hõlmavad järgmist:

• Võtke vastutus klientide turvalisuse tagamise eest.
• Radikaalse läbipaistvuse ja vastutuse omaksvõtmine.
• Ehitage üles organisatsiooniline struktuur ja juhtimine nii, et kavandatud ohutus on ettevõtte peamine prioriteet.

NCSC andmetel on 21 asutust ja ministeeriumi kokku 18 riigist kinnitanud, et kiidavad uued suunised heaks ja kinnitavad need kaaspitsati. Nende hulka kuuluvad Riiklik Julgeolekuagentuur ja Ameerika Ühendriikide Föderaalne Juurdlusbüroo, samuti Kanada küberturvalisuse keskus, Prantsuse küberjulgeolekuagentuur, Saksamaa föderaalne küberjulgeolekuamet ja Singapuri Küberjulgeolekuagentuur ja Jaapani riiklik intsidentide keskus. Küberturvalisuse ettevalmistus ja strateegia.

ütles NCSC tegevjuht Lindy Cameron pressiteade : „Me teame, et tehisintellekt areneb fenomenaalse kiirusega ning selleks, et sammu pidada, on vaja valitsuste ja tööstuse vahelist kooskõlastatud rahvusvahelist tegevust. ”.

Kindlustage tehisintellekti arendamise elutsükli neli peamist faasi

Tehisintellektisüsteemide ohutu arendamise juhised on üles ehitatud neljaks osaks, millest igaüks vastab tehisintellektisüsteemi arenduse elutsükli erinevatele etappidele: turvaline disain, turvaline arendus, turvaline juurutamine ning turvaline kasutamine ja hooldus.

• Ohutu disain pakub konkreetseid juhiseid tehisintellektisüsteemi arendamise elutsükli projekteerimisetapi kohta. See rõhutab riskide äratundmise ja ohtude modelleerimise olulisust, samuti erinevate teemade ja kompromisside arvestamist süsteemide ja mudelite kavandamisel.
• Ohutu areng hõlmab AI-süsteemi elutsükli arendusfaasi. Soovitused hõlmavad tarneahela turvalisuse tagamist, põhjaliku dokumentatsiooni säilitamist ning ressursside ja tehniliste võlgade tõhusat haldamist.
• Turvaline rakendamine käsitleb tehisintellektisüsteemide juurutamisetappi. Antud juhul käsitlevad juhised infrastruktuuri ja mudelite kaitsmist kompromisside, ohtude või kaotuste eest, defiintsidentide haldamise protsesside väljatöötamine ja vastutustundlike vabastamispõhimõtete vastuvõtmine.
• Ohutu töö ja hooldus sisaldama vihjeid tehisintellekti mudelite kasutuselevõtule järgneva töö- ja hooldusetapi kohta. See hõlmab selliseid aspekte nagu tõhus logimine ja jälgimine, värskenduste haldamine ja vastutustundlik teabe jagamine.

Juhised kõikidele AI-süsteemidele

Juhised kehtivad igat tüüpi tehisintellektisüsteemidele, mitte ainult piiripealsetele mudelitele, mida arutati põhjalikult 1. ja 2. novembril 2023 Ühendkuningriigis toimunud tehisintellektiohutuse tippkohtumisel. ja AI ümber, sealhulgas arendajad, andmeteadlased, juhid, otsustajad ja muud AI riskiomanikud.

"Sihtsime juhised peamiselt tehisintellekti tarnijatele, kes kasutavad organisatsiooni hostitud mudeleid (või kasutavad väliseid API-sid), kuid julgustame kõiki huvitatud osapooli neid juhiseid lugema, et aidata neil teha teadlikke disainiotsuseid, arendada, rakendada ja kasutada tehisintellekti süsteemid", öeldud NCSC.

Tehisintellekti ohutuse tippkohtumise tulemused

Inglismaal Buckinghamshire'is ajaloolises kohas Bletchley pargis peetud tehisintellekti ohutuse tippkohtumisel kirjutasid 28 riigi esindajad alla Bletchley avaldus AI ohutuse kohta , mis rõhutab süsteemide kavandamise ja juurutamise tähtsust tehisintellekt turvaliselt ja vastutustundlikult, pannes rõhku koostööle. ja läbipaistvus.

Avalduses tunnistatakse vajadust tegeleda tipptasemel tehisintellekti mudelitega seotud riskidega, eriti sellistes valdkondades nagu IT turvalisus ja biotehnoloogia ning toetab suuremat rahvusvahelist koostööd, et tagada ohutu, eetiline ja kasulik kasutamineIA.

Suurbritannia teadus- ja tehnoloogiasekretär Michelle Donelan ütles, et äsja avaldatud juhised seavad küberjulgeoleku arendamise keskmesse.tehisintellekt” algusest kasutuselevõtuni.

Küberjulgeolekutööstuse reaktsioonid nendele tehisintellekti juhistele

Juhiste avaldaminetehisintellekt eksperdid ja analüütikud on seda tervitanud küberturvalisus.

Toby Lewis, Darktrace'i ohuanalüüsi juht, on seda teinud defivalmis süsteemide juhend "teretulnud projekt". tehisintellekt ohutu ja usaldusväärne.

Kommenteerides e-posti teel, ütles Lewis: "Mul on hea meel näha, et juhised rõhutavad vajadust tehisintellekt kaitsta oma andmeid ja mudeleid ründajate eest ning et tehisintellekti kasutajad rakendaksid õigeid intelligentsus kunstlik õige ülesande jaoks. AI arendajad peaksid minema kaugemale ja looma usaldust, juhendades kasutajaid teekonnal, kuidas nende tehisintellekt vastusteni jõuab. Enesekindluse ja usaldusega mõistame tehisintellekti eeliseid kiiremini ja rohkemate inimeste jaoks.

Informatica Lõuna-Euroopa asepresident Georges Anidjar ütles, et juhiste avaldamine on "oluline samm selle kiiresti areneva valdkonna küberjulgeolekuprobleemide lahendamise suunas".

BlogInnovazione.it