Az NCSC, a CISA és más nemzetközi ügynökségek által közzétett új útmutató a mesterséges intelligencia biztonságáról

Az Útmutató a biztonságos mesterségesintelligencia-rendszerek fejlesztéséhez azért íródott, hogy segítse a fejlesztőket annak biztosításában, hogy a biztonság az új AI-modellek szívébe épüljön.

Az Egyesült Királyság Nemzeti Kiberbiztonsági Központja, az Egyesült Államok Kiberbiztonsági és Infrastruktúra-biztonsági Ügynöksége és 16 másik ország nemzetközi ügynökségei új útmutatót tettek közzé a mesterséges intelligencia-rendszerek biztonságáról.

Le irányelvek a mesterséges intelligencia rendszerek biztonságos fejlesztéséhez célja, hogy a fejlesztőket kifejezetten az AI-rendszerek tervezésén, fejlesztésén, megvalósításán és üzemeltetésén keresztül irányítsa, és biztosítsa, hogy a biztonság kritikus elem maradjon az egész életciklusuk során. Azonban az AI-projektekben más érdekelt feleknek is hasznosnak kell találniuk ezeket az információkat.

Ezeket az irányelveket nem sokkal azután adták ki, hogy a világ vezetői elkötelezték magukat a mesterséges intelligencia biztonságos és felelős fejlesztése mellett a november eleji AI biztonsági csúcstalálkozón.

Összefoglalva: irányelvek a biztonságos AI-rendszerek fejlesztéséhez

A biztonságos mesterségesintelligencia-rendszerek fejlesztésére vonatkozó irányelvek ajánlásokat fogalmaznak meg annak biztosítására, hogy az AI-modellek – akár a semmiből építettek, akár meglévő modelleken vagy más cégek API-jain alapulnak – „a rendeltetésszerűen működjenek, szükség esetén rendelkezésre álljanak, és anélkül működjenek, hogy bizalmas adatokat illetéktelen felek elé tárjanak. . "

Ennek kulcsa az „alapértelmezett biztonságos” megközelítés, amelyet az NCSC, a CISA, a National Institute of Standards and Technology és számos más nemzetközi kiberbiztonsági ügynökség szorgalmaz a meglévő keretek között. Ezeknek a kereteknek az alapelvei a következők:

• Vedd kezedbe az ügyfelek biztonságát.
• A radikális átláthatóság és elszámoltathatóság felvállalása.
• Szervezeti struktúrát és vezetést úgy alakítson ki, hogy a „beépített biztonság” a legfontosabb üzleti prioritás legyen.

Az NCSC szerint összesen 21 ország összesen 18 ügynöksége és minisztériuma erősítette meg, hogy jóváhagyja és közösen lezárja az új irányelveket. Ide tartozik a Nemzetbiztonsági Ügynökség és az Egyesült Államok Szövetségi Nyomozóirodája, valamint a Kanadai Kiberbiztonsági Központ, a Francia Kiberbiztonsági Ügynökség, a Németországi Szövetségi Kiberbiztonsági Hivatal és a szingapúri Kiberbiztonsági Ügynökség és Japán Nemzeti Incidens Központ. Kiberbiztonsági előkészítés és stratégia.

– mondta Lindy Cameron, az NCSC vezérigazgatója egy sajtóközleményt : „Tudjuk, hogy a mesterséges intelligencia fenomenális ütemben fejlődik, és összehangolt nemzetközi fellépésre van szükség a kormányok és az ipar között, hogy lépést tartsunk. ”.

Biztosítsa az AI fejlesztési életciklusának négy kulcsfontosságú szakaszát

Az AI-rendszerek biztonságos fejlesztésére vonatkozó irányelvek négy részre tagolódnak, amelyek mindegyike az AI-rendszer fejlesztési életciklusának különböző fázisaihoz tartozik: biztonságos tervezés, biztonságos fejlesztés, biztonságos megvalósítás, valamint biztonságos üzemeltetés és karbantartás.

• Biztonságos kialakítás konkrét útmutatást ad az AI-rendszer fejlesztési életciklusának tervezési szakaszához. Hangsúlyozza a kockázatok felismerésének és a fenyegetettség modellezésének fontosságát, valamint a különféle témák és kompromisszumok figyelembevételét a rendszerek és modellek tervezése során.
• Biztonságos fejlesztés lefedi az AI rendszer életciklusának fejlesztési szakaszát. Az ajánlások közé tartozik az ellátási lánc biztonságának biztosítása, az alapos dokumentáció karbantartása, valamint az erőforrások és a technikai tartozások hatékony kezelése.
• Biztonságos megvalósítás az AI-rendszerek megvalósítási szakaszával foglalkozik. Az iránymutatás ebben az esetben az infrastruktúra és a modellek megóvására a kompromisszumoktól, fenyegetésektől vagy veszteségektől, defiaz incidenskezelési folyamatok kidolgozása és a felelős kiadási elvek elfogadása.
• Biztonságos üzemeltetés és karbantartás jelzéseket tartalmaznak a mesterséges intelligencia modellek bevezetését követő üzemeltetési és karbantartási szakaszra vonatkozóan. Olyan szempontokat foglal magában, mint a hatékony naplózás és felügyelet, a frissítések kezelése és a felelős információmegosztás.

Irányelvek minden AI-rendszerhez

Az irányelvek az AI-rendszerek minden típusára vonatkoznak, nem csak a „határmodellekre”, amelyeket az Egyesült Királyságban 1. november 2-jén és 2023-án rendezett AI-biztonsági csúcstalálkozón széles körben megvitattak. és a mesterséges intelligencia körül, beleértve a fejlesztőket, adattudósokat, menedzsereket, döntéshozókat és más mesterséges intelligencia „kockázattulajdonosokat”.

„Az irányelveket elsősorban azoknak a mesterséges intelligencia-rendszerszállítóknak céloztuk meg, akik szervezet által üzemeltetett modelleket használnak (vagy külső API-kat használnak), de arra biztatunk minden érdekelt felet, hogy olvassa el ezeket az irányelveket, hogy segítsen nekik tájékozott tervezési döntéseket hozni, kidolgozni, megvalósítani és működtetni. mesterséges intelligencia rendszerek”, kijelentette az NCSC.

Az AI-biztonsági csúcstalálkozó eredményei

Az angliai Buckinghamshire-ben, a Bletchley Park történelmi helyén tartott mesterséges intelligencia-biztonsági csúcstalálkozón 28 ország képviselői írták alá a Bletchley nyilatkozata a mesterséges intelligencia biztonságáról , amely rávilágít a rendszerek tervezésének és megvalósításának fontosságára mesterséges intelligencia biztonságosan és felelősségteljesen, az együttműködésre helyezve a hangsúlyt. és az átláthatóság.

A nyilatkozat elismeri, hogy kezelni kell az élvonalbeli AI-modellekkel kapcsolatos kockázatokat, különösen olyan területeken, mint pl számítógép biztonság és biotechnológiát, és támogatja a nagyobb nemzetközi együttműködést a biztonságos, etikus és jótékony felhasználása érdekébenIA.

Michelle Donelan, Nagy-Britannia tudományos és technológiai minisztere elmondta, hogy az újonnan közzétett iránymutatások „a kiberbiztonságot helyezik a fejlesztés középpontjába.mesterséges intelligencia” a kezdetektől a telepítésig.

A kiberbiztonsági ágazat reakciói ezekre az AI-irányelvekre

Az irányelvek közzététele amesterséges intelligencia szakértők és elemzők üdvözölték kiberbiztonság.

Toby Lewis, a Darktrace fenyegetéselemzésért felelős globális vezetője defibefejezte a rendszerekhez készült "örvendetes projekt" című útmutatót mesterséges intelligencia biztonságos és megbízható.

Lewis e-mailben kommentálta: „Örömmel látom, hogy az irányelvek rávilágítanak a szükségességre mesterséges intelligencia megóvják adataikat és modelljeiket a támadóktól, és hogy az AI-felhasználók a megfelelőeket alkalmazzák intelligencia mesterséges a megfelelő feladathoz. A mesterséges intelligencia fejlesztőinek tovább kell menniük, és bizalmat kell építeniük azáltal, hogy végigvezetik a felhasználókat azon az úton, hogyan jutnak el a válaszokhoz a mesterséges intelligencia. Magabiztossággal és bizalommal gyorsabban és több ember számára fogjuk felismerni az AI előnyeit.”

Georges Anidjar, az Informatica dél-európai alelnöke szerint az irányelvek közzététele „jelentős lépést jelent az e gyorsan fejlődő területen rejlő kiberbiztonsági kihívások kezelése felé”.

BlogInnovazione.it