Nuwe riglyne oor KI-sekuriteit gepubliseer deur NCSC, CISA en ander internasionale agentskappe

Die riglyne vir die ontwikkeling van veilige KI-stelsels is geskryf om ontwikkelaars te help verseker dat sekuriteit in die hart van nuwe KI-modelle ingebou is.

Die Verenigde Koninkryk se nasionale kuberveiligheidsentrum, die Amerikaanse agentskap vir kuberveiligheid en infrastruktuur en internasionale agentskappe van 16 ander lande het nuwe riglyne oor die sekuriteit van kunsmatige intelligensiestelsels gepubliseer.

Le riglyne vir die veilige ontwikkeling van kunsmatige intelligensiestelsels hulle is ontwerp om ontwikkelaars spesifiek deur die ontwerp, ontwikkeling, implementering en bedryf van KI-stelsels te lei en te verseker dat sekuriteit 'n kritieke komponent bly regdeur hul lewensiklus. Ander belanghebbendes in KI-projekte behoort hierdie inligting egter ook nuttig te vind.

Hierdie riglyne is vrygestel kort nadat wêreldleiers hulle verbind het tot die veilige en verantwoordelike ontwikkeling van kunsmatige intelligensie by die KI-veiligheidsberaad vroeg in November.

Opsommend: riglyne vir die ontwikkeling van veilige KI-stelsels

Die riglyne vir die ontwikkeling van veilige KI-stelsels stel aanbevelings uiteen om te verseker dat KI-modelle – hetsy van nuuts af gebou of gebaseer is op bestaande modelle of API's van ander maatskappye – “werk soos bedoel, beskikbaar is wanneer nodig, en werk sonder om sensitiewe data aan ongemagtigde partye bekend te maak. . “

Die sleutel hiervoor is die "veilige by verstek"-benadering wat deur NCSC, CISA, die Nasionale Instituut vir Standaarde en Tegnologie en verskeie ander internasionale kuberveiligheidsagentskappe in bestaande raamwerke voorgestaan ​​word. Die beginsels van hierdie raamwerke sluit in:

• Neem eienaarskap van veiligheidsuitkomste vir kliënte.
• Omhels radikale deursigtigheid en aanspreeklikheid.
• Bou organisasiestruktuur en leierskap sodat "veiligheid deur ontwerp" 'n top besigheidsprioriteit is.

Volgens die NCSC het altesaam 21 agentskappe en ministeries van altesaam 18 lande bevestig dat hulle die nuwe riglyne sal goedkeur en mede-seël. Dit sluit die Nasionale Veiligheidsagentskap en die Federale Buro vir Ondersoeke in die Verenigde State in, sowel as die Kanadese Sentrum vir Kuberveiligheid, die Franse Kuberveiligheidsagentskap, die Federale Kantoor vir Kuberveiligheid van Duitsland, die Singapoer Cyber ​​​​Security Agency en Japan National Incident Centre. Voorbereiding en strategie vir kuberveiligheid.

Lindy Cameron, uitvoerende hoof van die NCSC, in gesê 'n persverklaring : “Ons weet dat kunsmatige intelligensie teen 'n fenomenale tempo ontwikkel en daar moet gesamentlike internasionale optrede tussen regerings en nywerhede wees om tred te hou. ”.

Beveilig die vier sleutelfases van die KI-ontwikkelingslewensiklus

Die riglyne vir die veilige ontwikkeling van KI-stelsels is in vier afdelings gestruktureer, wat elk ooreenstem met verskillende fases van die ontwikkelingslewensiklus van 'n KI-stelsel: veilige ontwerp, veilige ontwikkeling, veilige implementering en veilige bedryf en instandhouding.

• Veilige ontwerp bied spesifieke leiding vir die ontwerpfase van die KI-stelselontwikkelingslewensiklus. Dit beklemtoon die belangrikheid van die erkenning van risiko's en die uitvoering van bedreigingsmodellering, asook die oorweging van verskeie onderwerpe en afwykings wanneer stelsels en modelle ontwerp word.
• Veilige ontwikkeling dek die ontwikkelingsfase van die KI-stelsel lewensiklus. Aanbevelings sluit in die versekering van voorsieningskettingsekuriteit, die handhawing van deeglike dokumentasie en die doeltreffende bestuur van hulpbronne en tegniese skuld.
• Veilige implementering spreek die implementeringsfase van KI-stelsels aan. Die riglyne in hierdie geval handel oor die beveiliging van die infrastruktuur en modelle teen kompromieë, bedreigings of verliese, die definisie van prosesse vir voorvalbestuur en die aanvaarding van verantwoordelike vrystellingsbeginsels.
• Veilige werking en instandhouding bevat aanduidings oor die bedryfs- en instandhoudingsfase na die ontplooiing van die kunsmatige intelligensie-modelle. Dit dek aspekte soos effektiewe aantekening en monitering, bestuur van opdaterings en verantwoordelike deel van inligting.

Riglyne vir alle KI-stelsels

Die riglyne is van toepassing op alle soorte KI-stelsels en nie net "grens"-modelle wat breedvoerig bespreek is by die KI-veiligheidsberaad wat op 1 en 2 November 2023 in die VK aangebied is. Die riglyne Dit is ook van toepassing op alle professionele persone wat in en rondom KI, insluitend ontwikkelaars, datawetenskaplikes, bestuurders, besluitnemers en ander KI-“risiko-eienaars”.

"Ons het die riglyne hoofsaaklik gemik op KI-stelselverskaffers wat modelle gebruik wat deur 'n organisasie gehuisves word (of eksterne API's gebruik), maar ons moedig alle belangstellendes aan ... om hierdie riglyne te lees om hulle te help om ingeligte ontwerpbesluite, ontwikkeling, implementering en werking van hul kunsmatige intelligensie stelsels", gesê die NCSC.

Resultate van die KI-veiligheidsberaad

Tydens die KI-veiligheidsberaad, gehou by die historiese terrein van Bletchley Park in Buckinghamshire, Engeland, het verteenwoordigers van 28 lande die Bletchley-verklaring oor KI-veiligheid , wat die belangrikheid van die ontwerp en implementering van stelsels beklemtoon kunsmatige intelligensie veilig en verantwoordelik, met die klem op samewerking. en deursigtigheid.

Die verklaring erken die behoefte om die risiko's wat verband hou met die nuutste KI-modelle aan te spreek, veral in gebiede soos IT-sekuriteit en biotegnologie, en ondersteun groter internasionale samewerking om die veilige, etiese en voordelige gebruik van te versekerIA.

Michelle Donelan, Brittanje se wetenskap- en tegnologiesekretaris, het gesê die nuut gepubliseerde riglyne “sal kuberveiligheid in die hart van die ontwikkeling vankunsmatige intelligensie” van ontstaan ​​tot ontplooiing.

Reaksies op hierdie KI-riglyne van die kuberveiligheidsbedryf

Die publikasie van die riglyne oorkunsmatige intelligensie is deur kundiges en ontleders verwelkom cyber.

Toby Lewis, wêreldwye hoof van bedreigingsanalise by Darktrace, het defivoltooi die gids "'n welkome projek" vir stelsels kunsmatige intelligensie veilig en betroubaar.

Lewis het per e-pos kommentaar gelewer: “Ek is bly om te sien dat die riglyne die behoefte beklemtoon kunsmatige intelligensie beskerm hul data en modelle teen aanvallers en dat KI-gebruikers die regte toepas intelligensie kunsmatige vir die regte taak. Diegene wat KI ontwikkel, moet verder gaan en vertroue bou deur gebruikers deur die reis te lei van hoe hul KI die antwoorde bereik. Met selfvertroue en vertroue sal ons die voordele van KI vinniger en vir meer mense besef.”

Georges Anidjar, vise-president vir Suider-Europa by Informatica, het gesê die publikasie van die riglyne is "'n belangrike stap in die rigting van die aanspreek van die kuberveiligheidsuitdagings wat inherent is aan hierdie vinnig ontwikkelende veld."

BlogInnovazione.it