Ný leiðbeining um gervigreindaröryggi gefin út af NCSC, CISA og öðrum alþjóðlegum stofnunum

Leiðbeiningar um þróun öruggra gervigreindarkerfa voru skrifaðar til að hjálpa forriturum að tryggja að öryggi sé innbyggt í hjarta nýrra gervigreindargerða.

National Cyber ​​​​Security Centre í Bretlandi, bandaríska netöryggis- og innviðaöryggisstofnunin og alþjóðlegar stofnanir frá 16 öðrum löndum hafa gefið út nýjar leiðbeiningar um öryggi gervigreindarkerfa.

Le leiðbeiningar um örugga þróun gervigreindarkerfa þau eru hönnuð til að leiðbeina þróunaraðilum sérstaklega í gegnum hönnun, þróun, innleiðingu og rekstur gervigreindarkerfa og tryggja að öryggi sé áfram mikilvægur þáttur allan lífsferil þeirra. Hins vegar ættu aðrir hagsmunaaðilar í gervigreindarverkefnum einnig að finna þessar upplýsingar gagnlegar.

Þessar leiðbeiningar voru gefnar út fljótlega eftir að leiðtogar heimsins skuldbundu sig til öruggrar og ábyrgrar þróunar gervigreindar á AI ​​öryggisráðstefnunni í byrjun nóvember.

Í stuttu máli: leiðbeiningar um þróun öruggra gervigreindarkerfa

Leiðbeiningar um þróun öruggra gervigreindarkerfa setja fram ráðleggingar til að tryggja að gervigreind líkön – hvort sem þau eru byggð frá grunni eða byggð á núverandi gerðum eða API frá öðrum fyrirtækjum – „virki eins og til er ætlast, séu tiltæk þegar þörf krefur og virki án þess að afhjúpa viðkvæm gögn fyrir óviðkomandi aðilum. . “

Lykillinn að þessu er „örugg sjálfgefið“ nálgun sem NCSC, CISA, National Institute of Standards and Technology og ýmsar aðrar alþjóðlegar netöryggisstofnanir mæla fyrir í núverandi ramma. Meginreglur þessara ramma eru meðal annars:

• Taktu eignarhald á öryggisniðurstöðum fyrir viðskiptavini.
• Að taka róttækt gagnsæi og ábyrgð.
• Byggja upp skipulag og forystu þannig að „öryggi með hönnun“ sé forgangsverkefni fyrirtækja.

Samkvæmt NCSC hafa alls 21 stofnun og ráðuneyti frá alls 18 löndum staðfest að þau muni samþykkja og innsigla nýju leiðbeiningarnar. Þetta felur í sér þjóðaröryggisstofnunina og alríkislögregluna í Bandaríkjunum, svo og kanadíska netöryggismiðstöðina, franska netöryggisstofnunin, alríkisskrifstofa netöryggis Þýskalands, Singapore Cyber ​​​​Security Agency og Japan National Incident Center. Undirbúningur og stefnumótun á netöryggi.

Lindy Cameron, framkvæmdastjóri NCSC, sagði í fréttatilkynningu : „Við vitum að gervigreind er að þróast með stórkostlegum hraða og það þarf að fara fram samstilltar alþjóðlegar aðgerðir, milli ríkisstjórna og iðnaðar, til að halda í við. “.

Tryggðu fjögur lykiláfanga líftíma gervigreindarþróunar

Leiðbeiningar um örugga þróun gervigreindarkerfa eru byggðar upp í fjóra hluta, sem hver um sig samsvarar mismunandi stigum lífsferils gervigreindarkerfis: örugg hönnun, örugg þróun, örugg innleiðing og örugg rekstur og viðhald.

• Örugg hönnun býður upp á sérstakar leiðbeiningar fyrir hönnunarfasa AI kerfisþróunarlífsferils. Þar er lögð áhersla á mikilvægi þess að viðurkenna áhættu og framkvæma ógnunarlíkön, auk þess að huga að ýmsum viðfangsefnum og málamiðlum við hönnun kerfa og líkana.
• Örugg þróun nær yfir þróunarstig líftíma gervigreindarkerfisins. Ráðleggingar fela í sér að tryggja aðfangakeðjuöryggi, viðhalda ítarlegum skjölum og stjórna auðlindum og tæknilegum skuldum á áhrifaríkan hátt.
• Örugg framkvæmd fjallar um innleiðingarstig gervigreindarkerfa. Leiðbeiningarnar í þessu máli snúa að því að vernda innviði og líkön fyrir málamiðlunum, ógnum eða tapi, defimyndun ferla fyrir atvikastjórnun og innleiðingu ábyrgrar losunarreglur.
• Öruggur rekstur og viðhald innihalda vísbendingar um rekstrar- og viðhaldsstig í kjölfar dreifingar gervigreindarlíkana. Það nær yfir þætti eins og skilvirka skráningu og eftirlit, stjórnun uppfærslur og ábyrga miðlun upplýsinga.

Leiðbeiningar fyrir öll gervigreind kerfi

Leiðbeiningarnar eiga við um allar gerðir gervigreindarkerfa en ekki bara „landamæra“ líkön sem voru rædd mikið á öryggisráðstefnu um gervigreind sem haldin var í Bretlandi 1. og 2. nóvember 2023. Leiðbeiningarnar Þær eiga einnig við um alla fagaðila sem starfa í og í kringum gervigreind, þar á meðal þróunaraðila, gagnafræðinga, stjórnendur, ákvarðanatökumenn og aðra „áhættueigendur“ gervigreindar.

„Við miðuðum leiðbeiningunum fyrst og fremst að gervigreindarkerfaframleiðendum sem nota líkön sem hýst eru af stofnun (eða nota utanaðkomandi API), en við hvetjum alla áhugasama aðila... að lesa þessar leiðbeiningar til að hjálpa þeim að taka upplýstar hönnunarákvarðanir, þróun, innleiðingu og rekstur þeirra gervigreindarkerfi", sagði hann NCSC.

Niðurstöður AI öryggisráðstefnunnar

Á leiðtogafundi gervigreindaröryggis, sem haldinn var á sögulega stað Bletchley Park í Buckinghamshire, Englandi, undirrituðu fulltrúar frá 28 löndum Bletchley yfirlýsing um öryggi gervigreindar , sem undirstrikar mikilvægi þess að hanna og innleiða kerfi gervigreind á öruggan og ábyrgan hátt, með áherslu á samvinnu. og gagnsæi.

Yfirlýsingin viðurkennir nauðsyn þess að takast á við áhættuna sem tengist nýjustu gervigreindargerðum, sérstaklega á sviðum eins og Öryggi upplýsingatækni og líftækni, og styður aukið alþjóðlegt samstarf til að tryggja örugga, siðferðilega og gagnlega notkun áIA.

Michelle Donelan, vísinda- og tækniráðherra Bretlands, sagði að nýbirtu leiðbeiningarnar „muni setja netöryggi í hjarta þróunargervigreind“ frá upphafi til dreifingar.

Viðbrögð við þessum gervigreindarleiðbeiningum frá netöryggisiðnaðinum

Útgáfa leiðbeininganna umgervigreind hefur verið fagnað af sérfræðingum og sérfræðingum cybersecurity.

Toby Lewis, alþjóðlegur yfirmaður ógnargreiningar hjá Darktrace, hefur defikláraði handbókina "velkomið verkefni" fyrir kerfi gervigreind öruggur og áreiðanlegur.

Í athugasemdum með tölvupósti sagði Lewis: „Ég er ánægður að sjá að leiðbeiningarnar leggja áherslu á þörfina fyrir gervigreind vernda gögn sín og líkön fyrir árásarmönnum og að notendur gervigreindar beiti þeim réttu upplýsingaöflun gervi fyrir rétt verkefni. Þeir sem þróa gervigreind ættu að ganga lengra og byggja upp traust með því að leiða notendur í gegnum leiðina um hvernig gervigreind þeirra nær svörunum. Með sjálfstrausti og trausti munum við átta okkur á ávinningi gervigreindar hraðar og fyrir fleira fólk.“

Georges Anidjar, varaforseti Suður-Evrópu hjá Informatica, sagði að birting leiðbeininganna marki „verulegt skref í átt að því að takast á við netöryggisáskoranir sem felast í þessu sviði í örri þróun.

BlogInnovazione.it