Le smernice za varen razvoj sistemov umetne inteligence zasnovani so tako, da vodijo razvijalce posebej skozi načrtovanje, razvoj, implementacijo in delovanje sistemov umetne inteligence ter zagotavljajo, da varnost ostane kritična komponenta v njihovem življenjskem ciklu. Vendar bi morale biti te informacije uporabne tudi za druge deležnike v projektih AI.
Te smernice so bile objavljene kmalu po tem, ko so se svetovni voditelji zavezali k varnemu in odgovornemu razvoju umetne inteligence na vrhu o varnosti AI v začetku novembra.
Smernice za razvoj varnih sistemov umetne inteligence določajo priporočila za zagotovitev, da modeli umetne inteligence – ne glede na to, ali so zgrajeni iz nič ali temeljijo na obstoječih modelih ali API-jih drugih podjetij – »delujejo, kot je predvideno, so na voljo, ko je to potrebno, in delujejo brez razkrivanja občutljivih podatkov nepooblaščenim osebam . “
Ključen pri tem je pristop »privzeto varno«, ki ga zagovarjajo NCSC, CISA, Nacionalni inštitut za standarde in tehnologijo ter različne druge mednarodne agencije za kibernetsko varnost v obstoječih okvirih. Načela teh okvirov vključujejo:
Po podatkih NCSC je skupno 21 agencij in ministrstev iz skupno 18 držav potrdilo, da bodo odobrili in sozapečatili nove smernice. To vključuje Agencijo za nacionalno varnost in Zvezni preiskovalni urad v Združenih državah, pa tudi Kanadski center za kibernetsko varnost, Francosko agencijo za kibernetsko varnost, Zvezni urad za kibernetsko varnost Nemčije, Singapur Agencija za kibernetsko varnost in Japonski nacionalni center za incidente. Priprava in strategija kibernetske varnosti.
Lindy Cameron, izvršna direktorica NCSC, je dejala v sporočilo za javnost : »Vemo, da se umetna inteligenca razvija z izjemno hitrostjo in da je potrebno usklajeno mednarodno ukrepanje med vladami in industrijo, da bi ji sledili. ”.
Smernice za varen razvoj sistemov umetne inteligence so strukturirane v štiri razdelke, od katerih vsak ustreza različnim fazam razvojnega življenjskega cikla sistema umetne inteligence: varno načrtovanje, varen razvoj, varna implementacija ter varno delovanje in vzdrževanje.
Smernice veljajo za vse vrste sistemov umetne inteligence in ne le za »mejne« modele, o katerih se je obširno razpravljalo na vrhu o varnosti umetne inteligence, ki je potekal v Združenem kraljestvu 1. in 2. novembra 2023. Smernice veljajo tudi za vse strokovnjake, ki delajo v in okrog umetne inteligence, vključno z razvijalci, podatkovnimi znanstveniki, menedžerji, odločevalci in drugimi »lastniki tveganj« umetne inteligence.
»Smernice smo namenili predvsem prodajalcem sistemov umetne inteligence, ki uporabljajo modele, ki jih gosti organizacija (ali uporabljajo zunanje API-je), vendar spodbujamo vse zainteresirane strani ... da preberejo te smernice, ki jim bodo pomagale sprejemati informirane odločitve o načrtovanju, razvoju, implementaciji in delovanju njihovih sistemi umetne inteligence", je dejal NCSC.
Med vrhom o varnosti AI, ki je potekal na zgodovinskem mestu Bletchley Park v Buckinghamshiru v Angliji, so predstavniki 28 držav podpisali Bletchleyjeva izjava o varnosti umetne inteligence , ki poudarja pomen načrtovanja in izvajanja sistemov umetna inteligenca varno in odgovorno, s poudarkom na sodelovanju. in preglednost.
Izjava priznava potrebo po obravnavanju tveganj, povezanih z vrhunskimi modeli umetne inteligence, zlasti na področjih, kot je IT varnost in biotehnologijo ter podpira večje mednarodno sodelovanje za zagotovitev varne, etične in koristne uporabeIA.
Michelle Donelan, britanska sekretarka za znanost in tehnologijo, je dejala, da bodo na novo objavljene smernice »kibernetsko varnost postavile v središče razvojaumetna inteligenca” od začetka do uvedbe.
Objava smernic oumetna inteligenca so pozdravili strokovnjaki in analitiki kibernetske varnosti.
Toby Lewis, globalni vodja analize groženj pri Darktrace, je defidokončal vodnik "dobrodošel projekt" za sisteme umetna inteligenca varno in zanesljivo.
Lewis je po elektronski pošti dejal: »Veseli me, da smernice poudarjajo potrebo po umetna inteligenca zaščitijo svoje podatke in modele pred napadalci ter da uporabniki AI uporabljajo prave inteligenca umetno za pravo nalogo. Tisti, ki razvijajo umetno inteligenco, bi morali iti dlje in zgraditi zaupanje tako, da uporabnike vodijo skozi pot do tega, kako njihova umetna inteligenca pride do odgovorov. Z zaupanjem bomo uresničili prednosti umetne inteligence hitreje in za več ljudi.«
Georges Anidjar, podpredsednik za južno Evropo pri Informatici, je dejal, da objava smernic pomeni "pomemben korak k obravnavi izzivov kibernetske varnosti, ki so del tega hitro razvijajočega se področja."
BlogInnovazione.it
Operacija oftalmoplastike s komercialnim pregledovalnikom Apple Vision Pro je bila opravljena na polikliniki Catania…
Razvijanje finih motoričnih spretnosti z barvanjem otroke pripravi na kompleksnejše spretnosti, kot je pisanje. Za barvanje…
Pomorski sektor je prava svetovna gospodarska sila, ki je krmarila proti 150 milijardnemu trgu...
Prejšnji ponedeljek je Financial Times objavil dogovor z OpenAI. FT licencira svoje vrhunsko novinarstvo ...
