NCSC:n, CISA:n ja muiden kansainvälisten järjestöjen julkaisemat uudet ohjeet tekoälyn turvallisuudesta

Ohjeet turvallisten tekoälyjärjestelmien kehittämiseen kirjoitettiin auttamaan kehittäjiä varmistamaan, että tietoturva on rakennettu uusien tekoälymallien ytimeen.

Ison-Britannian kansallinen kyberturvallisuuskeskus, Yhdysvaltain kyberturvallisuus- ja infrastruktuuriturvavirasto sekä 16 muun maan kansainväliset järjestöt ovat julkaisseet uusia ohjeita tekoälyjärjestelmien turvallisuudesta.

Le suuntaviivat tekoälyjärjestelmien turvalliselle kehittämiselle ne on suunniteltu opastamaan kehittäjiä erityisesti tekoälyjärjestelmien suunnittelussa, kehittämisessä, toteutuksessa ja käytössä ja varmistamaan, että tietoturva pysyy tärkeänä osana niiden koko elinkaaren ajan. Kuitenkin myös muiden tekoälyprojektien sidosryhmien pitäisi pitää näitä tietoja hyödyllisinä.

Nämä ohjeet julkaistiin pian sen jälkeen, kun maailman johtajat sitoutuivat tekoälyn turvalliseen ja vastuulliseen kehittämiseen AI Safety Summitissa marraskuun alussa.

Yhteenvetona: ohjeet turvallisten tekoälyjärjestelmien kehittämiseen

Ohjeissa turvallisten tekoälyjärjestelmien kehittämiseksi annetaan suosituksia sen varmistamiseksi, että tekoälymallit – olivatpa ne sitten rakennettu tyhjästä tai perustuisivat olemassa oleviin malleihin tai muiden yritysten API:ihin – "toimivat tarkoitetulla tavalla, ovat saatavilla tarvittaessa ja toimivat paljastamatta arkaluonteisia tietoja luvattomille osapuolille . "

Avain tähän on "suojattu oletusarvoisesti" -lähestymistapa, jota NCSC, CISA, National Institute of Standards and Technology ja monet muut kansainväliset kyberturvallisuusvirastot kannattavat olemassa olevissa puitteissa. Näiden kehysten periaatteet sisältävät:

• Ota vastuu asiakkaiden turvallisuudesta.
• Radikaalin läpinäkyvyyden ja vastuullisuuden omaksuminen.
• Rakenna organisaatiorakenne ja johtajuus siten, että "turvallisuus suunnittelussa" on liiketoiminnan tärkein prioriteetti.

NCSC:n mukaan yhteensä 21 virastoa ja ministeriötä yhteensä 18 maasta on vahvistanut hyväksyvänsä ja sinetöivänsä uudet suuntaviivat. Näihin kuuluvat Yhdysvaltain kansallinen turvallisuusvirasto ja liittovaltion tutkintavirasto sekä Kanadan kyberturvallisuuskeskus, Ranskan kyberturvallisuusvirasto, Saksan liittovaltion kyberturvallisuusvirasto ja Singapore. Kyberturvallisuusvirasto ja Japanin kansallinen välikohtauskeskus. Kyberturvallisuuden valmistelu ja strategia.

NCSC:n toimitusjohtaja Lindy Cameron sanoi lehdistötiedote : "Tiedämme, että tekoäly kehittyy ilmiömäistä vauhtia ja tarvitaan yhteistä kansainvälistä toimintaa hallitusten ja teollisuuden välillä pysyäkseen tahdissa. ”.

Turvaa tekoälyn kehityksen elinkaaren neljä keskeistä vaihetta

Tekoälyjärjestelmien turvallisen kehittämisen ohjeet on jäsennelty neljään osaan, joista jokainen vastaa tekoälyjärjestelmän kehittämisen elinkaaren eri vaiheita: turvallinen suunnittelu, turvallinen kehitys, turvallinen toteutus sekä turvallinen käyttö ja ylläpito.

• Turvallinen muotoilu tarjoaa erityisiä ohjeita tekoälyjärjestelmän kehittämisen elinkaaren suunnitteluvaiheeseen. Se korostaa riskien tunnistamisen ja uhkamallinnuksen tekemistä sekä eri aiheiden ja kompromissien huomioimista järjestelmiä ja malleja suunniteltaessa.
• Turvallista kehitystä kattaa tekoälyjärjestelmän elinkaaren kehitysvaiheen. Suosituksia ovat toimitusketjun turvallisuuden varmistaminen, perusteellisen dokumentaation ylläpitäminen sekä resurssien ja teknisen velan tehokas hallinta.
• Turvallinen toteutus käsittelee tekoälyjärjestelmien toteutusvaihetta. Tässä tapauksessa ohjeet koskevat infrastruktuurin ja mallien suojaamista kompromissilta, uhilta tai menetyksiltä, defitapausten hallinnan prosessien luominen ja vastuullisten julkaisuperiaatteiden käyttöönotto.
• Turvallinen käyttö ja huolto sisältää viitteitä tekoälymallien käyttöönoton jälkeisestä käyttö- ja ylläpitovaiheesta. Se kattaa muun muassa tehokkaan kirjaamisen ja seurannan, päivitysten hallinnan ja vastuullisen tiedonjaon.

Ohjeita kaikille tekoälyjärjestelmille

Ohjeita voidaan soveltaa kaikentyyppisiin tekoälyjärjestelmiin eivätkä vain "reunamalleihin", joista keskusteltiin laajasti Isossa-Britanniassa 1. ja 2. marraskuuta 2023 järjestetyssä tekoälyn turvallisuushuippukokouksessa. Ohjeet koskevat myös kaikkia alalla työskenteleviä ammattilaisia. ja sen ympärillä, mukaan lukien kehittäjät, datatieteilijät, johtajat, päätöksentekijät ja muut tekoälyn "riskinomistajat".

"Osoitimme ohjeet ensisijaisesti tekoälyjärjestelmän toimittajille, jotka käyttävät organisaation isännöimiä malleja (tai ulkoisia API-liittymiä), mutta kehotamme kaikkia kiinnostuneita osapuolia lukemaan nämä ohjeet auttaaksemme heitä tekemään tietoisia suunnittelupäätöksiä, kehittämään, toteuttamaan ja toimimaan. tekoälyjärjestelmät", sanoi NCSC.

AI Safety Summitin tulokset

Tekoälyn turvallisuushuippukokouksen aikana, joka pidettiin historiallisessa Bletchley Parkissa Buckinghamshiressä, Englannissa, edustajat 28 maasta allekirjoittivat Bletchleyn lausunto tekoälyn turvallisuudesta , joka korostaa järjestelmien suunnittelun ja toteuttamisen tärkeyttä keinotekoinen äly turvallisesti ja vastuullisesti, painottaen yhteistyötä. ja läpinäkyvyys.

Lausunnossa tunnustetaan tarve puuttua uusiin tekoälymalleihin liittyviin riskeihin, erityisesti sellaisilla aloilla kuin IT-turvallisuus ja bioteknologian alalla ja tukee laajempaa kansainvälistä yhteistyötä varmistaakseen sen turvallisen, eettisen ja hyödyllisen käytönIA.

Ison-Britannian tiede- ja teknologiaministeri Michelle Donelan sanoi, että äskettäin julkaistut ohjeet "asettavat kyberturvallisuuden keskuksen kehityksen ytimeen.keinotekoinen äly” alusta käyttöönottoon asti.

Kyberturvallisuusalan reaktiot näihin tekoälyohjeisiin

Ohjeiden julkaisukeinotekoinen äly asiantuntijat ja analyytikot ovat toivottaneet sen tervetulleeksi tietoverkkojen.

Toby Lewis, Darktracen globaali uhka-analyysin johtaja, on tehnyt defivalmistunut opas "tervetullut projekti" järjestelmille keinotekoinen äly turvallinen ja luotettava.

Lewis kommentoi sähköpostitse: ”Olen iloinen nähdessäni, että ohjeet korostavat tarvetta keinotekoinen äly suojata tietonsa ja mallinsa hyökkääjiltä ja että tekoälykäyttäjät käyttävät oikeita älykkyys keinotekoinen oikeaan tehtävään. Tekoälyä kehittävien tulisi mennä pidemmälle ja rakentaa luottamusta ohjaamalla käyttäjiä matkalla, jolla heidän tekoälynsä saavuttaa vastaukset. Luottamuksella ja luottamuksella ymmärrämme tekoälyn edut nopeammin ja useammille ihmisille."

Informatican Etelä-Euroopan varapuheenjohtaja Georges Anidjar sanoi, että ohjeiden julkaiseminen on "merkittävä askel kohti kyberturvallisuushaasteita, jotka ovat ominaisia ​​tälle nopeasti kehittyvälle alalle".

BlogInnovazione.it