NCSC, CISA және басқа халықаралық агенттіктер шығарған AI қауіпсіздігі бойынша жаңа нұсқаулық

Қауіпсіз AI жүйелерін әзірлеу жөніндегі нұсқаулық әзірлеушілерге қауіпсіздіктің жаңа AI үлгілерінің жүрегіне енгізілгенін қамтамасыз етуге көмектесу үшін жазылған.

Ұлыбританияның Ұлттық киберқауіпсіздік орталығы, АҚШ киберқауіпсіздік және инфрақұрылымдық қауіпсіздік агенттігі және басқа 16 елдің халықаралық агенттіктері жасанды интеллект жүйелерінің қауіпсіздігі бойынша жаңа нұсқаулықты жариялады.

Le жасанды интеллект жүйелерін қауіпсіз дамыту бойынша нұсқаулар олар жасанды интеллект жүйелерін жобалау, әзірлеу, енгізу және пайдалану арқылы әзірлеушілерге бағыт-бағдар беруге арналған және қауіпсіздік олардың өмірлік циклі бойына маңызды құрамдас болып қала беретінін қамтамасыз етеді. Дегенмен, AI жобаларындағы басқа мүдделі тараптар да бұл ақпаратты пайдалы деп табуы керек.

Бұл нұсқаулықтар қараша айының басында өткен AI қауіпсіздік саммитінде әлем көшбасшылары жасанды интеллектті қауіпсіз және жауапты дамытуға міндеттенгеннен кейін көп ұзамай шығарылды.

Қорытынды: қауіпсіз AI жүйелерін әзірлеу бойынша нұсқаулар

Қауіпсіз AI жүйелерін әзірлеу жөніндегі нұсқаулық AI үлгілерінің – нөлден жасалғанына қарамастан немесе бар үлгілерге немесе басқа компаниялардың API интерфейстеріне негізделген – «ойланғандай жұмыс істеуін, қажет болған жағдайда қолжетімді болуын және рұқсат етілмеген тұлғаларға құпия деректерді көрсетпей жұмыс істеуін қамтамасыз ету үшін ұсыныстарды береді. . «

Мұның кілті - NCSC, CISA, Ұлттық стандарттар және технологиялар институты және қолданыстағы шеңберлерде әртүрлі басқа халықаралық киберқауіпсіздік агенттіктері қолдайтын «әдепкі бойынша қауіпсіз» тәсілі. Бұл құрылымдардың принциптеріне мыналар жатады:

• Тұтынушылар үшін қауіпсіздік нәтижелеріне ие болыңыз.
• Түбегейлі ашықтық пен есептілікті қабылдау.
• Ұйымдық құрылым мен көшбасшылықты «жоба бойынша қауіпсіздік» бизнестің басты басымдығы болатындай етіп құрыңыз.

NCSC мәліметтері бойынша, барлығы 21 елден барлығы 18 агенттік пен министрлік жаңа нұсқаулықтарды бекітетінін және олардың мөрін бекітетінін растады. Бұған АҚШ-тағы Ұлттық қауіпсіздік агенттігі мен Федералдық тергеу бюросы, сондай-ақ Канаданың Киберқауіпсіздік орталығы, Францияның Киберқауіпсіздік агенттігі, Германияның Киберқауіпсіздік федералды басқармасы, Сингапур кіреді. Киберқауіпсіздік агенттігі және Жапония ұлттық инциденттер орталығы. Киберқауіпсіздікті дайындау және стратегиясы.

Бұл туралы NCSC бас атқарушы директоры Линди Кэмерон мәлімдеді пресс-релиз : «Біз жасанды интеллект керемет қарқынмен дамып жатқанын білеміз және оның қарқынын сақтау үшін үкіметтер мен өнеркәсіп арасында келісілген халықаралық әрекет қажет. ».

AI әзірлеу өмірлік циклінің төрт негізгі кезеңін қамтамасыз етіңіз

Жасанды интеллект жүйелерін қауіпсіз дамытуға арналған нұсқаулықтар төрт бөлімнен тұрады, олардың әрқайсысы AI жүйесінің даму өмірлік циклінің әртүрлі фазаларына сәйкес келеді: қауіпсіз дизайн, қауіпсіз әзірлеу, қауіпсіз енгізу, қауіпсіз пайдалану және техникалық қызмет көрсету.

• Қауіпсіз дизайн AI жүйесін әзірлеудің өмірлік циклінің жобалау кезеңіне арналған нақты нұсқауларды ұсынады. Ол тәуекелдерді танудың және қауіптерді модельдеуді жүргізудің, сондай-ақ жүйелер мен модельдерді жобалау кезінде әртүрлі тақырыптар мен айырбастарды қарастырудың маңыздылығын атап көрсетеді.
• Қауіпсіз даму AI жүйесінің өмірлік циклінің даму кезеңін қамтиды. Ұсыныстарға жеткізу тізбегінің қауіпсіздігін қамтамасыз ету, мұқият құжаттаманы жүргізу, ресурстар мен техникалық қарызды тиімді басқару кіреді.
• Қауіпсіз жүзеге асыру AI жүйелерін енгізу кезеңін қарастырады. Бұл жағдайдағы нұсқаулар инфрақұрылымды және модельдерді ымыралардан, қауіптерден немесе жоғалтулардан қорғауға қатысты. defiинциденттерді басқару процестерін құру және жауапты босату қағидаттарын қабылдау.
• Қауіпсіз пайдалану және техникалық қызмет көрсету жасанды интеллект үлгілерін орналастырудан кейінгі пайдалану және техникалық қызмет көрсету кезеңі туралы нұсқауларды қамтиды. Ол тиімді тіркеу және бақылау, жаңартуларды басқару және жауапты ақпарат алмасу сияқты аспектілерді қамтиды.

Барлық AI жүйелеріне арналған нұсқаулар

Нұсқаулықтар 1 жылғы 2 және 2023 қарашада Ұлыбританияда өткен AI қауіпсіздік саммитінде кеңінен талқыланған «шекаралық» үлгілерге ғана емес, AI жүйелерінің барлық түрлеріне қолданылады. Нұсқаулықтар олар сондай-ақ осында жұмыс істейтін барлық мамандарға қатысты. және AI айналасында, соның ішінде әзірлеушілер, деректер ғалымдары, менеджерлер, шешім қабылдаушылар және басқа AI «тәуекел иелері».

«Біз нұсқаулықтарды ең алдымен ұйым орналастыратын үлгілерді пайдаланатын (немесе сыртқы API интерфейстерін пайдаланатын) AI жүйесінің жеткізушілеріне бағыттадық, бірақ біз барлық мүдделі тараптарды ... негізделген дизайн шешімдерін қабылдауға, әзірлеуге, енгізуге және пайдалануға көмектесу үшін осы нұсқаулықтарды оқуға шақырамыз. жасанды интеллект жүйелері», деді ол NCSC.

AI қауіпсіздік саммитінің нәтижелері

Англияның Букингемшир қаласындағы Блетчли саябағында өткен AI қауіпсіздігі саммиті барысында 28 елдің өкілдері келісімге қол қойды. Блетчлидің AI қауіпсіздігі туралы мәлімдемесі , бұл жүйелерді жобалау мен енгізудің маңыздылығын көрсетеді жасанды интеллект ынтымақтастыққа баса назар аудара отырып, қауіпсіз және жауапкершілікпен. және ашықтық.

Мәлімдеме жасанды интеллекттің озық үлгілерімен байланысты тәуекелдерді шешу қажеттілігін мойындайды, әсіресе келесі салаларда. АТ қауіпсіздігі және биотехнологияны қамтиды және қауіпсіз, этикалық және тиімді пайдалануды қамтамасыз ету үшін халықаралық ынтымақтастықты қолдайды.IA.

Ұлыбританияның ғылым және технология хатшысы Мишель Донелан жаңадан жарияланған нұсқаулықтар «киберқауіпсіздікті технологияларды дамытудың негізіне қояды» деді.жасанды интеллект” пайда болғаннан бастап қолданысқа енгізілгенге дейін.

Киберқауіпсіздік индустриясының осы AI нұсқауларына реакциясы

бойынша нұсқаулықтарды жариялаужасанды интеллект сарапшылар мен сарапшылар құптады киберқауіпсіздік.

Тоби Льюис, Darktrace қауіп-қатерлерді талдаудың жаһандық басшысы defiжүйелерге арналған «құттықтау жобасы» нұсқаулығын аяқтады жасанды интеллект қауіпсіз және сенімді.

Электрондық пошта арқылы түсініктеме бере отырып, Льюис: «Нұсқаулықтардың қажеттілікті көрсететінін көргеніме қуаныштымын. жасанды интеллект өз деректері мен үлгілерін шабуылдаушылардан қорғаңыз және AI пайдаланушылары дұрыс қолданады ақыл жасанды дұрыс тапсырма үшін. Жасанды интеллектіні дамытатындар әрі қарай жүріп, пайдаланушылардың AI жауаптарға қалай жететіні туралы саяхат жасау арқылы сенім артуы керек. Сенім мен сенім арқылы біз AI артықшылықтарын тезірек және көп адамдар үшін түсінетін боламыз ».

Джордж Аниджар, Informatica компаниясының Оңтүстік Еуропа бойынша вице-президенті нұсқаулықтардың жариялануы «осы жылдам дамып келе жатқан салаға тән киберқауіпсіздік мәселелерін шешуге бағытталған маңызды қадамды» білдіреді.

BlogInnovazione.it