Pandhuan anyar babagan keamanan AI sing diterbitake dening NCSC, CISA lan lembaga internasional liyane

Pedoman Ngembangake Sistem AI sing Aman ditulis kanggo mbantu para pangembang mesthekake yen keamanan dibangun ing jantung model AI anyar.

Pusat Keamanan Siber Nasional Inggris, Badan Keamanan Siber lan Infrastruktur AS lan lembaga internasional saka 16 negara liya wis nerbitake pandhuan anyar babagan keamanan sistem intelijen buatan.

Le pedoman kanggo pangembangan sistem intelijen buatan sing aman padha dirancang kanggo nuntun pangembang khusus liwat desain, pembangunan, implementasine lan operasi saka sistem AI lan mesthekake yen keamanan tetep komponen kritis saindhenging siklus urip. Nanging, para pemangku kepentingan liyane ing proyek AI uga kudu golek informasi iki migunani.

Pedoman kasebut dirilis sakcepete sawise para pamimpin jagad komitmen kanggo pangembangan intelijen buatan sing aman lan tanggung jawab ing Sidang Kemuncak Keamanan AI ing awal Nopember.

Ringkesan: pedoman kanggo ngembangake sistem AI sing aman

Pedoman kanggo Ngembangake Sistem AI sing Aman nyedhiyakake rekomendasi kanggo mesthekake yen model AI - apa digawe saka awal utawa adhedhasar model utawa API sing wis ana saka perusahaan liyane - "bisa digunakake, kasedhiya yen dibutuhake, lan bisa digunakake tanpa mbukak data sensitif marang pihak sing ora sah. . “

Kunci iki yaiku pendekatan "aman kanthi standar" sing didhukung dening NCSC, CISA, Institut Standar lan Teknologi Nasional lan macem-macem agensi keamanan siber internasional liyane ing kerangka kerja sing wis ana. Prinsip kerangka kasebut kalebu:

• Njupuk kepemilikan saka asil safety kanggo pelanggan.
• Ngrangkul transparansi lan akuntabilitas radikal.
• Mbangun struktur organisasi lan kepemimpinan supaya "safety by design" minangka prioritas bisnis sing paling dhuwur.

Miturut NCSC, total 21 agensi lan kementerian saka total 18 negara wis ngonfirmasi yen bakal nyetujoni lan nutup pedoman anyar kasebut. Iki kalebu Badan Keamanan Nasional lan Biro Investigasi Federal ing Amerika Serikat, uga Pusat Keamanan Siber Kanada, Badan Keamanan Siber Prancis, Kantor Federal Keamanan Siber Jerman, Singapura. Badan Keamanan Siber lan Pusat Insiden Nasional Jepang. Persiapan lan strategi keamanan siber.

Lindy Cameron, kepala eksekutif NCSC, ngandika ing siaran pers : "Kita ngerti manawa intelijen buatan berkembang kanthi tingkat fenomenal lan kudu ana tumindak internasional sing digabungake, antarane pamrentah lan industri, supaya bisa terus maju. ”.

Ngamanake papat fase utama siklus urip pangembangan AI

Pandhuan kanggo pangembangan sistem AI sing aman disusun dadi papat bagean, saben cocog karo macem-macem fase siklus urip pangembangan sistem AI: desain aman, pangembangan aman, implementasine aman, lan operasi lan pangopènan sing aman.

• Desain sing aman nawakake pandhuan khusus kanggo tahap desain siklus urip pangembangan sistem AI. Iku nandheske pentinge ngenali risiko lan nindakake modeling ancaman, uga nimbang macem-macem topik lan tradeoffs nalika ngrancang sistem lan model.
• pembangunan aman nyakup fase pangembangan siklus urip sistem AI. Rekomendasi kalebu njamin keamanan rantai pasokan, njaga dokumentasi lengkap, lan ngatur sumber daya lan utang teknis kanthi efektif.
• Implementasine aman alamat fase implementasi sistem AI. Pedoman ing kasus iki babagan njaga infrastruktur lan model saka kompromi, ancaman utawa kerugian, definition proses kanggo manajemen insiden lan adopsi prinsip rilis tanggung jawab.
• Operasi lan pangopènan sing aman ngemot indikasi ing tahap operasi lan pangopènan sawise panyebaran model intelijen buatan. Iki kalebu aspek kayata logging lan pemantauan sing efektif, ngatur nganyari lan nuduhake informasi sing tanggung jawab.

Pedoman kanggo kabeh sistem AI

Pedoman kasebut ditrapake kanggo kabeh jinis sistem AI lan ora mung model "perbatasan" sing dibahas sacara ekstensif ing KTT Keamanan AI sing dianakake ing Inggris tanggal 1 lan 2 November 2023. Pedoman kasebut uga ditrapake kanggo kabeh profesional sing kerja ing lan sekitar AI, kalebu pangembang, ilmuwan data, manajer, pembuat keputusan, lan "pemilik risiko" AI liyane.

"Kita ngarahake pedoman kasebut utamane kanggo vendor sistem AI sing nggunakake model sing diselenggarakake dening organisasi (utawa nggunakake API eksternal), nanging kita ngajak kabeh pihak sing kasengsem ... sistem kecerdasan buatan", ngandika ing NCSC.

Asil saka AI Safety Summit

Sajrone AI Safety Summit, sing dianakake ing situs bersejarah Bletchley Park ing Buckinghamshire, Inggris, wakil saka 28 negara nandatangani Pranyatan Bletchley babagan Keamanan AI , sing nyoroti pentinge ngrancang lan ngleksanakake sistem intelijen buatan kanthi aman lan tanggung jawab, kanthi penekanan ing kolaborasi. lan transparansi.

Pernyataan kasebut ngerteni kabutuhan kanggo ngatasi risiko sing ana gandhengane karo model AI sing canggih, utamane ing wilayah kayata keamanan IT lan bioteknologi, lan ndhukung kolaborasi internasional sing luwih gedhe kanggo njamin panggunaan sing aman, etis lan migunaniIA.

Michelle Donelan, sekretaris sains lan teknologi Inggris, ujar manawa pedoman sing mentas diterbitake "bakal nggawe keamanan siber dadi pusat pangembanganintelijen buatan” wiwit wiwitan nganti panyebaran.

Reaksi kanggo pedoman AI iki saka industri cybersecurity

Publikasi pedoman ingintelijen buatan wis ditampa dening ahli lan analis cybersecurity.

Toby Lewis, kepala global analisis ancaman ing Darktrace, wis defirampung pandhuan "proyek sambutan" kanggo sistem intelijen buatan aman lan dipercaya.

Ngomentari liwat email, Lewis ujar: "Aku seneng ndeleng manawa pedoman kasebut nyoroti kabutuhan intelijen buatan nglindhungi data lan model saka panyerang lan pangguna AI nggunakake sing bener Intelligence gawean kanggo tugas sing bener. Sing ngembangake AI kudu luwih maju lan mbangun kapercayan kanthi mlaku-mlaku pangguna liwat perjalanan babagan carane AI entuk jawaban. Kanthi kapercayan lan kapercayan, kita bakal ngerteni keuntungan AI luwih cepet lan kanggo luwih akeh wong.

Georges Anidjar, wakil presiden Eropa Kidul ing Informatica, ujar manawa publikasi pedoman kasebut minangka "langkah penting kanggo ngatasi tantangan cybersecurity sing ana ing lapangan sing berkembang kanthi cepet iki."

BlogInnovazione.it