Pitunjuk anyar ngeunaan kaamanan AI diterbitkeun ku NCSC, CISA sareng agénsi internasional anu sanés

Pedoman pikeun Ngembangkeun Sistem AI Aman ditulis pikeun ngabantosan pamekar mastikeun yén kaamanan diwangun kana manah modél AI énggal.

Pusat Kaamanan Siber Nasional Inggris, Badan Kaamanan Siber sareng Infrastruktur AS sareng agénsi internasional ti 16 nagara sanés parantos nyebarkeun pituduh énggal ngeunaan kaamanan sistem intelijen buatan.

Le tungtunan pikeun ngembangkeun aman sistem kecerdasan jieunan aranjeunna dirancang pikeun pituduh pamekar husus ngaliwatan rarancang, ngembangkeun, palaksanaan jeung operasi sistem AI sarta mastikeun yén kaamanan tetep komponén kritis sapanjang lifecycle maranéhanana. Nanging, pamangku kapentingan sanés dina proyék AI ogé kedah mendakan inpormasi ieu mangpaat.

Pedoman ieu dileupaskeun pas saatos pamimpin dunya komitmen kana pamekaran intelijen buatan anu aman sareng tanggung jawab dina Sidang Kaamanan AI dina awal Nopémber.

Kasimpulanana: tungtunan pikeun ngembangkeun sistem AI anu aman

Pedoman pikeun Ngembangkeun Sistem AI anu Aman netepkeun saran pikeun mastikeun yén modél AI - naha diwangun ti mimiti atanapi dumasar kana modél anu aya atanapi API ti perusahaan sanés - "sapertos anu dipikahoyong, sayogi nalika diperyogikeun, sareng tiasa dianggo tanpa ngungkabkeun data sénsitip ka pihak anu henteu sah. . “

Konci pikeun ieu pendekatan "aman sacara standar" advocated ku NCSC, CISA, National Institute of Standards jeung Téhnologi sarta sagala rupa agénsi cybersecurity internasional lianna dina frameworks aya. Prinsip kerangka ieu ngawengku:

• Candak kapamilikan hasil kaamanan pikeun konsumén.
• Embracing transparansi radikal jeung akuntabilitas.
• Ngawangun struktur organisasi sareng kapamimpinan supados "kaamanan ku desain" mangrupikeun prioritas bisnis anu paling luhur.

Numutkeun kana NCSC, jumlahna aya 21 agénsi sareng kementerian ti total 18 nagara parantos ngonfirmasi yén aranjeunna bakal nyatujuan sareng ngégélkeun pedoman énggal. Ieu kalebet Badan Kaamanan Nasional sareng Biro Penyelidik Federal di Amérika Serikat, ogé Pusat Kanada pikeun Kaamanan Siber, Badan Kaamanan Siber Perancis, Kantor Federal pikeun Kaamanan Siber Jerman, Singapura. Badan Kaamanan Siber sareng Pusat Kajadian Nasional Jepang. Persiapan sareng strategi cybersecurity.

Lindy Cameron, lulugu eksekutif tina NCSC, ceuk dina siaran pers : "Kami terang yén intelijen jieunan ngembang dina tingkat anu luar biasa sareng kedah aya aksi internasional anu konsér, antara pamaréntah sareng industri, pikeun tetep. ”.

Amankeun opat fase konci tina siklus kahirupan pangembangan AI

Tungtunan pikeun pamekaran sistem AI anu aman disusun jadi opat bagian, masing-masing pakait sareng fase anu béda dina siklus kahirupan pangembangan sistem AI: desain anu aman, pamekaran anu aman, palaksanaan anu aman, sareng operasi sareng perawatan anu aman.

• Desain aman nawiskeun pituduh khusus pikeun fase desain siklus pangembangan sistem AI. Ieu nekenkeun pentingna ngakuan resiko jeung ngalakonan modeling ancaman, kitu ogé tempo rupa jejer jeung tradeoffs nalika ngarancang sistem jeung model.
• Pangwangunan aman nyertakeun fase pangembangan siklus kahirupan sistem AI. Rekomendasi kalebet mastikeun kaamanan ranté suplai, ngajaga dokuméntasi lengkep, sareng ngatur sumber daya sareng hutang téknis sacara efektif.
• palaksanaan aman alamat fase palaksanaan sistem AI. Pedoman dina hal ieu ngeunaan ngajaga infrastruktur sareng modél tina kompromi, ancaman atanapi karugian, definition prosés pikeun manajemén kajadian jeung nyoko prinsip release tanggung jawab.
• Operasi sareng pangropéa anu aman ngandung indikasi dina fase operasi sareng pangropéa saatos panyebaran modél intelijen buatan. Éta nyertakeun aspék sapertos logging sareng ngawaskeun anu efektif, ngatur apdet sareng ngabagi inpormasi anu tanggung jawab.

Tungtunan pikeun sakabéh sistem AI

Tungtunan éta lumaku pikeun sadaya jinis sistem AI sanés ngan ukur modél "depan" anu dibahas sacara éksténsif dina Sidang Kaamanan AI anu diayakeun di Inggris dina 1 sareng 2 Nopémber 2023. Pedoman Éta ogé lumaku pikeun sadaya profésional anu damel sareng sakitar AI, kalebet pamekar, élmuwan data, manajer, pembuat kaputusan, sareng "pamilik résiko" AI anu sanés.

"Kami narékahan tungtunan utamina pikeun ngical paralatan sistem AI anu nganggo modél anu di-host ku organisasi (atanapi nganggo API éksternal), tapi kami nyorong sadaya pihak anu kabetot ... sistem kecerdasan jieunan", cenahna NCSC.

Hasil tina Sidang Kaamanan AI

Salila AI ​​Safety Summit, dilaksanakeun di situs bersejarah Bletchley Park di Buckinghamshire, Inggris, wawakil ti 28 nagara nandatanganan Pernyataan Bletchley ngeunaan Kasalametan AI , nu highlights pentingna ngarancang jeung nerapkeun sistem intelijen buatan aman sareng tanggung jawab, kalayan tekenan kana kolaborasi. jeung transparansi.

Pernyataan éta ngakuan kabutuhan pikeun ngatasi résiko anu aya hubunganana sareng modél AI anu canggih, khususna di daérah sapertos kaamanan IT sareng biotéhnologi, sareng ngadukung kolaborasi internasional anu langkung ageung pikeun mastikeun panggunaan aman, étika sareng mangpaat tinaIA.

Michelle Donelan, sekretaris sains sareng téknologi Inggris, nyatakeun yén pedoman anu nembé diterbitkeun "bakal nempatkeun kaamanan siber dina jantung pangembanganintelijen buatan"ti mimiti nepi ka deployment.

Réaksi kana pedoman AI ieu ti industri cybersecurity

Publikasi pedoman dinaintelijen buatan parantos disambut ku para ahli sareng analis cybersecurity.

Toby Lewis, sirah global analisis anceman di Darktrace, boga defiréngsé pituduh "proyék wilujeng sumping" pikeun sistem intelijen buatan aman jeung dipercaya.

Koméntar via email, Lewis nyarios: "Kuring resep ningali yén pedoman éta nyorot kabutuhan intelijen buatan ngajaga data sareng modélna tina panyerang sareng yén pangguna AI nerapkeun anu leres intelijen jieunan pikeun tugas katuhu. Anu ngembang AI kedah langkung jauh sareng ngawangun kapercayaan ku ngalangkungan pangguna ngalangkungan perjalanan kumaha AI na ngahontal jawaban. Kalayan kapercayaan sareng kapercayaan, urang bakal sadar mangpaat AI langkung gancang sareng langkung seueur jalma.

Georges Anidjar, wakil présidén Éropa Kidul di Informatica, nyatakeun yén publikasi pedoman nandaan "léngkah anu penting pikeun ngatasi tantangan cybersecurity anu aya dina widang anu ngembang pesat ieu."

BlogInnovazione.it