Nouvo konsèy sou sekirite AI pibliye pa NCSC, CISA ak lòt ajans entènasyonal yo

Gid pou Devlopman Sistèm AI Sekirite yo te ekri pou ede devlopè yo asire ke sekirite bati nan kè nouvo modèl AI.

National Cyber ​​​​Security Centre UK a, US Cybersecurity ak Enfrastrikti Sekirite Ajans ak ajans entènasyonal ki soti nan 16 lòt peyi yo te pibliye nouvo konsèy sou sekirite nan sistèm entèlijans atifisyèl.

Le direktiv pou devlopman san danje nan sistèm entèlijans atifisyèl yo fèt pou gide devlopè yo espesyalman atravè konsepsyon, devlopman, aplikasyon ak operasyon sistèm AI epi asire ke sekirite rete yon eleman enpòtan pandan tout sik lavi yo. Sepandan, lòt moun ki gen enterè nan pwojè AI ta dwe jwenn enfòmasyon sa a itil tou.

Gid sa yo te pibliye touswit apre lidè mondyal yo te angaje nan devlopman entèlijans atifisyèl san danje epi responsab nan Somè Sekirite AI nan kòmansman mwa novanm.

An rezime: direktiv pou devlope sistèm AI ki an sekirite

Gid pou Devlopman Sistèm AI ki an sekirite yo mete rekòmandasyon pou asire ke modèl AI - kit yo bati nan grate oswa ki baze sou modèl ki deja egziste oswa API soti nan lòt konpayi - "travay jan sa vle di, yo disponib lè sa nesesè, epi travay san yo pa revele done sansib bay pati ki pa otorize. . "

Kle nan sa a se "sekirize pa default" apwòch defann pa NCSC, CISA, Enstiti Nasyonal pou Estanda ak Teknoloji ak divès lòt ajans entènasyonal sibèsekirite nan kad ki deja egziste. Prensip yo nan kad sa yo enkli:

• Pran an komen rezilta sekirite pou kliyan yo.
• Anbrase transparans radikal ak responsablite.
• Bati estrikti òganizasyonèl ak lidèchip pou ke "sekirite pa konsepsyon" se yon pi gwo priyorite biznis.

Dapre NCSC, yon total de 21 ajans ak ministè ki soti nan yon total de 18 peyi yo te konfime ke yo pral apwouve ak ko-sele nouvo direktiv yo. Sa a gen ladan Ajans Sekirite Nasyonal la ak Biwo Federal Envestigasyon Ozetazini, osi byen ke Sant Kanadyen pou Cyber ​​Security, Ajans Cyber ​​Security franse a, Biwo Federal pou Cyber ​​Security nan Almay, Singapore la. Ajans Sekirite Sibè ak Sant Ensidan Nasyonal Japon. Preparasyon ak estrateji Cybersecurity.

Lindy Cameron, chèf egzekitif NCSC, te di nan yon lage laprès : "Nou konnen ke entèlijans atifisyèl ap devlope nan yon vitès fenomenn epi li bezwen gen yon aksyon entènasyonal konsète, ant gouvènman yo ak endistri, kenbe vitès. ".

Sekirize kat faz kle nan sik lavi devlopman AI

Gid yo pou devlopman san danje nan sistèm AI yo estriktire nan kat seksyon, chak korespondan ak diferan faz nan sik lavi devlopman nan yon sistèm AI: konsepsyon an sekirite, devlopman an sekirite, aplikasyon an sekirite, ak operasyon an sekirite ak antretyen.

• Konsepsyon san danje ofri konsèy espesifik pou faz konsepsyon nan sik lavi devlopman sistèm AI. Li mete aksan sou enpòtans ki genyen nan rekonèt risk ak fè modèl menas, osi byen ke konsidere divès sijè ak konpwomi lè konsepsyon sistèm ak modèl.
• Devlopman an sekirite kouvri faz devlopman nan sik lavi sistèm AI. Rekòmandasyon yo genyen ladan yo asire sekirite chèn ekipman pou, kenbe dokimantasyon bon jan, ak efektivman jere resous ak dèt teknik.
• Sekirize aplikasyon adrese faz aplikasyon sistèm AI. Gid yo nan ka sa a konsène pwoteje enfrastrikti a ak modèl soti nan konpwomi, menas oswa pèt, la definisyon nan pwosesis pou jesyon ensidan ak adopsyon prensip lage responsab.
• Operasyon an sekirite ak antretyen gen endikasyon sou faz operasyon ak antretyen apre deplwaman modèl entèlijans atifisyèl yo. Li kouvri aspè tankou anrejistreman efikas ak siveyans, jere mizajou ak pataje enfòmasyon responsab.

Gid pou tout sistèm AI

Gid yo aplikab a tout kalite sistèm AI epi yo pa sèlman modèl "fwontyè" ki te diskite anpil nan AI ​​Safety Summit ki te òganize nan UK a sou 1 ak 2 Novanm 2023. Gid yo yo aplikab tou pou tout pwofesyonèl k ap travay nan ak alantou AI, ki gen ladan devlopè, syantis done, manadjè, moun k ap pran desizyon, ak lòt "pwopriyetè risk" AI.

"Nou te vize direktiv yo prensipalman sou fournisseurs sistèm AI ki sèvi ak modèl òganize pa yon òganizasyon (oswa itilize API ekstèn), men nou ankouraje tout pati ki enterese yo... pou li gid sa yo pou ede yo pran desizyon konsepsyon, devlopman, aplikasyon ak operasyon yo. sistèm entèlijans atifisyèl", di NCSC la.

Rezilta Somè Sekirite AI

Pandan Somè Sekirite AI, ki te fèt nan sit istorik Bletchley Park nan Buckinghamshire, Angletè, reprezantan ki soti nan 28 peyi yo te siyen an. Deklarasyon Bletchley sou Sekirite AI , ki mete aksan sou enpòtans ki genyen nan konsepsyon ak aplikasyon sistèm entèlijans atifisyèl san danje epi responsab, ak yon anfaz sou kolaborasyon. ak transparans.

Deklarasyon an rekonèt nesesite pou adrese risk ki asosye ak dènye modèl AI, patikilyèman nan domèn tankou sekirite òdinatè ak byoteknoloji, epi li sipòte pi gwo kolaborasyon entènasyonal pou asire itilizasyon an sekirite, etik ak benefisyeIA.

Michelle Donelan, sekretè syans ak teknoloji Grann Bretay, te di ke direktiv ki fèk pibliye yo "pral mete cybersecurity nan kè devlopmanentèlijans atifisyèl” depi kòmansman jiska deplwaman.

Reyaksyon sou direktiv AI sa yo soti nan endistri a cybersecurity

Piblikasyon direktiv yo souentèlijans atifisyèl te akeyi pa ekspè ak analis cybersecurity.

Toby Lewis, chèf mondyal analiz menas nan Darktrace, gen defifini gid "yon pwojè akeyi" pou sistèm yo entèlijans atifisyèl san danje epi serye.

Kòmantè pa imel, Lewis te di: "Mwen kontan wè ke direktiv yo mete aksan sou bezwen an entèlijans atifisyèl pwoteje done yo ak modèl yo kont atakè yo epi pou itilizatè AI yo aplike bon yo entèlijans atifisyèl pou travay ki dwat. Moun ki devlope AI ta dwe ale pi lwen epi bati konfyans nan mache itilizatè yo nan vwayaj la nan fason AI yo rive jwenn repons yo. Avèk konfyans ak konfyans, nou pral reyalize benefis AI pi vit ak pou plis moun."

Georges Anidjar, vis prezidan pou Sid Ewòp nan Informatica, te di ke piblikasyon direktiv yo make "yon etap enpòtan nan direksyon pou adrese defi sibèsekirite nannan nan domèn sa a k ap evolye rapidman."

BlogInnovazione.it