Kev taw qhia tshiab ntawm AI kev ruaj ntseg luam tawm los ntawm NCSC, CISA thiab lwm lub koom haum thoob ntiaj teb

Cov Lus Qhia rau Kev Txhim Kho Kev Ruaj Ntseg AI Systems tau sau los pab cov neeg tsim khoom kom ntseeg tau tias kev ruaj ntseg tau tsim rau hauv plawv ntawm AI qauv tshiab.

Lub UK's National Cyber ​​​​Security Center, US Cybersecurity thiab Infrastructure Security Agency thiab cov koom haum thoob ntiaj teb los ntawm 16 lwm lub teb chaws tau tshaj tawm cov lus qhia tshiab txog kev ruaj ntseg ntawm cov tshuab txawj ntse.

Le cov lus qhia rau kev txhim kho kev nyab xeeb ntawm cov tshuab txawj ntse lawv tau tsim los qhia cov neeg tsim khoom tshwj xeeb los ntawm kev tsim, kev tsim kho, kev siv thiab kev ua haujlwm ntawm AI systems thiab xyuas kom meej tias kev ruaj ntseg tseem yog ib qho tseem ceeb hauv lawv lub neej. Txawm li cas los xij, lwm cov neeg koom nrog hauv AI tej yaam num yuav tsum nrhiav cov ntaub ntawv no pab tau.

Cov lus qhia no tau tshaj tawm sai sai tom qab cov thawj coj hauv ntiaj teb tau cog lus rau kev nyab xeeb thiab lub luag haujlwm ntawm kev txawj ntse ntawm AI Safey Summit thaum lub Kaum Ib Hlis.

Hauv cov ntsiab lus: cov lus qhia rau kev tsim kom muaj kev nyab xeeb AI systems

Cov Lus Qhia rau Kev Tsim Kho Kev Nyab Xeeb AI Systems tau teeb tsa cov lus pom zoo los xyuas kom meej tias AI qauv - txawm tias tsim los ntawm kos lossis raws li cov qauv uas twb muaj lawm lossis APIs los ntawm lwm lub tuam txhab - "ua haujlwm raws li xav tau, muaj nyob rau thaum xav tau, thiab ua haujlwm yam tsis tau nthuav tawm cov ntaub ntawv rhiab rau cov tog neeg tsis raug cai. . “

Qhov tseem ceeb ntawm qhov no yog "kev ruaj ntseg los ntawm lub neej ntawd" txoj hauv kev tau tawm tswv yim los ntawm NCSC, CISA, National Institute of Standards and Technology thiab ntau lwm lub koom haum thoob ntiaj teb cybersecurity hauv cov txheej txheem uas twb muaj lawm. Cov hauv paus ntsiab lus ntawm cov qauv no suav nrog:

• Ua tswv cuab ntawm cov txiaj ntsig kev nyab xeeb rau cov neeg siv khoom.
• Embracing radical transparency thiab accountability.
• Tsim cov qauv tsim thiab kev coj noj coj ua kom "kev nyab xeeb los ntawm kev tsim" yog qhov tseem ceeb tshaj plaws ntawm kev lag luam.

Raws li NCSC, tag nrho ntawm 21 lub koom haum thiab kev ua haujlwm los ntawm tag nrho ntawm 18 lub tebchaws tau lees paub tias lawv yuav pom zoo thiab koom nrog cov txheej txheem tshiab. Qhov no suav nrog Lub Chaw Haujlwm Saib Xyuas Kev Ruaj Ntseg Hauv Tebchaws thiab Tsoom Fwv Saib Xyuas Kev Tshawb Fawb Hauv Tebchaws Meskas, nrog rau Canadian Center for Cyber ​​​​Security, Fab Kis Cyber ​​​​Security Agency, Tsoom Fwv Teb Chaws Chaw Haujlwm Saib Xyuas Kev Nyab Xeeb ntawm Lub Tebchaws Yelemees, Singapore Cyber ​​​​Security Agency thiab Japan National Incident Center. Cybersecurity npaj thiab lub tswv yim.

Lindy Cameron, tus thawj coj ntawm NCSC, tau hais hauv ib daim ntawv tshaj tawm : "Peb paub tias kev txawj ntse txawj ntse tab tom txhim kho ntawm qhov zoo tshaj plaws thiab yuav tsum muaj kev sib koom tes thoob ntiaj teb, ntawm tsoomfwv thiab kev lag luam, txhawm rau ua kom nrawm. ”.

Ruaj ntseg plaub theem tseem ceeb ntawm AI kev loj hlob lifecycle

Cov txheej txheem rau kev txhim kho kev nyab xeeb ntawm AI systems tau tsim ua plaub ntu, txhua qhov sib txawv ntawm cov theem sib txawv ntawm kev txhim kho lub neej ntawm AI system: ruaj ntseg tsim, ruaj ntseg kev txhim kho, ruaj ntseg siv, thiab kev ruaj ntseg thiab kev txij nkawm.

• Tsim kev nyab xeeb muaj cov kev taw qhia tshwj xeeb rau theem tsim ntawm AI system kev loj hlob lub neej. Nws hais txog qhov tseem ceeb ntawm kev lees paub txog kev pheej hmoo thiab ua tus qauv tsim kev hem thawj, nrog rau kev txiav txim siab ntau yam ntsiab lus thiab kev lag luam tawm thaum tsim cov tshuab thiab cov qauv.
• Kev txhim kho nyab xeeb npog cov theem kev loj hlob ntawm AI system lub neej voj voog. Cov lus pom zoo suav nrog kev ua kom cov saw hlau ruaj ntseg, tswj cov ntaub ntawv kom zoo, thiab tswj cov peev txheej zoo thiab cov nuj nqis kev lag luam.
• Kev ruaj ntseg siv hais txog theem kev siv ntawm AI systems. Cov lus qhia nyob rau hauv cov ntaub ntawv no txhawj xeeb txog kev tiv thaiv cov infrastructure thiab cov qauv los ntawm kev cuam tshuam, hem lossis poob, lub defiNition ntawm cov txheej txheem rau kev tswj qhov xwm txheej thiab kev coj ua lub luag haujlwm tso tawm cov hauv paus ntsiab lus.
• Kev nyab xeeb kev ua haujlwm thiab kev saib xyuas muaj cov lus qhia txog kev ua haujlwm thiab kev saib xyuas theem tom qab kev xa tawm ntawm cov qauv kev txawj ntse. Nws suav nrog ntau yam xws li kev txiav txim siab zoo thiab kev saib xyuas, tswj kev hloov kho tshiab thiab lub luag haujlwm sib qhia cov ntaub ntawv.

Cov lus qhia rau txhua lub tshuab AI

Cov lus qhia siv tau rau txhua yam ntawm AI systems thiab tsis yog cov qauv "frontier" uas tau tham txog ntau yam ntawm AI Safety Summit hosted hauv UK thaum 1 thiab 2 Kaum Ib Hlis 2023. Cov lus qhia Lawv kuj tseem siv tau rau txhua tus kws tshaj lij ua haujlwm hauv thiab nyob ib ncig ntawm AI, suav nrog cov tsim tawm, cov kws tshawb fawb cov ntaub ntawv, cov thawj coj, cov neeg txiav txim siab, thiab lwm yam AI "tus tswv pheej hmoo."

"Peb tsom cov lus qhia feem ntau ntawm cov neeg muag khoom AI uas siv cov qauv tsim los ntawm ib lub koom haum (lossis siv cov APIs sab nraud), tab sis peb txhawb kom txhua tus neeg txaus siab ... nyeem cov lus qhia no los pab lawv txiav txim siab tsim qauv, txhim kho, siv thiab ua haujlwm ntawm lawv. Artificial txawj ntse systems", nws tau tshaj tawm the NCUA.

Cov txiaj ntsig ntawm AI Kev Nyab Xeeb Summit

Thaum lub rooj sib tham AI Safety Summit, muaj nyob rau ntawm qhov chaw keeb kwm ntawm Bletchley Park hauv Buckinghamshire, England, cov neeg sawv cev los ntawm 28 lub teb chaws tau kos npe rau Bletchley Cov Lus Qhia ntawm AI Kev Nyab Xeeb , uas qhia txog qhov tseem ceeb ntawm kev tsim thiab kev siv tshuab txoj kev ntse muaj kev nyab xeeb thiab muaj lub luag haujlwm, nrog rau qhov tseem ceeb ntawm kev sib koom tes. thiab pob tshab.

Daim ntawv tshaj tawm lees paub qhov xav tau los daws cov kev pheej hmoo cuam tshuam nrog cov qauv AI txiav, tshwj xeeb hauv thaj chaw xws li IT kev ruaj ntseg thiab biotechnology, thiab txhawb kev sib koom tes thoob ntiaj teb kom muaj kev nyab xeeb, kev coj ncaj ncees thiab siv tau zooIA.

Michelle Donelan, Britain tus kws tshawb fawb thiab thev naus laus zis, tau hais tias cov lus qhia tshiab tshaj tawm "yuav ua rau kev ruaj ntseg cybersecurity nyob rau hauv lub plawv ntawm kev txhim kho ntawmtxoj kev ntse"los ntawm kev pib mus rau kev xa tawm.

Cov lus teb rau cov lus qhia AI no los ntawm kev lag luam cybersecurity

Kev tshaj tawm cov lus qhia ntawmtxoj kev ntse tau txais tos los ntawm cov kws tshaj lij thiab cov kws tshuaj ntsuam xyuas cybersecurity.

Toby Lewis, tus thawj coj thoob ntiaj teb ntawm kev tsom xam kev hem thawj ntawm Darktrace, muaj defiua tiav cov lus qhia "kev txais tos qhov project" rau cov tshuab txoj kev ntse nyab xeeb thiab txhim khu kev qha.

Kev tawm tswv yim los ntawm email, Lewis tau hais tias: "Kuv zoo siab pom tias cov txheej txheem qhia txog qhov xav tau txoj kev ntse tiv thaiv lawv cov ntaub ntawv thiab cov qauv los ntawm cov neeg tawm tsam thiab cov neeg siv AI siv qhov raug txawj ntse dag rau txoj haujlwm zoo. Cov tsim AI yuav tsum mus ntxiv thiab tsim kev ntseeg siab los ntawm cov neeg siv taug kev los ntawm kev taug kev ntawm lawv cov AI mus txog cov lus teb. Nrog kev ntseeg siab thiab kev ntseeg siab, peb yuav paub txog cov txiaj ntsig ntawm AI sai dua thiab rau ntau tus neeg. "

Georges Anidjar, tus lwm thawj coj ntawm Tebchaws Europe yav qab teb ntawm Informatica, tau hais tias kev tshaj tawm cov lus qhia yog "ib kauj ruam tseem ceeb los daws cov teeb meem cybersecurity uas muaj nyob rau hauv qhov kev hloov pauv sai sai no."

BlogInnovazione.it