NCSC, CISA və digər beynəlxalq agentliklər tərəfindən nəşr olunan AI təhlükəsizliyi üzrə yeni təlimat

Təhlükəsiz Süni İntellekt Sistemlərinin İnkişafına dair Təlimatlar tərtibatçılara təhlükəsizliyin yeni AI modellərinin ürəyinə daxil olmasını təmin etmək üçün yazılmışdır.

Böyük Britaniyanın Milli Kibertəhlükəsizlik Mərkəzi, ABŞ Kibertəhlükəsizlik və İnfrastruktur Təhlükəsizliyi Agentliyi və digər 16 ölkənin beynəlxalq agentlikləri süni intellekt sistemlərinin təhlükəsizliyinə dair yeni təlimat dərc ediblər.

Le süni intellekt sistemlərinin təhlükəsiz inkişafı üçün təlimatlar onlar xüsusi olaraq süni intellekt sistemlərinin dizaynı, inkişafı, tətbiqi və istismarı ilə tərtibatçıları istiqamətləndirmək və təhlükəsizliyin onların həyat dövrü boyunca mühüm komponent olaraq qalmasını təmin etmək üçün nəzərdə tutulub. Bununla belə, AI layihələrindəki digər maraqlı tərəflər də bu məlumatı faydalı hesab etməlidirlər.

Bu təlimatlar dünya liderlərinin noyabrın əvvəlində keçirilən AI Təhlükəsizlik Sammitində süni intellektin təhlükəsiz və məsuliyyətli inkişafı ilə bağlı öhdəlik götürdükdən dərhal sonra yayımlandı.

Xülasə: təhlükəsiz AI sistemlərinin inkişafı üçün təlimatlar

Təhlükəsiz Süni İntellekt Sistemlərinin İnkişafına dair Təlimatlarda süni intellekt modellərinin - istər sıfırdan, istərsə də mövcud modellər və ya digər şirkətlərin API-lərinə əsaslanaraq - nəzərdə tutulduğu kimi işləməsini, lazım olduqda əlçatan olmasını və icazəsiz şəxslərə həssas məlumatları açıqlamadan işləməsini təmin etmək üçün tövsiyələr verilir. . "

Bunun açarı NCSC, CISA, Milli Standartlar və Texnologiya İnstitutu və mövcud çərçivələrdə müxtəlif beynəlxalq kibertəhlükəsizlik agentlikləri tərəfindən müdafiə olunan “defolt olaraq təhlükəsiz” yanaşmadır. Bu çərçivələrin prinsiplərinə aşağıdakılar daxildir:

• Müştərilər üçün təhlükəsizlik nəticələrinə sahib olun.
• Radikal şəffaflığın və hesabatlılığın tətbiqi.
• Təşkilati strukturu və rəhbərliyi elə qurun ki, “dizayn üzrə təhlükəsizlik” biznesin əsas prioriteti olsun.

NCSC-nin məlumatına görə, ümumilikdə 21 ölkədən ümumilikdə 18 agentlik və nazirlik yeni təlimatları təsdiqləyəcəklərini və birgə möhürləyəcəklərini təsdiqləyiblər. Buraya ABŞ-dakı Milli Təhlükəsizlik Agentliyi və Federal Təhqiqatlar Bürosu, həmçinin Kanada Kibertəhlükəsizlik Mərkəzi, Fransa Kibertəhlükəsizlik Agentliyi, Almaniyanın Kibertəhlükəsizlik üzrə Federal İdarəsi, Sinqapur daxildir. Kiber Təhlükəsizlik Agentliyi və Yaponiya Milli İnsident Mərkəzi. Kibertəhlükəsizliyə hazırlıq və strategiya.

Bu barədə NCSC-nin baş icraçı direktoru Lindi Kemeron bildirib press-reliz : “Biz bilirik ki, süni intellekt fenomenal sürətlə inkişaf edir və bununla ayaqlaşmaq üçün hökumətlər və sənaye arasında razılaşdırılmış beynəlxalq fəaliyyət lazımdır. ”.

AI inkişaf dövrünün dörd əsas mərhələsini təmin edin

Süni intellekt sistemlərinin təhlükəsiz inkişafı üçün təlimatlar dörd bölmədə strukturlaşdırılmışdır, bunların hər biri AI sisteminin inkişaf dövrünün müxtəlif mərhələlərinə uyğundur: təhlükəsiz dizayn, təhlükəsiz inkişaf, təhlükəsiz həyata keçirmə, təhlükəsiz istismar və texniki xidmət.

• Təhlükəsiz dizayn AI sisteminin inkişaf dövrünün dizayn mərhələsi üçün xüsusi təlimat təklif edir. O, sistem və modellərin layihələndirilməsi zamanı risklərin tanınmasının və təhdidlərin modelləşdirilməsinin aparılmasının, həmçinin müxtəlif mövzuların və mübadilələrin nəzərə alınmasının vacibliyini vurğulayır.
• Təhlükəsiz inkişaf AI sisteminin həyat dövrünün inkişaf mərhələsini əhatə edir. Tövsiyələrə təchizat zəncirinin təhlükəsizliyinin təmin edilməsi, hərtərəfli sənədlərin saxlanması, resursların və texniki borcun effektiv idarə edilməsi daxildir.
• Təhlükəsiz həyata keçirilməsi AI sistemlərinin tətbiqi mərhələsinə müraciət edir. Bu halda təlimatlar infrastrukturun və modellərin kompromislərdən, təhdidlərdən və ya itkilərdən qorunmasına aiddir. defiinsidentlərin idarə edilməsi üçün proseslərin yaradılması və məsuliyyətli buraxılış prinsiplərinin qəbulu.
• Təhlükəsiz istismar və texniki xidmət süni intellekt modellərinin tətbiqindən sonra istismar və texniki xidmət mərhələsinə dair göstərişləri ehtiva edir. O, effektiv giriş və monitorinq, yeniləmələrin idarə edilməsi və məsuliyyətli məlumat mübadiləsi kimi aspektləri əhatə edir.

Bütün AI sistemləri üçün təlimatlar

Təlimatlar 1 və 2 noyabr 2023-cü il tarixlərində Böyük Britaniyada keçirilən AI Təhlükəsizlik Sammitində geniş müzakirə edilən “sərhəd” modellərə deyil, bütün növ süni intellekt sistemlərinə şamil edilir. və AI ətrafında, o cümlədən tərtibatçılar, məlumat alimləri, menecerlər, qərar qəbul edənlər və digər AI “risk sahibləri”.

“Biz təlimatları ilk növbədə təşkilat tərəfindən ev sahibliyi edən modellərdən istifadə edən (və ya xarici API-lərdən istifadə edən) AI sistemi təchizatçılarına yönəlmişik, lakin biz bütün maraqlı tərəfləri onlara məlumatlı dizayn qərarları qəbul etmək, dizayn qərarlarını hazırlamaq, həyata keçirmək və işləməkdə kömək etmək üçün bu təlimatları oxumağa dəvət edirik. süni intellekt sistemləri” deyə danışdı NCSC.

AI Təhlükəsizlik Sammitinin nəticələri

İngiltərənin Bukingemşir şəhərindəki Bletchley Parkın tarixi yerində keçirilən süni intellekt təhlükəsizliyi sammiti zamanı 28 ölkədən nümayəndələr Bletçlinin süni intellekt təhlükəsizliyi haqqında bəyanatı sistemlərin layihələndirilməsi və tətbiqinin vacibliyini vurğulayır süni intellekt əməkdaşlığa vurğu ilə təhlükəsiz və məsuliyyətli şəkildə. və şəffaflıq.

Bəyanatda qabaqcıl süni intellekt modelləri ilə bağlı risklərin, xüsusən də kimi sahələrdə həll edilməsinin zəruriliyi qəbul edilir. İT təhlükəsizliyi və biotexnologiyanı dəstəkləyir və təhlükəsiz, etik və faydalı istifadəni təmin etmək üçün daha geniş beynəlxalq əməkdaşlığı dəstəkləyir.IA.

Böyük Britaniyanın elm və texnologiya katibi Mişel Donelan bildirib ki, yeni nəşr olunan təlimatlar “kibertəhlükəsizliyi kibertəhlükəsizliyin inkişafının mərkəzinə qoyacaq.süni intellekt” başlanğıcından tətbiqinə qədər.

Kibertəhlükəsizlik sənayesindən bu AI təlimatlarına reaksiyalar

haqqında təlimatların nəşrisüni intellekt ekspertlər və analitiklər tərəfindən müsbət qarşılanıb kibertəhlükəsizlik.

Toby Lewis, Darktrace-in qlobal təhlükə təhlili rəhbəri defisistemlər üçün "xoş gəldin layihə" bələdçisini tamamladı süni intellekt təhlükəsiz və etibarlı.

E-poçt vasitəsilə şərh edən Lewis dedi: "Təhsillərin ehtiyacı vurğuladığını görməkdən məmnunam. süni intellekt məlumatlarını və modellərini təcavüzkarlardan qorumaq və AI istifadəçilərinin doğru olanları tətbiq etməsi kəşfiyyat süni düzgün tapşırıq üçün. Süni intellekt inkişaf etdirənlər daha da irəli getməli və istifadəçiləri süni intellektinin cavablara necə çatdığına dair səyahətdə gəzdirərək inam yaratmalıdırlar. İnam və inamla biz süni intellektin faydalarını daha tez və daha çox insan üçün dərk edəcəyik”.

Informatica-nın Cənubi Avropa üzrə vitse-prezidenti Georges Anidjar bildirib ki, təlimatların dərci “bu sürətlə inkişaf edən sahəyə xas olan kibertəhlükəsizlik problemlərinin həlli istiqamətində mühüm addımdır”.

BlogInnovazione.it