NCSC, CISA და სხვა საერთაშორისო სააგენტოების მიერ გამოქვეყნებული ახალი სახელმძღვანელო AI უსაფრთხოების შესახებ

უსაფრთხო AI სისტემების განვითარების სახელმძღვანელო დაიწერა, რათა დაეხმარონ დეველოპერებს, უზრუნველყონ, რომ უსაფრთხოება ჩაშენებული იყოს ხელოვნური ინტელექტის ახალი მოდელების გულში.

დიდი ბრიტანეთის კიბერუსაფრთხოების ეროვნულმა ცენტრმა, აშშ-ის კიბერუსაფრთხოების და ინფრასტრუქტურის უსაფრთხოების სააგენტომ და 16 სხვა ქვეყნის საერთაშორისო სააგენტოებმა გამოაქვეყნეს ახალი სახელმძღვანელო ხელოვნური ინტელექტის სისტემების უსაფრთხოების შესახებ.

Le სახელმძღვანელო ხელოვნური ინტელექტის სისტემების უსაფრთხო განვითარებისათვის ისინი შექმნილია იმისთვის, რომ დეველოპერებს კონკრეტულად წარმართონ AI სისტემების დიზაინის, განვითარების, დანერგვისა და ექსპლუატაციის გზით და უზრუნველყონ, რომ უსაფრთხოება რჩება კრიტიკულ კომპონენტად მთელი მათი ცხოვრების ციკლის განმავლობაში. თუმცა, AI პროექტების სხვა დაინტერესებულ მხარეებსაც ეს ინფორმაცია გამოადგებათ.

ეს გაიდლაინები მალევე გამოქვეყნდა მას შემდეგ, რაც მსოფლიო ლიდერებმა მიიღეს ვალდებულება ხელოვნური ინტელექტის უსაფრთხო და პასუხისმგებლობით განვითარებაზე AI უსაფრთხოების სამიტზე ნოემბრის დასაწყისში.

მოკლედ: ინსტრუქციები უსაფრთხო AI სისტემების შემუშავებისთვის

უსაფრთხო ხელოვნური ინტელექტის სისტემების შემუშავების სახელმძღვანელოში მოცემულია რეკომენდაციები იმის უზრუნველსაყოფად, რომ ხელოვნური ინტელექტის მოდელები - ნულიდან აშენებული თუ არსებულ მოდელებზე ან სხვა კომპანიების API-ებზე დაფუძნებული - „მუშაობენ ისე, როგორც დანიშნულებისამებრ, ხელმისაწვდომია საჭიროების შემთხვევაში და იმუშაონ სენსიტიური მონაცემების არაავტორიზებული მხარისთვის გამოვლენის გარეშე. . "

ამის გასაღები არის „ნაგულისხმევად უსაფრთხო“ მიდგომა, რომელსაც მხარს უჭერენ NCSC, CISA, სტანდარტებისა და ტექნოლოგიების ეროვნული ინსტიტუტი და კიბერუსაფრთხოების სხვა საერთაშორისო სააგენტოები არსებულ ჩარჩოებში. ამ ჩარჩოების პრინციპები მოიცავს:

• მიიღეთ საკუთრება მომხმარებლის უსაფრთხოების შედეგებზე.
• რადიკალურ გამჭვირვალობასა და ანგარიშვალდებულებას.
• შექმენით ორგანიზაციული სტრუქტურა და ლიდერობა ისე, რომ „უსაფრთხოება დიზაინის მიხედვით“ იყოს ბიზნესის მთავარი პრიორიტეტი.

NCSC-ის თანახმად, სულ 21 სააგენტომ და სამინისტრომ 18 ქვეყნიდან დაადასტურა, რომ დაამტკიცებს და დალუქავს ახალ გაიდლაინებს. ეს მოიცავს ეროვნული უსაფრთხოების სააგენტოს და გამოძიების ფედერალურ ბიუროს შეერთებულ შტატებში, ასევე კანადის კიბერუსაფრთხოების ცენტრს, საფრანგეთის კიბერუსაფრთხოების სააგენტოს, გერმანიის კიბერუსაფრთხოების ფედერალურ ოფისს, სინგაპურს. კიბერუსაფრთხოების სააგენტო და იაპონიის ინციდენტების ეროვნული ცენტრი. კიბერუსაფრთხოების მომზადება და სტრატეგია.

ამის შესახებ NCSC-ის აღმასრულებელმა დირექტორმა ლინდი კამერონმა განაცხადა პრესრელიზი : „ჩვენ ვიცით, რომ ხელოვნური ინტელექტი ფენომენალური ტემპით ვითარდება და ტემპის შესანარჩუნებლად საჭიროა შეთანხმებული საერთაშორისო ქმედება მთავრობებსა და ინდუსტრიას შორის. “.

დაიცავით ხელოვნური ინტელექტის განვითარების სასიცოცხლო ციკლის ოთხი ძირითადი ეტაპი

AI სისტემების უსაფრთხო განვითარების სახელმძღვანელო სტრუქტურირებულია ოთხ ნაწილად, თითოეული შეესაბამება AI სისტემის განვითარების სასიცოცხლო ციკლის სხვადასხვა ფაზებს: უსაფრთხო დიზაინი, უსაფრთხო განვითარება, უსაფრთხო განხორციელება და უსაფრთხო ექსპლუატაცია და შენარჩუნება.

• უსაფრთხო დიზაინი გთავაზობთ კონკრეტულ მითითებებს ხელოვნური ინტელექტის სისტემის განვითარების სასიცოცხლო ციკლის დიზაინის ეტაპისთვის. იგი ხაზს უსვამს რისკების ამოცნობისა და საფრთხის მოდელირების ჩატარების მნიშვნელობას, ასევე სისტემებისა და მოდელების შემუშავებისას სხვადასხვა თემებისა და ურთიერთგაგების გათვალისწინებას.
• უსაფრთხო განვითარება მოიცავს AI სისტემის სასიცოცხლო ციკლის განვითარების ფაზას. რეკომენდაციები მოიცავს მიწოდების ჯაჭვის უსაფრთხოების უზრუნველყოფას, საფუძვლიანი დოკუმენტაციის შენარჩუნებას და რესურსებისა და ტექნიკური დავალიანების ეფექტურად მართვას.
• უსაფრთხო განხორციელება ეხება ხელოვნური ინტელექტის სისტემების განხორციელების ფაზას. მითითებები ამ შემთხვევაში ეხება ინფრასტრუქტურისა და მოდელების დაცვას კომპრომისებისგან, საფრთხეებისგან ან დანაკარგებისგან. defiინციდენტების მართვის პროცესების დანერგვა და პასუხისმგებელი გათავისუფლების პრინციპების მიღება.
• უსაფრთხო ექსპლუატაცია და მოვლა შეიცავს მითითებებს ექსპლუატაციისა და ტექნიკური ფაზის შესახებ ხელოვნური ინტელექტის მოდელების განლაგების შემდეგ. ის მოიცავს ისეთ ასპექტებს, როგორებიცაა ეფექტიანი შესვლა და მონიტორინგი, განახლებების მართვა და პასუხისმგებელი ინფორმაციის გაზიარება.

სახელმძღვანელო ყველა AI სისტემისთვის

გაიდლაინები გამოიყენება ყველა ტიპის ხელოვნური ინტელექტის სისტემებზე და არა მხოლოდ „სასაზღვრო“ მოდელებზე, რომლებიც ფართოდ იქნა განხილული AI უსაფრთხოების სამიტზე, რომელიც მასპინძლობდა დიდ ბრიტანეთში 1 წლის 2 და 2023 ნოემბერს. და ხელოვნური ინტელექტის გარშემო, მათ შორის დეველოპერები, მონაცემთა მეცნიერები, მენეჯერები, გადაწყვეტილების მიმღებები და სხვა ხელოვნური ინტელექტის „რისკის მფლობელები“.

„ჩვენ მიმართეთ სახელმძღვანელო პრინციპებს, ძირითადად, ხელოვნური ინტელექტის სისტემის მომწოდებლებს, რომლებიც იყენებენ მოდელებს, რომლებიც მასპინძლობს ორგანიზაციას (ან იყენებენ გარე API-ებს), მაგრამ ჩვენ მოვუწოდებთ ყველა დაინტერესებულ მხარეს… წაიკითხონ ეს გაიდლაინები, რათა დაეხმარონ მათ მიიღონ ინფორმირებული დიზაინის გადაწყვეტილებები, შექმნან, დანერგონ და გამოიყენონ თავიანთი ხელოვნური ინტელექტის სისტემები”, განაცხადა NCSC.

AI უსაფრთხოების სამიტის შედეგები

AI უსაფრთხოების სამიტზე, რომელიც გაიმართა ბლეჩლის პარკის ისტორიულ ადგილას, ბუკინგემშირში, ინგლისი, 28 ქვეყნის წარმომადგენლებმა მოაწერეს ხელი ბლეჩლის განცხადება ხელოვნური ინტელექტის უსაფრთხოების შესახებ , რომელიც ხაზს უსვამს სისტემების დიზაინისა და დანერგვის მნიშვნელობას ხელოვნური ინტელექტი უსაფრთხოდ და პასუხისმგებლობით, თანამშრომლობაზე აქცენტით. და გამჭვირვალობა.

განცხადებაში აღიარებულია, რომ საჭიროა მოგვარდეს რისკები, რომლებიც დაკავშირებულია უახლესი ხელოვნური ინტელექტის მოდელებთან, განსაკუთრებით ისეთ სფეროებში, როგორიცაა IT უსაფრთხოება და ბიოტექნოლოგია და მხარს უჭერს უფრო დიდ საერთაშორისო თანამშრომლობას, რათა უზრუნველყოს უსაფრთხო, ეთიკური და მომგებიანი გამოყენებაIA.

მიშელ დონელანმა, ბრიტანეთის მეცნიერებისა და ტექნოლოგიების მდივანმა, თქვა, რომ ახლად გამოქვეყნებული გაიდლაინები „კიბერუსაფრთხოებას დააყენებს განვითარების ცენტრში.ხელოვნური ინტელექტი”დაწყებიდან განლაგებამდე.

რეაქციები კიბერუსაფრთხოების ინდუსტრიის AI სახელმძღვანელო მითითებებზე

გაიდლაინების გამოქვეყნებახელოვნური ინტელექტი მიესალმა ექსპერტებმა და ანალიტიკოსებმა კიბერ უსაფრთხოება.

ტობი ლუისი, Darktrace-ის საფრთხის ანალიზის გლობალური ხელმძღვანელი, აქვს defiდაასრულა სახელმძღვანელო "მისასალმებელი პროექტი" სისტემებისთვის ხელოვნური ინტელექტი უსაფრთხო და საიმედო.

ელექტრონული ფოსტით კომენტირებისას ლუისმა თქვა: ”მოხარული ვარ, რომ ვხედავ, რომ გაიდლაინები ხაზს უსვამს საჭიროებას ხელოვნური ინტელექტი დაიცვან თავიანთი მონაცემები და მოდელები თავდამსხმელებისგან და რომ AI მომხმარებლები გამოიყენონ სწორი დაზვერვის ხელოვნური სწორი ამოცანისთვის. ისინი, ვინც ავითარებენ AI-ს, უფრო შორს უნდა წავიდნენ და ნდობა დაამყარონ მომხმარებლების მოგზაურობის გზით, თუ როგორ აღწევს მათი AI პასუხებს. თავდაჯერებულობითა და ნდობით, ჩვენ უფრო სწრაფად და უფრო მეტი ადამიანისთვის გავაცნობიერებთ AI-ს სარგებელს.”

ჟორჟ ანიჯარმა, სამხრეთ ევროპის ვიცე-პრეზიდენტმა Informatica-ში, თქვა, რომ გაიდლაინების გამოქვეყნება წარმოადგენს „მნიშვნელოვან ნაბიჯს ამ სწრაფად განვითარებად სფეროში თანდაყოლილი კიბერუსაფრთხოების გამოწვევების გადასაჭრელად“.

BlogInnovazione.it