این سی ایس سی، سی آئی ایس اے اور دیگر بین الاقوامی ایجنسیوں کے ذریعہ شائع کردہ اے آئی سیکیورٹی پر نئی رہنمائی

سیکیور اے آئی سسٹمز تیار کرنے کے لیے گائیڈ لائنز ڈویلپرز کو اس بات کو یقینی بنانے میں مدد کرنے کے لیے لکھی گئی تھیں کہ نئے AI ماڈلز کے دل میں سیکیورٹی کو شامل کیا جائے۔

برطانیہ کے نیشنل سائبر سیکیورٹی سینٹر، یو ایس سائبر سیکیورٹی اینڈ انفراسٹرکچر سیکیورٹی ایجنسی اور دیگر 16 ممالک کی بین الاقوامی ایجنسیوں نے مصنوعی ذہانت کے نظام کی حفاظت سے متعلق نئی رہنمائی شائع کی ہے۔

Le مصنوعی ذہانت کے نظام کی محفوظ ترقی کے لیے رہنما اصول انہیں خاص طور پر AI سسٹمز کے ڈیزائن، ترقی، نفاذ اور آپریشن کے ذریعے ڈویلپرز کی رہنمائی کرنے کے لیے ڈیزائن کیا گیا ہے اور اس بات کو یقینی بنایا گیا ہے کہ سیکیورٹی ان کی زندگی بھر میں ایک اہم جزو رہے۔ تاہم، AI منصوبوں کے دیگر اسٹیک ہولڈرز کو بھی یہ معلومات کارآمد معلوم ہونی چاہئیں۔

یہ رہنما خطوط نومبر کے اوائل میں AI سیفٹی سمٹ میں مصنوعی ذہانت کی محفوظ اور ذمہ دارانہ ترقی کے لیے عالمی رہنماؤں کے عزم کے فوراً بعد جاری کیے گئے۔

خلاصہ میں: محفوظ AI نظام تیار کرنے کے لئے رہنما خطوط

سیف اے آئی سسٹمز تیار کرنے کے لیے رہنما خطوط اس بات کو یقینی بنانے کے لیے سفارشات مرتب کرتے ہیں کہ AI ماڈلز - چاہے شروع سے بنائے گئے ہوں یا موجودہ ماڈلز یا دیگر کمپنیوں کے APIs پر مبنی ہوں - "مقصد کے مطابق کام کریں، ضرورت پڑنے پر دستیاب ہوں، اور غیر مجاز فریقوں کو حساس ڈیٹا ظاہر کیے بغیر کام کریں۔ . "

اس کی کلید NCSC، CISA، نیشنل انسٹی ٹیوٹ آف اسٹینڈرڈز اینڈ ٹیکنالوجی اور موجودہ فریم ورک میں مختلف دیگر بین الاقوامی سائبر سیکیورٹی ایجنسیوں کے ذریعہ "ڈیفالٹ کے لحاظ سے محفوظ" نقطہ نظر ہے۔ ان فریم ورک کے اصولوں میں شامل ہیں:

• صارفین کے لیے حفاظتی نتائج کی ملکیت لیں۔
• بنیادی شفافیت اور احتساب کو اپنانا۔
• تنظیمی ڈھانچہ اور قیادت بنائیں تاکہ "ڈیزائن کے لحاظ سے حفاظت" ایک اولین کاروباری ترجیح ہو۔

این سی ایس سی کے مطابق، کل 21 ممالک کی کل 18 ایجنسیوں اور وزارتوں نے اس بات کی تصدیق کی ہے کہ وہ نئے رہنما خطوط کو منظور اور ان پر مہر لگا دیں گے۔ اس میں ریاستہائے متحدہ میں نیشنل سیکیورٹی ایجنسی اور فیڈرل بیورو آف انویسٹی گیشنز کے ساتھ ساتھ کینیڈا کا سینٹر فار سائبر سیکیورٹی، فرانسیسی سائبر سیکیورٹی ایجنسی، فیڈرل آفس فار سائبر سیکیورٹی جرمنی، سنگاپور شامل ہیں۔ سائبر سیکیورٹی ایجنسی اور جاپان نیشنل انڈینسڈ سینٹر۔ سائبر سیکیورٹی کی تیاری اور حکمت عملی۔

NCSC کے چیف ایگزیکٹو لنڈی کیمرون نے کہا ایک پریس ریلیز : "ہم جانتے ہیں کہ مصنوعی ذہانت غیرمعمولی رفتار سے ترقی کر رہی ہے اور اس رفتار کو برقرار رکھنے کے لیے حکومتوں اور صنعت کے درمیان مربوط بین الاقوامی کارروائی کی ضرورت ہے۔ "

اے آئی ڈیولپمنٹ لائف سائیکل کے چار اہم مراحل کو محفوظ بنائیں

AI سسٹمز کی محفوظ نشوونما کے لیے رہنما خطوط چار حصوں میں بنائے گئے ہیں، ہر ایک AI نظام کے ترقیاتی لائف سائیکل کے مختلف مراحل سے مطابقت رکھتا ہے: محفوظ ڈیزائن، محفوظ ترقی، محفوظ نفاذ، اور محفوظ آپریشن اور دیکھ بھال۔

• محفوظ ڈیزائن اے آئی سسٹم ڈویلپمنٹ لائف سائیکل کے ڈیزائن مرحلے کے لیے مخصوص رہنمائی پیش کرتا ہے۔ یہ خطرات کو پہچاننے اور خطرے کی ماڈلنگ کرنے کی اہمیت پر زور دیتا ہے، نیز سسٹمز اور ماڈلز کو ڈیزائن کرتے وقت مختلف موضوعات اور تجارتی امور پر غور کرتا ہے۔
• محفوظ ترقی اے آئی سسٹم لائف سائیکل کے ترقیاتی مرحلے کا احاطہ کرتا ہے۔ سفارشات میں سپلائی چین سیکیورٹی کو یقینی بنانا، مکمل دستاویزات کو برقرار رکھنا، اور وسائل اور تکنیکی قرضوں کا مؤثر طریقے سے انتظام کرنا شامل ہے۔
• محفوظ نفاذ AI سسٹمز کے نفاذ کے مرحلے سے خطاب کرتا ہے۔ اس معاملے میں رہنما خطوط بنیادی ڈھانچے اور ماڈلز کو سمجھوتوں، خطرات یا نقصانات سے بچانے سے متعلق ہیں، defiواقعہ کے نظم و نسق اور ذمہ دارانہ رہائی کے اصولوں کو اپنانے کے طریقہ کار کا تعین۔
• محفوظ آپریشن اور دیکھ بھال مصنوعی ذہانت کے ماڈلز کی تعیناتی کے بعد آپریشن اور دیکھ بھال کے مرحلے کے اشارے پر مشتمل ہے۔ اس میں مؤثر لاگنگ اور نگرانی، اپ ڈیٹس کا انتظام اور ذمہ دارانہ معلومات کا اشتراک جیسے پہلوؤں کا احاطہ کیا گیا ہے۔

تمام AI سسٹمز کے لیے رہنما خطوط

رہنما خطوط ہر قسم کے AI سسٹمز پر لاگو ہوتے ہیں نہ کہ صرف "فرنٹیئر" ماڈلز پر جن پر 1 اور 2 نومبر 2023 کو برطانیہ میں منعقدہ AI سیفٹی سمٹ میں بڑے پیمانے پر تبادلہ خیال کیا گیا تھا۔ اور AI کے ارد گرد، بشمول ڈویلپرز، ڈیٹا سائنسدان، مینیجرز، فیصلہ ساز، اور دیگر AI "خطرے کے مالکان"۔

"ہم نے بنیادی طور پر گائیڈ لائنز کا مقصد AI سسٹم وینڈرز کے لیے بنایا جو کسی تنظیم کے زیر اہتمام ماڈلز استعمال کرتے ہیں (یا بیرونی APIs کا استعمال کرتے ہیں)، لیکن ہم تمام دلچسپی رکھنے والے فریقین کی حوصلہ افزائی کرتے ہیں کہ وہ ان رہنما خطوط کو پڑھیں تاکہ ان کو باخبر ڈیزائن کے فیصلے، ترقی، عمل درآمد اور ان کے آپریشن میں مدد ملے۔ مصنوعی ذہانت کے نظام" انہوں نے کہا NCSC

اے آئی سیفٹی سمٹ کے نتائج

انگلینڈ کے بکنگھم شائر میں بلیچلے پارک کے تاریخی مقام پر منعقدہ اے آئی سیفٹی سمٹ کے دوران 28 ممالک کے نمائندوں نے دستخط کیے AI سیفٹی پر بلیچلے کا بیان ، جو نظاموں کو ڈیزائن اور نافذ کرنے کی اہمیت کو اجاگر کرتا ہے۔ مصنوعی ذہانت محفوظ طریقے سے اور ذمہ داری کے ساتھ، تعاون پر زور دینے کے ساتھ۔ اور شفافیت.

بیان میں جدید ترین AI ماڈلز سے وابستہ خطرات سے نمٹنے کی ضرورت کو تسلیم کیا گیا ہے، خاص طور پر ایسے علاقوں میں آئی ٹی سیکیورٹی اور بایوٹیکنالوجی کے محفوظ، اخلاقی اور فائدہ مند استعمال کو یقینی بنانے کے لیے زیادہ سے زیادہ بین الاقوامی تعاون کی حمایت کرتا ہے۔IA.

برطانیہ کی سائنس اور ٹیکنالوجی سکریٹری مشیل ڈونیلن نے کہا کہ نئی شائع شدہ رہنما خطوط "سائبر سیکیورٹی کو ترقی کے مرکز میں رکھیں گی۔مصنوعی ذہانتشروع سے تعیناتی تک۔

سائبرسیکیوریٹی انڈسٹری کی جانب سے ان AI رہنما خطوط پر ردعمل

پر رہنما خطوط کی اشاعتمصنوعی ذہانت ماہرین اور تجزیہ کاروں نے اس کا خیرمقدم کیا ہے۔ سائبر سیکورٹی.

ڈارکٹریس میں خطرے کے تجزیہ کے عالمی سربراہ ٹوبی لیوس نے کہا ہے۔ defiسسٹمز کے لیے گائیڈ "ایک خوش آئند پروجیکٹ" کو ختم کیا۔ مصنوعی ذہانت محفوظ اور قابل اعتماد.

ای میل کے ذریعے تبصرہ کرتے ہوئے، لیوس نے کہا: "مجھے یہ دیکھ کر خوشی ہوئی کہ رہنما خطوط اس کی ضرورت کو اجاگر کرتے ہیں۔ مصنوعی ذہانت حملہ آوروں سے اپنے ڈیٹا اور ماڈلز کی حفاظت کریں اور یہ کہ AI صارفین صحیح کو لاگو کریں۔ انٹیلی جنس مصنوعی صحیح کام کے لیے۔ AI تیار کرنے والوں کو مزید آگے بڑھنا چاہیے اور صارفین کو اس سفر میں لے کر اعتماد پیدا کرنا چاہیے کہ ان کا AI جوابات تک کیسے پہنچتا ہے۔ اعتماد اور بھروسے کے ساتھ، ہم AI کے فوائد کو تیزی سے اور زیادہ لوگوں کے لیے محسوس کریں گے۔"

انفارمٹیکا میں جنوبی یورپ کے نائب صدر جارجز انیڈجر نے کہا کہ رہنما خطوط کی اشاعت "اس تیزی سے ترقی پذیر میدان میں موجود سائبر سیکیورٹی چیلنجوں سے نمٹنے کی طرف ایک اہم قدم ہے۔"

BlogInnovazione.it