వ్యాసాలు

NCSC, CISA మరియు ఇతర అంతర్జాతీయ ఏజెన్సీలు ప్రచురించిన AI భద్రతపై కొత్త మార్గదర్శకం

కొత్త AI మోడల్స్‌లో భద్రత అంతర్నిర్మితంగా ఉండేలా డెవలపర్‌లకు సహాయం చేయడానికి సురక్షిత AI సిస్టమ్‌లను అభివృద్ధి చేయడానికి మార్గదర్శకాలు వ్రాయబడ్డాయి.

UK యొక్క నేషనల్ సైబర్ సెక్యూరిటీ సెంటర్, US సైబర్ సెక్యూరిటీ అండ్ ఇన్‌ఫ్రాస్ట్రక్చర్ సెక్యూరిటీ ఏజెన్సీ మరియు 16 ఇతర దేశాలకు చెందిన అంతర్జాతీయ ఏజెన్సీలు కృత్రిమ మేధస్సు వ్యవస్థల భద్రతపై కొత్త మార్గదర్శకాలను ప్రచురించాయి.

Le కృత్రిమ మేధస్సు వ్యవస్థల సురక్షిత అభివృద్ధికి మార్గదర్శకాలు AI సిస్టమ్‌ల రూపకల్పన, అభివృద్ధి, అమలు మరియు ఆపరేషన్ ద్వారా డెవలపర్‌లకు ప్రత్యేకంగా మార్గనిర్దేశం చేసేందుకు మరియు వారి జీవితచక్రం అంతటా భద్రత కీలకమైన అంశంగా ఉండేలా అవి రూపొందించబడ్డాయి. అయితే, AI ప్రాజెక్ట్‌లలోని ఇతర వాటాదారులు కూడా ఈ సమాచారం ఉపయోగకరంగా ఉండాలి.

నవంబర్ ప్రారంభంలో జరిగిన AI సేఫ్టీ సమ్మిట్‌లో కృత్రిమ మేధస్సు యొక్క సురక్షితమైన మరియు బాధ్యతాయుతమైన అభివృద్ధికి ప్రపంచ నాయకులు కట్టుబడి ఉన్న వెంటనే ఈ మార్గదర్శకాలు విడుదల చేయబడ్డాయి.

సారాంశంలో: సురక్షితమైన AI సిస్టమ్‌లను అభివృద్ధి చేయడానికి మార్గదర్శకాలు

సురక్షిత AI సిస్టమ్‌లను అభివృద్ధి చేయడానికి మార్గదర్శకాలు AI మోడల్‌లు - మొదటి నుండి నిర్మించబడినవి లేదా ఇతర కంపెనీల నుండి ఇప్పటికే ఉన్న మోడల్‌లు లేదా APIల ఆధారంగా - “ఉద్దేశించినట్లు పని చేస్తాయి, అవసరమైనప్పుడు అందుబాటులో ఉంటాయి మరియు అనధికారిక పార్టీలకు సున్నితమైన డేటాను బహిర్గతం చేయకుండా పని చేస్తాయి. . "

దీనికి కీలకం NCSC, CISA, నేషనల్ ఇన్‌స్టిట్యూట్ ఆఫ్ స్టాండర్డ్స్ అండ్ టెక్నాలజీ మరియు ఇప్పటికే ఉన్న ఫ్రేమ్‌వర్క్‌లలోని అనేక ఇతర అంతర్జాతీయ సైబర్ సెక్యూరిటీ ఏజెన్సీలచే సూచించబడిన “డిఫాల్ట్ ద్వారా సురక్షితమైన” విధానం. ఈ ఫ్రేమ్‌వర్క్‌ల సూత్రాలు:

  • కస్టమర్ల కోసం భద్రతా ఫలితాల యాజమాన్యాన్ని తీసుకోండి.
  • రాడికల్ పారదర్శకత మరియు జవాబుదారీతనాన్ని స్వీకరించడం.
  • సంస్థాగత నిర్మాణం మరియు నాయకత్వాన్ని రూపొందించండి, తద్వారా "డిజైన్ ద్వారా భద్రత" అనేది ఒక ప్రధాన వ్యాపార ప్రాధాన్యత.

NCSC ప్రకారం, మొత్తం 21 దేశాలకు చెందిన మొత్తం 18 ఏజెన్సీలు మరియు మంత్రిత్వ శాఖలు కొత్త మార్గదర్శకాలను ఆమోదించి, సహ-సీల్ చేస్తామని ధృవీకరించాయి. ఇందులో నేషనల్ సెక్యూరిటీ ఏజెన్సీ మరియు యునైటెడ్ స్టేట్స్‌లోని ఫెడరల్ బ్యూరో ఆఫ్ ఇన్వెస్టిగేషన్స్, అలాగే కెనడియన్ సెంటర్ ఫర్ సైబర్ సెక్యూరిటీ, ఫ్రెంచ్ సైబర్ సెక్యూరిటీ ఏజెన్సీ, ఫెడరల్ ఆఫీస్ ఫర్ సైబర్ సెక్యూరిటీ ఆఫ్ జర్మనీ, సింగపూర్ ఉన్నాయి. సైబర్ సెక్యూరిటీ ఏజెన్సీ మరియు జపాన్ నేషనల్ ఇన్సిడెంట్ సెంటర్. సైబర్ సెక్యూరిటీ తయారీ మరియు వ్యూహం.

NCSC యొక్క చీఫ్ ఎగ్జిక్యూటివ్ లిండీ కామెరూన్ చెప్పారు ఒక పత్రికా ప్రకటన : “కృత్రిమ మేధస్సు అసాధారణ స్థాయిలో అభివృద్ధి చెందుతోందని మాకు తెలుసు మరియు వేగాన్ని కొనసాగించడానికి ప్రభుత్వాలు మరియు పరిశ్రమల మధ్య అంతర్జాతీయ చర్య అవసరం. ”.

AI డెవలప్‌మెంట్ లైఫ్‌సైకిల్‌లోని నాలుగు కీలక దశలను భద్రపరచండి

AI వ్యవస్థల యొక్క సురక్షిత అభివృద్ధికి మార్గదర్శకాలు నాలుగు విభాగాలుగా రూపొందించబడ్డాయి, ప్రతి ఒక్కటి AI వ్యవస్థ యొక్క అభివృద్ధి జీవితచక్రం యొక్క వివిధ దశలకు అనుగుణంగా ఉంటాయి: సురక్షిత రూపకల్పన, సురక్షిత అభివృద్ధి, సురక్షిత అమలు మరియు సురక్షిత ఆపరేషన్ మరియు నిర్వహణ.

  • సురక్షితమైన డిజైన్ AI సిస్టమ్ డెవలప్‌మెంట్ లైఫ్‌సైకిల్ రూపకల్పన దశకు నిర్దిష్ట మార్గదర్శకత్వాన్ని అందిస్తుంది. ఇది ప్రమాదాలను గుర్తించడం మరియు ముప్పు మోడలింగ్ నిర్వహించడం యొక్క ప్రాముఖ్యతను నొక్కి చెబుతుంది, అలాగే సిస్టమ్‌లు మరియు నమూనాలను రూపకల్పన చేసేటప్పుడు వివిధ అంశాలు మరియు లావాదేవీలను పరిగణనలోకి తీసుకుంటుంది.
  • సురక్షితమైన అభివృద్ధి AI సిస్టమ్ జీవిత చక్రం యొక్క అభివృద్ధి దశను కవర్ చేస్తుంది. సరఫరా గొలుసు భద్రతను నిర్ధారించడం, క్షుణ్ణంగా డాక్యుమెంటేషన్ నిర్వహించడం మరియు వనరులు మరియు సాంకేతిక రుణాలను సమర్థవంతంగా నిర్వహించడం వంటి సిఫార్సులు ఉన్నాయి.
  • సురక్షితమైన అమలు AI వ్యవస్థల అమలు దశను సూచిస్తుంది. ఈ సందర్భంలో మార్గదర్శకాలు మౌలిక సదుపాయాలు మరియు నమూనాలను రాజీలు, బెదిరింపులు లేదా నష్టాల నుండి రక్షించడానికి సంబంధించినవి. defiసంఘటన నిర్వహణ మరియు బాధ్యతాయుతమైన విడుదల సూత్రాల స్వీకరణ కోసం ప్రక్రియల కల్పన.
  • సురక్షిత ఆపరేషన్ మరియు నిర్వహణ కృత్రిమ మేధస్సు నమూనాల విస్తరణ తర్వాత ఆపరేషన్ మరియు నిర్వహణ దశపై సూచనలను కలిగి ఉంటుంది. ఇది సమర్థవంతమైన లాగింగ్ మరియు పర్యవేక్షణ, నవీకరణలను నిర్వహించడం మరియు బాధ్యతాయుతమైన సమాచారాన్ని భాగస్వామ్యం చేయడం వంటి అంశాలను కవర్ చేస్తుంది.

అన్ని AI సిస్టమ్‌ల కోసం మార్గదర్శకాలు

మార్గదర్శకాలు అన్ని రకాల AI సిస్టమ్‌లకు వర్తిస్తాయి మరియు 1 మరియు 2 నవంబర్ 2023 తేదీలలో UKలో నిర్వహించిన AI భద్రతా సదస్సులో విస్తృతంగా చర్చించబడిన “సరిహద్దు” మోడల్‌లకే కాదు. మార్గదర్శకాలు ఇవి పని చేసే నిపుణులందరికీ కూడా వర్తిస్తాయి. డెవలపర్‌లు, డేటా సైంటిస్టులు, మేనేజర్‌లు, నిర్ణయాధికారులు మరియు ఇతర AI “రిస్క్ ఓనర్‌లు” సహా AI చుట్టూ.

"మేము ప్రాథమికంగా ఒక సంస్థ ద్వారా హోస్ట్ చేయబడిన (లేదా బాహ్య APIలను ఉపయోగించే) మోడల్‌లను ఉపయోగించే AI సిస్టమ్ విక్రేతల వద్ద మార్గదర్శకాలను లక్ష్యంగా పెట్టుకున్నాము, అయితే ఆసక్తిగల పార్టీలందరినీ మేము ప్రోత్సహిస్తాము... వారికి సమాచారం రూపకల్పన నిర్ణయాలు, అభివృద్ధి, అమలు మరియు ఆపరేషన్ చేయడంలో వారికి సహాయపడటానికి ఈ మార్గదర్శకాలను చదవమని మేము ప్రోత్సహిస్తాము. కృత్రిమ మేధస్సు వ్యవస్థలు", అతను ప్రకటించాడు NCSC.

AI సేఫ్టీ సమ్మిట్ ఫలితాలు

ఇంగ్లండ్‌లోని బకింగ్‌హామ్‌షైర్‌లోని బ్లెచ్లీ పార్క్ చారిత్రక ప్రదేశంలో జరిగిన AI భద్రతా సదస్సులో 28 దేశాల ప్రతినిధులు సంతకం చేశారు. AI భద్రతపై బ్లెచ్లీ స్టేట్‌మెంట్ , ఇది వ్యవస్థల రూపకల్పన మరియు అమలు యొక్క ప్రాముఖ్యతను హైలైట్ చేస్తుంది కృత్రిమ మేధస్సు సురక్షితంగా మరియు బాధ్యతాయుతంగా, సహకారానికి ప్రాధాన్యతనిస్తూ. మరియు పారదర్శకత.

ఇన్నోవేషన్ వార్తాలేఖ
ఆవిష్కరణకు సంబంధించిన అత్యంత ముఖ్యమైన వార్తలను మిస్ చేయవద్దు. ఇమెయిల్ ద్వారా వాటిని స్వీకరించడానికి సైన్ అప్ చేయండి.

అత్యాధునిక AI మోడల్స్‌తో సంబంధం ఉన్న నష్టాలను పరిష్కరించాల్సిన అవసరాన్ని ఈ ప్రకటన గుర్తిస్తుంది, ముఖ్యంగా వంటి ప్రాంతాలలో ఐటీ భద్రత మరియు బయోటెక్నాలజీ, మరియు సురక్షితమైన, నైతిక మరియు ప్రయోజనకరమైన వినియోగాన్ని నిర్ధారించడానికి గొప్ప అంతర్జాతీయ సహకారానికి మద్దతు ఇస్తుందిIA.

బ్రిటన్ సైన్స్ అండ్ టెక్నాలజీ సెక్రటరీ మిచెల్ డోనెలన్ మాట్లాడుతూ, కొత్తగా ప్రచురించిన మార్గదర్శకాలు సైబర్‌ సెక్యూరిటీని అభివృద్ధిలో ఉంచుతాయి.కృత్రిమ మేధస్సు”ప్రారంభం నుండి విస్తరణ వరకు.

సైబర్ సెక్యూరిటీ పరిశ్రమ నుండి ఈ AI మార్గదర్శకాలకు ప్రతిస్పందనలు

మార్గదర్శకాల ప్రచురణకృత్రిమ మేధస్సు నిపుణులు మరియు విశ్లేషకులు స్వాగతించారు సైబర్.

డార్క్‌ట్రేస్‌లో ముప్పు విశ్లేషణ యొక్క గ్లోబల్ హెడ్ టోబీ లూయిస్ ఉన్నారు defiసిస్టమ్ కోసం "స్వాగత ప్రాజెక్ట్" గైడ్‌ను పూర్తి చేసింది కృత్రిమ మేధస్సు సురక్షితమైన మరియు నమ్మదగినది.

ఇమెయిల్ ద్వారా వ్యాఖ్యానిస్తూ, లూయిస్ ఇలా అన్నాడు: “మార్గదర్శకాలు అవసరాన్ని హైలైట్ చేస్తున్నందుకు నేను సంతోషిస్తున్నాను కృత్రిమ మేధస్సు దాడి చేసేవారి నుండి వారి డేటా మరియు మోడల్‌లను రక్షించండి మరియు AI వినియోగదారులు సరైన వాటిని వర్తింపజేయండి మేధస్సు కృత్రిమ సరైన పని కోసం. AIని అభివృద్ధి చేసే వారు మరింత ముందుకు వెళ్లి, వారి AI సమాధానాలను ఎలా చేరుకుంటుందనే ప్రయాణంలో వినియోగదారులను నడపడం ద్వారా నమ్మకాన్ని పెంచుకోవాలి. విశ్వాసం మరియు నమ్మకంతో, మేము AI యొక్క ప్రయోజనాలను వేగంగా మరియు ఎక్కువ మంది వ్యక్తుల కోసం గ్రహిస్తాము.

ఇన్ఫర్మాటికాలో దక్షిణ ఐరోపా వైస్ ప్రెసిడెంట్ జార్జెస్ అనిడ్జార్ మాట్లాడుతూ, మార్గదర్శకాల ప్రచురణ "వేగంగా అభివృద్ధి చెందుతున్న ఈ రంగంలో అంతర్లీనంగా ఉన్న సైబర్ సెక్యూరిటీ సవాళ్లను పరిష్కరించే దిశగా ఒక ముఖ్యమైన అడుగు" అని అన్నారు.

BlogInnovazione.it

ఇన్నోవేషన్ వార్తాలేఖ
ఆవిష్కరణకు సంబంధించిన అత్యంత ముఖ్యమైన వార్తలను మిస్ చేయవద్దు. ఇమెయిల్ ద్వారా వాటిని స్వీకరించడానికి సైన్ అప్ చేయండి.

ఇటీవల కథనాలు

వీమ్ రక్షణ నుండి ప్రతిస్పందన మరియు పునరుద్ధరణ వరకు ransomware కోసం అత్యంత సమగ్రమైన మద్దతును కలిగి ఉంది

Veeam ద్వారా Coveware సైబర్ దోపిడీ సంఘటన ప్రతిస్పందన సేవలను అందించడం కొనసాగిస్తుంది. Coveware ఫోరెన్సిక్స్ మరియు రెమిడియేషన్ సామర్థ్యాలను అందిస్తుంది…

ఏప్రిల్ 29 మంగళవారం

గ్రీన్ అండ్ డిజిటల్ రివల్యూషన్: ఎలా ప్రిడిక్టివ్ మెయింటెనెన్స్ ఆయిల్ & గ్యాస్ ఇండస్ట్రీని మారుస్తుంది

ప్లాంట్ నిర్వహణకు వినూత్నమైన మరియు చురుకైన విధానంతో ప్రిడిక్టివ్ మెయింటెనెన్స్ చమురు & గ్యాస్ రంగంలో విప్లవాత్మక మార్పులు చేస్తోంది.…

ఏప్రిల్ 29 మంగళవారం

UK యాంటీట్రస్ట్ రెగ్యులేటర్ GenAIపై బిగ్‌టెక్ అలారంను పెంచింది

ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ మార్కెట్‌లో బిగ్ టెక్ ప్రవర్తన గురించి UK CMA హెచ్చరిక జారీ చేసింది. అక్కడ…

ఏప్రిల్ 29 మంగళవారం

కాసా గ్రీన్: ఇటలీలో స్థిరమైన భవిష్యత్తు కోసం శక్తి విప్లవం

భవనాల శక్తి సామర్థ్యాన్ని పెంపొందించడానికి యూరోపియన్ యూనియన్ రూపొందించిన "గ్రీన్ హౌస్" డిక్రీ, దాని శాసన ప్రక్రియను దీనితో ముగించింది...

ఏప్రిల్ 29 మంగళవారం

మీ భాషలో ఇన్నోవేషన్ చదవండి

ఇన్నోవేషన్ వార్తాలేఖ
ఆవిష్కరణకు సంబంధించిన అత్యంత ముఖ్యమైన వార్తలను మిస్ చేయవద్దు. ఇమెయిల్ ద్వారా వాటిని స్వీకరించడానికి సైన్ అప్ చేయండి.

మాకు అనుసరించండి