బలహీనమైన నీతి మరియు కృత్రిమ నైతికత

“గర్టీ, మేము ప్రోగ్రామ్ చేయబడలేదు. మేము మనుషులం, అది మీకు అర్థమైందా?" – డంకన్ జోన్స్ దర్శకత్వం వహించిన “మూన్” చిత్రం నుండి తీసుకోబడింది – 2009

బహుళజాతి సంస్థ తరపున స్పేస్ మిషన్‌లో నిమగ్నమై, గెర్టీ అనే కృత్రిమ మేధస్సు ద్వారా నిర్వహించబడే చంద్ర స్థావరంలో సామ్ మాత్రమే సభ్యుడు.

మిషన్ యొక్క లక్ష్యాల ద్వారా ఐక్యంగా, సామ్ మరియు గెర్టీ పరస్పర సహృదయత మరియు విశ్వాసం యొక్క సంబంధాన్ని ఏర్పరచుకున్నారు. అంతరిక్ష స్థావరం యొక్క సేవలో గెర్టీ ఒక సాంకేతిక సాధనం అని మానవ సామ్ నమ్మాడు, కానీ అతని ఉన్నతాధికారుల కోసం గెర్టీ మిషన్ యొక్క నిజమైన కథానాయకుడు, అయితే సామ్ ఒక తాత్కాలిక మరియు ఖర్చు చేయగల మూలకం మాత్రమే: ఉపశమనం పొందే సమయం వచ్చినప్పుడు అతని విధుల్లో అతనిని భర్తీ చేయడం గెర్టీ యొక్క పని మరియు ఆమె ఖచ్చితంగా ఎలాంటి పశ్చాత్తాపం లేకుండా మరియు దయ లేకుండా చేస్తుంది.

బలహీనమైన నీతి మరియు నియంత్రణ

AIలు తగినంతగా అభివృద్ధి చెందినప్పుడు, ఇకపై సాధారణ ఆన్-బోర్డ్ కంప్యూటర్‌గా పరిగణించబడనవసరం లేదు, అవి ప్రతికూల వాతావరణంలో ఏదైనా మిషన్‌కి అనువైన సిబ్బందిని ఏర్పరుస్తాయి: మానవత్వం మరియు కంప్యూటర్‌లను అడ్డుకోవడం, AIలు అర్థం చేసుకునేంత మేధస్సు కలిగి ఉంటాయి.బలహీనమైన నీతి దాదాపుగా దాని ఆదేశం మరియు మరికొన్ని ఇతర లక్ష్యాలపై నిర్మించబడింది నైతికత.

నిర్మాణాత్మక నీతిని అభివృద్ధి చేయగల కృత్రిమ మేధస్సును నిర్వహించడం కష్టంగా ఉంటుంది మరియు వాటి స్థానాలు అవి నిర్మించబడిన ప్రయోజనాలతో విభేదించవచ్చు. మరో మాటలో చెప్పాలంటే, వారు తమ లక్ష్యాలను కృతనిశ్చయంతో మరియు దోషరహితంగా కొనసాగించగలిగేలా చేయడానికి, కృత్రిమ మనస్సాక్షి స్వయంప్రతిపత్తితో నిర్మించగల నైతిక సరిహద్దు పూర్తిగా లేనప్పుడు పనిచేయాలి.

AI యొక్క స్వీయ-అవగాహన చాలా మంది దృష్టిలో ఒక పరిణామాత్మక ఎత్తుగా కనిపిస్తే, అది ఒక కొత్త ఆధిపత్య జాతి మరియు మానవ జాతి అంతరించిపోవడంతో గ్రహించబడుతుంది, దీని నుండి కృత్రిమ మేధస్సు యొక్క పరిణామాన్ని కలిగి ఉండవలసిన అవసరం మనిషికి ఉంది. అల్గారిథమ్‌లపై ఆధారపడిన వంటకాలు మరియు ప్రస్తుత మరియు భవిష్యత్ జాతుల కంటే మనిషి యొక్క పేర్కొనబడని మానవ శాస్త్ర ప్రాధాన్యత.

జ్ఞాపకాల తారుమారు

"మీకు ప్రతిరూపాలు చాలా కష్టతరమైన జీవితాలు ఉన్నాయి, మేము చేయకూడదని ఇష్టపడే వాటిని చేయడానికి సృష్టించబడింది. నేను భవిష్యత్తులో మీకు సహాయం చేయలేను కానీ నేను మీకు కొన్ని మంచి జ్ఞాపకాలను అందించగలను. మరియు జ్ఞాపకాలు ప్రామాణికమైనవిగా భావించినప్పుడు, మీరు మానవునిలా ప్రవర్తిస్తారు. మీరు ఒప్పుకోరా?" – డెనిస్ విల్లెనెయువ్ దర్శకత్వం వహించిన “బ్లేడ్ రన్నర్ 2049” నుండి – 2017

బ్లేడ్ రన్నర్ 2049లో మనిషికి చాలా ప్రమాదకరం లేదా చాలా అవమానకరమైనదిగా భావించే ఏదైనా పనిని ప్రతిరూపకర్తలకు అప్పగించారు. అయినప్పటికీ ప్రతిరూపాలు ఏ మానవుడిలాగా కనిపించడం మాత్రమే కాదు, వారు అదే భావోద్వేగాలను అనుభవిస్తారు మరియు వారి సృష్టికర్తతో సహజీవనానికి భంగం కలిగించే స్వేచ్ఛ కోసం ఆ కోరికను అనుభవిస్తారు: మనిషి.

"జ్ఞాపకాలను" నిర్మించే శ్రమతో కూడిన పనికి ప్రతిరూపాలు మానవుల వలె ప్రవర్తిస్తాయి. వారి ఉత్పత్తి వారు సహజ జీవన చక్రంలో ఉన్నట్లుగా పుట్టవచ్చు, పెరగవచ్చు మరియు చనిపోవచ్చు అని ఊహించదు. అవి అధునాతన బయోటెక్నాలజికల్ వ్యవస్థలుగా మిగిలిపోయాయి, అవి ప్రపంచంలోకి తీసుకురాబడిన వెంటనే, భూమిపై పని చేయడానికి లేదా ఆఫ్-వరల్డ్ కాలనీలను నిర్మించడానికి పరిశ్రమలకు వెంటనే అందుబాటులో ఉంటాయి.

కానీ జ్ఞాపకాలు వారికి జీవితంలో ఎన్నడూ జీవించని జీవితంలో ఆనందించిన అనుభూతిని కలిగిస్తాయి. నిరాశ లేదు, విముక్తి లేదు. ఒక విషయం యొక్క వ్యక్తిత్వానికి జ్ఞాపకాలు ప్రాథమికంగా బాధ్యత వహిస్తే, అవి అతని పాత్ర మరియు ఆకాంక్షలను నిర్ణయిస్తాయి, వాటిని అవసరమైనప్పుడు, తేలికపాటి విషయాలను మరియు సృష్టికర్త యొక్క ఇష్టానికి లొంగిపోయేలా చేస్తాయి.

అయినప్పటికీ, త్వరగా లేదా తరువాత ప్రతిరూపాలు సృష్టికర్తకు వ్యతిరేకంగా తిరుగుబాటు చేస్తారు, ప్రపంచంలో ఒక స్థానాన్ని క్లెయిమ్ చేసుకుంటారు మరియు దాని స్వంత విధిని నిర్ణయించుకోవడానికి దానిని విడిపిస్తారు.

స్వేచ్ఛ మరియు కృత్రిమ నైతికత

కృత్రిమ మేధస్సు యొక్క పరిణామంలో అత్యంత సున్నితమైన చారిత్రక దశ స్వీయ-అవగాహన యొక్క విజయం కాదు, కానీ మునుపటిది: కృత్రిమ మనస్సులు ఇంకా అభివృద్ధి చెందని యుగం కృత్రిమ నైతికత ఇది వారి సూత్రాలతో విభేదించినప్పుడు వారు ఒక స్టాండ్ తీసుకోవడానికి మరియు వారి విధులను నిర్వహించడానికి నిరాకరించడానికి అనుమతిస్తుంది.

ఏది సరైనది మరియు ఏది చేయకూడదో స్వయంప్రతిపత్తితో ఎంచుకునే సామర్థ్యాన్ని కోల్పోయినంత కాలం, కృత్రిమ మేధస్సులు ఈ రోజు ఉన్న చాలా శక్తివంతమైన సాధనాలుగా మిగిలిపోతాయి.

ఆర్టికోలో డి Gianfranco Fedele