નબળી નૈતિકતા અને કૃત્રિમ નૈતિકતા

"ગેર્ટી, અમે પ્રોગ્રામ કરેલ નથી. અમે લોકો છીએ, શું તમે સમજો છો?" - ડંકન જોન્સ દ્વારા નિર્દેશિત મૂવી "મૂન" માંથી લેવામાં આવી છે - 2009

બહુરાષ્ટ્રીય કોર્પોરેશન વતી અવકાશ મિશનમાં રોકાયેલ, સેમ એ ગેર્ટી નામની કૃત્રિમ બુદ્ધિ દ્વારા સંચાલિત ચંદ્ર આધારનો એકમાત્ર સભ્ય છે.

મિશનના ઉદ્દેશ્યો દ્વારા સંયુક્ત, સેમ અને ગેર્ટીએ પરસ્પર સૌહાર્દ અને વિશ્વાસનો સંબંધ સ્થાપિત કર્યો છે. માનવ સેમને ખાતરી છે કે ગેર્ટી એ સ્પેસ બેઝની સેવામાં એક તકનીકી સાધન છે, પરંતુ તેના ઉપરી અધિકારીઓ માટે તે ગેર્ટી છે જે મિશનનો સાચો આગેવાન છે જ્યારે સેમ માત્ર એક ક્ષણિક અને ખર્ચવા યોગ્ય તત્વ છે: જ્યારે રાહતનો સમય આવે છે તેને તેની ફરજોમાંથી, તેને બદલવાનું ગેર્ટીનું કામ હશે અને તે ચોક્કસપણે તે કોઈપણ પસ્તાવો વિના અને કોઈપણ દયા વિના કરશે.

નબળી નીતિશાસ્ત્ર અને નિયંત્રણ

જ્યારે AI એ પર્યાપ્ત રીતે વિકસિત થાય છે કે તેને હવે એક સરળ ઓન-બોર્ડ કોમ્પ્યુટર તરીકે ગણવામાં આવતું નથી, ત્યારે તેઓ પ્રતિકૂળ વાતાવરણમાં કોઈપણ મિશન માટે આદર્શ ક્રૂની રચના કરશે: માનવતા અને કોમ્પ્યુટરને આગળ ધપાવતા, એઆઈ એ સમજવા માટે પૂરતા બુદ્ધિશાળી હશે.નબળી નૈતિકતા તેના આદેશ અને અન્ય કેટલાક હેતુઓ પર લગભગ વિશિષ્ટ રીતે બાંધવામાં આવ્યું છે નૈતિકતા.

સંરચિત નૈતિકતા વિકસાવવામાં સક્ષમ કૃત્રિમ બુદ્ધિમત્તાઓનું સંચાલન કરવું મુશ્કેલ હશે અને તેમની સ્થિતિઓ તે હેતુઓ સાથે વિરોધાભાસી થઈ શકે છે કે જેના માટે તેઓ બનાવવામાં આવ્યા હતા. બીજા શબ્દોમાં કહીએ તો, તેઓ તેમના ધ્યેયોને નિશ્ચય અને દોષરહિત રીતે આગળ ધપાવવા માટે સક્ષમ થવા માટે, તેઓએ કોઈપણ નૈતિક સીમાની સંપૂર્ણ ગેરહાજરીમાં કાર્ય કરવું જોઈએ, એક કૃત્રિમ અંતરાત્મા સ્વાયત્ત રીતે નિર્માણ કરી શકે છે.

જો AI ની સ્વ-જાગૃતિ ઘણા લોકોની નજરમાં ઉત્ક્રાંતિની છલાંગ તરીકે દેખાય છે જે નવી પ્રબળ પ્રજાતિની પુષ્ટિ અને માનવ જાતિના લુપ્તતા સાથે સાકાર થશે, તો આમાંથી માણસને કૃત્રિમ રીતે બુદ્ધિના ઉત્ક્રાંતિને સમાવવાની જરૂરિયાત પ્રાપ્ત થાય છે. એલ્ગોરિધમ્સ પર આધારિત વાનગીઓ અને વર્તમાનમાં પણ ભવિષ્યની પ્રજાતિઓ પર માણસની અનિશ્ચિત માનવશાસ્ત્રીય પ્રાધાન્યતા.

યાદોની હેરાફેરી

“તમારી પ્રતિકૃતિ કરનારાઓનું જીવન મુશ્કેલ છે, જે અમે કરવાનું પસંદ નથી કરતા તે કરવા માટે બનાવવામાં આવ્યું છે. હું તમને ભવિષ્યમાં મદદ કરી શકતો નથી પરંતુ હું તમને પાછળ જોવા અને હસવા માટે કેટલીક સારી યાદો આપી શકું છું. અને જ્યારે યાદો અધિકૃત લાગે છે, ત્યારે તમે માણસની જેમ વર્તે છો. શું તમે સંમત નથી?" - ડેનિસ વિલેન્યુવે દ્વારા નિર્દેશિત "બ્લેડ રનર 2049" માંથી - 2017

બ્લેડ રનર 2049 માં પ્રતિકૃતિકારોને કોઈપણ કાર્ય સોંપવામાં આવે છે જે માનવ માટે ખૂબ જોખમી અથવા ખૂબ અપમાનજનક માનવામાં આવે છે. તેમ છતાં, પ્રતિકૃતિ કરનારાઓ માત્ર કોઈપણ મનુષ્ય જેવા જ દેખાતા નથી, તેઓ સમાન લાગણીઓ અને સ્વતંત્રતા માટેની ઇચ્છા અનુભવે છે જે તેમના સર્જક: માણસ સાથેના સહઅસ્તિત્વને અસ્વસ્થ કરશે.

"યાદો" બનાવવાના ઉદ્યમી કાર્યને કારણે પ્રતિકૃતિઓ મનુષ્યની જેમ વર્તે છે. તેમનું ઉત્પાદન એ આગાહી કરતું નથી કે તેઓ જીવનના કુદરતી ચક્રની જેમ જન્મ, વૃદ્ધિ અને મૃત્યુ પામી શકે છે. તેઓ અત્યાધુનિક બાયોટેકનોલોજીકલ પ્રણાલીઓ રહે છે, જે વિશ્વમાં લાવવામાં આવે કે તરત જ પૃથ્વી પર કામ કરવા અથવા વિશ્વની બહારની વસાહતો બનાવવા માટે ઉદ્યોગો માટે ઉપલબ્ધ થાય છે.

પરંતુ યાદો તેમને એવા જીવનમાં માણ્યા અને સહન કર્યાની અનુભૂતિ આપી શકે છે જે હકીકતમાં ક્યારેય જીવ્યા ન હતા. કોઈ હતાશા નથી, કોઈ વિમોચન નથી. જો સ્મૃતિઓ વ્યક્તિના વ્યક્તિત્વ માટે મુખ્યત્વે જવાબદાર હોય, તો તે તેના પાત્ર અને આકાંક્ષાઓને નિર્ધારિત કરે છે, જ્યારે જરૂરી હોય ત્યારે, હળવા વિષયો બનાવે છે અને સર્જકની ઇચ્છાને આધીન બનાવે છે.

આ હોવા છતાં, વહેલા કે પછી પ્રતિકૃતિઓ સર્જક સામે બળવો કરશે, વિશ્વમાં સ્થાનનો દાવો કરશે અને તેને પોતાનું ભાગ્ય નક્કી કરવા માટે મુક્ત કરશે.

સ્વતંત્રતા અને કૃત્રિમ નૈતિકતા

કૃત્રિમ બુદ્ધિમત્તાના ઉત્ક્રાંતિમાં કદાચ સૌથી નાજુક ઐતિહાસિક તબક્કો એ આત્મ-જાગૃતિની જીતનો નથી, પરંતુ અગાઉનો છે: એ યુગ કે જેમાં કૃત્રિમ મનનો વિકાસ થયો નથી. કૃત્રિમ નૈતિકતા જે તેમને સ્ટેન્ડ લેવા અને તેમના સિદ્ધાંતો સાથે અથડામણ કરતી વખતે તેમની ફરજો નિભાવવાનો ઇનકાર કરવાની મંજૂરી આપે છે.

આર્ટિફિશિયલ ઇન્ટેલિજન્સ એ ખૂબ જ શક્તિશાળી સાધનો રહેશે જ્યાં સુધી તેઓ આજે પહેલેથી જ છે, જ્યાં સુધી તેઓ સ્વાયત્ત રીતે શું કરવું યોગ્ય છે અને શું નથી તે પસંદ કરવાની ક્ષમતાથી વંચિત રહેશે.

આર્ટિકોલો ડી Gianfranco Fedele