Maadili dhaifu na maadili ya bandia

"Gerty, hatujapangwa. Sisi ni watu, unaelewa hivyo?" - imechukuliwa kutoka kwa filamu "Mwezi" iliyoongozwa na Duncan Jones - 2009

Akiwa anajishughulisha na misheni ya anga kwa niaba ya shirika la kimataifa, Sam ndiye mwanachama pekee wa kituo cha mwezi kinachosimamiwa na mtaalamu wa akili bandia anayeitwa Gerty.

Pamoja na malengo ya misheni, Sam na Gerty wameanzisha uhusiano wa kuheshimiana na kuaminiana. Sam wa kibinadamu ana hakika kwamba Gerty ni chombo cha kiteknolojia katika huduma ya kituo cha anga, lakini kwa wakubwa wake ni Gerty ambaye ndiye mhusika mkuu wa misheni wakati Sam ni kipengele cha mpito na kinachoweza kutumika: wakati unapofika wa kutuliza. wa majukumu yake, itakuwa kazi ya Gerty kuchukua nafasi yake na bila shaka ataifanya bila majuto yoyote na bila huruma yoyote.

Maadili na udhibiti dhaifu

Wakati AIs zimebadilishwa vya kutosha na hazipaswi kuzingatiwa tena kama kompyuta rahisi ya ubaoni, zitaunda wafanyakazi bora kwa misheni yoyote katika mazingira ya uhasama: ubinadamu na kompyuta zinazozunguka, AIs zitakuwa na akili ya kutosha kuelewa.maadili dhaifu imejengwa kwa karibu kikamilifu katika malengo ya mamlaka yake na mengine machache maadili.

Akili bandia zenye uwezo wa kukuza maadili yaliyoundwa itakuwa ngumu kudhibiti na nafasi zao zinaweza kupingana na madhumuni ambayo ziliundwa. Kwa maneno mengine, ili waweze kufuata malengo yao kwa dhamira na bila dosari, lazima wafanye kazi bila kukosekana kabisa kwa mpaka wowote wa maadili ambao dhamiri ya bandia inaweza kujenga kwa uhuru.

Ikiwa kujitambua kwa AI kutaonekana machoni pa wengi kama hatua ya mageuzi ambayo itafikiwa kwa uthibitisho wa spishi mpya inayotawala na kutoweka kwa spishi za wanadamu, kutokana na hili hupata hitaji la mwanadamu la kudhibiti mageuzi ya akili bandia na. mapishi kulingana na algoriti na ubora ambao haujabainishwa wa mwanadamu juu ya spishi za sasa lakini pia za siku zijazo.

Udanganyifu wa kumbukumbu

"Nyinyi waigaji mna maisha magumu sana, mmeumbwa kufanya kile ambacho hatupendi kufanya. Siwezi kukusaidia na siku zijazo lakini ninaweza kukupa kumbukumbu nzuri za kutazama nyuma na kutabasamu. Na wakati kumbukumbu zinahisi kuwa za kweli, basi unafanya kama mwanadamu. Je, hukubaliani?" - kutoka kwa "Blade Runner 2049" iliyoongozwa na Denis Villeneuve - 2017

Katika Blade Runner 2049 wawakilishi wamekabidhiwa jukumu lolote linaloonekana kuwa hatari sana au la kufedhehesha sana kwa binadamu. Bado waigaji hawaonekani tu kuwa sawa na mwanadamu yeyote, wanahisi hisia sawa na tamaa hiyo ya uhuru ambayo itasumbua kuishi pamoja na muumba wao: mwanadamu.

Waigaji wanafanya kama wanadamu kwa sababu ya kazi ngumu ya kujenga "kumbukumbu". Uzalishaji wao hauoni kwamba wanaweza kuzaliwa, kukua na kufa kama katika mzunguko wa asili wa maisha. Inasalia kuwa mifumo ya kisasa ya kibayoteknolojia ambayo, mara tu inapoletwa ulimwenguni, inapatikana mara moja kwa viwanda kufanya kazi Duniani au kujenga makoloni ya nje ya ulimwengu.

Lakini kumbukumbu zinaweza kuwapa hisia ya kufurahia na kuteseka katika maisha ambayo kwa kweli hayakuwahi kuishi. Hakuna kufadhaika, hakuna ukombozi. Ikiwa kumbukumbu zinawajibika kimsingi kwa utu wa somo, huamua tabia na matarajio yake, na kuwafanya, inapobidi, kuwa masomo ya upole na kutii mapenzi ya muumba.

Licha ya hili, mapema au baadaye waigaji wataasi dhidi ya muumbaji, wakidai mahali pa ulimwengu na kuifungua ili kuamua hatima yake mwenyewe.

Uhuru na maadili ya bandia

Labda awamu nyeti zaidi ya kihistoria katika mageuzi ya akili ya bandia sio ile ya ushindi wa kujitambua, lakini ile iliyotangulia: enzi ambayo akili za bandia bado hazijakua. maadili ya bandia hiyo inawaruhusu kuchukua msimamo na kukataa kutekeleza majukumu yao wakati haya yanapogongana na kanuni zao.

Akili za Bandia zitabaki kuwa zana zenye nguvu ambazo tayari ziko leo, mradi tu zimenyimwa uwezo wa kuchagua kwa uhuru kile ambacho ni sawa kufanya na kile ambacho sio.

Artikolo di Gianfranco Fedele