Nõrk eetika ja kunstlik moraal

„Gerty, me pole programmeeritud. Me oleme inimesed, kas saate sellest aru?" – võetud Duncan Jonesi filmist “Kuu” – 2009

Rahvusvahelise korporatsiooni nimel kosmosemissioonil osalev Sam on ainus liige Kuu baasis, mida haldab Gerty-nimeline tehisintellekt.

Missiooni eesmärkidega ühendatud Sam ja Gerty on loonud vastastikuse südamlikkuse ja usalduse suhte. Inimene Sam on veendunud, et Gerty on kosmosebaasi teenistuses olev tehnoloogiline tööriist, kuid tema ülemuste jaoks on Gerty missiooni tõeline peategelane, samas kui Sam on vaid mööduv ja kulutav element: kui tuleb aeg leevendada. Gerty ülesanne on teda asendada ja ta teeb seda kindlasti ilma kahetsuse ja halastuseta.

Nõrk eetika ja kontroll

Kui tehisintellektid on piisavalt arenenud, et neid ei pea enam pidama lihtsaks pardaarvutiks, moodustavad nad ideaalse meeskonna mis tahes missiooniks vaenulikus keskkonnas: inimkonna ja arvutite vahel on tehisintellektid piisavalt intelligentsed, et mõistanõrk eetika tugines peaaegu eranditult tema ja mõne muu volituse eesmärkidele moraali.

Tehisintellekti, mis on võimeline arendama struktureeritud eetikat, oleks raske hallata ja nende positsioonid võivad olla vastuolus eesmärkidega, milleks nad on ehitatud. Teisisõnu, selleks, et nad saaksid oma eesmärke sihikindlalt ja veatult ellu viia, peavad nad tegutsema ilma igasuguse moraalse piirita, mida kunstlik südametunnistus saab iseseisvalt üles ehitada.

Kui tehisintellekti eneseteadlikkus näib paljude silmis evolutsioonihüppena, mis realiseerub koos uue domineeriva liigi kinnitamisega ja inimliigi väljasuremisega, tuleneb sellest inimese vajadus ohjeldada tehisintellektide arengut. retseptid, mis põhinevad algoritmidel ja inimese määratlemata antropoloogilisel ülimuslikkusel praeguste, aga ka tulevaste liikide ees.

Mälestuste manipuleerimine

„Teil replikantidel on nii raske elu, mis on loodud tegema seda, mida me ei eelista. Ma ei saa teid tuleviku osas aidata, kuid võin anda teile mõned head mälestused, millele tagasi vaadata ja naeratada. Ja kui mälestused tunduvad autentsed, siis käitute nagu inimene. Kas sa ei nõustu?" – filmist “Blade Runner 2049”, režissöör Denis Villeneuve – 2017

Blade Runner 2049 puhul usaldatakse replikantidele kõik ülesanded, mida peetakse inimese jaoks liiga riskantseks või alandavaks. Kuid replikandid ei näe mitte ainult välja samasugused nagu iga inimene, vaid tunnevad samu emotsioone ja vabadusiha, mis häirib kooselu nende looja: inimesega.

Replikandid käituvad nagu inimesed tänu vaevarikkale "mälestuste" loomise tööle. Nende tootmine ei näe ette, et nad saaksid sündida, kasvada ja surra nagu loomulikus elutsüklis. Need jäävad keerukateks biotehnoloogilisteks süsteemideks, mis niipea, kui need maailma tuuakse, on tööstustele kohe kättesaadavad, et töötada Maal või ehitada maailmaväliseid kolooniaid.

Kuid mälestused võivad anda neile tunde, et nad on nautinud ja kannatanud elus, mida tegelikult kunagi ei elatud. Ei mingit frustratsiooni ega lunastust. Kui mälestused on peamiselt vastutavad subjekti isiksuse eest, määravad need tema iseloomu ja püüdlused, muutes need vajaduse korral leebeteks ja looja tahtele alluvateks subjektideks.

Sellele vaatamata hakkavad replikandid varem või hiljem mässama looja vastu, nõudes endale kohta maailmas ja vabastades selle ise oma saatuse üle otsustama.

Vabadus ja kunstlik moraal

Võib-olla pole tehisintellektide evolutsiooni kõige õrnem ajalooline faas mitte eneseteadvuse vallutamine, vaid eelnev: ajastu, mil tehisintellektid ei ole veel välja arenenud. kunstlik moraal mis võimaldab neil võtta seisukoht ja keelduda oma kohustusi täitmast, kui need on vastuolus nende põhimõtetega.

Tehisintellektid jäävad nendeks väga võimsateks tööriistadeks, mis nad juba praegu on, kuni neilt jäetakse võimalus iseseisvalt valida, mida on õige teha ja mida mitte.

Artikkel Gianfranco Fedele