Zəif etika və süni əxlaq

“Gerty, biz proqramlaşdırılmamışıq. Biz insanıq, bunu başa düşürsən?” – rejissor Dunkan Consun “Ay” filmindən götürülmüşdür – 2009

Çoxmillətli korporasiya adından kosmik missiya ilə məşğul olan Sem, Gerty adlı süni intellektin idarə etdiyi Ay bazasının yeganə üzvüdür.

Missiyanın məqsədləri ilə birləşən Sem və Gerti qarşılıqlı mehribanlıq və etimad münasibətləri yaratdılar. İnsan Sem əmindir ki, Gerty kosmik bazanın xidmətində olan texnoloji alətdir, lakin onun rəhbərləri üçün missiyanın əsl qəhrəmanı Gertidir, Sem isə yalnız keçici və sərf edilə bilən elementdir: rahatlama vaxtı gəldikdə Onu öz vəzifələrini yerinə yetirmək üçün əvəz etmək Gertinin işi olacaq və o, bunu heç bir peşmançılıq və mərhəmət etmədən edəcək.

Zəif etika və nəzarət

Süni intellektlər kifayət qədər təkamül etdikdə, artıq sadə bir bort kompüteri kimi qəbul edilməməlidir, onlar düşmən mühitdə istənilən missiya üçün ideal ekipaj formalaşdıracaqlar: bəşəriyyət və kompüterləri bir-birinə bağlayan süni intellektlər bir problemi başa düşmək üçün kifayət qədər ağıllı olacaqlar.zəif etika demək olar ki, yalnız öz mandatının məqsədləri və bir neçə başqa məqsəd üzərində qurulmuşdur əxlaq.

Strukturlaşdırılmış etikanı inkişaf etdirməyə qadir olan süni intellektləri idarə etmək çətin olacaq və onların mövqeləri qurulduqları məqsədlərlə ziddiyyət təşkil edə bilər. Başqa sözlə desək, məqsədlərinə qətiyyətlə və qüsursuz bir şəkildə çata bilmələri üçün süni bir vicdanın müstəqil şəkildə qura biləcəyi heç bir mənəvi sərhəd olmadan fəaliyyət göstərməlidirlər.

Əgər süni intellektin özünü dərk etməsi çoxlarının gözündə yeni dominant növün təsdiqi və insan növünün yox olması ilə reallaşacaq təkamül sıçrayışı kimi görünürsə, insanın süni intellekt təkamülünü özündə saxlamaq ehtiyacı bundan irəli gəlir. alqoritmlərə əsaslanan reseptlər və insanın indiki, həm də gələcək növlər üzərində müəyyən edilməmiş antropoloji üstünlüyü.

Xatirələrin manipulyasiyası

“Siz replikantların elə ağır həyatları var ki, bizim etməməyimizə üstünlük verdiyimiz şeyi etmək üçün yaradılıb. Gələcəkdə sizə kömək edə bilmərəm, amma geriyə baxıb gülümsəmək üçün sizə yaxşı xatirələr verə bilərəm. Və xatirələr həqiqi hiss etdikdə, insan kimi davranırsan. Razı deyilsən?" – Denis Villeneuve tərəfindən “Blade Runner 2049” filmindən – 2017

Blade Runner 2049-da replikantlara insan üçün çox riskli və ya həddən artıq alçaldıcı hesab edilən istənilən tapşırıq həvalə olunur. Bununla belə, replikantlar hər hansı bir insana bənzəmirlər, onlar eyni duyğuları və onların yaradıcısı olan insanla birgə yaşayışı pozacaq azadlıq arzusunu hiss edirlər.

Replikantlar "xatirələr" yaratmaq üçün zəhmətli iş sayəsində özlərini insan kimi aparırlar. Onların istehsalı, həyatın təbii dövrəsində olduğu kimi doğula, böyüyə və ölə biləcəklərini nəzərdə tutmur. Onlar inkişaf etmiş biotexnoloji sistemlər olaraq qalırlar ki, onlar dünyaya gətirilən kimi dərhal Yer kürəsində işləmək və ya dünyadan kənar koloniyalar qurmaq üçün sənayelər üçün əlçatan olur.

Ancaq xatirələr onlara əslində heç yaşanmamış həyatdan həzz almış və əziyyət çəkmiş kimi hisslər verə bilər. Heç bir məyusluq, satınalma yoxdur. Əgər xatirələr hər şeydən əvvəl subyektin şəxsiyyətinə cavabdehdirsə, onun xarakter və istəklərini müəyyən edir, lazım olanda onları mülayim rəiyyət və yaradanın iradəsinə tabe edir.

Buna baxmayaraq, gec-tez replikantlar yaradana qarşı üsyan edəcək, dünyada yer tutacaq və öz taleyini həll etmək üçün onu azad edəcəklər.

Azadlıq və süni əxlaq

Süni intellektin təkamülünün bəlkə də ən incə tarixi mərhələsi özünüdərketmənin fəthi deyil, əvvəlki mərhələdir: süni zehinlərin hələ də inkişaf etmədiyi dövrdür. süni əxlaq bu, onların prinsipləri ilə toqquşduqda mövqe tutmağa və vəzifələrini yerinə yetirməkdən imtina etməyə imkan verir.

Süni intellektlər, nəyin düzgün, nəyin yanlış olduğunu müstəqil şəkildə seçmək imkanından məhrum olduqları müddətcə, bu gün də çox güclü vasitələr olaraq qalacaqlar.

məqaləsi Gianfranco Fedele