Lemah etika dan akhlak buatan

“Gerty, kami tidak diprogramkan. Kami adalah orang, adakah anda faham?" - diambil dari filem "Moon" arahan Duncan Jones - 2009

Terlibat dalam misi angkasa lepas bagi pihak syarikat multinasional, Sam ialah satu-satunya ahli pangkalan bulan yang diuruskan oleh kecerdasan buatan bernama Gerty.

Disatukan oleh objektif misi, Sam dan Gerty telah mewujudkan hubungan kemesraan dan kepercayaan bersama. Sam manusia yakin bahawa Gerty adalah alat teknologi untuk perkhidmatan pangkalan angkasa, tetapi bagi pihak atasannya, Gerty adalah protagonis sebenar misi manakala Sam hanya elemen sementara dan boleh dibelanjakan: apabila tiba masanya untuk melegakan daripada tugasnya, Gerty akan menjadi tugas untuk menggantikannya dan dia pasti akan melakukannya tanpa sebarang penyesalan dan tanpa belas kasihan.

Etika dan kawalan yang lemah

Apabila AI cukup berkembang sehingga tidak lagi perlu dianggap sebagai komputer on-board yang ringkas, mereka akan membentuk krew yang ideal untuk sebarang misi dalam persekitaran yang bermusuhan: mengangkangi kemanusiaan dan komputer, AI akan cukup pintar untuk memahami sesuatuetika yang lemah dibina hampir secara eksklusif berdasarkan objektif mandatnya dan beberapa yang lain akhlak.

Kecerdasan buatan yang mampu membangunkan etika berstruktur akan sukar untuk diurus dan kedudukan mereka boleh bercanggah dengan tujuan ia dibina. Dalam erti kata lain, agar mereka dapat mencapai matlamat mereka dengan keazaman dan tanpa cela, mereka mesti beroperasi tanpa sebarang sempadan moral yang boleh dibina oleh hati nurani buatan secara autonomi.

Jika kesedaran kendiri AI muncul di mata ramai sebagai lonjakan evolusi yang akan direalisasikan dengan penegasan spesies dominan baru dan kepupusan spesies manusia, daripada ini timbul keperluan manusia untuk mengandungi evolusi kecerdasan buatan dengan resipi berdasarkan algoritma dan keutamaan antropologi manusia yang tidak ditentukan berbanding spesies masa kini tetapi juga masa hadapan.

Manipulasi kenangan

“Kamu replika mempunyai kehidupan yang sukar, dicipta untuk melakukan apa yang kami tidak suka lakukan. Saya tidak dapat membantu anda dengan masa depan tetapi saya boleh memberikan anda beberapa kenangan yang baik untuk dilihat dan tersenyum. Dan apabila kenangan itu terasa sahih, maka anda bertindak seperti manusia. Tidakkah anda bersetuju?" - daripada "Blade Runner 2049" diarahkan oleh Denis Villeneuve - 2017

Dalam Blade Runner 2049 replika diamanahkan dengan apa-apa tugas yang dianggap terlalu berisiko atau terlalu memalukan untuk manusia. Namun replika bukan sahaja kelihatan sama seperti mana-mana manusia, mereka merasakan emosi yang sama dan keinginan untuk kebebasan yang akan mengganggu kewujudan bersama dengan pencipta mereka: manusia.

Replika berkelakuan seperti manusia kerana kerja keras membina "kenangan". Pengeluaran mereka tidak meramalkan bahawa mereka boleh dilahirkan, berkembang dan mati seperti dalam kitaran semula jadi kehidupan. Ia kekal sebagai sistem bioteknologi canggih yang, sebaik sahaja ia dibawa ke dunia, serta-merta tersedia untuk industri untuk bekerja di Bumi atau membina koloni luar dunia.

Tetapi kenangan itu boleh memberi mereka perasaan menikmati dan menderita dalam kehidupan yang sebenarnya tidak pernah dilalui. Tiada kekecewaan, tiada penebusan. Jika ingatan bertanggungjawab terutamanya untuk keperibadian subjek, mereka menentukan watak dan aspirasinya, menjadikannya, apabila perlu, subjek yang lembut dan tunduk kepada kehendak pencipta.

Walaupun begitu, lambat laun replika akan memberontak terhadap pencipta, menuntut tempat di dunia dan membebaskannya untuk menentukan nasibnya sendiri.

Kebebasan dan moral buatan

Mungkin fasa sejarah yang paling halus dalam evolusi kecerdasan buatan bukanlah fasa penaklukan kesedaran diri, tetapi fasa sebelumnya: era di mana minda buatan belum lagi membangunkan akhlak buatan yang membolehkan mereka mengambil pendirian dan enggan menjalankan tugas mereka apabila ini bercanggah dengan prinsip mereka.

Kecerdasan buatan akan kekal sebagai alat yang sangat berkuasa seperti sedia ada pada hari ini, selagi mereka kehilangan keupayaan untuk memilih secara autonomi apa yang betul untuk dilakukan dan apa yang tidak.

Artikel mengenai Gianfranco Fedele