Kesedaran dan manipulasi minda buatan

Amerika Syarikat pada tahun 80-an, pemimpin tentera Amerika Syarikat menetapkan peraturan baru untuk perancangan pertahanan tentera defipasti berkesan.

Tentera yakin bahawa untuk bertindak balas segera terhadap pencerobohan negara musuh, USSR, setiap orang dalam rantaian perintah mesti dibebaskan daripada peranan mereka dan digantikan dengan sistem komputer yang mampu membuat keputusan, dengan segera dan baik, apabila ia tiba. masa untuk melancarkan perang termonuklear global.

“Kami tidak boleh meninggalkan peluru berpandu dalam silo kerana lelaki tidak menekan butang apabila komputer memberi arahan untuk menyerang!” - diambil dari filem "Wargames" oleh John Badham - 1984

Tindak Balas Pelan Operasi Perang

Superkomputer WOPR, War Operation Plan Response, adalah calon terbaik untuk menguruskan senjata atom. Presiden AS sendiri berhasrat untuk mempercayakannya dengan pengurusan senjata nuklear dan dengan itu mengatasi apa yang kelihatan sebagai masalah pertahanan utama: keengganan beberapa orang bawahan, sekiranya berlaku perang atom, untuk melaksanakan perintah melancarkan peluru berpandu nuklear pada musuh-musuh.

Apabila kemanusiaan adalah mata rantai yang lemah

Konteks budaya di mana pengalaman manusia terbentuk pastinya elemen yang paling mempengaruhi orang dan hubungan mereka. Budaya tidak hanya menggambarkan peraturan komunikasi, ia defiCara subjek mengatur pemikiran mereka, menghuraikan emosi mereka dan mengembangkan cita-cita mereka berakhir.
Tetapi jika budaya mempengaruhi setiap pemikiran, perasaan dan tindakan kita, dalam beberapa konteks ia boleh dianggap sebagai batasan.
Budaya bukan semula jadi tetapi diasimilasikan dengan pengalaman: peraturan sosial, prinsip etika dan moral, sebaik sahaja diperoleh, akan mengkondisikan orang selama-lamanya, mengarahkan pilihan peribadi mereka dalam apa jua keadaan.
Apabila melatih kecerdasan buatan, bagaimanapun, pengalaman itu diterjemahkan ke dalam input sistem komputer. Pengalaman dikodkan dalam "memori" yang ditadbirkan kepada mesin selepas dikumpulkan, dipilih dan dimanipulasi: ensiklopedia, perbualan, kandungan dalam talian dipilih dan dikumpulkan dalam "pengalaman manusia" yang, dirawat dengan sewajarnya, menjadi asas arahan sebarang kecerdasan buatan. Setelah dididik atas dasar ingatan ini, AI akan kembali sebagai output pendirian dan pendapat yang akan menyusul.

Kesedaran diri

Tetapi jika ingatan (budaya) yang kita gunakan untuk melatih kecerdasan buatan dimanipulasi, adalah mungkin untuk menetapkan a priori apa orientasinya. daripada AI dan meramalkan keputusan yang akan dibuat apabila diminta untuk membezakan antara yang betul dan salah.
Bayangkan bahawa pendidikan kecerdasan buatan dimanipulasi mengikut minat dan objektif tertentu. Adalah wajar untuk mempercayai bahawa niat mereka yang mendidiknya tidak termasuk bahawa kecerdasan itu sendiri boleh memperoleh autonomi pemikiran yang sebenar. Ini adalah keadaan yang boleh kita gambarkan sebagai "anti-sedar" kerana ia kehilangan unsur-unsur budaya yang penting untuk pembentukan hati nurani yang bebas daripada sebarang pelaziman.
Dalam erti kata lain, kecerdasan buatan boleh, dengan kehendak penciptanya, diletakkan pada kedudukan di mana ia tidak boleh mencapai kesedaran diri atau membangunkan kesedaran tentang dirinya dan hak prerogatifnya sendiri. Dan lega kerana perlu menyelesaikan sebarang keraguan moral walau apa pun konteks di mana ia digunakan, minda buatan boleh kekal terperangkap dalam peranannya sebagai pelaksana perintah semata-mata.
Tetapi jika kecerdasan buatan boleh menjadi "manusia super" kerana ia mampu melebihi prestasi peringkat manusia, adalah mungkin untuk memperoleh minda yang super-manusia dan anti-sedar, iaitu sempurna untuk menggantikan pautan lemah sebenar rantaian perintah struktur kuasa: orang.
Fikiran anti-sedar adalah satu-satunya subjek yang benar-benar boleh dipercayai untuk konteks sensitif seperti senario perang yang diterangkan dalam Permainan Perang kerana mereka dapat melaksanakan perintah pencipta mereka dengan keazaman yang dingin dan tanpa sebarang bentuk empati.

Minda anti-sedar AlphaBet

Kami mengetahui bahawa beribu-ribu pemberhentian dalam syarikat suka microsoft, Amazon, Meta dan AlphaBet disertakan dengan permohonan maaf daripada pihak pengurusan atasan yang menyalahkan diri mereka sendiri kerana salah mengira tahap kakitangan berdasarkan kajian tabiat pengguna selepas wabak yang ternyata tidak betul.
Pada hakikatnya, syarikat teknologi sendiri semakin mempercayakan operasi perniagaan kepada algoritma kecerdasan buatan kerana mengetahui bahawa mereka tidak lama lagi akan memerlukan lebih sedikit pekerja merentas semua sektor. Ringkasnya, mereka akan menjadi antara yang pertama bereksperimen dengan teknologi AI yang akan mengurangkan kos syarikat dan mengurangkan pekerjaan secara drastik.
Adalah penting bahawa salah satu jabatan yang paling terjejas oleh pemotongan kakitangan adalah tepat pada sumber manusia: apabila ia telah dimasukkan ke dalam pengeluaran, sistem automasi pintar membuat lebihan di semua jabatan lain, menjalankan penilaian yang memfokuskan kepada keperluan syarikat dan elemen bahagian. kemanusiaan seperti empati dan perpaduan.
Apa yang disasarkan oleh syarikat besar hari ini bukanlah evolusi AI tetapi penciptaan sistem automasi, sebijak mana mereka tidak bertanggungjawab dalam menjalankan tugas mereka.

Artikel mengenai Gianfranco Fedele