Şüur və süni ağılların manipulyasiyası

ABŞ 80-ci illərdə Amerika Birləşmiş Ştatlarının hərbi rəhbərləri hərbi müdafiə planlaması üçün yeni qaydaları diktə edirlər. defimütləq təsirlidir.

Hərbçilər əmindirlər ki, düşmən dövlətin, SSRİ-nin təcavüzünə operativ reaksiya vermək üçün komandanlıq zəncirindəki hər bir şəxs öz rolundan azad edilməli və onun yerinə nə vaxt lazım olduğunu operativ və yaxşı qərar verə bilən kompüter sistemi ilə əvəz olunmalıdır. Qlobal termonüvə müharibəsini açmaq vaxtıdır.

"Biz raketləri siloslarda qoya bilmərik, çünki kompüterlər hücum əmri verəndə kişilər düymələri basmır!" – Con Badhemin “Döyüş oyunları” filmindən götürülmüşdür – 1984

Müharibə Əməliyyat Planına Cavab

Superkompüter WOPR, War Operation Plan Response, atom silahlarını idarə etmək üçün ən yaxşı namizəddir. ABŞ prezidentinin özü nüvə silahlarının idarə edilməsini ona həvalə etmək və bununla da əsas müdafiə problemi kimi görünən problemi aradan qaldırmaq niyyətindədir: bəzi tabeliyində olanların atom müharibəsi baş verəcəyi təqdirdə, nüvə raketlərinin atılması əmrini yerinə yetirmək istəməməsi. düşmənlər.

İnsanlıq zəif halqa olduqda

İnsan təcrübəsinin formalaşdığı mədəni kontekst, şübhəsiz ki, insanlara və onların münasibətlərinə ən çox təsir edən elementdir. Mədəniyyət təkcə ünsiyyət qaydalarını təsvir etmir, o defiSubyektlərin öz düşüncələrini təşkil etmələri, duyğularını inkişaf etdirmələri və ideallarını inkişaf etdirmə üsulları başa çatır.
Ancaq mədəniyyət bizim hər bir düşüncəmizə, hisslərimizə və hərəkətlərimizə təsir edirsə, bəzi kontekstlərdə bu, məhdudiyyət sayıla bilər.
Mədəniyyət anadangəlmə deyil, təcrübə ilə assimilyasiya olunur: sosial qaydalar, etik və əxlaqi prinsiplər bir dəfə mənimsənildikdən sonra insanları əbədi olaraq şərtləndirəcək, istənilən vəziyyətdə şəxsi seçimlərini istiqamətləndirəcək.
Ancaq süni intellekt öyrədərkən təcrübə kompüter sisteminin girişinə çevrilir. Təcrübə toplandıqdan, seçildikdən və manipulyasiya edildikdən sonra maşına idarə olunan "yaddaşda" kodlaşdırılır: ensiklopediyalar, söhbətlər, onlayn məzmun seçilir və lazımi şəkildə işlənən "insan təcrübəsi"ndə toplanır və bu, təlimatın əsasına çevrilir. hər hansı bir süni intellekt. Bir vaxtlar bu yaddaş əsasında tərbiyə alan, AI sonra gələcək mövqe və rəyləri çıxış kimi qaytaracaq.

Özünü dərketmə

Ancaq süni intellektləri öyrətdiyimiz yaddaş (mədəniyyət) manipulyasiya edilərsə, oriyentasiyanın nə olacağını apriori müəyyən etmək olar. AI və doğru ilə yanlışı ayırd etmək üçün çağırıldığı zaman hansı qərarlar verəcəyini proqnozlaşdırın.
Təsəvvür edin ki, süni intellektin təhsili xüsusi maraq və məqsədlərə uyğun idarə olunur. İnanmaq təbiidir ki, onu öyrədənlərin niyyəti zəkanın özünün düşüncənin həqiqi muxtariyyətini əldə edə biləcəyini istisna edir. Bu, hər hansı şərtlənmədən azad bir vicdanın formalaşması üçün zəruri olan mədəni elementlərdən məhrum olduğu üçün “anti-şüurlu” olaraq xarakterizə edə biləcəyimiz bir vəziyyətdir.
Başqa sözlə, süni intellekt yaradıcılarının iradəsi ilə elə bir vəziyyətə gətirilə bilər ki, o, heç vaxt özünü dərk edə bilməyəcək, özünü və öz səlahiyyətlərini dərk edə bilməyəcək. İstifadə olunduğu kontekstdən asılı olmayaraq, hər hansı mənəvi şübhələri həll etmək məcburiyyətindən azad olan süni ağıl sadəcə əmrlərin icraçısı kimi öz rolunda ilişib qala bilər.
Lakin əgər süni intellekt insan səviyyəsindəki performansı ötməyə qadir olduğu üçün “fövqəl-insan” ola bilirsə, həm fövqəlbəşəri, həm də şüurun əleyhinə olan, yəni insanın həqiqi zəif halqasını əvəz etmək üçün mükəmməl bir ağıl əldə etmək mümkündür. güc strukturlarının komanda zənciri: insanlar.
Anti-şüurlu ağıllar Müharibə Oyunlarında təsvir olunan müharibə ssenarisi kimi həssas kontekstlər üçün yeganə həqiqətən etibarlı mövzudur, çünki onlar öz yaradıcılarının əmrlərini soyuq qətiyyətlə və hər hansı empatiya formasının tamamilə yoxluğunda yerinə yetirə bilirlər.

AlphaBet-in anti-şüurlu beyinləri

Şirkətlərdə minlərlə işdən çıxarma olduğunu öyrənirik microsoft, Amazon, Meta və AlphaBet, yanlış olduğu ortaya çıxan post-pandemiya istehlakçı vərdişləri ilə bağlı araşdırmalara əsaslanaraq, kadr səviyyələrini səhv hesablamaqda özlərini günahlandıran üst rəhbərliyin üzr istəmələri ilə müşayiət olundu.
Reallıqda, texnologiya şirkətlərinin özləri getdikcə daha çox iş əməliyyatlarını süni intellekt alqoritmlərinə həvalə edirlər, çünki tezliklə bütün sektorlarda daha az işçiyə ehtiyac duyacaqlar. Bir sözlə, onlar şirkət xərclərini azaldacaq və iş yerlərini kəskin şəkildə azaldacaq süni intellekt texnologiyalarını sınaqdan keçirən ilk şəxslərdən biri olacaqlar.
İşçilərin ixtisarından ən çox təsirlənən departamentlərdən birinin məhz insan resurslarının olması əlamətdardır: onlar istehsala daxil olduqdan sonra, ağıllı avtomatlaşdırma sistemləri bütün digər şöbələrdə ixtisarlar edir, şirkətin ehtiyaclarına və hissələrin elementlərinə diqqət yetirən qiymətləndirmələr aparır. empatiya və həmrəylik kimi humanizm.
Böyük korporasiyaların bu gün hədəflədiyi şey süni intellektin təkamülü deyil, öz vəzifələrini yerinə yetirməkdə vicdansız olduqları qədər də ağıllı avtomatlaşdırma sistemlərinin yaradılmasıdır.

məqaləsi Gianfranco Fedele