Conștiința și manipularea minților artificiale

SUA în anii 80, liderii militari ai Statelor Unite ale Americii dictează noile reguli pentru planificarea apărării militare deficu siguranta eficienta.

Militarii sunt convinși că, pentru a reacționa prompt la agresiunea unui stat inamic, URSS, fiecare persoană din lanțul de comandă trebuie să fie eliberată de rolul său și înlocuită cu un sistem informatic capabil să decidă, prompt și bine, când este cazul. timpul să declanșeze un război termonuclear global.

„Nu putem lăsa rachetele în silozuri pentru că bărbații nu apasă butoanele când computerele dau ordin de atac!” – preluat din filmul „Wargames” de John Badham – 1984

Răspuns la planul operațiunii de război

Supercomputerul WOPR, War Operation Plan Response, este cel mai bun candidat pentru gestionarea armelor atomice. Însuși președintele SUA intenționează să îi încredințeze conducerea armelor nucleare și să depășească astfel ceea ce pare a fi principala problemă de apărare: reticența unor subalterni, în cazul unui război atomic, de a îndeplini ordinul de lansare a rachetelor nucleare pe duşmanii.

Când umanitatea este veriga slabă

Contextul cultural în care se formează experiența umană este cu siguranță elementul care influențează cel mai mult oamenii și relațiile lor. Cultura nu descrie doar regulile de comunicare, ci defiÎnsuși modul în care subiecții își organizează gândurile, își elaborează emoțiile și își dezvoltă idealurile se încheie.
Dar dacă cultura ne influențează fiecare gând, sentiment și acțiune, în unele contexte poate fi considerată o limitare.
Cultura nu este înnăscută ci este asimilată experienței: regulile sociale, principiile etice și morale, odată dobândite, vor condiționa oamenii pentru totdeauna, dirijandu-și alegerile personale în orice situație.
Atunci când o inteligență artificială este antrenată, totuși, experiența se traduce în intrarea unui sistem informatic. Experiența este codificată într-o „memorie” care este administrată mașinii după ce a fost colectată, selectată și manipulată: enciclopediile, conversațiile, conținutul online sunt selectate și colectate într-o „experiență umană” care, atunci când este tratată corespunzător, devine baza instruirea oricărei inteligențe artificiale. Odată educat pe baza acestei amintiri, AI va returna ca iesire pozitiile si opiniile care vor urma.

Constiinta de sine

Dar dacă memoria (cultura) cu care antrenăm inteligența artificială este manipulată, se poate stabili a priori care va fi orientarea a AI și prezice ce decizii va lua atunci când este chemat să facă distincția între bine și rău.
Să ne imaginăm că educația unei inteligențe artificiale este manipulată în funcție de interese și obiective specifice. Este firesc să credem că intenția celui care o educă exclude faptul că aceeași inteligență poate dobândi o autonomie reală de gândire. Această condiție am putea-o descrie drept „anti-conștient” ca fiind lipsită de elementele culturale esențiale pentru formarea unei conștiințe libere de orice condiționare.
Cu alte cuvinte, o inteligență artificială poate, prin voința creatorilor săi, să fie pusă în condiția de a nu putea niciodată să ajungă la conștiința de sine sau mai degrabă să maturizeze o conștiință despre sine și propriile sale prerogative. Și eliberată de a rezolva orice îndoială morală, indiferent de contextul în care este folosită, o minte artificială poate rămâne blocată în rolul său de simplu executor al ordinelor.
Dar dacă inteligența artificială poate fi „supra-umană” în sensul că este capabilă să depășească performanța la nivel uman, este posibil să obțineți o minte care este atât supra-umană, cât și anti-conștientă, adică perfectă pentru a înlocui veriga slabă reală în inteligenţa umană.lanţul de comandă al structurilor de putere: poporul.
Mințile anti-conștiente sunt singurul subiect cu adevărat de încredere pentru contexte sensibile, cum ar fi scenariul de război descris în War Games, deoarece sunt capabile să îndeplinească ordinele creatorilor lor cu hotărâre rece și în absența totală a oricărei forme de empatie.

Mințile anti-conștiente ale AlphaBet

Aflăm că miile de disponibilizări din companii le place Microsoft, Amazon, Meta și AlphaBet au fost însoțite de scuze din partea managementului de vârf care se învinovățește pentru calcularea greșită a nivelurilor de personal pe baza studiilor despre obiceiurile de consum post-pandemie care s-au dovedit a fi incorecte.
În realitate, aceleași companii de tehnologie încredințează din ce în ce mai mult operațiunile de afaceri algoritmilor de inteligență artificială conștienți că vor avea nevoie în curând de mult mai puțini angajați în toate sectoarele. Pe scurt, vor fi printre primii care vor experimenta tehnologii AI care vor reduce costurile afacerii prin reducerea drastică a locurilor de muncă.
Este semnificativ faptul că unul dintre departamentele cele mai afectate de reducerile de personal este tocmai cel al resurselor umane: odată ce au fost puse în producție, sistemele inteligente de automatizare efectuează concedieri în toate celelalte departamente, realizând evaluări care se concentrează pe nevoile companiei și pe elementele componente. de umanizare precum empatia și solidaritatea.
Ceea ce urmăresc marile corporații astăzi nu este evoluția AI, ci crearea unor sisteme de automatizare, pe cât de inteligente, pe atât de lipsite de scrupule în îndeplinirea sarcinilor lor.

Articolul din Gianfranco Fedele