Apziņa un manipulācijas ar mākslīgiem prātiem

ASV astoņdesmitajos gados Amerikas Savienoto Valstu militārie vadītāji diktēja jaunus noteikumus militārās aizsardzības plānošanai definoteikti efektīva.

Militāristi ir pārliecināti, ka, lai operatīvi reaģētu uz ienaidnieka valsts – PSRS – agresiju, katrs komandķēdes cilvēks ir jāatbrīvo no sava pienākuma un jāaizvieto ar datorsistēmu, kas spēj ātri un labi izlemt, kad tā notiek. laiks uzsākt globālu kodoltermisko karu.

"Mēs nevaram atstāt raķetes silosos, jo vīrieši nespiež pogas, kad datori dod pavēli uzbrukt!" – ņemts no Džona Badema filmas “Wargames” – 1984. gads

Kara operācijas plāna atbilde

Superdators WOPR, War Operation Plan Response, ir labākais kandidāts atomu ieroču pārvaldīšanai. Pats ASV prezidents plāno viņam uzticēt kodolieroču pārvaldību un tādējādi pārvarēt šķietami galveno aizsardzības problēmu: dažu padoto nevēlēšanos atomkara gadījumā izpildīt pavēli palaist kodolraķetes. ienaidniekiem.

Kad cilvēce ir vājais posms

Kultūras konteksts, kurā veidojas cilvēka pieredze, noteikti ir elements, kas visvairāk ietekmē cilvēkus un viņu attiecības. Kultūra ne tikai apraksta komunikācijas noteikumus, bet arī defiPats veids, kā subjekti organizē savas domas, izstrādā emocijas un attīsta savus ideālus, beidzas.
Bet, ja kultūra ietekmē katru mūsu domu, sajūtu un darbību, dažos kontekstos to var uzskatīt par ierobežojumu.
Kultūra nav iedzimta, bet ir pielīdzināma pieredzei: sociālie noteikumi, ētikas un morāles principi, ja tie ir iegūti, uz visiem laikiem noteiks cilvēkus, vadot viņu personīgās izvēles jebkurā situācijā.
Taču, apmācot mākslīgo intelektu, pieredze tiek pārvērsta datorsistēmas ievadā. Pieredze tiek kodēta "atmiņā", kas pēc savākšanas, atlases un manipulācijas tiek ievadīta iekārtai: enciklopēdijas, sarunas, tiešsaistes saturs tiek atlasītas un apkopotas "cilvēka pieredzē", kas, atbilstoši apstrādāta, kļūst par pamatu instrukcijām jebkurš mākslīgais intelekts. Reiz izglītots, pamatojoties uz šo atmiņu, AI kā iznākumu atgriezīs nostājas un viedokļus, kas sekos.

Pašapziņa

Bet, ja tiek manipulēta ar atmiņu (kultūru), ar kuru mēs trenējam mākslīgo intelektu, ir iespējams a priori noteikt, kāda būs orientācija AI un paredzēt, kādus lēmumus tā pieņems, kad tā tiks aicināta atšķirt pareizo un ļauno.
Iedomājieties, ka mākslīgā intelekta izglītība tiek manipulēta atbilstoši konkrētām interesēm un mērķiem. Ir dabiski uzskatīt, ka to cilvēku nolūks, kuri to izglīto, izslēdz iespēju, ka inteliģence pati par sevi var iegūt īstu domāšanas autonomiju. Tas ir nosacījums, ko mēs varētu raksturot kā "pretapziņu", jo tam ir liegti kultūras elementi, kas ir būtiski no jebkādiem nosacījumiem brīvas sirdsapziņas veidošanai.
Citiem vārdiem sakot, mākslīgais intelekts pēc tā radītāju gribas var tikt nostādīts tādā stāvoklī, ka tas nekad nevar sasniegt pašapziņu vai attīstīt apziņu par sevi un savām prerogatīvām. Un atbrīvots no nepieciešamības atrisināt jebkādas morālas šaubas neatkarīgi no konteksta, kurā tas tiek izmantots, mākslīgais prāts var palikt iestrēdzis savā lomā kā tikai rīkojumu izpildītājs.
Bet, ja mākslīgais intelekts var būt "pārcilvēcisks" tādā ziņā, ka tas spēj pārsniegt cilvēka līmeņa veiktspēju, ir iespējams iegūt prātu, kas ir gan pārcilvēcisks, gan neapzināts, t.i., ideāls, lai aizstātu īsto vājo posmu. varas struktūru komandķēde: cilvēki.
Neapzināti prāti ir vienīgais patiesi uzticamais subjekts jutīgos kontekstos, piemēram, kara spēlēs aprakstītajā kara scenārijā, jo tie spēj izpildīt savu radītāju pavēles ar aukstu apņēmību un pilnīgi bez jebkāda veida empātijas.

AlphaBet pretapziņas prāti

Mēs uzzinām, ka tūkstošiem darbinieku atlaišanas uzņēmumos patīk microsoft, Amazone, Meta un AlphaBet tika papildināti ar augstākās vadības atvainošanos, kas vaino sevi nepareizā personāla skaita aprēķināšanā, pamatojoties uz pētījumiem par patērētāju paradumiem pēc pandēmijas, kas izrādījās nepareizi.
Patiesībā paši tehnoloģiju uzņēmumi arvien vairāk uztic uzņēmējdarbību mākslīgā intelekta algoritmiem, zinot, ka drīz būs nepieciešams daudz mazāk darbinieku visās nozarēs. Īsāk sakot, viņi būs vieni no pirmajiem, kas eksperimentēs ar AI tehnoloģijām, kas samazinās uzņēmuma izmaksas un krasi samazinās darba vietas.
Zīmīgi, ka viena no personāla samazināšanas visvairāk skartajām nodaļām ir tieši cilvēkresursu nodaļa: pēc tam, kad tās ir nodotas ražošanā, inteliģentās automatizācijas sistēmas atlaiž darbiniekus visās pārējās nodaļās, veicot novērtējumus, kas koncentrējas uz uzņēmuma vajadzībām un daļu elementiem. humanizācija, piemēram, empātija un solidaritāte.
Lielo korporāciju mērķis šodien nav AI evolūcija, bet gan automatizācijas sistēmu izveide, kas ir tikpat inteliģentas, cik negodīgas, pildot savus pienākumus.

Raksts no Gianfranco Fedele