Bewustwêzen en manipulaasje fan keunstmjittige geasten

USA yn 'e 80's diktearje de militêre lieders fan' e Feriene Steaten fan Amearika de nije regels foar militêre definsjeplanning defiperfoarst effektyf.

De militêren binne derfan oertsjûge dat om fluch te reagearjen op 'e agresje fan in fijânsteat, de USSR, elke persoan yn' e kommandoketen fan har rol ûntslein wurde moat en ferfongen wurde troch in kompjûtersysteem dat yn steat is om fluch en goed te besluten as it is tiid om in wrâldwide thermonukleêre oarloch los te meitsjen.

"Wy kinne de raketten net yn 'e silo's litte, om't manlju gjin knoppen drukke as de kompjûters de opdracht jouwe om oan te fallen!" - nommen út 'e film "Wargames" fan John Badham - 1984

War Operation Plan Response

De supercomputer WOPR, War Operation Plan Response, is de bêste kandidaat foar it behearen fan atoomwapens. De Amerikaanske presidint sels is fan doel him it behear fan kearnwapens ta te fertrouwen en sa te oerwinnen wat it wichtichste ferdigeningsprobleem liket te wêzen: de ûnwilligens fan guon ûndergeskikten om yn gefal fan in atoomoarloch de opdracht út te fieren om kearnraketten te lansearjen op de fijannen.

As it minskdom de swakke skeakel is

De kulturele kontekst dêr't de minsklike ûnderfining yn foarme wurdt, is grif it elemint dat de measte ynfloed hat op minsken en har relaasjes. Kultuer beskriuwt net allinich de regels fan kommunikaasje, it defiDe manier wêrop ûnderwerpen har gedachten organisearje, har emoasjes útwurkje en har idealen ûntwikkelje, einiget.
Mar as kultuer ús elke gedachte, gefoel en aksje beynfloedet, kin it yn guon konteksten as in beheining beskôge wurde.
Kultuer is net oanberne, mar wurdt assimilearre mei ûnderfining: sosjale regels, etyske en morele prinsipes, ienris oernommen, sille minsken foar altyd betingstje, har persoanlike karren rjochtsje yn elke situaasje.
By it oplieden fan in keunstmjittige yntelliginsje wurdt de ûnderfining lykwols oerset yn 'e ynfier fan in kompjûtersysteem. De ûnderfining wurdt kodifisearre yn in "ûnthâld" dy't wurdt tastjoerd oan 'e masine nei't se sammele, selektearre en manipulearre binne: ensyklopedy's, petearen, online ynhâld wurde selektearre en sammele yn in "minsklike ûnderfining" dy't, passend behannele, de basis wurdt fan ynstruksje fan elke keunstmjittige yntelliginsje. Ienris oplieding op basis fan dit ûnthâld, de AI sil weromkomme as útfier de posysjes en mieningen dy't sille folgje.

Sels bewustwêzen

Mar as it ûnthâld (kultuer) wêrmei't wy keunstmjittige yntelliginsjes traine wurdt manipulearre, is it mooglik om a priori fêst te stellen wat de oriïntaasje sil wêze fan AI en foarsizze hokker besluten it sil nimme as oproppen wurdt om ûnderskied te meitsjen tusken goed en ferkeard.
Stel jo foar dat it ûnderwiis fan in keunstmjittige yntelliginsje wurdt manipulearre neffens spesifike belangen en doelstellingen. It is natuerlik te leauwen dat de bedoeling fan dyjingen dy't it opliede, de mooglikheid útslút dat yntelliginsje sels wiere autonomy fan tinken krijt. Dit is in betingst dy't wy as "anty-bewust" kinne omskriuwe, om't it ûntnommen is fan 'e kulturele eleminten dy't essensjeel binne foar de foarming fan in gewisse frij fan elke betingst.
Mei oare wurden, in keunstmjittige yntelliginsje kin, troch de wil fan har skeppers, yn in posysje brocht wurde dêr't se nea ta selsbewustwêzen komme kin of in bewustwêzen fan himsels en har eigen prerogativen ûntwikkelje kin. En befrijd fan it oplossen fan alle morele twifels, wat de kontekst dêr't it ek yn brûkt wurdt, kin in keunstmjittige geast fêst bliuwe yn syn rol as gewoan útfierer fan oarders.
Mar as keunstmjittige yntelliginsje "superminsklike" kin wêze yn dat it by steat is om prestaasjes op minsklik nivo te oertsjûgjen, is it mooglik om in geast te krijen dy't sawol superminsklik as antybewust is, dus perfekt foar it ferfangen fan 'e echte swakke skeakel fan keatling fan kommando fan macht struktueren: minsken.
Anti-bewuste geasten binne it ienige wirklik betroubere ûnderwerp foar gefoelige konteksten lykas it oarlochsscenario beskreaun yn War Games, om't se yn steat binne om de oarders fan har skeppers út te fieren mei kâlde bepaling en yn 'e totale ôfwêzigens fan elke foarm fan empaty.

De anty-bewuste geasten fan AlphaBet

Wy leare dat de tûzenen ûntslaggen yn bedriuwen lykas Microsoft, Amazon, Meta en AlphaBet waarden begelaat troch ekskús fan topbehear dy't harsels skuldich meitsje foar it misrekkenjen fan personielsnivo's basearre op stúdzjes fan post-pandemyske konsumintegewoanten dy't ferkeard bliken te wêzen.
Yn 'e realiteit fertrouwe technologybedriuwen sels hieltyd mear saaklike operaasjes ta oan algoritmen foar keunstmjittige yntelliginsje, wittende dat se ynkoarten folle minder meiwurkers nedich binne yn alle sektoaren. Koartsein, se sille ûnder de earste wêze om te eksperimintearjen mei AI-technologyen dy't bedriuwskosten sille ferminderje en banen drastysk ferminderje.
It is wichtich dat ien fan 'e ôfdielingen dy't it meast beynfloede wurde troch personielsbesunigings krekt dy fan minsklike boarnen is: as se ienris yn produksje binne brocht, meitsje yntelliginte automatisearringssystemen ûntslach yn alle oare ôfdielingen, fiere beoardielingen út dy't rjochtsje op bedriuwsbehoeften en diel eleminten fan humanisearring lykas empasy en solidariteit.
Wat grutte bedriuwen hjoed rjochtsje op is net de evolúsje fan AI, mar de skepping fan automatisearringssystemen, sa yntelligint as se gewetenloos binne yn it útfieren fan har taken.

Artikel fan Gianfranco Fedele