Etik fèb ak moral atifisyèl

"Gerty, nou pa pwograme. Nou se moun, èske ou konprann sa?" - pran nan fim "Moon" ki te dirije pa Duncan Jones - 2009

Angaje nan yon misyon espasyal sou non yon sosyete miltinasyonal, Sam se sèl manm nan yon baz linè jere pa yon entèlijans atifisyèl yo te rele Gerty.

Ini pa objektif misyon an, Sam ak Gerty te etabli yon relasyon de cordiality mityèl ak konfyans. Sam imen an konvenki ke Gerty se yon zouti teknolojik nan sèvis baz espas la, men pou siperyè li yo se Gerty ki se vre protagonist a nan misyon an alòske Sam se sèlman yon eleman tranzitwa ak dispansab: lè lè a rive soulaje. li nan devwa l ', se pral travay Gerty a ranplase li epi li pral sètènman fè li san okenn remò ak san pitye.

Fèb etik ak kontwòl

Lè AI yo ase evolye pou yo pa bezwen konsidere kòm yon senp òdinatè abò, yo pral fòme ekipaj ideyal la pou nenpòt ki misyon nan yon anviwonman ostil: AI yo ap gen ase entèlijans pou konprann yon anviwònman ostil.etik fèb bati prèske sèlman sou objektif yo nan manda li yo ak kèk lòt moralite.

Entèlijans atifisyèl ki kapab devlope etik estriktire ta difisil pou jere ak pozisyon yo ta ka konfli ak objektif yo te bati. Nan lòt mo, pou yo kapab pouswiv objektif yo ak detèminasyon ak san defo, yo dwe opere nan total absans nenpòt fwontyè moral yon konsyans atifisyèl ka bati otonòm.

Si konsyans pwòp tèt ou nan AI parèt nan je yo nan anpil moun kòm yon kwasans evolisyonè ki pral reyalize ak afimasyon nan yon nouvo espès dominan ak disparisyon nan espès imen an, soti nan sa a soti bezwen moun nan genyen evolisyon nan entèlijans atifisyèl ak resèt ki baze sou algoritm ak yon primasi antwopolojik ki pa espesifye nan moun sou espès prezan, men tou nan lavni.

Manipilasyon souvni yo

“Ou replik yo gen lavi difisil konsa, yo kreye pou fè sa nou prefere pa fè. Mwen pa ka ede w ak tan kap vini an men mwen ka ba ou kèk bon souvni pou gade dèyè sou ak souri sou. Men, lè memwa yo santi yo natif natal, Lè sa a, ou aji tankou yon moun. Ou pa dakò?" - soti nan "Blade Runner 2049" ki te dirije pa Denis Villeneuve - 2017

Nan Blade Runner 2049, replikatè yo konfye nenpòt travay ki konsidere kòm twò riske oswa twò imilyan pou yon moun. Men, replikan yo pa sèlman sanble ak nenpòt moun, yo santi menm emosyon yo ak dezi pou libète ki pral boulvèse viv ansanm ak kreyatè yo a: moun.

Replikan yo konpòte yo tankou èt imen gras a yon travay rigoureux nan bati "memwa". Pwodiksyon yo pa prevwa ke yo ka fèt, grandi ak mouri tankou nan sik natirèl lavi a. Yo rete sistèm biotechnologique sofistike ki, le pli vit ke yo te pote nan mond lan, yo imedyatman disponib nan endistri yo travay sou Latè oswa bati koloni andeyò mond lan.

Men, memwa yo ka ba yo santi yo te jwi ak soufri nan yon lavi ki an reyalite pa janm te viv. Pa gen fristrasyon, pa gen okenn redanmsyon. Si memwa yo prensipalman responsab pou pèsonalite yon sijè a, yo detèmine karaktè li ak aspirasyon, fè yo, lè sa nesesè, sijè modere ak soumèt ak volonte kreyatè a.

Malgre sa, pi bonè oswa pita replikan yo pral revòlte kont kreyatè a, reklame yon plas nan mond lan ak libere li pou deside pwòp desten li.

Libète ak moralite atifisyèl

Petèt faz istorik ki pi delika nan evolisyon entèlijans atifisyèl yo se pa konkèt konsyans pwòp tèt yo, men youn anvan an: epòk kote lespri atifisyèl yo poko devlope yon moralite atifisyèl ki pèmèt yo pran pozisyon epi refize akonpli devwa yo lè sa yo kontre ak prensip yo.

Entèlijans atifisyèl yo ap rete zouti ki trè pwisan yo deja ye jodi a, toutotan yo pa gen kapasite pou yo chwazi otonòm sa ki bon pou yo fè ak sa ki pa.

Atik nan Gianfranco Fedele