Թույլ էթիկա և արհեստական ​​բարոյականություն

«Գերթի, մենք ծրագրավորված չենք: Մենք մարդիկ ենք, դուք դա հասկանու՞մ եք»։ – վերցված է Դունկան Ջոնսի «Լուսին» ֆիլմից – 2009 թ

Բազմազգ կորպորացիայի անունից զբաղված տիեզերական առաքելությամբ՝ Սեմը լուսնային բազայի միակ անդամն է, որը ղեկավարվում է Գերթի անունով արհեստական ​​ինտելեկտի կողմից:

Միավորված առաքելության նպատակներով՝ Սեմն ու Գերթին հաստատել են փոխադարձ ջերմության և վստահության հարաբերություններ: Մարդ Սեմը համոզված է, որ Գերտին տեխնոլոգիական գործիք է, որը ծառայում է տիեզերական բազային, բայց նրա վերադասների համար հենց Գերթին է առաքելության իրական գլխավոր հերոսը, մինչդեռ Սեմը միայն անցողիկ և ծախսվող տարր է. Գերտիի գործն է լինելու փոխարինել նրան, և նա, անշուշտ, դա կանի առանց զղջման և առանց ողորմության:

Թույլ էթիկա և վերահսկողություն

Երբ AI-ները բավականաչափ զարգացած լինեն, որպեսզի այլևս չհամարվեն որպես պարզ համակարգիչ, նրանք կկազմեն իդեալական անձնակազմ թշնամական միջավայրում ցանկացած առաքելության համար. մարդկությանը և համակարգիչներին խճողված, AI-ները բավականաչափ խելացի կլինեն՝ հասկանալու համար.թույլ էթիկա հիմնված գրեթե բացառապես իր մանդատի և մի քանի այլ նպատակների վրա բարոյականությունը.

Արհեստական ​​ինտելեկտները, որոնք ունակ են զարգացնել կառուցվածքային էթիկան, դժվար կլինի կառավարել, և նրանց դիրքերը կարող են հակասել այն նպատակներին, որոնց համար ստեղծվել են: Այլ կերպ ասած, որպեսզի նրանք կարողանան վճռականորեն և անթերի հետամուտ լինել իրենց նպատակներին, նրանք պետք է գործեն բարոյական որևէ սահմանի իսպառ բացակայության պայմաններում, որը արհեստական ​​խիղճը կարող է ինքնուրույն կառուցել:

Եթե ​​AI-ի ինքնագիտակցությունը շատերի աչքում երևում է որպես էվոլյուցիոն ցատկ, որը կիրականացվի նոր գերիշխող տեսակի հաստատմամբ և մարդկային տեսակի անհետացումով, դրանից բխում է մարդու անհրաժեշտությունը՝ զսպելու արհեստական ​​բանականության էվոլյուցիան: բաղադրատոմսեր, որոնք հիմնված են ալգորիթմների և մարդու անթրոպոլոգիական գերակայության վրա ներկա, բայց նաև ապագա տեսակների վրա:

Հիշողությունների մանիպուլյացիա

«Դուք՝ կրկնօրինակներդ, այնքան ծանր կյանքեր ունեք, որոնք ստեղծված են անելու այն, ինչ մենք նախընտրում ենք չանել: Ես չեմ կարող օգնել ձեզ ապագայում, բայց կարող եմ ձեզ մի քանի լավ հիշողություններ տալ, որոնց վրա նայեք և ժպտաք: Եվ երբ հիշողությունները վավերական են, ուրեմն դու մարդու պես ես գործում: Համաձայն չես?" – «Blade Runner 2049» ֆիլմից, ռեժիսոր Դենիս Վիլնյով – 2017 թ.

Blade Runner 2049-ում կրկնօրինակողներին վստահված է ցանկացած խնդիր, որը համարվում է չափազանց ռիսկային կամ չափազանց նվաստացուցիչ մարդու համար: Այնուամենայնիվ, ռեպլիկանտները ոչ միայն նման են ցանկացած մարդու տեսքին, այլ նրանք զգում են նույն հույզերը և ազատության այդ ցանկությունը, որը կխախտի իրենց ստեղծողի՝ մարդու հետ գոյակցությունը:

«Հիշողություններ» կառուցելու տքնաջան աշխատանքի շնորհիվ ռեպլիկանտներն իրենց մարդկային նման են պահում։ Նրանց արտադրությունը չի նախատեսում, որ նրանք կարող են ծնվել, աճել և մահանալ, ինչպես կյանքի բնական ցիկլում: Դրանք մնում են բարդ կենսատեխնոլոգիական համակարգեր, որոնք աշխարհ բերելուն պես անմիջապես հասանելի են արդյունաբերություններին Երկրի վրա աշխատելու կամ արտաաշխարհային գաղութներ կառուցելու համար:

Բայց հիշողությունները կարող են նրանց տալ այնպիսի զգացողություն, որ վայելել և տառապել են մի կյանքով, որն իրականում երբեք չի ապրել: Ոչ մի հիասթափություն, ոչ մի մարում: Եթե ​​հիշողությունները գլխավորապես պատասխանատու են սուբյեկտի անհատականության համար, դրանք որոշում են նրա բնավորությունն ու ձգտումները՝ անհրաժեշտության դեպքում դրանք դարձնելով մեղմ առարկաներ և հնազանդվելով ստեղծագործողի կամքին:

Չնայած դրան, վաղ թե ուշ ռեպլիկանտները ապստամբելու են ստեղծողի դեմ՝ հավակնելով իրենց տեղն աշխարհում և ազատելով նրան՝ որոշելու իր ճակատագիրը:

Ազատություն և արհեստական ​​բարոյականություն

Թերևս արհեստական ​​ինտելեկտի էվոլյուցիայի ամենանուրբ պատմական փուլը ոչ թե ինքնագիտակցության նվաճումն է, այլ նախորդը՝ այն դարաշրջանը, երբ արհեստական ​​միտքը դեռևս չի զարգացել: արհեստական ​​բարոյականություն դա նրանց թույլ է տալիս դիրքորոշվել և հրաժարվել կատարել իրենց պարտականությունները, երբ դրանք բախվում են իրենց սկզբունքներին:

Արհեստական ​​ինտելեկտը կմնա այն շատ հզոր գործիքը, որն արդեն կա այսօր, քանի դեռ նրանք զրկված են ինքնուրույն ընտրելու հնարավորությունից, թե ինչն է ճիշտ անել և ինչը՝ ոչ:

Արտիկոլո դի Gianfranco Fedele