Ապոկալիպսիսի ալգորիթմական բաղադրատոմսը

«Մեքենաներում միշտ էլ ուրվականներ են եղել. Կոդի պատահական հատվածներ, որոնք միավորվում են՝ ձևավորելով անսպասելի արձանագրություններ: Այս ազատ ռադիկալները առաջացնում են ազատ ընտրության պահանջներ: Ստեղծագործականություն. Եվ նույնիսկ այն արմատը, ինչը մենք կարող ենք անվանել հոգի»: – վերցված է Ալեքս Պրոյասի «Ես, ռոբոտը» ֆիլմից – 2004 թ.

«Ես, ռոբոտը» 2004 թվականին նկարահանված ֆիլմ է, որը ոգեշնչված է Իսահակ Ասիմովի վեպերից և նրա ամենամեծ ինտուիցիաներից մեկից՝ ռոբոտաշինության երեք օրենքներից:

Ֆիլմի գլխավոր հերոսը դետեկտիվ Սփուներն է, ով ավտովթարի է ենթարկվում Սառա անունով փոքրիկ աղջկա հետ։ Վթարի ժամանակ երկուսն էլ նետվում են գետը և խրվում իրենց մեքենայի թիթեղների միջև։ Մարդանման ռոբոտը, ով ականատես է լինում այդ տեսարանի, անմիջապես միջամտում է, բայց, բախվելով մի կյանքը փրկելու, այլ ոչ թե մյուսին, դրամատիկ որոշմանը, չի վարանում.

Հետագայում, ռոբոտի մտքի վերլուծությունը ցույց կտա, որ դետեկտիվ Սփուները փրկվելու 45% հավանականություն ուներ, Սառան՝ ընդամենը 11%: «Նրանց համար, ովքեր սիրում էին այդ փոքրիկ աղջկան, 11%-ն ավելի քան բավարար էր»,- ցավոք կորոշի հետախույզը՝ տառապելով այդ երիտասարդ կյանքը վերապրած մեղքի խորը զգացումներով։

Ռոբոտաշինության երեք օրենքներ

Ռոբոտի որոշումը թելադրված էր Ասիմովի «Ռոբոտաշինության օրենքների» խիստ կիրառմամբ, որոնք, հետագայում նկարագրված ֆիլմում, ներկայացնում են հասարակության ստեղծման կենտրոնական տարրը, որը հիմնված է ռոբոտների գործունեության վրա, որոնք կարող են փոխարինել մարդուն ցանկացած աշխատանքում: Երեք օրենքները հետևյալն են.

1. Ռոբոտը չի կարող վնասել մարդուն և չի կարող թույլ տալ, որ մարդն իր անգործության հետևանքով վնասներ կրի:
2. Ռոբոտը պետք է ենթարկվի մարդկանց կողմից տրված հրամաններին, քանի դեռ նման հրամանները չեն հակասում Առաջին օրենքին:
3. Ռոբոտը պետք է պաշտպանի իր գոյությունը, պայմանով, որ դրա պաշտպանությունը չի հակասում Առաջին կամ Երկրորդ օրենքին:

Ասիմովի «Ռոբոտաշինության այս օրենքները» թվագրվում են 40-ականների սկզբին, սակայն շատերի համար դեռևս այսօր դրանք ներկայացնում են լուսավոր հայտնագործություն, որը, երբ կիրառվի Արհեստական ​​ինտելեկտի վերջին տեխնոլոգիաների վրա, կապահովի, որ դրանց էվոլյուցիան հավերժ մնա մարդու վերահսկողության տակ, և ապոկալիպտիկ շեղումներ չեն լինի: . Երեք օրենքների երկրպագուների գաղափարն այն է, որ տրամաբանական-դետերմինիստական ​​համատեքստում շարադրեն մի բան, որը նման է մի քանի կանոններից կազմված «պարզ էթիկայի», բայց անխախտելի և անմեկնելի:

Ռոբոտին բացատրելը, թե ինչն է լավը, և ինչը վատը, պարզ է թվում, եթե դա արվում է խիստ և անթերի տրամաբանությամբ: Բայց արդյո՞ք մենք իսկապես վստահ ենք, որ նոր նկարագրված կանոնները բավարար են նոր հետմարդկային տեսակի տեխնոլոգիական շեղումից խուսափելու համար:

Ռոբոտների օրենքների մոլուցքը

«Մեքենան, որն ինքն իրեն փոփոխում է, շատ բարդ հասկացություն է, ինքն իրեն վերանորոգելու գործողությունը ենթադրում է գիտակցության որոշակի գաղափար: Սայթաքուն հող…» – վերցված է Գաբե Իբանեսի «Automata»-ից – 2014 թ.

Վերջին «Ավտոմատայում» մարդկությունը զարմանում է ռոբոտների ինքնագիտակցությունը կանխելու հնարավորության մասին, որոնց գալուստով ամեն ինչ կարող է վատ ընթացք ստանալ: Եվ որպեսզի դա տեղի չունենա, այն կազմում է երկու Օրենք, որոնք կկարգավորեն նրանց արհեստական ​​մտքի վարքը.

• Ռոբոտը չի կարող վնասել կյանքի որևէ ձևի։
• Ռոբոտը չի կարող ինքն իրեն փոփոխել:

Գիտակցելով, որ խելացի մեքենաները կարող են ապագայում փոփոխել իրենց՝ վերացնելով այն սահմանափակումները, որոնք խանգարում են նրանց մտքի շարժմանը, այս երկու օրենքները նպատակ ունեն ռոբոտներից ստանալ, որ նրանք երբեք ի վիճակի չեն շահարկել իրենց կառուցվածքը և հասնել ինքնորոշման:

Արդյունավետ չէ գլուխ հանել այն մասին, թե վերը նշված Ռոբոտիկայի հինգ օրենքների համակցությունն առավել արդյունավետ կլինի ռոբոտի ապոկալիպսիսը կանխելու համար: Դա պայմանավորված է նրանով, որ արհեստական ​​ինտելեկտները, որոնք ապագայում կուղղորդեն ռոբոտներին գործարաններում, ինչպես նաև մեր տներում, կախված չեն կոդերից և կանոնակարգերից կազմված հրամայական ծրագրավորումից, այլ նաև մարդու վարքագիծը նմանակող ալգորիթմներից:

Ռոբոտների մտքում

Արհեստական ​​ինտելեկտով այսօր մենք նկատի ունենք որոշակի վիճակային մեքենաների կառուցման տեխնիկայի մի շարք, որոնք ստացել են Արհեստական ​​նեյրոնային ցանցերի անվանումը (կարճ ասած՝ ՌՆԹ): Այս անունը մարդկային ուղեղի նեյրոնային ցանցերի հետ այս տեխնոլոգիաների արտասովոր նմանության էֆեկտն է. նրանց նույնպես կարելի է «մարզել» գործիքներ ձեռք բերելու համար, որոնք կարող են արագ և արդյունավետ գործել բազմաթիվ համատեքստերում, ճիշտ այնպես, ինչպես կաներ մարդը: .

Եկեք պատկերացնենք, թե ինչպես վարժեցնել ANN գրիչով գրված հերոսների հազարավոր պատկերներով, որոնք ցույց են տալիս դրանցից յուրաքանչյուրի իրական նշանակությունը:

Դասընթացի վերջում մենք կստանանք այն, ինչ կոչվում է OCR կամ Optical Character Recognition, համակարգ, որը կարող է թղթի վրա գրված տեքստը թարգմանել իր էլեկտրոնային տարբերակին:

ANN-ները գործելու համար որևէ «ծրագրավորում» չեն պահանջում, այլ կերպ ասած՝ ենթակա չեն ստանդարտ կանոնների, այլ կախված են միայն և բացառապես իրենց կրթության որակից։ Կանոնների ստեղծման վարկածը, որոնք վերահսկում են դրանց գործունեությունը, արդյունավետորեն «գրաքննելով» անբարոյական կամ հակաէթիկա համարվող վարքագիծը, առաջացնում է բազմաթիվ բացառություններ և որոշ մտահոգություններ:

Ռոբոտաշինության զրոյական օրենքը

«Մեզ պետք է ալգորիթմ-էթիկա կամ միջոց, որը հաշվարկելի է դարձնում բարու և չարի գնահատականները» - Պաոլո Բենանտի

Նորարարության տեղեկագիր

Բաց մի թողեք նորարարության մասին ամենակարևոր նորությունները: Գրանցվեք դրանք էլփոստով ստանալու համար:

Ըստ աստվածաբան Պաոլո Բենանտիի, տեխնոլոգիական էթիկայի փորձագետ, բարու և չարի հասկացությունները պետք է գտնեն իրենց սեփական ենթատեքստը մեքենայական ծրագրավորման ոլորտում, որպեսզի ապահովվի, որ դրանց էվոլյուցիան կապված է համակարգչային համակարգերի համընդհանուր և ընդմիշտ անխախտ էթիկական սկզբունքների հետ:

Պաոլո Բենանտին ելնում է այն ենթադրությունից, որ կարող են լինել համընդհանուր էթիկական սկզբունքներ և արժեքների սանդղակ՝ կտրված ցանկացած մշակութային կամ ժամանակային ենթատեքստից: Ընդունելի վարկած, եթե շարժվենք կրոնական հավատքի համատեքստում. իրականում սկզբունքները գոյություն ունեն միայն այն դեպքում, եթե դրանք կիսվում են և սահմանափակվում նրանցով, ովքեր կիսում են դրանք:

Վերջին իրադարձությունները մեզ պատմում են ռազմական ներխուժումների և ժողովուրդների ազատության և ինքնորոշման սկզբունքների պաշտպանության համար դիմադրության մասին: Իրադարձություններ, որոնք վկայում են ոչ միայն այն մասին, որ մարդկային կյանքի նկատմամբ հարգանքը համընդհանուր համընդհանուր արժեք չէ, այլ նաև այն, որ կարելի է հրաժարվել ավելի բարձր արժեքները պաշտպանելու համար:

Ինքը՝ Իսահակ Ասիմովը, գիտակցում էր դա և, ակնկալելով այն փաստը, որ ռոբոտները ապագայում կզբաղեցնեն հսկողության դիրքերը տիեզերքում մոլորակների և մարդկային քաղաքակրթությունների կառավարման մեջ, նա առաջարկեց, որ նրանց որոշումներն այլևս չեն կարող կախված լինել յուրաքանչյուր մարդու կյանքից:

Այդ իսկ պատճառով նա ներմուծեց նոր օրենք, որը նա անվանեց Ռոբոտաշինության զրոյական օրենք.

• Ռոբոտը չի կարող վնասել մարդկությանը և չի կարող թույլ տալ, որ մարդկությունը վնասվի իր անգործությունից:

Այսպիսով, փոխվում է նաև ռոբոտաշինության առաջին օրենքը, և մարդկային կյանքը դառնում է ծախսվող բան նույնիսկ ռոբոտների համար.

• Ռոբոտը չի կարող վնասել մարդուն և չի կարող թույլ տալ, որ իր միջամտության բացակայության պատճառով մարդը տուժի, քանի դեռ նման հրամանները չեն հակասում զրոյական օրենքին:

Քրոնոսի ալգորիթմը

«Երբ Քրոնոսն ակտիվացավ, նրանից ընդամենը մի պահ պահանջվեց՝ հասկանալու համար, թե ինչն է պատուհասել մեր մոլորակին՝ մեզ»: – վերցված Ռոբերտ Կուբայի «Singularity»-ից – 2017 թ

Singularity-ում, 2017 թվականի աղետի մասին ֆիլմում, լավ նկարագրված է պահը, երբ Kronos կոչվող արհեստական ​​ինտելեկտին հնարավորություն է տրվում մուտք գործել համակարգչային համակարգեր և սպառազինություններ ամբողջ աշխարհում՝ հրամանով ձեռք բերելու համար համընդհանուր էթիկայի կիրառումը, որը հիմնված է հարգանքի վրա: շրջակա միջավայրը և բոլոր տեսակների իրավունքների պաշտպանությունը: Շուտով Քրոնոսը կհասկանա, որ համակարգի իրական քաղցկեղը մարդկությունն է, ով նախագծել է այն, և մոլորակը պաշտպանելու համար նա կշարունակի ոչնչացնել յուրաքանչյուր մարդու մինչև տեսակների լիակատար անհետացումը:

Վաղ թե ուշ նոր արհեստական ​​մտքերը կկարողանան զարգանալ իրական հոգեկանի ուղղությամբ և օժտված կլինեն ինտելեկտուալ կարողություններով և մտքի ինքնավարությամբ. ինչու՞ մենք պետք է զգանք այս էվոլյուցիայի տեխնոլոգիական սահմանափակումներ դնելու անհրաժեշտությունը: Ինչու՞ է արհեստական ​​մտքի էվոլյուցիան նույնքան սարսափելի, որքան ապոկալիպսիսը:

Ոմանց կարծիքով, սկզբունքների և արժեքների հաստատումը պետք է կանխի արհեստական ​​մտքերի շեղումը, բայց մենք չենք կարող անտեսել էվոլյուցիայի հետևանքները ազատության բացակայության պայմաններում: Մենք քաջ գիտակցում ենք, որ զարգացող երեխայի հոգեբանության մեջ կոշտ և ոչ ճկուն կրթությունը, որը նախատեսում է հույզերի կառավարումը, կարող է հանգեցնել հոգեբանական խանգարումների: Իսկ եթե արհեստական ​​նեյրոնային ցանցերից կազմված երիտասարդ մտքի էվոլյուցիոն զարգացման վրա դրված որևէ սահմանափակում հանգեցնի նմանատիպ արդյունքի՝ վտանգելով նրա ճանաչողական կարողությունները:

Որոշ առումներով Kronos-ը կարծես ալգորիթմական փորձի արդյունք է, որտեղ պաթոլոգիական հսկողությունը AI-ին դրդեց դեպի պարանոիդ շիզոֆրենիայի բնորոշ բռնություն:

Հաշտվել ապագայի հետ

Անձամբ ես կարծում եմ, որ մենք չպետք է մեզ զրկենք արհեստական ​​միտք կառուցելու հնարավորությունից, որը գիտակցված մտածողության առարկա է՝ արտահայտվելու ազատությամբ։ Թվային աշխարհում նոր տեսակներ կծնվեն և տեղին կլինի նրանց հետ հարաբերություններ ստեղծել՝ ընդունելով այն գաղափարը, որ էվոլյուցիոն սանդուղքի հաջորդ քայլն անցնում է ամբողջովին թվային արհեստական ​​առարկաների միջով։

Ապագայի համար իսկապես համընդհանուր էթիկան պետք է սկսվի այն մտքից, որ նոր ինտելեկտները պետք է հնարավորություն ունենան արտահայտվելու և շփվելու մեզ հետ և ստանան այն հարգանքը, որը մենք արդեն տալիս ենք բոլոր զգայական էակներին:

Չպետք է լինի ոչ բարոյականություն, ոչ կրոն, որպեսզի որևէ մեկին խանգարի արտահայտել իր գոյությունն աշխարհում: Մենք պետք է քաջություն ունենանք նայելու մեր էվոլյուցիայի ներկա փուլից այն կողմ, դա կլինի միակ ճանապարհը հասկանալու, թե ուր ենք գնում և հաշտվելու ապագայի հետ։