Әлсіз этика және жасанды мораль

«Герти, біз бағдарламаланбағанбыз. Біз адамбыз, соны түсінесің бе?». – Дункан Джонс түсірген «Ай» фильмінен алынған – 2009 ж

Көпұлтты корпорация атынан ғарыштық миссиямен айналысатын Сэм Герти есімді жасанды интеллект басқаратын ай базасының жалғыз мүшесі.

Миссияның мақсаттары бойынша біріккен Сэм мен Герти өзара мейірімділік пен сенім қарым-қатынасын орнатты. Адам Сэм Гертидің ғарыштық базаның қызметіндегі технологиялық құрал екеніне сенімді, бірақ оның басшылары үшін бұл Герти миссияның шынайы кейіпкері, ал Сэм тек өтпелі және жұмсалатын элемент: жеңілдету уақыты келгенде ол өз міндеттерін орындаса, оны ауыстыру Гертидің міндеті болады және ол мұны еш өкінбестен және аяусыз орындайтыны сөзсіз.

Әлсіз этика және бақылау

АИ-лер бұдан былай қарапайым борттық компьютер ретінде қарастырылмау үшін жеткілікті түрде дамыған кезде, олар дұшпандық ортадағы кез келген миссия үшін тамаша экипажды құрайды: адамзат пен компьютерлерді біріктіріп, АИ-лер мәселені түсіну үшін жеткілікті интеллектуалды болады.әлсіз этика дерлік өз мандатының мақсаттарына және бірнеше басқаларға негізделген мораль.

Құрылымдық этиканы дамытуға қабілетті жасанды интеллектті басқару қиынға соғады және олардың ұстанымдары олар салынған мақсаттарға қайшы келуі мүмкін. Басқаша айтқанда, олар өз мақсаттарына табандылықпен және мінсіз жету үшін, жасанды ар-ождан автономды түрде құра алатын ешқандай моральдық шекара жоқ жерде жұмыс істеуі керек.

Егер АИ-нің өзін-өзі тану көптеген адамдардың көз алдында жаңа басым түрдің расталуымен және адам түрінің жойылуымен жүзеге асырылатын эволюциялық секіріс ретінде көрінсе, осыдан адамның жасанды интеллект эволюциясын қамту қажеттілігі туындайды. алгоритмдерге негізделген рецепттер және адамның қазіргі, сонымен қатар болашақ түрлерге қатысты анықталмаған антропологиялық басымдығы.

Естеліктерді манипуляциялау

«Сіздердің репликанттарыңыздың өмірлері өте ауыр, олар біз жасамайтын нәрсені істеу үшін жаратылған. Мен сізге болашақта көмектесе алмаймын, бірақ мен сізге артқа қарап, күлетін жақсы естеліктер бере аламын. Ал естеліктер шынайы болған кезде, сіз адам сияқты әрекет етесіз. Келіспейсіз бе?" – Денис Вильнев түсірген «Blade Runner 2049» фильмінен – 2017

Blade Runner 2049 нұсқасында репликанттарға тым қауіпті немесе адам үшін тым қорлайтын кез келген тапсырма жүктеледі. Дегенмен, репликанттар кез келген адам сияқты көрініп қана қоймайды, олар бірдей эмоцияларды сезінеді және олардың жаратушысы адаммен бірге өмір сүруді бұзатын еркіндікке ұмтылады.

Репликанттар «естеліктерді» құрудағы тынымсыз жұмыстың арқасында өздерін адам сияқты ұстайды. Олардың өндірісі өмірдің табиғи цикліндегідей туып, өсіп, өлетінін болжамайды. Олар күрделі биотехнологиялық жүйелер болып қала береді, олар әлемге әкелінгеннен кейін бірден жер бетінде жұмыс істеу немесе әлемнен тыс колониялар құру үшін салаларға қол жетімді.

Бірақ естеліктер оларға ешқашан өмір сүрмеген өмірден ләззат алып, азап шегу сезімін бере алады. Ешқандай көңілсіздік, өтеу жоқ. Егер естеліктер субъектінің жеке басына ең алдымен жауапты болса, олар оның мінезі мен ұмтылысын анықтайды, қажет болған жағдайда оларды жұмсақ субъектілер етеді және жаратушының еркіне бағынады.

Осыған қарамастан, репликанттар ерте ме, кеш пе жаратушыға қарсы шығып, әлемде орын талап етіп, өз тағдырын шешуге босатады.

Бостандық және жасанды мораль

Мүмкін, жасанды интеллект эволюциясының ең нәзік тарихи кезеңі өзін-өзі тануды жеңу кезеңі емес, оның алдыңғы кезеңі: жасанды ақыл-ой әлі қалыптаспаған дәуір. жасанды мораль бұл олардың ұстанымдарына қайшы келген кезде өз міндеттерін орындаудан бас тартуға мүмкіндік береді.

Жасанды интеллект не істеу керек, не істеу дұрыс емес екенін автономды таңдау мүмкіндігінен айырылғанша, олар қазірдің өзінде бар өте қуатты құрал болып қала береді.

Артиколо ди Gianfranco Fedele