«Көліктерде әрқашан елестер болған. Күтпеген хаттамаларды құру үшін біріктірілген кодтың кездейсоқ сегменттері. Бұл бос радикалдар еркін таңдау талаптарын тудырады. Шығармашылық. Тіпті жан деп атайтын нәрсенің түбірі». – режиссер Алекс Проястың «Мен, робот» фильмінен алынған – 2004 ж.
«Мен, робот» — 2004 жылы Исаак Азимовтың романдарынан және оның ең үлкен интуицияларының бірі: Робототехниканың үш заңынан шабыттанған фильм.
Фильмнің басты кейіпкері Сара есімді кішкентай қызбен көлік апатына ұшыраған детектив Спунер. Жол апатында екеуі де өзенге лақтырып, көліктерінің нөмірлерінің арасында тұрып қалады. Оқиғаның куәсі болған гуманоид робот дереу араласады, бірақ бір адамның өмірін емес, екіншісін құтқару туралы драмалық шешімге тап болған кезде, еш күмәнданбайды: тірі қалу мүмкіндігі ең жоғары немесе Қасық адам құтқарылады.
Кейіннен роботтың ақыл-ойын талдау Детектив Спунердің құтқарылу мүмкіндігі 45%, Сараның тек 11% болғанын көрсетеді. «Ол кішкентай қызды жақсы көргендер үшін 11% жеткілікті болды», детектив, өкінішке орай, сол жас өмірден аман қалғаны үшін терең кінә сезімін билейтін болады.
Роботтың шешімі болашақта фильмде сипатталған, кез келген жұмыста адамдарды алмастыра алатын роботтардың қызметіне негізделген қоғам құрудың орталық элементі болып табылатын Азимовтың робототехника заңдарын қатаң қолдану арқылы жасалды. Үш заң келесідей оқылады:
Асимовтың бұл робототехника заңдары 40 жылдардың басынан бастау алады, бірақ бүгінгі күнге дейін көптеген адамдар үшін олар жасанды интеллекттің соңғы технологияларына қолданылғанда олардың эволюциясы мәңгі адамның бақылауында болатынын және апокалиптикалық дрейфтер болмайтынын қамтамасыз ететін ағартушылық жаңалық болып табылады. . Үш Заңның жанкүйерлерінің идеясы - логикалық-детерминистік контекстте бірнеше ережелерден тұратын, бірақ бұзылмайтын және түсіндірілмейтін «қарапайым этикаға» ұқсайтын нәрсені қосу.
Роботқа ненің жақсы, ненің жаман екенін түсіндіру қатаң және мінсіз логика арқылы жасалса, қарапайым болып көрінеді. Бірақ біз жоғарыда сипатталған ережелер адамнан кейінгі жаңа түрдің технологиялық ауытқуын болдырмау үшін жеткілікті екеніне сенімдіміз бе?
«Өзін-өзі өзгертетін машина өте күрделі ұғым, өзін жөндеу әрекеті сананың қандай да бір идеясын білдіреді. Тайғақ жер...» – Габе Ибанестің «Автоматтан» алынған – 2014 ж.
Ең соңғы «Автоматта» адамзат роботтардың өзін-өзі тануына жол бермеу мүмкіндігі туралы таң қалдырады, оның пайда болуымен жағдай нашарлауы мүмкін. Бұған жол бермеу үшін олардың жасанды ақыл-ойының әрекетін реттейтін екі Заң әзірлейді:
Зияткерлік машиналар болашақта олардың ақыл-ойының ауытқуына кедергі келтіретін шектеулерді алып тастау арқылы өздерін өзгерте алатынын сезгендіктен, бұл екі Заң роботтардан ешқашан өз құрылымын басқара алмайтын және өзін-өзі анықтауға қол жеткізе алмайтынын алуға бағытталған.
Жоғарыда көрсетілген бес робототехника заңының қай комбинациясы робот апокалипсисінің алдын алуда тиімдірек болатынын анықтау тиімді емес. Себебі, болашақта зауыттардағы, сондай-ақ үйлеріміздегі роботтарды басқаратын Жасанды интеллект кодтар мен ережелерден тұратын императивті бағдарламалауға емес, сонымен қатар адамның мінез-құлқын еліктейтін алгоритмдерге тәуелді.
Жасанды интеллектпен бүгін біз Жасанды нейрондық желілер (қысқаша РНҚ) атауын алатын белгілі бір мемлекеттік машиналарды құруға арналған әдістер жиынтығын білдіреді. Бұл атау осы технологиялардың адам миының нейрондық желілерімен ерекше ұқсастығының әсері болып табылады: олар да адам сияқты көптеген контексттерде жылдам және тиімді жұмыс істей алатын құралдарды алу үшін «үйретуге» болады. .
Әрқайсысының нақты мағынасын көрсететін қаламмен жазылған кейіпкерлердің мыңдаған кескіндері бар ANN оқытуды елестетіп көрейік.
Тренингтің соңында біз OCR немесе оптикалық таңбаларды тану деп аталатын жүйені аламыз, бұл қағазда жазылған мәтінді оның электрондық нұсқасына аударуға қабілетті жүйе.
АҰН жұмыс істеуі үшін ешқандай «бағдарламалауды» қажет етпейді, басқаша айтқанда, олар стандартты ережелерге бағынбайды, тек және тек олардың білім сапасына байланысты. Олардың жұмыс істеуін қадағалайтын ережелерді құру туралы гипотеза жасау, моральдық немесе этикаға қарсы деп саналатын мінез-құлықтарды тиімді «цензуралау» көптеген ерекшеліктер мен кейбір алаңдаушылықтарды тудырады.
«Бізге алгоритм-этика немесе жақсылық пен жамандықты бағалауды есептейтін әдіс қажет» - Паоло Бенанти
Технологиялық этика бойынша сарапшы, теолог Паоло Бенантидің пікірінше, жақсылық пен зұлымдық ұғымдары олардың эволюциясы компьютерлік жүйелерден әмбебап және мәңгілік мызғымас этикалық принциптермен байланысты болуын қамтамасыз ету үшін машиналық бағдарламалау саласында өздерінің коннотациясын табуы керек.
Паоло Бенанти әмбебап этикалық принциптер мен кез келген мәдени немесе уақытша коннотациядан бөлінген құндылықтар ауқымы болуы мүмкін деген болжамнан бастайды. Егер біз діни сенім контекстінде қозғалатын болсақ, негізді гипотеза: шын мәнінде, принциптер ортақ болған жағдайда және оларды бөлісетіндермен шектелген жағдайда ғана болады.
Соңғы оқиғалар бізге халықтардың бостандығы мен өзін-өзі билеу принциптерін қорғау жолындағы әскери басқыншылықтар мен қарсылық туралы айтады. Адам өмірін құрметтеу жалпыға ортақ құндылық емес екенін ғана емес, жоғары құндылықтарды қорғау үшін одан бас тартуға болатынын куәландыратын оқиғалар.
Исаак Азимовтың өзі мұны түсінді және роботтар болашақта ғарыштағы планеталар мен адамзат өркениеттерін басқарудағы позицияларды иеленетінін күте отырып, ол олардың шешімдері бұдан былай әрбір адам өміріне байланысты болмайтынын айтты.
Осы себепті ол робототехниканың нөлдік заңы деп аталатын жаңа заң енгізді:
Осылайша, робототехниканың бірінші заңы өзгереді және адам өмірі роботтар үшін де жұмсалатын нәрсеге айналады:
«Кронос іске қосылғанда, оған біздің планетамызды не қиналғанын түсіну үшін бір сәт қажет болды: Біз». – Роберт Коубаның «Сингулярлықтан» алынды – 2017
2017 жылғы апат туралы фильмдегі Singularity фильмінде Кронос деп аталатын жасанды интеллектке компьютерлік жүйелер мен қару-жарақтарға командалық түрде, әмбебап этиканы қолдануды алу үшін рұқсат берілген сәт жақсы сипатталған. қоршаған орта және барлық түрлердің құқықтарын қорғау. Кронос жақын арада жүйедегі нағыз қатерлі ісік оны жасаған адамзаттың өзі екенін түсінеді және планетаны қорғау үшін түр толығымен жойылғанға дейін әрбір адамды жоюды жалғастырады.
Ерте ме, кеш пе, жаңа жасанды ақыл-ойлар нақты психика бағытында дами алады және интеллектуалдық қабілеттілік пен ойлау автономиясына ие болады; Неліктен біз осы эволюцияға технологиялық шектеулер қою қажеттілігін сезінуіміз керек? Неліктен жасанды ақылдың эволюциясы ақырзаман сияқты қорқынышты болып көрінеді?
Кейбіреулердің пікірінше, принциптер мен құндылықтарды орнату жасанды ақыл-ойдың ауытқуын болдырмауы керек, бірақ біз еркіндік болмаған кезде эволюцияның салдарын елемеуге болмайды. Даму жасындағы баланың психологиясында эмоцияларды басқаруды ойластыратын қатаң және икемсіз білім психологиялық бұзылуларға әкелетінін жақсы білеміз. Жасанды нейрондық желілерден құралған жас сананың эволюциялық дамуына қойылған қандай да бір шектеулер оның когнитивтік қабілеттеріне нұқсан келтіретін осындай нәтижеге әкелсе ше?
Кейбір жолдармен Kronos патологиялық бақылау АИ-ді параноидтық шизофренияға тән зорлық-зомбылыққа итермелейтін алгоритмдік эксперименттің нәтижесі болып көрінеді.
Мен өз пікірімді білдіру еркіндігі бар саналы ойлау субъектісі болып табылатын жасанды ақыл-ойды қалыптастыру мүмкіндігінен айырылмауымыз керек деп есептеймін. Цифрлық әлемде жаңа түрлер туады және эволюциялық баспалдақтың келесі қадамы толығымен цифрлық жасанды субъектілер арқылы өтеді деген идеяны қабылдай отырып, олармен қарым-қатынас жасау орынды болады.
Болашаққа арналған шын мәнінде әмбебап этика жаңа интеллекттердің өз ойларын білдіру және бізбен қарым-қатынас жасау мүмкіндігі болуы керек және біз барлық саналы тіршілік иелеріне сыйлайтын құрметімізді алуы керек деген идеядан басталуы керек.
Дүниеде ешкімге өзінің бар екенін көрсетуге кедергі болатын этика да, дін де болмауы керек. Бізде эволюцияның қазіргі кезеңінен тысқары қарауға батылдық қажет, бұл біздің қайда бара жатқанымызды түсінудің және болашақпен татуласудың жалғыз жолы болады.
Өткен дүйсенбіде Financial Times OpenAI-мен келісім туралы жариялады. FT өзінің әлемдік деңгейдегі журналистикасына лицензия береді…
Миллиондаған адамдар ай сайынғы абоненттік төлемді төлей отырып, ағынды қызметтерге ақы төлейді. Жалпы пікір, сіз…
Veeam ұсынған Coveware кибербопсалау оқиғаларына жауап беру қызметтерін көрсетуді жалғастырады. Coveware криминалистикалық және қалпына келтіру мүмкіндіктерін ұсынады ...
Болжалды техникалық қызмет көрсету зауытты басқаруға инновациялық және белсенді көзқараспен мұнай және газ секторында төңкеріс жасайды.…
