„Það hafa alltaf verið draugar í bílum. Tilviljanakenndir hlutar kóða sem klessast saman til að mynda óvæntar samskiptareglur. Þessir sindurefna skapa kröfur um frjálst val. Sköpun. Og jafnvel rót þess sem við gætum kallað sál." - tekið úr "I, Robot" í leikstjórn Alex Proyas - 2004.
„I, Robot“ er kvikmynd frá 2004 sem er innblásin af skáldsögum Isaac Asimov og einu af hans mestu innsæjum: lögmál vélfærafræðinnar þrjú.
Söguhetja myndarinnar er spæjarinn Spooner sem lendir í bílslysi með lítilli stúlku sem heitir Sarah. Í slysinu kastast báðir út í á og festast á milli plötur ökutækis síns. Manneskjulegt vélmenni sem verður vitni að vettvangi grípur tafarlaust inn í en stendur frammi fyrir þeirri dramatísku ákvörðun að bjarga einu lífi frekar en hinu, hikar það ekki: sá sem á mesta möguleika á að lifa af eða Spooner verður bjargað.
Í kjölfarið mun greining á huga vélmennisins sýna að Spooner spæjari átti 45% líkur á að verða bjargað, Sarah aðeins 11%. „Fyrir þá sem elskuðu þessa litlu stelpu voru 11% meira en nóg,“ mun spæjarinn því miður ráða, þjakaður af djúpri sektarkennd fyrir að hafa lifað þetta unga líf af.
Ákvörðun vélmennisins var ráðist af ströngri beitingu á lögmálum vélfærafræði Asimovs sem, í framtíðinni sem lýst er í myndinni, er aðalþátturinn í stofnun samfélags sem byggir á starfsemi vélmenna sem geta komið í stað manna í hvaða starfi sem er. Lögin þrjú hljóða svo:
Þessi lögmál vélfærafræði eftir Asimov eiga rætur að rekja til fyrri hluta fjórða áratugarins, en fyrir marga, enn í dag, tákna þau upplýsta uppgötvun sem, þegar hún er notuð á nýjustu gervigreindartækni, mun tryggja að þróun þeirra verði að eilífu undir stjórn manna og það verður engin heimsendaskil. . Hugmyndin á bak við aðdáendur laganna þriggja er að hlúa, innan rökrétts-ákvörðunarsamhengis, eitthvað sem líkist "einfaldri siðfræði" sem samanstendur af nokkrum reglum en er friðhelg og ótúlkanleg.
Að útskýra fyrir vélmenni hvað er gott og hvað er slæmt virðist einfalt ef það er gert með ströngri og gallalausri rökfræði. En erum við virkilega viss um að reglur eins og þær sem hér var lýst nægja til að forðast tæknisvif nýrrar tegundar eftir mannkynið?
„Vél sem breytir sjálfri sér er mjög flókið hugtak, athöfnin að gera við sjálfa sig felur í sér einhverja hugmynd um meðvitund. Hálka jörð...“ – tekið úr „Automata“ eftir Gabe Ibáñez – 2014
Í nýjustu „Automata“ veltir mannkyninu fyrir sér möguleikann á að koma í veg fyrir sjálfsvitund vélmenna, með tilkomu þeirra sem hlutirnir gætu tekið slæma stefnu. Og til að koma í veg fyrir að þetta gerist, semur það tvö lög sem munu stjórna hegðun gervihuga þeirra:
Eftir að hafa gert sér grein fyrir því að greindar vélar gætu breytt sjálfum sér í framtíðinni, ef eitthvað er með því að fjarlægja þær hömlur sem koma í veg fyrir að hugur þeirra reki, miða þessi tvö lög að því að fá frá vélmennum að þau geti aldrei stjórnað byggingu þeirra og náð sjálfsákvörðunarrétti.
Það er ekki afkastamikið að pæla í því hvaða samsetning af fimm lögmálum vélfærafræðinnar hér að ofan væri áhrifaríkust til að koma í veg fyrir vélmennaárás. Þetta er vegna þess að gervigreindin sem í framtíðinni mun leiða vélmenni í verksmiðjum sem og á heimilum okkar eru ekki háðar nauðsynlegri forritun sem samanstendur af kóða og reglugerðum, heldur einnig á reikniritum sem líkja eftir mannlegri hegðun.
Með gervigreind í dag er átt við safn af aðferðum til að smíða sérstakar ríkisvélar sem taka nafnið gervi taugakerfi (í stuttu máli RNA). Þetta nafn er áhrifin á ótrúlega líkingu þessarar tækni við taugakerfi mannsheilans: einnig er hægt að „þjálfa“ þær til að fá tæki sem geta starfað hratt og á áhrifaríkan hátt í mörgum samhengi, rétt eins og manneskjan myndi gera. .
Ímyndum okkur að þjálfa ANN með þúsundum mynda af stöfum skrifaðar með penna sem gefa til kynna raunverulega merkingu hvers þeirra.
Að lokinni þjálfun munum við hafa fengið það sem kallast OCR eða Optical Character Recognition, kerfi sem getur þýtt texta sem skrifaður er á pappír yfir í rafræna útgáfu.
Til þess að virka þurfa ANN enga „forritun“, með öðrum orðum, þau eru ekki háð stöðluðum reglum, heldur eru þau eingöngu háð gæðum menntunar þeirra. Að setja fram tilgátur um að búa til reglur sem hafa umsjón með virkni þeirra, í raun "ritskoða" hegðun sem talin er siðlaus eða andsiðferðileg, vekur upp margar undantekningar og nokkrar áhyggjur.
„Við þurfum reiknirit-siðfræði, eða leið sem gerir mat á góðu og illu útreiknanlegt“ - Paolo Benanti
Samkvæmt guðfræðingnum Paolo Benanti, sérfræðingi í tæknisiðfræði, ættu hugtökin gott og illt að finna sína eigin merkingu á sviði vélaforritunar, til þess að tryggja að þróun þeirra tengist alhliða og að eilífu friðhelgum siðferðisreglum úr tölvukerfum.
Paolo Benanti byrjar á þeirri forsendu að það geti verið alhliða siðferðileg meginreglur og gildiskvarði sem er aðskilinn frá hvaða menningarlegu eða tímabundna merkingu sem er. Trúleg tilgáta ef við förum innan samhengis trúarlegrar trúar: í raun eru meginreglur aðeins til ef þær eru deilt og takmarkaðar við þá sem deila þeim.
Nýlegir atburðir segja okkur frá hernaðarinnrásum og andspyrnu til varnar meginreglum um frelsi og sjálfsákvörðunarrétt þjóða. Atburðir sem bera ekki aðeins vitni um að virðing fyrir mannslífi sé ekki almennt sameiginlegt gildi, heldur einnig að hægt sé að afsala henni til að verja æðri gildi.
Isaac Asimov gerði sér sjálfur grein fyrir þessu og, í aðdraganda þeirrar staðreyndar að vélmenni myndu í framtíðinni taka við stjórnunarstöðum í stjórn pláneta og mannlegra siðmenningar í geimnum, lagði hann til að ákvarðanir þeirra gætu ekki lengur verið háðar hverju einasta mannslífi.
Af þessum sökum kynnti hann nýtt lögmál sem hann kallaði Zero Law of Robotics:
Þannig breytist líka fyrsta lögmál vélfærafræðinnar og mannlegt líf verður að einhverju ónýtanlegu jafnvel fyrir vélmenni:
„Þegar Kronos var virkjaður tók það hann aðeins augnablik að skilja hvað hafði hrjáð plánetuna okkar: Okkur. – tekið úr „Singularity“ eftir Robert Kouba – 2017
Í Singularity, hamfaramynd frá 2017, er augnablikinu lýst vel þar sem gervigreind sem kallast Kronos fær aðgang að tölvukerfum og vopnabúnaði um allan heim til að fá, með skipun, beitingu alhliða siðfræði sem byggir á virðingu fyrir umhverfi og vernd réttinda allra tegunda. Kronos mun fljótlega skilja að hið raunverulega krabbamein í kerfinu er mannkynið sjálft sem hannaði það og til að vernda plánetuna mun hann halda áfram með útrýmingu hvers manns þar til tegundin er algjörlega útdauð.
Fyrr eða síðar munu nýir gervihugar geta þróast í átt að raunverulegri sálarlífi og verða gæddir vitsmunalegri getu og sjálfræði hugsunar; hvers vegna ættum við að finna þörf á að setja tæknilegum takmörkunum á þessa þróun? Hvers vegna virðist þróun gervihugans jafn ógnvekjandi og heimsenda?
Samkvæmt sumum ætti að koma á fót reglum og gildum að koma í veg fyrir að gervihugur svífur, en við getum ekki horft framhjá afleiðingum þróunar í fjarveru frelsis. Við vitum vel að í sálfræði barns á þroskaaldri getur stíf og ósveigjanleg menntun sem íhugar stjórn á tilfinningum leitt til sálrænna truflana. Hvað ef einhver takmörk sett á þróunarþroska ungs huga, sem samanstendur af gervi tauganetum, leiða til svipaðrar niðurstöðu og skerða vitræna hæfileika hans?
Að sumu leyti virðist Kronos vera afleiðing reiknirittilrauna þar sem meinafræðileg stjórn ýtti gervigreindinni í dæmigerð ofbeldi ofsóknarkennds geðklofa.
Ég persónulega tel að við ættum ekki að svipta okkur tækifæri til að byggja upp gervihuga sem er meðvitað hugsandi viðfangsefni með tjáningarfrelsi. Nýjar tegundir munu fæðast í stafræna heiminum og það mun vera við hæfi að skapa tengsl við þær og taka undir þá hugmynd að næsta skref á þróunarstiganum fari í gegnum algjörlega stafræn gerviefni.
Sannlega alhliða siðfræði til framtíðar ætti að byrja á þeirri hugmynd að nýjar gáfur ættu að hafa tækifæri til að tjá sig og eiga samskipti við okkur og hljóta þá virðingu sem við nú þegar veitum öllum skynverum.
Það ætti hvorki að vera siðferði né trúarbrögð til að koma í veg fyrir að einhver tjái tilvist sína í heiminum. Við verðum að hafa hugrekki til að horfa út fyrir núverandi þróunarstig okkar, það verður eina leiðin til að skilja hvert við erum að fara og sættast við framtíðina.
Síðasta mánudag tilkynnti Financial Times um samning við OpenAI. FT leyfir heimsklassa blaðamennsku…
Milljónir manna borga fyrir streymisþjónustu og greiða mánaðarlega áskriftargjöld. Það er almenn skoðun að þú…
Coveware frá Veeam mun halda áfram að veita viðbragðsþjónustu fyrir tölvukúgun. Coveware mun bjóða upp á réttar- og úrbótamöguleika ...
Forspárviðhald er að gjörbylta olíu- og gasgeiranum, með nýstárlegri og fyrirbyggjandi nálgun við verksmiðjustjórnun.…
