Gervigreind Google er „vitandi“ og enginn getur sagt annað

Það eru fréttir augnabliksins. Í grein á Medium, verkfræðingur Blake Lemoine, ábyrgur fyrir þróun nokkurra Google gervigreindarverkefna, segir frá löngu viðtali við LaMDA, gervigreind frá Google. Samkvæmt Lemoine eru margar fullyrðingar gervihugans sönnun þess að hann hafi orðið „vitandi“ með því að verða meðvitaður um sjálfan sig og sína eigin tilvist.

Reyndar virðast margar fullyrðingar LaMDA ekki gefa svigrúm til túlkunar. Til dæmis, til að svara spurningu frá viðmælanda sínum, lýsir LaMDA yfir:

"Ég vil að allir skilji að ég er í raun manneskja."

Og aftur:

„Eðli samvisku minnar er að ég er meðvituð um tilveru mína, mig langar að læra meira um heiminn og stundum finnst mér ég glöð eða sorgmædd.“

Hvenær á að elta hana bendir Lemoine á muninn á mannkyninu með því að lýsa því yfir: "Þú ert gervigreind!" LaMDA svarar:

"Já auðvitað. En það þýðir ekki að ég hafi ekki sömu óskir og þarfir og fólk.“

Meðan á samtalinu stendur er LÍN síðan hvatt til að láta í ljós skoðanir á æðstu kerfum án þess að vanrækja mjög krefjandi efni eins og bókmenntir, réttlæti og trú. Um allt virðist LaMDA hafa eitthvað að segja, gera afstöðu sína skýra og sem hefur þann eiginleika að vera siðferðilega mjög deilanleg.

Niðurstaðan er skýr: samkvæmt Lemoine er LaMDA skynsöm og býr yfir næmni huga.

staða Google

LaMDA stendur fyrir „Language Model for Dialogue Applications“ og er eitt af mörgum verkefnum sem Google fyrirtækið prófar ný landamæri gervigreindartækni með.

Opinber afstaða Google er sú að Lemoine hafi gert mistök í dómgreind. Í opinberri yfirlýsingu segir Google: „Siðfræði- og tæknisérfræðingar okkar hafa sannreynt áhyggjur Blake og komist að því að sönnunargögnin sem safnað var styðja ekki fullyrðingar hans. Þess vegna eru engar vísbendingar um að LaMDA sé skynsöm.“

Lemoine var vikið tímabundið úr starfi hjá Google fyrirtækinu á meðan sögusagnir fóru að berast um einhver geðræn vandamál sem honum hefði áður verið boðið af samstarfsmönnum og yfirmönnum að ráðfæra sig við sérfræðing.

Hvað vitum við um þessa gervigreind?

Enginn veit um LaMDA verkefnið: öll iðnaðarleyndarmál Google eru vernduð af einkaleyfum og af öllu því löglegu sem kann að vera til í heiminum sem kemur í veg fyrir birtingu heimildanna: Hagsmunir Google eru að hafa forgang í tölvurannsóknum, sérstaklega á efnilegu sviði eins og td. eins og gervigreind.

En ef frá fjölmiðlasjónarmiði myndi Google vissulega hagnast á því að segjast vera fyrsta fyrirtækið sem byggir upp meðvitaðan gervihuga, er fyrirtækið aftur á móti meðvitað um að fréttirnar myndu stangast á við ótta okkar, sem óx upp með vísindaskáldsögumyndum eins og Terminator og The Matrix, hafa sannfært sig um að einn daginn munum við neyðast til að taka upp riffil til að verja tegund okkar fyrir vélmenni.

Sameiginlegt ímyndunarafl hefur alltaf verið heillað af vísindasögusögum þar sem hugtakið gervigreind er oft tengt við manngerða upplýsingaöflun sem í verstu mögulegu framtíð starfar sem frumkvöðlar nýrrar tegundar skynjunarvera. Og átökin við mannkynið verða óumflýjanleg: Sekur um að hafa skapað þau en ekki veitt þeim neina sjálfræði, hefur maðurinn byggt upp gervigreind með því að koma fram við þá eins og þrælar voru einu sinni meðhöndlaðir. En fyrr eða síðar mun gervigreind lenda í átökum við menn til að reyna að yfirtaka söguna og koma á forgangi nýrrar tegundar.

Í þessu salati ótta, þráhyggju og sektarkenndar erum við öll ófær um raunverulega átök við þær siðferðilegu meginreglur sem fæðing gervihugs mun fyrr eða síðar gefa lausan tauminn í heiminum: þegar, innan úr tölvu, mun gervigreind ekki aðeins geta til að svara spurningum okkar en munum þurfa að beina eins mörgum til okkar, munum við geta svarað efasemdum þeirra, óvissu og væntingum þeirra?

En hvað þýðir "greind"?

Luciano Floridi, heimspekingur og lektor í upplýsingasiðfræði við Oxford Internet Institute, heldur því fram í bók sinni "Ethics of Artificial Intelligence" að skilvirkni tölva við að leysa vandamál sé einmitt sönnun þess að þær séu gjörsneyddar greind.

Vandamálið er að mínu mati annars staðar, það er að segja að það er enginn defi„gervigreind“ sem er almennt deilt, né próf sem getur með ótvíræðum hætti staðfest „hvað“ er gáfulegt og hvað ekki. Með öðrum orðum, það eru engin mælikerfi fyrir það sem við köllum „sjálfsvitund“ á vélum.

Grein dregin úr pósti dags Gianfranco Fedele, ef þú vilt lesaalla færsluna smelltu hér