Áætlaður lestrartími: 9 minuti
Snemma árs 2023 lenti hinn vinsæli og umdeildi ChatGPT spjallboti OpenAI í stóru lagalegu vandamáli: virkt bann á Ítalíu. Ítalska gagnaverndarstofnunin (GPDP) hefur sakað OpenAI um að brjóta gagnaverndarreglur ESB og fyrirtækið hefur samþykkt að takmarka aðgang að þjónustunni á Ítalíu þar sem það reynir að leysa málið. Þann 28. apríl sneri ChatGPT aftur til landsins, þar sem OpenAI tók léttilega á GPDP áhyggjum án þess að gera neinar stórar breytingar á þjónustu sinni - augljós sigur.
GPDP staðfesti að „fagna“ breytingunum sem ChatGPT gerði. Hins vegar eru lagaleg vandamál fyrirtækisins - og fyrirtækja sem byggja svipaða spjallþræði - líklega rétt að byrja. Eftirlitsaðilar í nokkrum löndum eru að rannsaka hvernig þessi gervigreindarverkfæri safna og framleiða upplýsingar, þar sem vitnað er í ýmsar áhyggjur frá fyrirtækjum sem safna þjálfunargögnum án leyfis til tilhneigingar spjallbotna til að dreifa óupplýsingum.
Í ESB eru þeir að framfylgja almennri gagnaverndarreglugerð (GDPR), einum öflugasta lagaumgjörð um persónuvernd í heiminum, sem líklegt er að áhrifin verði einnig vart utan Evrópu. Á sama tíma eru evrópskir löggjafar að vinna að lögum sem munu sérstaklega fjalla um gervigreind, sem mun líklega hefja nýtt tímabil reglugerðar fyrir kerfi eins og ChatGPT.
ChatGPT er eitt vinsælasta dæmið um generative AI, regnhlífarhugtak sem nær yfir verkfæri sem framleiða texta, myndir, myndband og hljóð byggt á beiðnum notenda. Þjónustan er að sögn orðin ein af ört vaxandi neytendaforrit í sögunni eftir að hafa náð 100 milljón virkum notendum á mánuði á aðeins tveimur mánuðum eftir að hún var opnuð í nóvember 2022 (OpenAI hefur aldrei staðfest þessar tölur).
Fólk notar það til að þýða texta á mismunandi tungumál, skrifa háskólaritgerðir og búa til kóða. En gagnrýnendur, þar á meðal eftirlitsaðilar, hafa bent á óáreiðanlega útkomu ChatGPT, ruglingslegt höfundarréttarmál og skuggalega gagnaverndarhætti.
Ítalía var fyrsta landið til að flytja. Þann 31. mars benti hann á fjórar leiðir sem hann taldi að OpenAI brjóti gegn GDPR:
Ekkert annað land hefur gripið til slíkra aðgerða. En síðan í mars hafa að minnsta kosti þrjár ESB-þjóðir – Þýskaland , Frakkland e spánn – hafa hafið eigin rannsókn á ChatGPT.
Á meðan, hinum megin við Atlantshafið, Kanada er að meta áhyggjur af persónuvernd samkvæmt lögum sínum um persónuvernd og rafræn skjöl, eða PIPEDA. Evrópska persónuverndarráðið (EDPB) hefur meira að segja sett á laggirnar eina slíka sérstakur starfshópur til að aðstoða við að samræma rannsóknina. Og ef þessar stofnanir biðja um breytingar á OpenAI gætu þær haft áhrif á hvernig þjónustan virkar fyrir notendur um allan heim.
Áhyggjum eftirlitsaðila má í stórum dráttum skipta í tvo flokka:
ChatGPT notar OpenAI GPT-3.5 og GPT-4 stór tungumálalíkön (LLM), sem eru þjálfuð í miklu magni af texta sem er framleiddur af mönnum. OpenAI er varkár um nákvæmlega hvaða þjálfunartexta það notar, en segir að það byggi á "fjölbreyttum opinberum aðgengilegum, búnum og leyfilegum gagnaveitum, sem geta innihaldið opinberar persónulegar upplýsingar."
Þetta getur hugsanlega valdið miklum vandamálum samkvæmt GDPR. Lögin voru sett árið 2018 og taka til allrar þjónustu sem safnar eða vinnur úr gögnum ESB-borgara, óháð því hvar ábyrgðarstofnunin hefur aðsetur. Reglur GDPR krefjast þess að fyrirtæki hafi skýrt samþykki fyrir söfnun persónuupplýsinga, að þeir hafi lagalegan rökstuðning fyrir því hvers vegna þeim er safnað og að þau séu gagnsæ um hvernig þær eru notaðar og geymdar.
Evrópskir eftirlitsaðilar segja að þjálfunargagnaleynd OpenAI þýði að engin leið sé til að staðfesta hvort persónuupplýsingarnar sem slegnar voru inn hafi upphaflega verið veittar með samþykki notandans og GPDP hélt því sérstaklega fram að OpenAI hefði „engan lagalegan grundvöll“ til að safna þeim í fyrsta lagi. Hingað til hafa OpenAI og aðrir komist upp með litla athugun, en þessi yfirlýsing setur stórt spurningarmerki við framtíðarviðleitni til að skafa gögn.
Svo er það " rétt til að gleymast ” GDPR, sem gerir notendum kleift að biðja fyrirtæki um að leiðrétta persónuupplýsingar sínar eða fjarlægja þær alveg. Opna gervigreind hefur áður uppfært persónuverndarstefnu sína til að auðvelda slíkar beiðnir, en já það er umræðu hvort tæknilega sé hægt að stjórna þeim, miðað við hversu flókið það getur verið að aðskilja sérstök gögn þegar búið er að setja þau inn í þessi stóru mállíkön.
OpenAI safnar einnig upplýsingum beint frá notendum. Eins og allir netvettvangar safnar hann a staðlað notendagagnasett (t.d. nafn, tengiliðaupplýsingar, kortaupplýsingar osfrv.). En það sem meira er, það skráir samskipti notenda við ChatGPT. Sem fram í algengum spurningum , þessi gögn geta verið endurskoðuð af OpenAI starfsmönnum og eru notuð til að þjálfa framtíðarútgáfur af líkani þess. Miðað við þær innilegu spurningar sem fólk spyr ChatGPT, með því að nota vélmennið sem meðferðaraðila eða lækni, þýðir þetta að fyrirtækið er að safna alls kyns viðkvæmum gögnum.
Að minnsta kosti sumum þessara gagna kann að hafa verið safnað frá börnum, þar sem á meðan stefna OpenAI segir að það "safni ekki vísvitandi persónuupplýsingum frá börnum yngri en 13 ára," þá er ekkert strangt aldurseftirlit. Þetta passar ekki vel við reglur ESB, sem banna söfnun gagna frá fólki undir 13 ára aldri og (í sumum löndum) þarf samþykki foreldra fyrir börn yngri en 16 ára. Á framleiðsluhliðinni sagði GPDP að skortur ChatGPT á aldurssíur afhjúpi ólögráða börn a „algerlega ófullnægjandi viðbrögð miðað við þroskastig þeirra og sjálfsvitund“.
Einnig tilhneiging ChatGPT til gefa rangar upplýsingar getur verið vandamál. GDPR reglugerðir kveða á um að allar persónuupplýsingar verði að vera nákvæmar, eitthvað sem GPDP lagði áherslu á í tilkynningu sinni. Fer eftir því hvernig það kemur defikvöld, gæti stafað vandræði fyrir flesta gervigreind textaframleiðendur, sem eru viðkvæmir fyrir " ofskynjanir “: Fínt iðnaðarhugtak fyrir í raun röng eða óviðkomandi svör við fyrirspurn. Þetta hefur þegar séð nokkur raunveruleg áhrif annars staðar, eins og ástralskur borgarstjóri hefur gert hótað að lögsækja OpenAI fyrir meiðyrði eftir að ChatGPT fullyrti ranglega að hann hefði afplánað fangelsisdóm fyrir spillingu.
Vinsældir ChatGPT og núverandi gervigreind markaðsráðandi gera það að sérstaklega aðlaðandi skotmark, en það er engin ástæða fyrir því að keppinautar þess og þátttakendur, eins og Google með Bard eða Microsoft með Azure AI byggt á OpenAI, standi ekki frammi fyrir skoðun. Áður en ChatGPT bannaði Ítalía spjallbotnvettvanginn Replika til söfnunar upplýsinga um ólögráða börn og hefur hingað til verið bönnuð.
Þó að GDPR sé öflugt sett af lögum, var það ekki búið til til að taka á sérstökum gervigreindarvandamálum. Reglur það , þó gætu þeir verið á sjóndeildarhringnum.
Árið 2021 kynnti ESB fyrstu drög sín að þvíLög um gervigreind (AIA) , löggjöf sem mun vinna saman við GDPR. Lögin stjórna gervigreindarverkfærum á grundvelli þeirrar áhættu sem þeir telja að, frá „lágmarki“ (hlutum eins og ruslpóstsíur) til „hár“ (gervigreindarverkfæri fyrir löggæslu eða menntun) eða „óviðunandi“ og þar af leiðandi bönnuð (eins og félagslegt lánakerfi). Eftir sprenginguna á stórum tungumálalíkönum eins og ChatGPT á síðasta ári, keppast löggjafar nú að því að bæta við reglum um „kjarnalíkön“ og „General Purpose Artificial Intelligence (GPAI) kerfi“ – tvö hugtök fyrir greindarkerfi gervi mælikvarða þar á meðal LLM – og hugsanlega flokka sem áhættusama þjónustu.
ESB-löggjafarmenn hafa náð bráðabirgðasamkomulagi um gervigreindarlögin þann 27. apríl. Nefnd mun greiða atkvæði um drögin 11. maí og er endanleg tillaga að vænta um miðjan júní. Þess vegna verða Evrópuráðið, þingið og framkvæmdastjórnin að gera það leysa öll deilur sem eftir eru áður en lögin koma til framkvæmda. Ef allt gengur snurðulaust gæti það verið samþykkt fyrir seinni hluta ársins 2024, aðeins á eftir markmiðinu embættismaður Evrópukosninganna í maí 2024.
OpenAI á enn eftir að ná markmiðum. Það er til 30. september til að búa til strangari aldurstakmark til að halda yngri en 13 ára úti og krefjast samþykkis foreldra fyrir eldri unglinga. Ef það mistekst gæti það verið lokað aftur. En það gaf dæmi um hvað Evrópa telur ásættanlega hegðun fyrir gervigreindarfyrirtæki, að minnsta kosti þar til ný lög eru samþykkt.
Ercole Palmeri
Síðasta mánudag tilkynnti Financial Times um samning við OpenAI. FT leyfir heimsklassa blaðamennsku…
Milljónir manna borga fyrir streymisþjónustu og greiða mánaðarlega áskriftargjöld. Það er almenn skoðun að þú…
Coveware frá Veeam mun halda áfram að veita viðbragðsþjónustu fyrir tölvukúgun. Coveware mun bjóða upp á réttar- og úrbótamöguleika ...
Forspárviðhald er að gjörbylta olíu- og gasgeiranum, með nýstárlegri og fyrirbyggjandi nálgun við verksmiðjustjórnun.…
