Beräknad lästid: 9 minuter
I början av 2023 stötte OpenAI:s populära och kontroversiella ChatGPT-chattbot på ett stort juridiskt problem: ett effektivt förbud i Italien. Den italienska dataskyddsmyndigheten (GPDP) har anklagat OpenAI för att bryta mot EU:s dataskyddsregler, och företaget har gått med på att begränsa åtkomsten till tjänsten i Italien när det försöker lösa problemet. Den 28 april återvände ChatGPT till landet, med OpenAI som lätt tog upp GPDP-problem utan att göra några större förändringar i sin tjänst – en uppenbar seger.
GPDP bekräftade att "välkomna" ändringarna som gjorts av ChatGPT. Däremot har företagets juridiska frågor – och de för företag som bygger liknande chatbots – förmodligen bara börjat. Tillsynsmyndigheter i flera länder undersöker hur dessa AI-verktyg samlar in och producerar information, med hänvisning till en rad farhågor från företag som samlar in olicensierad träningsdata till chatbotarnas tendens att sprida desinformation.
I EU upprätthåller de den allmänna dataskyddsförordningen (GDPR), en av de mest robusta integritetsrättsliga ramarna i världen, vars effekter sannolikt kommer att märkas även utanför Europa. Samtidigt arbetar europeiska lagstiftare på en lag som specifikt kommer att behandla artificiell intelligens, vilket sannolikt inleder en ny era av reglering för system som ChatGPT.
ChatGPT är ett av de mest populära exemplen på generativ AI, en paraplyterm som täcker verktyg som producerar text, bilder, video och ljud baserat på användarförfrågningar. Tjänsten har enligt uppgift blivit en av snabbast växande konsumentapplikationer i historien efter att ha nått 100 miljoner månatliga aktiva användare på bara två månader efter lanseringen i november 2022 (OpenAI har aldrig bekräftat dessa siffror).
Folk använder det för att översätta text till olika språk, skriva universitetsuppsatser och generera kod. Men kritiker, inklusive tillsynsmyndigheter, har lyft fram ChatGPT:s opålitliga resultat, förvirrande upphovsrättsfrågor och skumma dataskyddsmetoder.
Italien var det första landet som flyttade. Den 31 mars lyfte han fram fyra sätt han trodde att OpenAI bröt mot GDPR:
Inget annat land har vidtagit sådana åtgärder. Men sedan mars har minst tre EU-länder – germaniumoxid , Frankrike e Spanien – har inlett sin egen utredning om ChatGPT.
Samtidigt, på andra sidan Atlanten, Kanada utvärderar integritetsproblem enligt sin lag om personlig informationsskydd och elektroniska dokument, eller PIPEDA. Europeiska dataskyddsnämnden (EDPB) har till och med inrättat en särskild insatsstyrka för att hjälpa till att samordna utredningen. Och om dessa byråer begär ändringar av OpenAI kan de påverka hur tjänsten fungerar för användare runt om i världen.
Tillsynsmyndigheternas bekymmer kan grovt delas in i två kategorier:
ChatGPT använder OpenAI:s GPT-3.5 och GPT-4 stora språkmodeller (LLMs), som tränas på stora mängder mänskligt producerad text. OpenAI är försiktig med exakt vilken utbildningstext den använder, men säger att den bygger på "en mängd olika offentligt tillgängliga, skapade och licensierade datakällor, som kan inkludera allmänt tillgänglig personlig information."
Detta kan innebära stora problem enligt GDPR. Lagen trädde i kraft 2018 och omfattar alla tjänster som samlar in eller behandlar data från EU-medborgare, oavsett var den ansvariga organisationen är baserad. GDPR-regler kräver att företag har uttryckligt samtycke innan de samlar in personuppgifter, att de har en juridisk motivering för varför de samlas in och att de är transparenta med hur de används och lagras.
Europeiska tillsynsmyndigheter säger att OpenAI:s utbildningsdatasekretess betyder att det inte finns något sätt att bekräfta om den personliga informationen som angavs ursprungligen gavs med användarens samtycke, och GPDP hävdade specifikt att OpenAI inte hade "ingen laglig grund" för att samla in dem i första hand. Hittills har OpenAI och andra kommit undan med lite granskning, men detta uttalande lägger till ett stort frågetecken till framtida dataskrapningsinsatser.
Sedan finns det " rätt att bli bortglömd ” i GDPR, som tillåter användare att begära att företag korrigerar sin personliga information eller tar bort den helt. Öppna AI har tidigare uppdaterat sin integritetspolicy för att underlätta sådana förfrågningar, men ja det är det diskuteras om det är tekniskt möjligt att hantera dem, med tanke på hur komplext det kan vara att separera specifika data när de väl har lagts in i dessa stora språkmodeller.
OpenAI samlar också in information direkt från användare. Som vilken internetplattform som helst, samlar den en standard användardatauppsättning (t.ex. namn, kontaktuppgifter, kortuppgifter etc.). Men ännu viktigare, det loggar interaktionerna användare har med ChatGPT. Som anges i en FAQ , denna data kan granskas av OpenAI-anställda och används för att träna framtida versioner av dess modell. Med tanke på de intima frågor som människor ställer ChatGPT, genom att använda boten som terapeut eller läkare, betyder det att företaget samlar in alla typer av känslig information.
Åtminstone en del av denna data kan ha samlats in från barn, eftersom även om OpenAI:s policy säger att den "inte medvetet samlar in personlig information från barn under 13 år", så finns det ingen strikt ålderskontroll. Detta stämmer inte bra med EU:s regler, som förbjuder insamling av data från personer under 13 år och (i vissa länder) kräver föräldrarnas samtycke för barn under 16 år. På utgångssidan sa GPDP att ChatGPT:s brist på åldersfilter exponerar minderåriga a "absolut otillräckliga svar jämfört med deras utvecklingsgrad och självmedvetenhet".
Även ChatGPT:s benägenhet att lämna falsk information kan vara ett problem. GDPR-reglerna stipulerar att alla personuppgifter måste vara korrekta, något som GPDP lyfte fram i sitt tillkännagivande. Beroende på hur det kommer definite, kan stava problem för de flesta AI-textgeneratorer, som är benägna att ” hallucinationer “: En bra branschterm för faktiskt felaktiga eller irrelevanta svar på en fråga. Detta har redan sett några verkliga återverkningar på andra håll, vilket en australisk regional borgmästare har gjort hotade att stämma OpenAI för förtal efter att ChatGPT felaktigt hävdade att han hade avtjänat ett fängelsestraff för korruption.
ChatGPT:s popularitet och nuvarande AI-marknadsdominans gör det till ett särskilt attraktivt mål, men det finns ingen anledning till varför dess konkurrenter och bidragsgivare, som Google med Bard eller Microsoft med dess Azure AI baserad på OpenAI, inte behöver granskas. Innan ChatGPT förbjöd Italien chatbotplattformen Replika för insamling av information om minderåriga och har hittills varit förbjuden.
Även om GDPR är en kraftfull uppsättning lagar, skapades den inte för att ta itu med specifika AI-problem. Regler det , dock kan de vara vid horisonten.
2021 presenterade EU sitt första utkast tillArtificial Intelligence Act (AIA) , lagstiftning som kommer att fungera tillsammans med GDPR. Lagen reglerar AI-verktyg baserat på deras upplevda risk, från "minimal" (saker som spamfilter) till "hög" (AI-verktyg för brottsbekämpning eller utbildning) eller "oacceptabelt" och därför förbjudna (som ett socialt kreditsystem). Efter explosionen av stora språkmodeller som ChatGPT förra året, tävlar lagstiftare nu om att lägga till regler för "kärnmodeller" och "General Purpose Artificial Intelligence (GPAI)-system" - två termer för intelligenssystem artificiell skala inklusive LLM - och potentiellt klassificera som högrisktjänster.
EU-lagstiftare har nått en preliminär överenskommelse om AI-lagen den 27 april. En kommission kommer att rösta om utkastet den 11 maj och det slutgiltiga förslaget väntas i mitten av juni. Därför måste Europeiska rådet, parlamentet och kommissionen göra det lösa eventuella återstående tvister innan lagen genomförs. Om allt går smidigt kan det antas senast under andra halvåret 2024, lite efter målet tjänsteman i EU-valet i maj 2024.
OpenAI har fortfarande mål att uppnå. Det finns fram till den 30 september för att skapa en strängare åldersgräns för att hålla under 13 år utanför och kräva föräldrars samtycke för äldre minderåriga tonåringar. Om det misslyckas kan det blockeras igen. Men det gav ett exempel på vad Europa anser vara acceptabelt beteende för ett AI-företag, åtminstone tills nya lagar har antagits.
Ercole Palmeri
Att utveckla finmotorik genom färgläggning förbereder barn för mer komplexa färdigheter som att skriva. Att färglägga…
Marinesektorn är en sann global ekonomisk makt, som har navigerat mot en marknad på 150 miljarder...
I måndags tillkännagav Financial Times ett avtal med OpenAI. FT licensierar sin journalistik i världsklass...
Miljontals människor betalar för streamingtjänster och betalar månatliga prenumerationsavgifter. Det är en allmän uppfattning att du...
