Odhadovaná doba čtení: 9 minuti
Na začátku roku 2023 narazil populární a kontroverzní chatbot ChatGPT společnosti OpenAI na velký právní problém: účinný zákaz v Itálii. Italský úřad pro ochranu dat (GPDP) obvinil OpenAI z porušování pravidel EU na ochranu dat a společnost souhlasila s omezením přístupu ke službě v Itálii, když se bude snažit problém vyřešit. 28. dubna se ChatGPT vrátil do země, přičemž OpenAI lehce řešila problémy GPDP, aniž by provedla nějaké zásadní změny ve své službě – zjevné vítězství.
GPDP potvrdil „přivítat“ změny provedené ChatGPT. Právní problémy společnosti – a ty společnosti, které vytvářejí podobné chatboty – však pravděpodobně teprve začínají. Regulátoři v několika zemích zkoumají, jak tyto nástroje umělé inteligence shromažďují a vytvářejí informace, s odkazem na řadu obav od společností sbírajících nelicencovaná školicí data až po tendenci chatbotů šířit dezinformace.
V EU prosazují obecné nařízení o ochraně osobních údajů (GDPR), jeden z nejrobustnějších právních rámců ochrany soukromí na světě, jehož účinky pravděpodobně pocítí i mimo Evropu. Evropští zákonodárci mezitím pracují na zákonu, který se bude konkrétně zabývat umělou inteligencí, což pravděpodobně zahájí novou éru regulace pro systémy jako ChatGPT.
ChatGPT je jedním z nejpopulárnějších příkladů generativní umělé inteligence, což je zastřešující termín, který zahrnuje nástroje, které vytvářejí text, obrázky, video a zvuk na základě požadavků uživatelů. Služba se údajně stala jednou z nejrychleji rostoucí spotřebitelské aplikace v historii po dosažení 100 milionů aktivních uživatelů měsíčně za pouhé dva měsíce po spuštění v listopadu 2022 (OpenAI tato čísla nikdy nepotvrdila).
Lidé jej používají k překladu textu do různých jazyků, psaní univerzitní eseje a vygenerovat kód. Ale kritici, včetně regulačních orgánů, zdůraznili nespolehlivé výstupy ChatGPT, matoucí problémy s autorskými právy a stinné praktiky ochrany dat.
Itálie byla první zemí, která se přestěhovala. 31. března zdůraznil čtyři způsoby, jak se domnívá, že OpenAI porušuje GDPR:
Žádná jiná země takové opatření nepřijala. Ale od března nejméně tři státy EU – Německo , Francie e Španělsko – zahájili vlastní vyšetřování ChatGPT.
Mezitím na druhé straně Atlantiku Kanada vyhodnocuje obavy o soukromí podle svého zákona o ochraně osobních údajů a elektronických dokumentů neboli PIPEDA. Evropský výbor pro ochranu osobních údajů (EDPB) dokonce jeden zřídil vyhrazená pracovní skupina pomoci koordinovat vyšetřování. A pokud tyto agentury požádají o změny OpenAI, mohly by ovlivnit, jak služba funguje pro uživatele po celém světě.
Obavy regulátorů lze obecně rozdělit do dvou kategorií:
ChatGPT využívá velké jazykové modely (LLM) OpenAI GPT-3.5 a GPT-4, které jsou trénovány na velkém množství textu vytvořeného lidmi. OpenAI je opatrná, pokud jde o to, jaký text školení přesně používá, ale říká, že čerpá z „různých veřejně dostupných, vytvořených a licencovaných zdrojů dat, které mohou zahrnovat veřejně dostupné osobní údaje“.
To může podle GDPR představovat obrovské problémy. Zákon byl přijat v roce 2018 a vztahuje se na všechny služby, které shromažďují nebo zpracovávají údaje občanů EU, bez ohledu na to, kde sídlí odpovědná organizace. Pravidla GDPR vyžadují, aby společnosti měly výslovný souhlas před shromažďováním osobních údajů, aby měly právní zdůvodnění, proč jsou shromažďovány, a aby byly transparentní ohledně toho, jak jsou používány a uchovávány.
Evropští regulátoři tvrdí, že utajení školicích dat OpenAI znamená, že neexistuje žádný způsob, jak potvrdit, zda zadané osobní údaje byly původně poskytnuty se souhlasem uživatele, a GPDP konkrétně tvrdilo, že OpenAI nemá „žádný právní základ“ pro jejich shromažďování. OpenAI a další zatím procházely s malou kontrolou, ale toto prohlášení přidává velký otazník budoucím snahám o seškrabování dat.
Pak je tu " právo být zapomenut “ GDPR, které uživatelům umožňuje požádat společnosti o opravu jejich osobních údajů nebo o jejich úplné odstranění. Otevřete AI již dříve aktualizovala své zásady ochrany osobních údajů usnadnit takové žádosti, ale ano, je diskutovat zda je technicky možné je zvládnout, vzhledem k tomu, jak složité může být oddělení konkrétní údaje jakmile byly vloženy do těchto velkých jazykových modelů.
OpenAI také shromažďuje informace přímo od uživatelů. Jako každá internetová platforma shromažďuje a standardní uživatelská datová sada (např. jméno, kontaktní údaje, údaje o kartě atd.). Ale co je důležitější, zaznamenává interakce uživatelů s ChatGPT. Tak jako uvedeno ve FAQ , mohou tato data kontrolovat zaměstnanci OpenAI a používají se k trénování budoucích verzí jejího modelu. Vzhledem k intimním otázkám, které lidé ChatGPT pokládají, když robota používají jako terapeuta nebo lékaře, to znamená, že společnost shromažďuje všechny druhy citlivých dat.
Přinejmenším některá z těchto dat mohla být shromážděna od dětí, protože zatímco politika OpenAI uvádí, že „vědomě neshromažďuje osobní údaje od dětí mladších 13 let“, neexistuje žádná přísná kontrola věku. To si nehraje dobře s pravidly EU, která zakazují shromažďování dat od lidí mladších 13 let a (v některých zemích) vyžadují souhlas rodičů u dětí mladších 16 let. Na výstupní straně GPDP uvedl, že nedostatek věkových filtrů ChatGPT odhaluje nezletilé a „absolutně nedostatečné reakce ve srovnání s jejich stupněm rozvoje a sebeuvědoměním“.
Také sklon ChatGPT k poskytnout nepravdivé informace může být problém. Nařízení GDPR stanoví, že všechny osobní údaje musí být přesné, což GPDP zdůraznilo ve svém oznámení. Podle toho, jak to přijde definite, může způsobit potíže pro většinu textových generátorů AI, které jsou náchylné k “ halucinace “: Pěkný oborový termín pro skutečně nesprávné nebo irelevantní odpovědi na dotaz. To již zaznamenalo některé reálné důsledky jinde, jako australský regionální starosta vyhrožoval žalobou OpenAI za pomluvu poté, co ChatGPT nepravdivě tvrdil, že si odpykal trest ve vězení za korupci.
Popularita ChatGPT a současná dominance na trhu s umělou inteligencí z něj činí obzvláště atraktivní cíl, ale není důvod, proč by jeho konkurenti a přispěvatelé, jako je Google s Bardem nebo Microsoft se svou Azure AI založenou na OpenAI, nemuseli čelit kontrole. Před ChatGPT Itálie zakázala platformu chatbotů Replika pro shromažďování informací o nezletilých a dosud zůstalo zakázáno.
I když je GDPR výkonný soubor zákonů, nebylo vytvořeno pro řešení konkrétních problémů s AI. Pravidla to , mohou však být na obzoru.
V roce 2021 představila EU svůj první návrh zákonaZákon o umělé inteligenci (AIA) , legislativa, která bude spolupracovat s GDPR. Zákon upravuje nástroje umělé inteligence na základě jejich vnímaného rizika, od „minimálních“ (věci jako spamové filtry) po „vysoké“ (nástroje umělé inteligence pro vymáhání práva nebo vzdělávání) nebo „nepřijatelné“, a proto zakázané (jako systém sociálních kreditů). Po explozi velkých jazykových modelů, jako je ChatGPT v loňském roce, se nyní zákonodárci předhánějí v přidávání pravidel pro „základní modely“ a „systémy obecné umělé inteligence (GPAI) – dva termíny pro umělou škálu inteligentních systémů včetně LLM – a potenciálně klasifikovat jako vysoce rizikové služby.
zákonodárci EU dosáhli předběžné dohody o zákonu o AI dne 27. dubna. Komise bude o předloze hlasovat 11. května, konečný návrh se očekává v polovině června. Proto bude muset Evropská rada, Parlament a Komise vyřešit případné zbývající spory před provedením zákona. Pokud vše půjde hladce, mohla by být přijata do druhé poloviny roku 2024, tedy trochu za cílem oficiální evropských voleb v květnu 2024.
OpenAI má stále cíle, kterých musí dosáhnout. Do 30. září je možné vytvořit přísnější věkovou hranici, aby se do ní nedostali osoby mladší 13 let, a pro starší nezletilé dospívající vyžadovat souhlas rodičů. Pokud selže, může být znovu zablokován. Poskytla však příklad toho, co Evropa považuje za přijatelné chování pro společnost s umělou inteligencí, alespoň do doby, než budou schváleny nové zákony.
Ercole Palmeri
Rozvíjení jemné motoriky prostřednictvím vybarvování připravuje děti na složitější dovednosti, jako je psaní. Barvit…
Námořní sektor je skutečnou globální ekonomickou velmocí, která se dostala na 150miliardový trh...
Minulé pondělí Financial Times oznámily dohodu s OpenAI. FT licencuje svou prvotřídní žurnalistiku…
Miliony lidí platí za streamovací služby a platí měsíční předplatné. Je obecný názor, že jste…
