Privacy Loop: entèlijans atifisyèl nan labirent la nan konfidansyalite ak Copyright

Sa a se premye nan de atik kote mwen adrese relasyon delika ki genyen ant Privacy ak Copyright sou yon bò, ak entèlijans atifisyèl sou lòt la.

Yon relasyon pwoblematik kote evolisyon teknolojik ap pwouve yo dwe tèlman vit ke fè nenpòt ajisteman regilasyon demode soti nan premye aplikasyon li.

Abòde pwoblèm pikan ki enplike dwa moun ak done pèsonèl mande atansyon, konpetans ak yon diskisyon endispansab ant entelektyèl ak espesyalis nan epòk nou an. N ap dekouvri ke nou pa ase rapid nan adapte règ sosyal yo ak defi ke inovasyon teknolojik poze pou nou. Teknoloji émergentes de pli zan pli jwenn tèt yo opere nan jaden an louvri, nan absans total de règleman ki limite aplikasyon yo, gratis yo lakòz domaj ak Se poutèt sa fè sa ak enpinite total.

Èske li posib imajine yon kontwòl ki ale tounen moute chèn nan nan devlopman teknolojik nan rechèch syantifik ak objektif estratejik li yo?

Èske li posib pou gouvène evolisyon espès nou an pandan w ap kenbe respè fèm pou libète endividyèl yo?

Konfidansyalite?

"Plis ou eseye kache, plis ou atire atansyon. Poukisa li tèlman enpòtan ke pèsonn pa konnen sou ou?" - soti nan fim nan "Anon" ekri ak dirije pa Andrew Niccol - 2018

Nan fim nan "Anon” nan ane 2018, sosyete a nan tan kap vini an se yon kote ki fè nwa, anba kontwòl dirèk nan yon sistèm enfòmatik gigantesque ki rele Etè, ki kapab kontwole chak kwen nan nasyon an nan obsève li nan je yo nan menm moun ki peple li. Chak moun se yon siveyan nan non Etè ak premye responsablite yo se, nan kou, kontwole tèt yo ak konpòtman yo.

Etè se pi bon alye fòs polis yo: atravè Etè, ajan yo ka trase eksperyans nenpòt moun lè yo reviv li ak pwòp je yo epi rezoud nenpòt kalite krim.

Ofisye lapolis Sal mande poukisa ou ta dwe goumen pou pwoteje vi prive ou: ki sa ki nan pwen lè ou pa gen okenn rezon pou kache? Dayè, nan yon epòk kote teknoloji nou bati pou ogmante sekirite lakay nou ak lari nou mande pou anrejistreman, siveyans ak verifikasyon enfòmasyon sa yo nan enterè moun yo menm ki mande pwoteksyon, ki jan nou ka espere garanti. vi prive yo?

Pou demontre kijan li danjere pou gen aksè a lavi lòt moun, yon pirate pral pran kontwòl Etè ak yon kochma terib pral desann sou lavi dè milyon de moun: menas la pou yo oblije gade kòm espektatè dekouraje imaj yo nan pi plis la. moman toumante nan lavi yo, emisyon dirèkteman nan retin yo.

Loop la

Le rezo neral atifisyèl ki kache fonksyone a nan entèlijans atifisyèl modèn, vire toutotou twa eleman prensipal: enfòmasyon debaz otreman yo rele corpus, se yon algorithm pou asimilasyon enfòmasyon ak a memwa pou memorize yo.

Algorithm la pa limite a yon chaj ordinèr nan enfòmasyon nan memwa a, li analize li nan rechèch nan eleman ki gen rapò yo youn ak lòt. Yon melanj de done ak relasyon yo pral transfere nan memwa a ki pral fòme yon modèl.

Nan yon modèl, done ak relasyon yo konplètman endistenabl, ki se poukisa rekonstwi corpus la nan enfòmasyon fòmasyon orijinal ki soti nan yon rezo neral ki resevwa fòmasyon se prèske enposib.

Sa a se laverite sitou lè corpus yo gen gwo kantite done. Sa a se ka a nan gwo sistèm lengwistik ke yo rekonèt kòm Large Language Models (LLM pou kout) ki gen ladan ChatGpt la trist. Yo dwe efikasite yo nan gwo kantite enfòmasyon yo itilize nan fòmasyon: kounye a yon bon fòmasyon mande pou pi piti kèk teraocte nan done epi bay yon teraocte koresponn ak 90 milya karaktè, apeprè 75 milyon paj tèks, li fasil konprann ke gen anpil enfòmasyon ki nesesè.

Men, si modèl yo pa ka de-enjenieri, poukisa nou ta dwe poze tèt nou pwoblèm nan vyolasyon vi prive?

Done dominasyon

"Nenpòt moun ki fou ka mande pou yo egzante nan misyon vòl, men nenpòt moun ki mande pou yo egzante nan misyon vòl yo pa fou." – baze sou roman "Catch 22" pa Joseph Heller.

Bilten inovasyon

Pa rate nouvèl ki pi enpòtan sou inovasyon. Enskri pou resevwa yo pa imel.

Koleksyon done ki gen yon gwosè konsa ki pèmèt kreyasyon pwojè tankou ChatGpt oswa lòt menm jan an se jodi a afè gwo konpayi miltinasyonal yo ki, ak aktivite dijital yo, te kapab mete men yo sou pi gwo depo enfòmasyon. nan mond lan: entènèt la.

Google ak Microsoft, ki depi plizyè ane te jere motè rechèch ki eskane entènèt la ak ekstrapolasyon gwo kantite enfòmasyon, se premye kandida pou kreyasyon LLM, se sèlman modèl AI ki kapab dijere kantite enfòmasyon tankou sa ki dekri pi wo a.

Li difisil pou kwè ke Google oswa Microsoft ta kapab fènwa enfòmasyon pèsonèl nan done yo anvan yo sèvi ak li kòm yon corpus nan fòmasyon yon rezo neral. Anonymize enfòmasyon nan ka sistèm lengwistik tradwi nan idantifikasyon done pèsonèl nan yon corpus ak ranplasman li yo ak done fo. Ann imajine yon corpus gwosè kèk teraocte ak ki nou vle fòme yon modèl epi ann eseye imajine konbyen travay ki ta nesesè yo manyèlman anonimize done li genyen yo: li ta pratikman enposib. Men, si nou te vle konte sou yon algorithm fè li otomatikman, sistèm nan sèlman ki kapab fè travay sa a ta dwe yon lòt modèl egalman gwo ak sofistike.

Nou nan prezans yon pwoblèm klasik Catch-22: "pou fòme yon LLM ak done anonim nou bezwen yon LLM ki kapab anonimize li, men si nou gen yon LLM ki kapab anonimize done yo, fòmasyon li pa t 'fè ak done anonimize. .”

GDPR demode

GDPR ki dikte (prèske) globalman règ yo pou respekte vi prive moun yo, nan limyè de sijè sa yo se deja ansyen nouvèl ak pwoteksyon nan done pèsonèl ki enplike nan yon seri fòmasyon pa kontanple.

Nan GDPR a, trete done pèsonèl yo nan bi pou aprann korelasyon jeneral ak koneksyon se sèlman yon pati reglemante pa Atik 22 ki di: "Sijè done a gen dwa pou yo pa sibi yon desizyon ki baze sèlman sou pwosesis otomatik, ki gen ladan pwofil, ki pwodui efè legal sou li oswa ki afekte li nan yon fason ki sanble ak enpòtan".

Atik sa a prezante entèdiksyon pou kontwolè done yo sèvi ak done pèsonèl yon sijè kòm yon pati nan yon pwosesis totalman otomatize pou pran desizyon ki gen efè legal dirèk sou sijè a. Men, rezo neral, fasil asimilab ak pwosesis pou pran desizyon otomatik yo, yon fwa yo resevwa fòmasyon jwenn kapasite nan pran desizyon otomatik ki ka afekte lavi moun. Men, desizyon sa yo pa toujou "lojik". Pandan fòmasyon, an reyalite, chak rezo neral aprann asosye enfòmasyon youn ak lòt, souvan ki gen rapò youn ak lòt nan yon fason absoliman ki pa lineyè. Ak absans la nan "lojik" pa fè travay la pi fasil pou lejislatè a ki vle leve yon plak pwotèj nan defans nan vi prive moun yo.

Si yon moun te chwazi tou pou aplike yon politik ki trè restriksyon, pou egzanp entèdi itilizasyon nenpòt done sansib sof si pwopriyetè a otorize klèman, itilizasyon legal rezo neral yo ta enposib. Ak abandone teknoloji rezo neral ta dwe yon gwo pèt, jis panse a modèl yo analiz ki resevwa fòmasyon ak done klinik yo nan sijè yo nan yon popilasyon ki te pasyèlman afekte pa yon maladi patikilye. Modèl sa yo ede amelyore politik prevansyon lè yo idantifye korelasyon ant eleman ki prezan nan done yo ak maladi a li menm, korelasyon inatandi ki nan je klinisyen yo ka parèt konplètman ilojik.

Jere bezwen yo

Poze pwoblèm nan respekte vi prive moun apre yo te otorize aveuglesman koleksyon li pou ane se ipokrit pou pi piti. GDPR tèt li ak konpleksite li yo responsab pou manipilasyon anpil ki pèmèt jwenn otorizasyon pou trete done pèsonèl pa eksplwate anbigwite nan paragraf yo ak difikilte pou konpreyansyon yo.

Nou sètènman bezwen yon senplifikasyon nan lwa a ki pèmèt aplikab li yo ak yon edikasyon reyèl nan itilizasyon an konsyan nan enfòmasyon pèsonèl.

Pwopozisyon mwen an se pa pèmèt konpayi yo konnen done pèsonèl itilizatè yo ki anrejistre pou sèvis yo, menm si yo se sèvis peye. Itilizasyon fo done pèsonèl pa moun prive ta dwe fèt otomatikman lè yo itilize sistèm sou entènèt. Itilizasyon done reyèl yo ta dwe limite nan pwosesis acha pou kont li, asire ke li toujou konplètman separe ak baz done sèvis la.

Konnen gou yo ak preferans sijè a san yo pa pèmèt yon non oswa yon figi yo dwe asosye ak pwofil sa a ta fonksyone kòm yon fòm anonimizasyon te pote soti en ki ta otomatikman pèmèt koleksyon an nan done ak itilizasyon yo nan sistèm automatisation tankou entèlijans atifisyèl.

Atik nan Gianfranco Fedele