예상 독서 시간: 9 세부 사항
2023년 초, OpenAI의 인기 있고 논란이 많은 ChatGPT 챗봇은 중요한 법적 문제에 부딪혔습니다. 바로 이탈리아에서의 효과적인 금지입니다. 이탈리아 데이터 보호 당국(GPDP)은 OpenAI가 EU 데이터 보호 규칙을 위반했다고 비난했으며 회사는 문제를 해결하기 위해 이탈리아에서 서비스에 대한 액세스를 제한하는 데 동의했습니다. 28월 XNUMX일에 ChatGPT가 국내로 돌아왔고 OpenAI는 서비스에 큰 변화를 주지 않고 GPDP 문제를 가볍게 해결했습니다. 명백한 승리였습니다.
GPDP 확인 ChatGPT의 변경 사항을 "환영"합니다. 그러나 회사의 법적 문제와 유사한 챗봇을 구축하는 회사의 법적 문제는 아마도 이제 막 시작되었을 것입니다. 여러 국가의 규제 당국은 이러한 AI 도구가 정보를 수집하고 생성하는 방법을 조사하고 있습니다., 무허가 교육 데이터를 수집하는 회사에서 챗봇이 허위 정보를 퍼뜨리는 경향에 이르기까지 다양한 우려 사항을 인용합니다.
EU에서는 세계에서 가장 강력한 개인 정보 보호 법적 프레임워크 중 하나인 일반 데이터 보호 규정(GDPR)을 시행하고 있으며 그 영향은 유럽 외부에서도 느껴질 수 있습니다. 한편, 유럽 의원들은 ChatGPT와 같은 시스템에 대한 규제의 새로운 시대를 열 가능성이 높은 인공 지능을 구체적으로 다루는 법을 제정하기 위해 노력하고 있습니다.
ChatGPT는 사용자 요청에 따라 텍스트, 이미지, 비디오 및 오디오를 생성하는 도구를 포괄하는 포괄적 용어인 생성 AI의 가장 인기 있는 예 중 하나입니다. 이 서비스는 다음 중 하나가 된 것으로 알려졌습니다. 가장 빠르게 성장하는 소비자 애플리케이션 100년 2022월 출시 후 불과 두 달 만에 월간 활성 사용자 XNUMX억 명을 달성한 후 역사상 처음입니다(OpenAI는 이 수치를 확인한 적이 없습니다).
사람들은 텍스트를 다른 언어로 번역하고 글을 쓰는 데 사용합니다. 대학 에세이 코드를 생성합니다. 그러나 규제 기관을 포함한 비평가들은 ChatGPT의 신뢰할 수 없는 출력, 혼란스러운 저작권 문제 및 수상한 데이터 보호 관행을 강조했습니다.
이탈리아는 가장 먼저 이주한 국가였습니다. 31월 XNUMX일에 그는 OpenAI가 GDPR을 위반하고 있다고 생각하는 네 가지 방식을 강조했습니다.
다른 어떤 나라도 그런 조치를 취하지 않았습니다. 그러나 XNUMX월 이후로 최소 XNUMX개의 EU 국가 – 독일 , 프랑스 e 스페인 – ChatGPT에 대한 자체 조사를 시작했습니다.
한편, 대서양 반대편에서는 캐나다 개인 정보 보호 및 전자 문서법(PIPEDA)에 따라 개인 정보 보호 문제를 평가하고 있습니다. EDPB(European Data Protection Board)는 심지어 하나를 설정했습니다. 전담 태스크 포스 조사를 조정하는 데 도움이 됩니다. 그리고 이러한 기관이 OpenAI에 대한 변경을 요청하면 전 세계 사용자를 위해 서비스가 작동하는 방식에 영향을 미칠 수 있습니다.
규제 기관의 우려 사항은 크게 두 가지 범주로 나눌 수 있습니다.
ChatGPT는 인간이 생성한 대량의 텍스트에 대해 훈련된 OpenAI의 GPT-3.5 및 GPT-4 LLM(대형 언어 모델)을 사용합니다. OpenAI는 정확히 어떤 교육 텍스트를 사용하는지에 대해 신중하지만 "공개적으로 사용 가능한 개인 정보를 포함할 수 있는 공개적으로 사용 가능하고 생성되고 라이선스가 부여된 다양한 데이터 소스"를 사용한다고 말합니다.
이것은 잠재적으로 GDPR에 따라 큰 문제를 야기합니다. 이 법은 2018년에 제정되었으며 담당 조직의 소재지에 관계없이 EU 시민의 데이터를 수집하거나 처리하는 모든 서비스에 적용됩니다. GDPR 규정은 회사가 개인 데이터를 수집하기 전에 명시적인 동의를 얻고, 수집 이유에 대한 법적 정당성을 갖고, 사용 및 저장 방법에 대해 투명할 것을 요구합니다.
유럽 규제 당국은 OpenAI의 훈련 데이터 비밀성은 입력한 개인 정보가 처음에 사용자의 동의하에 제공되었는지 여부를 확인할 방법이 없다는 것을 의미하며, GPDP는 특히 OpenAI가 처음부터 이를 수집할 "법적 근거가 없다"고 주장했습니다. 지금까지 OpenAI와 다른 사람들은 거의 조사하지 않았지만 이 진술은 향후 데이터 스크래핑 노력에 큰 물음표를 추가합니다.
그러면 " 잊혀질 권리 ”를 통해 사용자는 회사에 개인 정보를 수정하거나 완전히 제거하도록 요청할 수 있습니다. 개방형 AI 이전에 개인 정보 보호 정책을 업데이트했습니다. 그러한 요청을 용이하게 하기 위해 토론 분리하는 것이 얼마나 복잡한지 고려할 때 기술적으로 관리가 가능한지 여부 특정 데이터 일단 그들이 이러한 큰 언어 모델에 입력되면.
OpenAI는 또한 사용자로부터 직접 정보를 수집합니다. 다른 인터넷 플랫폼과 마찬가지로 표준 사용자 데이터 세트 (예: 이름, 연락처 정보, 카드 정보 등). 그러나 더 중요한 것은 사용자가 ChatGPT와 상호 작용하는 것을 기록합니다. 처럼 FAQ에 명시된 , 이 데이터는 OpenAI 직원이 검토할 수 있으며 해당 모델의 향후 버전을 교육하는 데 사용됩니다. 사람들이 봇을 치료사 또는 의사로 사용하여 ChatGPT에 묻는 친밀한 질문을 감안할 때 회사가 모든 종류의 민감한 데이터를 수집하고 있음을 의미합니다.
이 데이터 중 적어도 일부는 어린이로부터 수집되었을 수 있습니다. OpenAI의 정책에 따르면 "13세 미만의 어린이로부터 고의로 개인 정보를 수집하지 않는다"고 명시되어 있지만 엄격한 연령 제한은 없습니다. 이는 13세 미만의 개인 정보 수집을 금지하고 (일부 국가에서는) 16세 미만 아동에 대해 부모의 동의를 요구하는 EU 규정과 잘 맞지 않습니다. 출력 측면에서 GPDP는 ChatGPT의 연령 필터 부족이 미성년자를 노출한다고 말했습니다. a "자기 인식과 발달 정도에 비해 절대적으로 부적절한 반응".
또한 ChatGPT의 성향은 허위 정보 제공 문제가 될 수 있습니다. GDPR 규정은 모든 개인 데이터가 정확해야 한다고 규정하고 있으며, 이는 GPDP가 발표에서 강조한 내용입니다. 어떻게 오느냐에 따라 definite, 대부분의 AI 텍스트 생성기에 문제를 일으킬 수 있습니다. Allucinazioni “: 쿼리에 대한 실제로 부정확하거나 관련 없는 답변을 나타내는 멋진 업계 용어입니다. 이것은 이미 다른 곳에서 실제 영향을 미쳤습니다. 명예 훼손으로 OpenAI를 고소하겠다고 위협 ChatGPT가 부패 혐의로 징역형을 선고 받았다고 거짓 주장한 후.
ChatGPT의 인기와 현재 AI 시장의 지배력은 특히 매력적인 대상이 되지만 Bard와 함께하는 Google 또는 OpenAI를 기반으로 하는 Azure AI를 사용하는 Microsoft와 같은 경쟁업체 및 기여자가 정밀 조사를 받을 필요가 없는 이유는 없습니다. ChatGPT 이전에 이탈리아는 챗봇 플랫폼을 금지했습니다. Replika 미성년자에 대한 정보 수집을 위해 지금까지 금지되었습니다.
GDPR은 강력한 법률 집합이지만 특정 AI 문제를 해결하기 위해 만들어지지 않았습니다. 규칙 , 그러나 그들은 수평선에있을 수 있습니다.
2021년 EU는 첫 번째 초안을 발표했습니다.인공지능법(AIA) , GDPR과 함께 작동할 법안. 이 법안은 "최소"(스팸 필터와 같은 것)에서 "높음"(법 집행 또는 교육을 위한 AI 도구) 또는 "용인할 수 없는" 따라서 금지된(사회 신용 시스템과 같은) 위험에 따라 AI 도구를 규제합니다. 작년에 ChatGPT와 같은 대규모 언어 모델이 폭발적으로 증가한 후, 입법자들은 이제 "핵심 모델" 및 "범용 인공 지능(GPAI) 시스템"(LLM을 포함한 지능 시스템 인공 규모에 대한 두 가지 용어)에 대한 규칙을 추가하기 위해 경쟁하고 있습니다. 로 분류하다 고위험 서비스.
EU 의원 AI법에 대한 잠정 합의 27월 11일. 위원회는 XNUMX월 XNUMX일 초안에 대해 투표할 것이며 최종 제안은 XNUMX월 중순에 나올 것으로 예상됩니다. 따라서 유럽이사회, 의회, 집행위원회는 남은 분쟁 해결 법을 시행하기 전에. 모든 것이 순조롭게 진행된다면 목표보다 조금 늦은 2024년 하반기에 채택될 수 있습니다. 공식 2024년 XNUMX월 유럽선거.
OpenAI는 여전히 달성해야 할 목표가 있습니다. 30월 13일까지 XNUMX세 미만을 차단하고 나이가 많은 XNUMX대 청소년에 대한 부모의 동의를 요구하는 더 엄격한 연령 제한을 만들 수 있습니다. 실패하면 다시 차단될 수 있습니다. 그러나 적어도 새로운 법률이 통과되기 전까지는 유럽이 AI 회사에 대해 허용 가능한 행동으로 간주하는 예를 제공했습니다.
Ercole Palmeri
색칠을 통해 소근육 운동 능력을 키우면 아이들이 글쓰기와 같은 보다 복잡한 기술을 준비할 수 있습니다. 색칠하다…
지난 월요일, Financial Times는 OpenAI와의 계약을 발표했습니다. FT는 세계적 수준의 저널리즘에 라이선스를 부여합니다…
수백만 명의 사람들이 스트리밍 서비스 비용을 지불하고 월간 구독료를 지불합니다. 당신은…
