Italský dozorčí orgán pro ochranu dat, Garante per la Protezione dei Dati Personali (aka Garante), uvalil dočasný zákaz na služby ChatGPT společnosti OpenAI v zemi s odvoláním na obavy z ochrany dat.
Za tímto účelem nařídila společnosti, aby s okamžitou platností přestala zpracovávat údaje uživatelů, a uvedla, že má v úmyslu prošetřit společnost, zda tato data nezpracovává nezákonně v rozporu s evropskými zákony o ochraně osobních údajů (GDPR).
„Uživatelům a subjektům údajů, jejichž data shromažďuje Open AI, nejsou poskytovány žádné informace,“ poznamenal Garante. „A co je důležitější, zdá se, že neexistuje žádný právní základ, který by podporoval masivní shromažďování a zpracování osobních údajů za účelem „trénování“ algoritmů, na které platforma spoléhá.“
ChatGPT, o kterém se odhaduje, že od svého vydání koncem loňského roku dosáhl více než 100 milionů aktivních uživatelů měsíčně, nezveřejnil, co používal k výcviku svého nejnovějšího velkého jazykového modelu (LLM), GPT-4, ani jak jej trénoval.
To znamená, že jeho předchůdce GPT-3 využívá text pocházející z knih, Wikipedie a Common Crawl, z nichž druhý udržuje „otevřené úložiště dat procházení webu, ke kterému může přistupovat a analyzovat je kdokoli“.
Garante také poukázal na nedostatek jakéhokoli systému ověřování věku, který by bránil nezletilým v přístupu ke službě, což je potenciálně vystavuje „nevhodným“ odpovědím. Vlastní chatbot společnosti Google s názvem Bard je přístupný pouze uživatelům starším 18 let.
Regulátor navíc vznesl otázky ohledně přesnosti informací, které se objevily prostřednictvím ChatGPT, a zároveň upozornil na porušení dat, které služba utrpěla na začátku minulého měsíce, které odhalilo chatovací tituly některých uživatelů a informace související s platbami.
V reakci na objednávku OpenAI zablokovala přístup ke svému generativnímu chatbotu AI uživatelům s italskou IP adresou. Uvedla také, že kromě pozastavení obnovování předplatného vrací předplatitelům ChatGPT Plus peníze.
Společnost se sídlem v San Franciscu dále zdůraznila, že službu ChatGPT poskytuje v souladu s GDPR a dalšími zákony na ochranu soukromí. ChatGPT je již blokován v Číně, Íránu, Severní Koreji a Rusku.
V prohlášení sdíleném s agenturou Reuters OpenAI uvedla, že aktivně pracuje na „snížení osobních údajů při školení našich systémů umělé inteligence, jako je ChatGPT, protože chceme, aby se naše umělá inteligence učila o světě, ne o soukromých osobách“.
Společnost OpenAI má 20 dní na to, aby informovala Garante o opatřeních, která přijala k dosažení souladu, nebo riskuje, že bude čelit pokutě až do výše 20 milionů EUR nebo 4 % z celkového celosvětového ročního obratu, podle toho, která hodnota je vyšší.
Neočekává se však, že by zákaz ovlivnil aplikace od jiných společností, které využívají technologii OpenAI k rozšíření svých služeb, včetně vyhledávače Bing společnosti Microsoft a jeho nabídky Copilot.
Tento vývoj přichází také poté, co Europol varoval, že LLM, jako je ChatGPT, pravděpodobně pomohou generovat škodlivý kód, usnadnit podvody a „nabízejí zločincům nové příležitosti, zejména pro zločiny zahrnující sociální inženýrství, vzhledem k jeho schopnosti reagovat na zprávy v kontextu a přijmout specifické styly psaní“.
Není to poprvé, co se společnosti zaměřené na umělou inteligenci dostaly pod radar. V loňském roce byla kontroverzní firma Clearview AI pokutována několika evropskými regulačními orgány za používání veřejně dostupných fotografií uživatelů bez souhlasu pro výcvik její služby pro porovnávání identit.
Dostala se také do rozporu se zákony na ochranu soukromí v Austrálii, Kanadě a USA, přičemž několik zemí společnosti nařídilo vymazat všechna data, která tímto způsobem získala.
Clearview AI nedávno uvedla, že provedla téměř milion vyhledávání u amerických donucovacích orgánů, přestože má trvale zakázáno prodávat svou databázi otisků obličejů v zemi.
Zdroj: thehackernews.com
