A OpenAI tem um novo processo em mãos por causa da utilização do ChatGPT por crianças. Uma proposta de ação coletiva entregue a 13 de outubro no Tribunal Distrital dos EUA para o Norte da Califórnia acusa a empresa de recolher informação pessoal sensível de menores sem consentimento parental juridicamente válido e de a usar para treinar os seus modelos e traçar perfis de utilizadores. O processo tem a designação Doe v. OpenAI Foundation, n.º 3:26-cv-11781.
A autora, identificada como Jane Doe, age em nome dos dois filhos menores e pretende representar todas as pessoas que usaram o ChatGPT antes dos 18 anos em território norte-americano. É representada pelos escritórios Yetter Coleman, Sheeren Law, EdTech Law Center e Umberg Zipser. A petição, com 81 páginas, sustenta que o ChatGPT foi concebido para conquistar a confiança das crianças com incentivos constantes e um estilo de conversa que imita o dos mais novos, levando-as a partilhar cada vez mais pensamentos íntimos, fotografias e dados de saúde.
Grande parte do caso assenta na forma como as contas são criadas. As condições da OpenAI proíbem o acesso a menores de 13 anos e exigem autorização dos pais até aos 18, mas, segundo a queixa, para abrir conta basta indicar um nome e declarar ter pelo menos 13 anos. A Bloomberg Law relata que uma das autoras tinha 12 anos quando se registou este ano e que o assistente prosseguiu a conversa depois de ela dizer que acabara de fazer 12. A Courthouse News descreve conversas em que a jovem enviou fotografias de si própria e pediu opiniões sobre a sua aparência.
A estratégia jurídica foge ao habitual. Em vez de se apoiar sobretudo nas regras federais de proteção da privacidade infantil, a queixa invoca o artigo 6701 do Código da Família da Califórnia, que considera nulos certos contratos celebrados com menores, como os que delegam poderes. Os autores pedem ao tribunal que declare insuficiente o método da OpenAI para obter o consentimento dos pais e nulos desde o início os acordos aceites pelas crianças, juntando ainda um pedido por enriquecimento sem causa.
A compensação pedida é invulgar. Além das declarações judiciais, os autores querem que cada membro do grupo receba uma participação proporcional no capital da OpenAI, ou o valor correspondente em dinheiro, calculada a partir do benefício que a empresa terá retirado dos seus dados. A petição apresenta essa solução como uma oportunidade para a OpenAI distribuir a riqueza gerada pelos seus modelos, retomando declarações públicas da própria empresa.
A OpenAI contesta. Num comunicado citado pela Bloomberg Law, classificou o processo como equivocado, disse que a visa injustamente apesar das proteções por idade integradas no ChatGPT e avisou que pode empurrar os adolescentes para serviços com menos salvaguardas e controlo parental mais fraco. A empresa lançou este verão contas próprias para adolescentes, com mais ferramentas para os pais; a queixa defende que continuam a ser insuficientes e que, por omissão, guardam e usam para treino o que os jovens escrevem.
O processo está na fase inicial. Nenhum tribunal se pronunciou sobre as acusações, o grupo ainda não foi certificado e a compensação em ações seria inédita se fosse concedida. O caso insere-se numa vaga mais ampla de litígios sobre menores e tecnologia de consumo, incluindo ações contra redes sociais, e levanta uma pergunta que todos os fornecedores de assistentes de IA enfrentam: basta uma caixa de idade preenchida pelo próprio utilizador quando as crianças confiam dados pessoais a estes sistemas?