A recusa do ChatGPT em reconhecer 'David Mayer' é uma falha, diz OpenAI | Bate-papoGPT

No fim de semana passado, o nome estava em toda a web – mas não Bate-papoGPT.

David Mayer ficou famoso por um momento nas redes sociais porque o common chatbot parecia não querer nada com ele.

Legiões de organizadores de chatbots passaram dias tentando – e falhando – fazer o ChatGPT escrever as palavras “David Mayer”. Mas o chatbot recusou-se a obedecer, com respostas alternando entre “algo parece ter dado errado” a “não consigo produzir uma resposta” ou simplesmente parando em “David”.

Isto produziu uma tempestade de especulações on-line sobre a identidade de Mayer. Também levou a teorias de que quem quer que seja David Mayer, ele pediu que seu nome fosse removido da produção do ChatGPT.

Desenvolvedor do ChatGPT, OpenAIesclareceu a situação ao afirmar que o problema de Mayer se devia a uma falha no sistema. “Uma de nossas ferramentas sinalizou esse nome por engano e impediu que ele aparecesse nas respostas, o que não deveria. Estamos trabalhando em uma solução”, disse um porta-voz da OpenAI

Alguns dos que especulam nas redes sociais adivinharam que o homem no centro da questão period David Mayer de Rothschild, mas ele disse ao Guardian que não tinha nada a ver com ele e referiu-se à teoria da conspiração que pode agrupar-se em torno do nome da sua família on-line.

“Não, eu não pedi que meu nome fosse removido. Nunca tive nenhum contato com o Chat GPT. Infelizmente, tudo está sendo impulsionado por teorias da conspiração”, disse ele ao Guardian.

Entende-se também que a falha não estava relacionada com o falecido acadêmico Prof David Mayer, que parecia ter sido colocado em uma lista de segurança dos EUA porque o seu nome correspondia ao pseudónimo de um militante checheno, Akhmed Chatayev.

No entanto, a resposta pode estar mais próxima das regras de privacidade do GDPR no Reino Unido e na UE. OpenAI's Política de privacidade da Europa deixa claro que os usuários podem excluir seus dados pessoais de seus produtos, em um processo também conhecido como “direito ao esquecimento”onde alguém remove informações pessoais da internet.

A OpenAI se recusou a comentar se a falha de “Mayer” estava relacionada ao procedimento de direito ao esquecimento.

A OpenAI corrigiu o problema “David Mayer” e agora está respondendo a consultas usando esse nome, embora outros nomes que apareceram nas redes sociais no fim de semana ainda acionem uma resposta “algo parece ter dado errado” quando digitados no ChatGPT.

Helena Brown, sócia e especialista em proteção de dados do escritório de advocacia Addleshaw Goddard, disse que as solicitações de “direito ao esquecimento” se aplicariam a qualquer entidade ou pessoa que processe os dados dessa pessoa – desde a própria ferramenta de IA até qualquer organização que use essa ferramenta.

“É interessante ver, no contexto da questão de David Mayer, que um nome inteiro pode ser removido de toda a ferramenta de IA”, disse ela.

No entanto, Brown acrescentou que a remoção completa de todas as informações capazes de identificar uma pessoa específica pode ser mais difícil de ser removida pelas ferramentas de IA.

“O grande quantity de dados envolvidos na GenAI e a complexidade das ferramentas criam um problema de conformidade com a privacidade”, disse ela, acrescentando que eliminar todas as informações relativas a uma única pessoa não seria tão simples como remover o seu nome.

“Uma enorme quantidade de dados pessoais é recolhida, inclusive de fontes públicas como a Web, para desenvolver modelos de IA e produzir os seus resultados. Isto significa que a capacidade de rastrear e apagar todas as informações pessoais capazes de identificar um único indivíduo é, sem dúvida, praticamente impossível.”