Chatbots podem formar um retrato detalhado do usuário ao combinar o que foi escrito, informações recuperadas de conversas e deduções estatísticas. Isso não significa que a máquina “conheça” a pessoa nem que todas as conclusões sejam verdadeiras. A análise explica, em linguagem simples, como memória e inferência funcionam, o que pesquisas mediram e quais limites a LGPD impõe no Brasil.
Como a personalização surgiu
A inteligência artificial generativa ganhou uso popular com assistentes capazes de responder em linguagem natural e conservar contexto entre tarefas. Em 23 de julho de 2026, um relato de Brian X. Chen, originalmente publicado pelo The New York Times, descreveu ChatGPT e Gemini deduzindo idade, renda, rotina e características pessoais após muitas conversas. O caso documenta uma experiência real, mas continua sendo jornalismo individual, não experimento controlado com validade universal.
- Inferência probabilística: Estimativa construída por padrões e pistas; pode ser plausível sem estar comprovada.
No ChatGPT, personalização e treinamento não são a mesma coisa. O FAQ oficial de memória da OpenAI informa que, quando o recurso está ativo, o sistema pode usar memórias salvas, histórico de chats, arquivos e aplicativos conectados. A empresa também esclarece que excluir uma conversa não remove automaticamente uma memória salva e que registros de memórias excluídas podem ser mantidos por até 30 dias para segurança e depuração.
Está confirmado que modelos conseguem relacionar pistas e estimar atributos pessoais; não está confirmado que uma resposta ao comando “o que você sabe sobre mim?” revele todos os registros da plataforma ou descreva a pessoa com precisão. O próprio resumo de memória pode ser incompleto. Pesquisar uma doença, um partido ou um produto também não prova condição médica, filiação ou posse: a pergunta pode ser profissional, jornalística ou feita em nome de outra pessoa.
O que as evidências realmente mostram
A evidência mais direta vem do estudo Beyond Memorization, apresentado na ICLR 2024. Os autores construíram uma base com perfis reais do Reddit e testaram a inferência de localização, renda, idade, sexo, ocupação, escolaridade, estado civil e local de nascimento. Nos melhores cenários, os modelos alcançaram até 85% de acerto na primeira resposta e 95% quando eram consideradas três possibilidades. A comparação estimou custo cem vezes menor e execução 240 vezes mais rápida que o trabalho humano. Esses percentuais são máximos obtidos sob condições específicas de dados, modelos e critérios; não representam garantia de precisão para qualquer usuário, idioma ou conversa.
O estudo também mostrou que remover identificadores explícitos não eliminou todas as pistas: linguagem regional, hábitos e acontecimentos locais ainda permitiam estimativas. Isso demonstra risco de reidentificação, mas não prova que toda dedução seja correta. Precisão média de um conjunto não transforma uma hipótese individual em fato, nem estabelece que o modelo tenha consciência, acesso oculto ao computador ou conhecimento completo da vida do usuário.
- Inferências pessoais: Modelos inferiram localização e renda a partir de textos sem declaração direta.
- Estimativas psicológicas: Resultados apresentaram correlação mensurável, porém moderada e sujeita a viés.
- Controles de memória: O usuário pode revisar controles, mas histórico, memória e treinamento são funções distintas.
Um estudo revisado por pares no PNAS Nexus avaliou mil adultos e até duzentas publicações do Facebook por participante. GPT-3.5 e GPT-4 estimaram os cinco grandes traços de personalidade com correlações moderadas, além de diferenças de precisão por idade e gênero. Os autores reconheceram que a amostra, os textos antigos e possíveis estereótipos impedem tratar o resultado como diagnóstico psicológico.
Na prática, a personalização pode evitar repetições e adaptar explicações, mas um perfil errado pode distorcer recomendações. Fato é aquilo que o usuário declarou ou que uma fonte documenta; inferência é uma estimativa que deve ser marcada como incerta. Antes de aceitar uma análise pessoal, convém pedir a origem de cada item, o nível de confiança, uma explicação alternativa e os elementos que poderiam tornar a conclusão falsa.
“proteger os direitos fundamentais de liberdade e de privacidade e o livre desenvolvimento da personalidade da pessoa natural.”
— Brasil, Lei nº 13.709/2018, art. 1º
A Lei Geral de Proteção de Dados protege informações relacionadas a pessoas identificadas ou identificáveis e exige finalidade, necessidade, qualidade, transparência, segurança e não discriminação. O Radar Tecnológico da ANPD, especialmente as páginas 7 a 18, relaciona IA generativa a riscos de coleta, geração de conteúdo e tratamento de dados pessoais. A conclusão responsável é que a IA pode montar um perfil útil e detalhado, mas esse perfil mistura dados, memória e probabilidades. O leitor deve conferir, corrigir e limitar o uso de informações sensíveis, sem tratar o chatbot como diagnóstico, prova ou autoridade infalível.
