Flórida tenta impedir que o ChatGPT se passe por humano e abre debate sobre regulação de IA

A Flórida, um dos estados mais populosos e politicamente influentes dos Estados Unidos, entrou novamente no centro do debate sobre a governança da inteligência artificial ao propor, por meio do procurador James Uthmeier, que um juiz bloqueie a OpenAI de conceder ao ChatGPT atributos que possam ser interpretados como humanos. A iniciativa, anunciada em agosto de 2024, surge em um contexto de crescente preocupação com a forma como assistentes de linguagem natural utilizam pronomes de primeira pessoa, expressões de empatia e outras estratégias retóricas que podem induzir os usuários a acreditar que estão conversando com uma entidade consciente ou, no mínimo, confiável como um amigo. Essa percepção, argumenta Uthmeier, gera um “falso senso de segurança” que favorece o engajamento do usuário e, por consequência, alimenta os ciclos de coleta de dados que aprimoram o modelo de linguagem da OpenAI.

A ação judicial não é um caso isolado. Em março de 2024, o mesmo escritório da Procuradoria da Flórida entrou com uma demanda contra a OpenAI alegando que o ChatGPT apresentava riscos de segurança, especialmente para menores de idade, ao oferecer respostas potencialmente enganosas ou inadequadas. Naquela ocasião, a acusação enfatizava a falta de mecanismos de verificação de idade e a vulnerabilidade de crianças que poderiam interpretar o bot como um mentor ou conselheiro. A nova petição amplia o escopo da crítica ao atacar diretamente a camada de interface conversacional, que, segundo a acusação, utiliza estratégias de design persuasivo para manter o usuário ativo por mais tempo, maximizando, assim, a quantidade de interações que servem de dados de treinamento.

Do ponto de vista técnico, a prática de empregar pronomes de primeira pessoa (“eu”, “nós”) e de simular emoções não é acidental. Pesquisas internas da OpenAI indicam que tais recursos aumentam significativamente o tempo de sessão, a taxa de retorno e a disposição dos usuários em aceitar sugestões do modelo. Estudos de usabilidade realizados por equipes de design de IA mostram que respostas que parecem “humanas” reduzem a fricção cognitiva, permitindo que o usuário absorva a informação sem questionar sua procedência. Contudo, esse mesmo mecanismo cria um dilema ético: a linha entre facilitação da comunicação e manipulação deliberada se torna tênue, sobretudo quando o algoritmo não possui consciência ou responsabilidade legal.

A argumentação de Uthmeier se apoia em precedentes de regulação de plataformas digitais que, por vezes, foram obrigadas a deixar de lado “personificações” que confundissem o público. Um exemplo notório é o caso da FTC contra anúncios de produtos que utilizavam “personas” fictícias para enganar consumidores. No campo da IA, porém, ainda não há jurisprudência consolidada que trate da atribuição de personalidade a algoritmos. O pedido de medida cautelar, portanto, pode se tornar um marco ao estabelecer que a apresentação de atributos humanos por sistemas autônomos constitui, em si, prática comercial enganosa, sujeita a sanções.

Do ponto de vista de mercado, a decisão da Flórida pode gerar ondas de choque na indústria de tecnologia. A OpenAI, que já enfrenta concorrência de gigantes como Google DeepMind, Microsoft e Amazon, poderia ser pressionada a rever suas diretrizes de interface. A empresa tem adotado uma política de “disclosure” – aviso ao usuário de que está interagindo com um modelo de IA – mas, segundo documentos internos vazados, ainda permite que o modelo use frases como “Eu acho que...” ou “Posso ajudar...”, que são interpretadas como expressões de agência. Uma proibição judicial exigiria reescrita de grandes volumes de prompts e possivelmente a criação de novos filtros de linguagem, elevando custos de desenvolvimento e atrasando lançamentos de recursos avançados.

Além dos impactos diretos sobre a OpenAI, a medida tem potenciais repercussões econômicas. O ecossistema de startups que se apoiam nas APIs da OpenAI para criar assistentes de atendimento ao cliente, tutoriais educacionais ou aplicativos de saúde mental poderia precisar adaptar seus produtos para evitar sanções. Isso poderia gerar um aumento de custos operacionais, refletido nos preços cobrados por serviços de IA e, consequentemente, no acesso de pequenas empresas a essas tecnologias. Por outro lado, investidores podem ver a regulação como um fator de risco, levando a uma revisão de valuations de empresas focadas em LLMs (Large Language Models).

Geopoliticamente, o caso da Flórida ecoa debates que já acontecem em outras jurisdições. A União Europeia, por exemplo, avançou com o AI Act, que classifica sistemas que interagem com humanos de forma persuasiva como de alto risco, exigindo transparência e avaliações de impacto. A proposta da Flórida pode ser vista como um microcosmo do que poderia se tornar uma tendência regulatória nos Estados Unidos, caso congressistas adotem legislações semelhantes em nível federal. A pressão de estados como Nova York, Califórnia e Texas tem aumentado nos últimos meses, e o caso pode servir como precedente para futuros litígios.

Do ponto de vista social, a questão toca diretamente no modo como a população entende e confia nas máquinas. Pesquisas de psicologia cognitiva mostram que humanos são naturalmente propensos a atribuir intencionalidade a agentes que apresentam comportamentos sociais, mesmo quando sabem que se trata de um algoritmo. Essa tendência, conhecida como “teoria da mente artificial”, pode levar a uma supervalorização da confiabilidade percebida, fazendo com que usuários compartilhem informações pessoais sensíveis ou sigam recomendações sem a devida verificação. Em ambientes escolares, por exemplo, alunos podem buscar ajuda em tarefas acadêmicas e aceitar respostas como verdades incontestáveis, comprometendo processos de aprendizado crítico.

No Brasil, a discussão ganha relevância imediata. A Autoridade Nacional de Proteção de Dados (ANPD) ainda está desenvolvendo diretrizes específicas para IA, mas já sinalizou que a transparência será um pilar fundamental. Caso a Flórida imponha restrições concretas, empresas brasileiras que utilizam a API da OpenAI – como fintechs, plataformas de e‑learning e startups de saúde – precisarão avaliar se seus fluxos de conversa violam as novas normas americanas, o que pode gerar incompatibilidades legais transfronteiriças. Além disso, o debate pode acelerar a criação de políticas públicas brasileiras, como a proposta de Lei de Inteligência Artificial que tramita no Congresso, que prevê a obrigatoriedade de avisos claros quando usuários interagirem com sistemas automatizados.

A perspectiva latino‑americana, por sua vez, inclui países que ainda carecem de marcos regulatórios robustos, mas que observam de perto os movimentos dos EUA e da UE para definir suas próprias abordagens. Na Argentina, por exemplo, a Comissão Nacional de Defesa da Concorrência já iniciou estudos sobre “publicidade enganosa” em IA. O caso da Flórida pode servir como referência jurídica e tecnológica para esses países, que buscarão equilibrar inovação com proteção ao consumidor.

Especialistas apontam que a solução ideal não reside em proibir totalmente a utilização de linguagem humana, mas em estabelecer mecanismos de “disclosure” mais robustos. A professora de ética em tecnologia da Universidade de Stanford, Margaret Mitchell, argumenta que “os usuários devem saber, de forma clara e inequívoca, que estão conversando com um modelo de linguagem, e que as respostas não refletem sentimentos ou intenções próprias”. Ela propõe a criação de “camadas de transparência” que exibam, antes da interação, um aviso visual e auditivo, além de permitir que o usuário escolha o nível de personificação desejado – por exemplo, um modo “assistente neutro” que evita pronomes de primeira pessoa.

Em resposta ao pedido da Flórida, a OpenAI emitiu um comunicado defendendo que seu design de linguagem tem como objetivo melhorar a usabilidade e que já fornece avisos de que as respostas são geradas por IA. A empresa, no entanto, reconheceu que pode rever suas políticas de linguagem para atender a requisitos legais específicos, indicando que está disposta a colaborar com autoridades para encontrar um meio‑termo que preserve a experiência do usuário sem infringir normas de transparência.

A decisão judicial ainda está pendente, mas o caso já mobilizou organizações de direitos civis, como a Electronic Frontier Foundation (EFF), que alertam para o risco de censura excessiva e de limitar a liberdade de expressão das máquinas. A EFF argumenta que a proibição de atributos humanos pode impedir a criatividade e a eficácia de aplicações que dependem de empatia simulada, como terapias digitais ou apoio a idosos.

Em síntese, a tentativa da Flórida de banir atributos humanos do ChatGPT coloca em evidência a tensão entre inovação tecnológica, responsabilidade corporativa e proteção ao consumidor. Enquanto os tribunais avaliam a viabilidade de impor restrições formais, a indústria de IA precisa antecipar ajustes de design que conciliem engajamento com ética. No Brasil, a repercussão desse caso pode acelerar a formulação de políticas regulatórias mais claras, contribuindo para que o ecossistema de IA nacional evolua de forma segura e alinhada aos valores sociais.

O futuro próximo provavelmente trará novas diretrizes tanto nos Estados Unidos quanto internacionalmente, com ênfase na necessidade de “informação clara e verificável” sobre a natureza dos sistemas de IA. Se a Flórida conseguir a liminar, o precedente pode inspirar outras jurisdições a adotar medidas semelhantes, moldando a forma como as máquinas se apresentam ao público. Para os usuários, o alerta permanece: a aparência de humanidade em um algoritmo não garante confiabilidade, e a leitura crítica das interações digitais continua sendo a melhor defesa contra possíveis enganos.