Professor Raphael Chaia

de 2024, quando discutimos no sobre os possíveis impactos da IA no mercado profissional e construção de autoridade com Pedro Cortella. A IA não substitui o pensamento humano, apenas potencializa o que ele tem a oferecer. Ela não trabalho por você, mas PARA você. Se não tiver conteúdo, não terá retenção. Simples assim.

Dois anos depois, vemos mais e mais o quanto acertamos nessa discussão.

O governo federal intensificou a regulação das plataformas digitais ao assinar decretos que endurecem o controle sobre as big techs no Brasil. As novas medidas, voltadas à prevenção de fraudes e crimes, obrigam essas empresas a atuar ativamente contra conteúdos ilícitos, como violência contra a mulher e exploração infantil. Além disso, as plataformas deverão armazenar dados para viabilizar a responsabilização de autores de delitos. O ponto central da mudança é a nomeação da ANPD como autoridade competente para fiscalizar o Marco Civil da Internet.

Essa centralização gera preocupação quanto ao acúmulo excessivo de funções na ANPD, que já enfrenta o desafio de garantir o enforcement da LGPD e do ECA Digital. Sobrecarga administrativa e a diversidade de temas exigem uma expertise técnica multifacetada que pode comprometer a eficácia da agência. O endurecimento das regras impõe um pesado dever de cautela às plataformas, criando um "efeito amedrontador" que deve resultar em um aumento de banimentos indevidos, visto que as empresas tendem a censurar preventivamente.

A síndrome de Bruxelas refere-se à tendência da legislação brasileira, especialmente em direito digital, de copiar padrões europeus sem adaptações adequadas ao contexto local. Irei rola no PL 2338/23, que regula a inteligência artificial com abordagem baseada em riscos, similar ao AI Act da União Europeia. Apenas copiar leis pode trazer ineficácia na implementação, desconsiderando desigualdades socioeconômicas e culturais brasileiras, além de entraves à inovação adaptada à realidade nacional. do

Em decisão da 3ª Vara do Trabalho de Parauapebas/PA, duas advogadas foram multadas por litigância de má-fé após inserirem, em uma petição inicial trabalhista, um comando oculto destinado a interferir em sistemas de inteligência artificial. O texto, escrito em fonte branca sobre fundo branco, era invisível ao leitor humano, mas detectável pela IA. O juiz entendeu que a conduta buscava induzir respostas favoráveis à parte autora, aplicou multa solidária de 10% sobre o valor da causa e oficiou a OAB/PA.

O episódio revela um uso profundamente distorcido da inteligência artificial no ambiente jurídico. Em vez de servir como ferramenta de apoio à pesquisa, organização de argumentos e aumento de eficiência, a IA foi tratada como alvo de manipulação estratégica. A chamada prompt injection, quando usada para induzir sistemas a erro, compromete a lealdade processual, viola a boa-fé e transforma a tecnologia em instrumento de sabotagem, corroendo a confiança nas ferramentas digitais e na própria Justiça.

O caso também acende um alerta sobre o uso crescente de IA pelo Judiciário na triagem, leitura e análise de petições. Se sistemas automatizados auxiliam magistrados e servidores, é indispensável que suas conclusões jamais substituam a conferência humana qualificada. O modelo adequado é o human in the loop: a IA pode apoiar, organizar e sugerir, mas a decisão, a validação crítica e a responsabilidade final devem permanecer com pessoas, sob critérios de transparência, auditabilidade e controle institucional.

O ECA Digital prevê um regime sancionatório severo para plataformas e serviços digitais que descumprirem seus deveres de proteção de crianças e adolescentes, incluindo advertência, obrigações de fazer, multa de até 10% do faturamento — limitada a R$ 50 milhões por infração —, suspensão temporária, bloqueio da plataforma e até proibição do exercício das atividades. A gravidade dessas sanções revela que a lei não pretende apenas orientar condutas, mas impor um modelo robusto de responsabilização regulatória no ambiente digital.

A crítica central está no alcance potencialmente coletivo de medidas como o bloqueio da plataforma. Embora voltada à proteção infantojuvenil, uma sanção dessa natureza pode atingir indiscriminadamente milhões de usuários que não participaram da infração, não foram ouvidos no processo e dependem daquele serviço para comunicação, trabalho, educação, lazer ou acesso à informação. Assim, a aplicação do bloqueio exige extrema proporcionalidade: punir a plataforma não pode significar transferir a consequência sancionatória para toda a coletividade conectada.

Ainda sobre o ECA digital e o desafio dos sistemas de identificação do usuário.

Apesar de a lei trazer mecanismos que visam garantir o uso ético dos dados coletados, não existem garantias para o mau uso dos mesmos em casos de incidentes de segurança de dados - os famosos vazamentos. Junto com as adequações à lei, será necessário um investimento sério - e pesado - em segurança digital, senão, veremos um salto exponencial em fraudes nos próximos anos, especialmente em sistemas com autenticação biométrica.