O alerta é do advogado Bernardo de Azevedo, pós-doutor em Direito, perito digital e professor de Direito Digital. Em entrevista ao Metrópoles, ele afirmou que a capacidade de a IA apresentar informações falsas com a mesma fluência e segurança de uma resposta correta significa que os profissionais da advocacia precisam de atenção redobrada.
“Os dois são perigosos porque a IA apresenta o certo e o errado com a mesma fluência e a mesma segurança, e mesmo as IAs jurídicas especializadas podem errar”, afirma.
Uma pesquisa realizada pela Associação dos Advogados de São Paulo (AASP) durante o evento Diálogos: IA e Advocacia, que contou com cerca de 300 respostas, ajuda a mostrar o espaço crescente que a tecnologia já ocupa no setor. Segundo o levantamento, 78,3% dos participantes relataram aumento no uso de IA nos últimos seis meses. Além disso, 88,4% atribuíram notas de 8 a 10 ao potencial da tecnologia para transformar a advocacia nos próximos cinco anos.
“A advocacia está disposta a compartilhar tarefas com a inteligência artificial, mas não a transferir a ela suas responsabilidades. Esse entusiasmo vem acompanhado de uma consciência crítica importante”, afirma a presidente da AASP, Paula Lima Hyppolito de Oliveira.
Por outro lado, o estudo também ilustra a preocupação dos profissionais da área com erros e informações inventadas pela IA — o temor foi relatado por 86,6% dos participantes. Quase todos também apontaram a necessidade de supervisão humana: 99,3% afirmaram que não utilizaram uma peça jurídica produzida por IA sem revisão profissional.
Risco de erros e omissões
Para Azevedo, um dos problemas mais difíceis de detectar não é necessariamente a informação falsa, mas as informações que a ferramenta deixa de mencionar. Na visão do perito, uma citação incorreta pode ser conferida, mas a ausência de um argumento relevante pode passar mais facilmente despercebida.
“Se o resumo da IA deixa de mencionar um argumento essencial, dificilmente se percebe o que ficou de fora, e esse argumento pode nunca chegar a quem decide”, explica, citando como exemplo uma súmula referenciada de maneira imprecisa, falha que pode resultar na não admissão de um recurso pelo juiz.
A revisão humana continua indispensável — segundo o advogado, no entanto, não basta que o profissional leia superficialmente o material produzido pela ferramenta. Ele também alerta ao fato de que a confiança excessiva nos resultados pode levar à redução gradual do rigor das conferências.
Outro risco está no comportamento dos próprios modelos. De acordo com Azevedo, algumas ferramentas tendem a simplesmente concordar com o usuário, sem questionar as premissas apresentadas. Isso significa que, ao solicitar uma avaliação de uma tese jurídica, por exemplo, o advogado pode receber uma resposta que apenas reforça seus argumentos, sem apontar as fragilidades da posição defendida.
O especialista recomenda que as afirmações apresentadas pela IA venham acompanhadas dos documentos e trechos que as sustentam, a fim de reduzir os riscos. Também é necessário conferir a existência e a exatidão dessas referências, consultar normas e precedentes em fontes oficiais e ler as principais peças do processo, antes de confiar em um resumo automatizado.
Sigilo profissional e proteção de dados
Os riscos não se restringem à qualidade das petições. O uso de ferramentas de inteligência artificial também pode expor informações confidenciais de clientes, especialmente quando os escritórios não estabelecem regras claras sobre quais dados podem ser compartilhados.
A pesquisa da AASP identificou uma lacuna nesse campo: apenas 16,7% dos participantes afirmaram contar com políticas formais e documentadas para o uso de IA no ambiente profissional. Além disso, 50,4% disseram não saber ou não ter certeza sobre quais dados de clientes podem ser inseridos em ferramentas generativas.
Segundo Azevedo, a ausência de regras deixa cada profissional responsável por decidir individualmente o que pode ou não ser enviado aos sistemas. O resultado pode ser a exposição de informações protegidas pelo sigilo profissional e o descumprimento da Lei Geral de Proteção de Dados (LGPD).
Nesse sentido, o advogado recomenda a adoção de medidas como:
• verificação das configurações de privacidade das ferramentas.
• avaliação da possibilidade de impedir que os dados enviados sejam utilizados para treinamento dos modelos.
• compartilhamento somente das informações estritamente necessárias.
• retirada, sempre que possível, de dados que permitam identificar os clientes e informar sobre o uso da tecnologia.
Ele também sugere que a utilização de inteligência artificial seja esclarecida no próprio contrato de honorários, de modo que o cliente saiba como a ferramenta poderá ser empregada na prestação do serviço.
Formação de novos advogados
A incorporação da IA também levanta questões sobre a formação dos profissionais que ingressam no mercado de trabalho. Para Azevedo, o desafio é garantir que os estudantes desenvolvam o raciocínio jurídico necessário para avaliar criticamente o conteúdo produzido pelas ferramentas.
O advogado avalia que profissionais formados antes da popularização da IA generativa tiveram de desenvolver parte de suas habilidades por meio de atividades como pesquisar, selecionar informações e redigir textos. Já os estudantes que começam a carreira com acesso a essas ferramentas podem produzir trabalhos bem estruturados sem necessariamente adquirir, na mesma medida, a capacidade de executá-los de forma independente.
Por isso, ele defende que a solução não seja proibir a tecnologia, mas ensinar a utilizá-la de maneira crítica. Uma possibilidade é incentivar o estudante a tentar resolver um problema jurídico antes de consultar a ferramenta e reservar momentos de estudo sem o auxílio da IA.
Por Victor Aguiar
Fonte: metropoles.com
