Generative AI, Professional Liability, and Actor Responsibility: Reconfiguring the Law School Syllabus
Este artigo argumenta que a integração da IA generativa no ensino jurídico exige uma mudança de debates binários sobre permissão para um framework abrangente de quatro níveis que reconfigura os currículos das faculdades de direito para preservar a responsabilidade profissional e o julgamento independente contra os riscos do descarregamento cognitivo.
Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Imagine um mundo onde as ferramentas que usamos para pensar e criar já não são apenas instrumentos passivos, como um martelo ou uma calculadora, mas participantes ativos que podem gerar novas ideias, escrever histórias e resolver problemas por conta própria. Esta é a realidade da inteligência artificial generativa, uma tecnologia que se moveu rapidamente da ficção científica para a vida quotidiana de estudantes e profissionais. Para os advogados, cujo trabalho depende de regras estritas, confidencialidade absoluta e da capacidade de tomar decisões sensatas, esta mudança não é meramente uma questão de aprender um novo programa de software. Ela toca o âmago do que significa ser um profissional responsável. Quando um advogado comete um erro, as consequências podem ser graves: um cliente pode perder a sua liberdade, a sua casa ou a sua reputação. Se um programa de computador ajuda a escrever um documento jurídico, mas inventa um caso judicial falso para apoiar um argumento, é ainda o advogado humano que deve responder por esse erro. A questão que as faculdades de direito enfrentam hoje não é se devem permitir estas ferramentas, mas sim como ensinar os futuros advogados a utilizá-las sem perderem a sua própria capacidade de pensar de forma crítica e ética.
Um novo estudo realizado pelos investigadores Jorge Luis Morton e Mariana Moranchel Pocaterra, da Universidad Autónoma Metropolitana, aborda este desafio propondo uma reformulação completa de como as faculdades de direito ensinam a responsabilidade profissional. Os autores argumentam que tratar a inteligência artificial como uma simples ferramenta a ser proibida ou usada livremente é um erro perigoso. Em vez disso, sugerem que a integração destes sistemas deve ser tratada como uma questão fundamental de responsabilidade profissional. Os investigadores apontam que, quando os estudantes dependem excessivamente destes sistemas para pensarem por eles, um fenómeno conhecido como descarregamento cognitivo (cognitive offloading), correm o risco de perder as competências analíticas profundas necessárias para o exercício do direito. Isto não é uma preocupação teórica; o artigo cita exemplos do mundo real onde o uso acrítico da inteligência artificial já causou falhas jurídicas graves. Num caso, um tribunal decidiu que as conversações entre um advogado e um sistema de inteligência artificial não estavam protegidas pelas regras habituais de privacidade, o que significa que o governo poderia lê-las. Noutro caso, uma testemunha que utilizou inteligência artificial para preparar o seu depoimento foi considerada tendo perdido a capacidade de recordar a sua própria história, tornando a sua prova inútil. Estes incidentes mostram que a tecnologia pode criar "alucinações", onde o sistema afirma com confiança factos que são inteiramente falsos, e pode expor informações confidenciais de clientes ao público.
Para enfrentar estes riscos, os autores propõem uma estrutura de quatro níveis que as universidades devem adotar para orientar o uso da inteligência artificial. O primeiro nível envolve o estabelecimento de regras claras ao nível universitário, estabelecendo uma compreensão partilhada do que a tecnologia pode e não pode fazer. O segundo nível introduz políticas estritas que punem comportamentos prejudiciais, tais como a criação de imagens falsas de pessoas, a fuga de dados confidenciais ou o uso da tecnologia para assediar outros. Crucialmente, os autores insistem que estas políticas devem incluir uma perspetiva de género, reconhecendo que as mulheres são frequentemente alvo desproporcional de usos prejudiciais da inteligência artificial, como a criação de imagens íntimas não consensuais. O terceiro nível exige que as faculdades de direito alterem o seu currículo, indo além de simples avisos para ensinar os estudantes a compreender a própria tecnologia. Isto inclui aprender sobre como estes sistemas são construídos, por que podem ser tendenciosos e como detetar erros. O quarto nível dá aos professores individuais a liberdade de decidir como a inteligência artificial pode ser utilizada nas suas aulas específicas, garantindo que os alunos praticam constantemente a verificação do trabalho produzido pelas máquinas.
O artigo delineia um caminho específico para os estudantes seguirem ao longo da sua formação jurídica. Nos primeiros anos, o foco reside na construção de uma base de conhecimento sobre como estes sistemas funcionam e os perigos éticos que representam. À medida que os estudantes avançam para os seus anos intermédios, aprendem a interagir mais diretamente com a tecnologia, praticando como fazer perguntas precisas e como verificar as respostas que recebem. Nos seus anos finais, espera-se que os estudantes utilizem estas ferramentas em clínicas jurídicas simuladas, sob a supervisão próxima de professores experientes. Nestes contextos, aprendem a documentar exatamente como utilizaram a tecnologia e a assumir total responsabilidade pelo produto final. Os investigadores enfatizam que o objetivo não é substituir o julgamento humano por máquinas, mas sim formar advogados que possam supervisionar estas ferramentas com um olhar crítico. Eles argumentam que os futuros advogados devem compreender que continuam plenamente responsáveis por qualquer trabalho produzido com a ajuda da inteligência artificial, mesmo que não tenham escrito cada palavra eles próprios.
O estudo conclui que a profissão jurídica não pode dar-se ao luxo de ignorar estas mudanças ou simplesmente tentar proibir a tecnologia. O ritmo acelerado do desenvolvimento significa que as regras e competências necessárias hoje serão provavelmente diferentes amanhã, exigindo que as escolas permaneçam flexíveis e atualizem constantemente os seus métodos de ensino. Os autores sugerem que a sua estrutura poderia servir de modelo para outras profissões de alto risco, como a medicina e a psicologia, onde o uso da inteligência artificial também acarreta riscos significativos para a segurança pública e os direitos individuais. Ao mudar o foco de um simples debate entre permissão versus proibição para uma abordagem estruturada de supervisão e educação, as faculdades de direito podem preparar uma nova geração de advogados que sejam não só tecnicamente competentes, mas também eticamente fundamentados. O objetivo final é garantir que, à medida que o panorama jurídico se torna mais mediado pela tecnologia, os princípios fundamentais da responsabilidade profissional, da honestidade e do julgamento independente permaneçam intactos.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.