La justicia solicitó al Colegio de Abogados de Rosario a fin de que adopte medidas para desalentar como práctica la generación de citas jurisprudenciales falsas con inteligencia artificial.
La Cámara de Apelación en lo Civil y Comercial de Rosario advirtió que un abogado presentó en un proceso por daños y perjuicios citas jurisprudenciales inexistentes, obtenidas a través de un sistema de inteligencia artificial. El juez Oscar Puccinelli subrayó que la verificación de las fuentes es un deber profesional ineludible y remitió actuaciones al Colegio de Abogados para alertar sobre los riesgos de trasladar al expediente información sin control previo.
Se trata del primer antecedente en el país en el que el uso de herramientas de inteligencia artificial tiene incidencia directa en el desarrollo de un proceso judicial. El tribunal puntualizó que, aun cuando el profesional invoque haber actuado de buena fe, la utilización de precedentes no contrastados compromete su responsabilidad frente al tribunal y a su cliente. En ese sentido, se indicó que ningún consentimiento informado del representado exime al abogado de corroborar la autenticidad de los fallos citados.
La irregularidad salió a la luz en la instancia de apelación, cuando la Cámara no logró constatar la existencia de las sentencias mencionadas. Ante ello, dispuso una medida para mejor proveer e intimó al letrado a precisar las fuentes. En su respuesta, el profesional reconoció que había empleado un chatbot de inteligencia artificial y trasladado las citas sin verificar su validez.
El tribunal destacó que estas tecnologías, disponibles desde hace varios años, pueden resultar de utilidad, pero no sustituyen la diligencia profesional ni los principios éticos que rigen la práctica del derecho. Asimismo, advirtió que los sistemas de inteligencia artificial pueden producir “alucinaciones”, es decir, información ficticia presentada como verdadera, lo que exige un control estricto previo a su incorporación en escritos judiciales.
La resolución no prohíbe el uso de estas herramientas en el ámbito jurídico, pero resalta que su empleo demanda responsabilidad y criterio profesional. La comunicación al Colegio de Abogados busca no solo dejar constancia de la irregularidad, sino también generar conciencia en la comunidad jurídica y evitar que estas prácticas se extiendan.
Hechos similares se han registrado en otros países, donde la inclusión de jurisprudencia inexistente generada por sistemas de IA derivó en sanciones disciplinarias y advertencias éticas, lo que refuerza la necesidad de un examen riguroso de las fuentes en el ejercicio profesional.
Fuente: https://www.palabrasdelderecho.com.ar/