Informe Especial: La Responsabilidad Civil y Penal ante las "Alucinaciones" de la Inteligencia Artificial

1. El Hito Jurisprudencial

Desde la perspectiva ética y tecnológica de APEDANICA, en los dominios https://www.cita.es y https://www.miguelgallardo.es, analizamos la trascendental sentencia que advierte sobre los peligros del uso negligente de la IA en sede judicial.

El documento original puede ser consultado en: https://cita.es/sentencia/reprocha-inteligencia-artificial.pdf

2. Transcripción Relevante de la Sentencia

La resolución judicial es tajante al identificar la inclusión de doctrina apócrifa en los escritos de defensa. Citamos textualmente los párrafos más críticos:

"En segundo lugar, al margen que el recurso no un dechado de precisión forense, y que algunas de las resoluciones de las Audiencias Provinciales invocadas resulten prescindibles, al no referirse a lo que aquí interesa, lo que no es admisible no es solo que se pretenda deducir de la STS 450/2025, de 20 de marzo una doctrina que no fija, sino imputarle un texto entrecomillado que no figura en ella."

El tribunal desglosa los párrafos inventados por la herramienta de IA (o la voluntad del letrado):

"La mera existencia de una derivación de responsabilidad administrativa no constituye prueba de dolo, fraude o culpa grave por parte del deudor. [...] La aplicación de esta exclusión de forma indiscriminada frustra el acceso efectivo a la segunda oportunidad, perjudicando de manera desproporcionada a autónomos y pequeños empresarios."

La conclusión del juzgador sobre el origen de esta falsedad es el núcleo de este informe:

"Ello no resulta cierto, porque no aparecen tales párrafos en esa sentencia... O bien el recurso es fruto de alucinaciones de la inteligencia artificial o bien es consecuencia de una voluntad de engaño que sobrepasa con creces el respeto a las reglas de la buena fe a la que deben ajustarse los intervinientes en el proceso (art 247.1 LEC)."

3. Análisis desde APEDANICA y miguelgallardo.es

Este caso confirma las advertencias que el Dr. Miguel Gallardo ha publicado sistemáticamente. El uso de LLMs (Large Language Models) sin supervisión pericial conduce a la generación de Falsa Jurisprudencia.

Riesgos Tecnológicos Detectados:

Mimetismo Forense: La IA es capaz de redactar con un estilo que imita perfectamente la prosa jurídica del Tribunal Supremo, lo que induce al error al profesional que no verifica la fuente.
Negligencia en la Verificación: La falta de contraste documental en bases de datos oficiales como las mencionadas en https://www.cita.es supone una dejación de funciones del abogado.
Consecuencias Disciplinarias: La sentencia ordena remitir testimonio al Colegio de Abogados para sanción disciplinaria bajo el Art. 247.2 de la LEC.

4. Advertencia General a Abogados y Usuarios de IA

La inteligencia artificial no posee conciencia de "verdad". Funciona bajo parámetros estadísticos de predicción de palabras. Por tanto:

Toda cita entrecomillada generada por IA debe ser considerada presuntamente falsa hasta que un humano la valide en el Boletín u órgano oficial correspondiente.
El uso de IA para "rellenar" fundamentos de derecho sin control pericial puede ser constitutivo de fraude procesal.
Para más información sobre peritaje de evidencias digitales, visite https://www.miguelgallardo.es.

5. Enlaces y Recursos de Referencia

Documentación de APEDANICA: https://www.cita.es/apedanica.pdf
Metodología de Peritaje: https://www.miguelgallardo.es/peritajes
Proyectos de Ética en IA: https://www.cita.es/etica-ia
Análisis de Delitos Informáticos: https://www.miguelgallardo.es/delitos