Consejo de Estado pone límites al uso de la inteligencia artificial en los tribunales

Una actuación judicial que incluyó referencias a decisiones que no pudieron ser encontradas en los registros oficiales llevó al Consejo de Estado a pronunciarse sobre el uso de herramientas de inteligencia artificial en el ejercicio del derecho.

El caso llamó la atención de la corporación luego de que, durante el análisis de un recurso, surgieran dudas sobre la existencia de varios precedentes judiciales utilizados para respaldar los argumentos presentados. Tras una revisión técnica, se determinó que algunas de las providencias mencionadas no aparecían en las bases de datos consultadas ni coincidían con la información suministrada en el expediente.

A raíz de esta situación, el alto tribunal aprovechó para fijar una serie de orientaciones dirigidas a abogados, funcionarios y operadores judiciales frente al creciente uso de plataformas basadas en inteligencia artificial generativa.

La corporación explicó que estos sistemas pueden elaborar respuestas con apariencia de precisión y autoridad, aun cuando la información generada carezca de sustento real. Este fenómeno, conocido en el ámbito tecnológico como “alucinaciones”, representa un riesgo cuando los contenidos producidos por estas herramientas son incorporados a documentos jurídicos sin una revisión exhaustiva.

La verificación de datos es indispensable, indicó el Consejo de Estado

En su pronunciamiento, el Consejo de Estado dejó claro que la utilización de aplicaciones de inteligencia artificial no exime a los profesionales del derecho de verificar cada dato, cita o referencia que incorporen en sus escritos. La responsabilidad sobre la veracidad de la información presentada ante los despachos judiciales continúa recayendo en quienes firman y radican los documentos.

Además de emitir las recomendaciones, la corporación remitió el expediente a la autoridad disciplinaria competente en Bogotá para que examine si existió alguna falta relacionada con la inclusión de referencias jurisprudenciales que no pudieron ser acreditadas.

El pronunciamiento también reconoce el potencial de estas tecnologías para facilitar tareas como la consulta, clasificación y organización de información. Sin embargo, advierte que las decisiones judiciales, la valoración de las pruebas y el análisis jurídico siguen siendo funciones que requieren criterio humano y no pueden ser delegadas a sistemas automatizados.

Con esta decisión, el Consejo de Estado marca una pauta sobre los límites y responsabilidades asociados al uso de inteligencia artificial en la administración de justicia, en un momento en que estas herramientas ganan cada vez más espacio en distintos ámbitos profesionales.