Corte Constitucional advirtió que la IA no puede sustituir al juez
Sin embargo, el alto tribunal determinó que los jueces de la República, en casos de tutela, sí pueden usar herramientas de IA como ChatGPT. Conozca los detalles.
Cumbre de Inteligencia Artificial en Colombia para cerrar la brecha / Getty Images
En un fallo de 186 paginas el alto tribunal determinó que los jueces de la República, en casos de tutela, sí pueden usar herramientas de IA como ChatGPT, ya que como señalan, no estaría usurpando la administración de justicia y catalogaría como un criterio orientador o una guía para la toma de decisiones.
La Corte con esto concluyó que el uso ponderado y razonado de la IA en el sistema de administración de justicia es admisible, a partir de un enfoque de protección de derechos fundamentales que valore y considere las mejores prácticas, la aplicación de criterios éticos y el respeto a los mandatos superiores, eso si bajo las cargas de transparencia, responsabilidad y garantía de protección de datos personales.
La corte se refirió esto luego de que La Sala Segunda de Revisión conoció una acción de tutela presentada por la madre de un menor de edad contra una EPS, para solicitar el amparo de los derechos fundamentales a la salud y a la vida en condiciones dignas de aquel, debido a la negativa de la entidad de (i) exonerar al niño del pago de cuotas moderadoras y copagos, (ii) cubrir los gastos de transporte, con el fin de que el niño pueda asistir a sus terapias, y (iii) garantizarle un tratamiento integral.
Sobre esto la Corte Constitucional verificó una posible vulneración del derecho fundamental al debido proceso en razón del uso de la inteligencia artificial por parte del juez de tutela de segunda instancia, quien empleó ChatGPT para formular interrogantes jurídicos sobre el derecho fundamental a la salud de menores de edad diagnosticados con trastorno de espectro autista y, acto seguido, incorporó las preguntas y respuestas en la motivación de la sentencia. Las preguntas fueron:
¿Menor autista esta exonerado de pagar cuotas moderadoras en sus terapias?
La respuesta del aplicativo IA:
Sí, es correcto. De acuerdo con la normativa en Colombia, los menores con diagnóstico de autismo están exonerados de pagar cuotas moderadoras en sus terapias. Este beneficuento [sic] está regulado por la Ley 1753 de 2015 y se aplica a todas las instituciones prestadoras de servicios de salud públicas o privadas que reciban recursos del sistema general de seguridad social en salud.
¿Las acciones de tutela en estos casos se deben conceder?
La respuesta del aplicativo IA:
“En caso de que una institución prestadora de servicios de salud no cumpla con la exoneración de cuotas moderadoras para un menor con diagnóstico de autismo, la persona o sus representantes legales pueden presentar una acción de tutela para proteger sus derechos. La tutela es un mecanismo judicial rápido y eficaz para proteger derechos fundamentales que se ven vulnerados.
Si se demuestra que el derecho a la salud del menor con autismo está siendo afectado por la exigencia de pagar cuotas moderadoras, es probable que la acción de tutela sea concedida y se ordene a la institución prestadora de servicios de salud cumplir con la exoneración. Sin embargo, cada caso es único y la decisión final depende de los hechos y circunstancias específicas del caso.”
Sobre esto, la Sala de Revisión de la Corte Constitucional señaló que debía respetarse el derecho a un juez natural, el cual implica, la condición de ser humano del juzgador ya que el diseño institucional y normativo actual no contempla la posibilidad de un juez máquina.
En ese sentido, “resaltó que la IA no puede remplazar al juez en la toma de decisiones judiciales, sin importar la complejidad del asunto sometido a estudio de la jurisdicción. Por el contrario, consideró que es admisible emplear estas tecnologías con fines de gestión administrativa y documental; apoyo a la función judicial en actividades que no suponen una labor de creación de contenido, interpretación de hechos o textos, ni solución de casos; y corrección y síntesis de textos, siempre y cuando estos sean supervisados por el operador jurídico para determinar su precisión, coherencia y correcta aplicación”.
Sobre esto la Corte concluyó que el uso ponderado y razonado de la IA en el sistema de administración de justicia es admisible, a partir de un enfoque de protección de derechos fundamentales que valore y considere las mejores prácticas, la aplicación de criterios éticos y el respeto a los mandatos superiores. La utilización de este tipo de herramientas debe atender, como presupuesto esencial, el criterio de no sustitución de la racionalidad humana y las cargas de transparencia, responsabilidad y privacidad que corresponde asumir al juez cuando recurra a este tipo de apoyos tecnológicos.