Riesgos legales del uso (y el abuso) de la IA

En mi práctica como abogada independiente he entendido que el gasto legal es uno de los grandes dolores de los empresarios, por lo que muchos lo evitan como a la plaga. Con el auge de la IA, ChatGPT y Claude se han convertido en los asesores legales de muchas empresas. Aunque celebro su implementación como herramientas de trabajo, me preocupa el uso y el abuso que se hace de ellas. Antes me preocupaba la copia indiscriminada y sin personalización de contratos descargados de Google; hoy me preocupa que se delegue en la IA el análisis de situaciones que requieren criterio jurídico y la toma de decisiones basada en él.

Yo misma uso IA en mi trabajo y he comprobado, como muchos colegas, que es una herramienta valiosa, pero de ninguna manera un abogado. A lo sumo, se parece a uno recién graduado, cuyo trabajo siempre debe ser revisado. Quienes llevamos décadas ejerciendo hemos desarrollado el criterio para identificar errores y corregirlos, pero ¿cómo podría hacerlo un empresario sin formación jurídica? En los textos que me entregan mis asistentes virtuales ChatGPT y Claude, he encontrado errores garrafales, incluso en versiones pagas: citas de jurisprudencia inexistente, cláusulas contractuales débiles o referencias a figuras jurídicas ajenas al ordenamiento jurídico colombiano, como los daños punitivos. Siento oso ajeno cuando reviso contratos enviados por contrapartes, en los que resulta evidente que fueron redactados por IA sin supervisión profesional, exponiendo a sus clientes a riesgos considerables. Si esto ocurre entre abogados, el riesgo es aún mayor para quienes carecen de criterio jurídico.

Un asunto que me inquieta es la introducción de información confidencial en estas herramientas. El simple hecho de introducir piezas de información protegida por el deber de confidencialidad implica su incumplimiento, pues dicha información se comparte con el respectivo proveedor de IA, un tercero no autorizado para conocerla. OpenIA expresamente recomienda en sus T&C no introducir información confidencial y advierte que no tiene capacidad para mantenerla en secreto, puesto que su personal autorizado y algunos proveedores podrían acceder a ella en ciertas circunstancias. También advierte, dependiendo de la configuración de privacidad del usuario, que puede utilizar el contenido enviado para mejorar el desempeño de los modelos. Es decir, habría una violación del deber de confidencialidad a sabiendas. Recomendación: usar información anonimizada o soluciones empresariales aprobadas por cada organización.

Frente a información propia el tema es muy sensible, en particular en relación con secretos empresariales, cuya protección exige que el titular adopte medidas razonables para mantenerlos en reserva. Si su staff introduce secretos empresariales en herramientas de IA, un juez podría concluir que el titular no cumplió con esa carga y negar la protección jurídica correspondiente. De allí la necesidad urgente de implementar políticas corporativas sobre uso de IA.

Finalmente, entre la IA y el usuario no existe secreto profesional, a diferencia de la relación abogado y cliente. En EE.UU., a finales de 2025, una persona usó un chatbot para preparar su defensa en un caso de fraude. Cuando las autoridades incautaron sus dispositivos, accedieron al historial de consultas y encontraron información que fue interpretada como una confesión, aunque él intentó revestirlo de información protegida por el secreto profesional. Una situación similar podría ocurrir en Colombia puesto que dicho derecho y deber está reservado a las profesiones liberales y, aunque pose de asesor experto en muchas de ellas, la IA no lo es.

Conclusión: la IA es una herramienta extraordinaria, pero también una fuente de riesgos legales cuando se utiliza sin criterio, supervisión ni controles adecuados.