La privacidad en la era de la IA: mitos y realidades legales que todo abogado debe conocer

El pasado 18 de noviembre, vLex y LexLatin celebraron una masterclass conjunta con motivo del décimo aniversario de LexLatin, abordando uno de los temas más críticos y malentendidos en el mundo legal actual: la privacidad de datos en herramientas de inteligencia artificial. La sesión "IA: Mitos de privacidad y realidades legales” fue impartida por Alex Shaffer, sénior product manager de vLex y abogado licenciado en Pennsylvania y Maryland. La moderación estuvo a cargo de Juan Morris, coeditor del boletín de gestión de LexLatin y especialista certificado en IA.

La masterclass no fue otra presentación más sobre las maravillas de la IA. Shaffer fue directo al grano: "Realmente nos vamos a enfocar en qué sucede con los datos de clientes y firmas cuando utilizamos herramientas de IA". Y lo que reveló transformará por completo la forma en que cualquier abogado ve las herramientas de IA que ya forman parte de su día a día.

Si eres de los que usa ChatGPT para agilizar borradores, Claude para analizar contratos, o cualquier IA para investigar jurisprudencia más rápido que nunca, Shaffer demostró exactamente cómo proteger a tus clientes mientras aprovechas todo el poder de estas tecnologías. No se trata de dejar de usar IA (los casos de éxito que compartió son impresionantes) sino de dominar las técnicas que separan a los abogados que usan IA de forma profesional y segura de aquellos que, sin saberlo, ponen en riesgo información privilegiada. Es la diferencia entre ser un pionero legal tecnológico y ser ese abogado que todavía no entiende por qué perdió a sus mejores clientes frente a competidores más ágiles.

No te puedes perder: Problemas legales por el uso de ChatGPT: las alucinaciones de la inteligencia artificial dejan en evidencia a 116 abogados

El funcionamiento oculto de los modelos de IA

Shaffer comenzó desmitificando cómo funcionan realmente los modelos de lenguaje de gran escala como GPT de OpenAI, Claude de Anthropic, Gemini de Google, o Grok de xAI. "Son reconocedores avanzados de patrones para texto", explicó, detallando cómo estos sistemas toman conjuntos de datos masivos (típicamente contenido público y a veces contenido licenciado) para desarrollar una lógica que les permite predecir la siguiente palabra más probable.

"Si el modelo ve 'el _____ corrió rápido', podrá determinar que el espacio en blanco podría ser perro, gato o tigre", ilustró Shaffer. "Pero probabilísticamente, basándose en el contexto, lo más probable es que sea 'perro'". Esta distinción aparentemente técnica tiene implicaciones profundas: los modelos no razonan como los abogados; simplemente generan "contribuciones estadísticamente probables".

Esto significa que pueden generar respuestas que parecen autoritativas, pero estar "confiadamente equivocados", un fenómeno conocido como alucinaciones. "Los modelos están mejorando cada día más", reconoció Shaffer, "pero las alucinaciones todavía pueden existir donde los modelos buscan completar esa siguiente palabra y la llenan con información incorrecta en un intento de complacer al usuario".

Pero el verdadero problema comienza cuando los abogados introducen información en estos sistemas. "Todo lo que escribes o cargas deja tu dispositivo", advirtió Shaffer. "Esto se siente como una nota muy obvia, pero es algo en lo que no pensamos". Comparó esta desconexión mental con textear mientras conduces: "A veces cuando llegas a un semáforo en rojo y sientes tu teléfono vibrar, instintivamente miras hacia abajo. Ahora usamos teléfonos, computadoras y todo lo demás tan instintivamente que no siempre estamos pensando en lo que estamos enviando".

El ciclo de vida de los datos: donde acecha el peligro

La conferencia mapeó meticulosamente el viaje de los datos a través de los sistemas de IA, revelando riesgos en cada etapa que muchos abogados desconocen por completo:

Los inputs (entradas): No solo incluyen los prompts obvios que escribes, sino también las cargas de archivos y, crucialmente, el historial conversacional completo. Shaffer alertó sobre la función de "memoria" que han implementado muchos modelos líderes: "No solo va a ser la información que estás enviando en cualquier solicitud particular, sino que esos modelos también están mirando a través del historial conversacional. Tal vez no le dijiste el nombre de la firma de abogados para la que trabajas en tu solicitud actual, pero puede mirar hacia atrás en tu historial conversacional para decir: 'Oh, hace dos meses el usuario me dijo que trabaja en esta firma de abogados. Entonces voy a insertar esa información en mi chat subsecuente'".

El procesamiento: Aquí es donde la situación se vuelve particularmente preocupante. Los datos se procesan en instalaciones multi tenant (múltiples inquilinos), un término técnico que Shaffer se tomó el tiempo de explicar: "Cuando tus datos están siendo procesados, están siendo procesados en una instalación de datos masiva donde tú y tu información y la información de tus clientes van a ser procesadas junto a la información de otros". La implicación es preocupante: "Teóricamente, si tú y la contraparte opuesta estuvieran usando ChatGPT para ayudar con sus casos, esa información podría ser procesada lado a lado dentro de esos servidores".

Los outputs (salidas): Pueden hacer eco de información sensible de maneras inesperadas. No solo pueden revelar datos que introdujiste, sino que pueden "alucinar información personal sobre personas reales" o "regurgitar datos de entrenamiento" de otros usuarios. Esto último es precisamente lo que ha iniciado varias demandas importantes contra proveedores de IA.

Registros y metadatos en segundo plano: Esta es la categoría más persistente y peligrosa, según Shaffer. "Esta es la categoría de información de procesamiento que típicamente existe por más tiempo". Incluye todo desde marcas de tiempo, IDs de usuario, direcciones IP, registros del sistema, errores y registros de seguridad. Shaffer compartió un ejemplo reciente: "Anthropic, la compañía que crea Claude, monitoreó esos registros de seguridad y descubrió que había algunos criminales utilizando su servicio para un ataque web masivo".

Conceptos erróneos peligrosos

Shaffer dedicó tiempo considerable a desmantelar mitos comunes que ponen en riesgo a los abogados:

"Si pago, debe ser privado": "Muchos de estos proveedores tienen diferentes niveles de acceso", explicó Shaffer. "No es necesariamente tan simple como 'si pago por esto, no está entrenando con mis datos'. Necesitas ir un paso o dos más allá para asegurarte de eso".

"Si elimino el chat, desaparece": "Eso casi nunca es cierto. En muchos escenarios, esa información solo va a ser eliminada de tu historial, pero va a existir en los registros de los servidores y potencialmente en los datos de entrenamiento o memoria de esos modelos".

Shaffer compartió ejemplos alarmantes del mundo real: "Ha habido numerosos incidentes donde empleados han pegado código fuente confidencial de productos que están desarrollando, o abogados han pegado documentos privados sobre nueva propiedad intelectual en la que están trabajando en nombre de un cliente". El resultado: información potencialmente expuesta a competidores.

El caso que cambió todo: New York Times vs. OpenAI

Shaffer detalló el caso New York Times vs. OpenAI, actualmente en litigio en el Distrito Sur de Nueva York. Lo que comenzó como una demanda por derechos de autor (donde el New York Times y otros autores alegaban que OpenAI se beneficiaba comercialmente de contenido protegido usado para entrenar ChatGPT) se convirtió en una revelación sobre la privacidad de datos.

"En el curso del litigio", explicó Shaffer, "el abogado de los demandantes solicitó la exhibición de pruebas o “discovery”, y lo que solicitaron son millones y millones de registros de chat de ChatGPT para determinar cuánto del contenido protegido por derechos de autor está disponible dentro de esos registros de chat".

Y aquí viene la bomba: "El verdadero shock para muchos usuarios de ChatGPT es que el tribunal estuvo de acuerdo con la solicitud de discovery y ordenó la preservación y producción de extensos registros de ChatGPT". Y estos registros no discriminaban: "No eran solo del nivel gratuito de ChatGPT. No eran solo del nivel gratuito y los niveles Plus y Pro de ChatGPT, los niveles de $20 y $200. Eran más o menos todas las conversaciones, incluyendo aquellas que los usuarios marcaron como privadas o de incógnito con el sistema".

Te recomendamos: Revolución o extinción: La inteligencia artificial sacude los cimientos de la abogacía

OpenAI intentó resistirse, argumentando que esto entraría en conflicto con sus promesas de eliminación y expectativas de privacidad. El tribunal no se inmutó, razonando que las órdenes de protección y anonimato podrían mitigar los riesgos. Pero Shaffer señaló el problema obvio: "Si tienes datos anonimizados, pero son datos sobre un cliente con un conjunto particular de circunstancias que no serían comunes, yo argumentaría que esa información todavía va a ser identificable para ese cliente particular".

¿Las consecuencias?: "Los abogados del New York Times y la clase de demandantes podrían estar potencialmente revisando cientos de miles de registros de chat que tendrían información sensible sobre los clientes de otros profesionales legales".

La distinción crítica: "No entrenamiento" vs. "No retención"

Uno de los puntos más valiosos y técnicamente importantes de la masterclass fue la clarificación entre estos dos términos que muchos abogados confunden peligrosamente:

"No entrenamiento": Significa simplemente que el modelo no aprenderá de tus inputs para mejorar sus respuestas futuras. "Solo aborda uno de los riesgos: que tus datos se filtren en el comportamiento de ese modelo", explicó Shaffer. Dio un ejemplo concreto: "Tengo una cláusula que me gusta, la redacción que uso para mis contratos. Si envío eso al modelo y entrena con eso, entonces teóricamente ese modelo podría ofrecer esa cláusula a prácticamente cualquiera que pregunte".

"No retención" o "retención de datos cero": Este es el verdadero estándar. "Va más allá de no entrenar. Está diciendo que todos los datos o cualquier huella almacenada serán drásticamente reducidos o eliminados. Básicamente, el modelo ni siquiera tiene la oportunidad de entrenar con los datos porque los datos son purgados".

El consejo de Shaffer fue directo: "Cada vez que veas la frase 'no entrenamos con tus datos' de un proveedor de modelos, la siguiente pregunta que debes hacer es: 'Genial, pero ¿lo retienen? ¿Por cuánto tiempo y para qué propósitos?'"

Las salvaguardas esenciales: un análisis profundo

La conferencia delineó tres salvaguardas críticas con un nivel de detalle que raramente se ve en presentaciones sobre IA legal:

1. Retención de datos cero: "Actualmente el estándar de oro cuando estás buscando utilizar este tipo de modelos con cualquier tipo de información privada", enfatizó Shaffer. Explicó que vLex, a través de su producto Vincent, solo ofrece modelos con esta protección: "Nos aseguramos de que Vincent mismo no esté siendo entrenado con información del usuario... pero también que cualquiera de esos proveedores de modelos que usamos, ya sea Anthropic, OpenAI o Gemini, también esté purgando esa información tan pronto como el output es procesado".

Sin embargo, añadió una advertencia importante: "Las órdenes judiciales o gubernamentales pueden obligar a los proveedores a conservar datos que normalmente eliminarían". Es decir, aunque un proveedor prometa "retención de datos cero", un juez podría ordenar que mantengan esa información para un caso legal. No obstante, Shaffer aclaró que hasta ahora "la mayoría de los tribunales han respetado cuando los proveedores demuestran que realmente no pueden entregar datos que ya fueron eliminados". Aun así, el riesgo nunca desaparece por completo.

2. Cifrado: "El cifrado de 256 bits es el estándar de la industria", especificó Shaffer. Pero la protección debe ser doble: "Los datos necesitan estar cifrados tanto cuando viajan por internet como cuando están guardados en los servidores". Para explicarlo de forma simple: imagina tus datos como una carta. El cifrado en tránsito es como un sobre sellado que protege la carta mientras viaja por correo (evitando que alguien la lea si intercepta tu WiFi en un café). El cifrado en reposo es como una caja fuerte donde se guarda esa carta al llegar a destino (protegiendo la información si alguien logra entrar al servidor).

Pero hay una advertencia crucial: "El cifrado no importa si un gran número de personal dentro de un proveedor puede acceder a esos datos y anular el cifrado con la clave del proveedor". Shaffer aconsejó preguntar específicamente sobre "acceso basado en roles" y si los proveedores auditan quién accede a qué datos.

3. Residencia y jurisdicción de datos: "No debería considerarse solo como una casilla de verificación", insistió Shaffer. "Va a determinar dónde viven tus datos físicamente". Dio ejemplos concretos: Amazon Web Services tiene instalaciones en todo el mundo, y la ubicación física determina qué gobierno podría potencialmente acceder a los datos.

Las mejores protecciones actuales: "Las protecciones más estrictas ahora mismo son ofrecidas en la Unión Europea por el GDPR. Brasil también tiene estándares muy estrictos a través de la LGPD". La ubicación de los datos afecta "si tus datos van a ser accesibles a través de supervisión regulatoria, acceso gubernamental, y si tienes obligaciones de transferencia transfronteriza".

El contexto global: un mosaico regulatorio en evolución

La conferencia reveló un panorama internacional complejo y en rápida evolución:

• Colombia: "Ha sido uno de los primeros en moverse para examinar a los clientes de ChatGPT, no solo con sus leyes locales de datos, sino también con cómo esos datos están siendo procesados a través de fronteras".
• Brasil: "Los fiscales federales y la ANPD han estado examinando cualquier información personal potencialmente falsa o engañosa que sea producida por IA". También investigan "la base legal para entrenar con esos datos personales y los derechos de los sujetos de datos: acceso, corrección y eliminación".
• Italia: "Ha sido muy radical en los primeros días... realmente cerraron el acceso a ChatGPT en toda la nación hasta que sus preocupaciones de privacidad fueran abordadas". Aunque restauraron el acceso, "han impuesto multas significativas a esos proveedores por violaciones del GDPR".
• La Unión Europea: Tiene "investigaciones y directrices en curso y coordinadas sobre IA", liderando en protecciones de privacidad junto con Brasil.

Implicaciones profundas para el deber profesional

Shaffer no se anduvo con rodeos sobre las implicaciones éticas y legales: "Como abogado, eres intrínsecamente un usuario excepcionalmente peligroso de IA porque estás naturalmente trabajando con datos altamente sensibles".

La violación del privilegio abogado-cliente no es una posibilidad teórica: "Si estoy en el nivel gratuito de ChatGPT y estoy enviando información sensible del cliente al modelo, probablemente divulgué eso a un tercero, y probablemente violé el privilegio de ese cliente". Agregó: "Si los proveedores están usando tus datos para sus propósitos (entrenamiento, marketing, etc.) es mucho más difícil argumentar que están actuando puramente como tu agente para propósitos de privilegio".

Plan de acción integral para firmas legales

La conferencia culminó con recomendaciones prácticas detalladas:

Creación de políticas específicas: Shaffer compartió un ejemplo revelador: "Me ha sorprendido gratamente ver cómo firmas pequeñas y medianas están liderando el cambio. Conozco un despacho de apenas 10 abogados donde no solo adoptaron herramientas de IA, sino que invirtieron en capacitar a todo su equipo sobre los riesgos y mejores prácticas. Cada uno de esos 10 profesionales sabe exactamente cuándo puede usar IA y cuándo no, qué información puede compartir y cómo proteger los datos de sus clientes. Están compitiendo de igual a igual con firmas 10 veces más grandes, precisamente porque entendieron que la IA no es solo una herramienta más: es una responsabilidad profesional que requiere preparación".

Consentimiento proactivo del cliente: "Durante el proceso de admisión, puedes asegurarte de que tus clientes te estén dando permiso afirmativo para utilizar herramientas de IA". Su consejo: "No esperes hasta que sea una emergencia... Obtén ese consentimiento afirmativo durante el proceso de admisión".

Monitoreo y documentación: "Rastrear cuándo se usa IA y en qué etapas". Sugirió mapear el uso: "La utilizaremos para resumir la admisión del cliente, pero no la usaremos para redacción de mociones para potencialmente exponer estrategia".

Nota relacionada: ¿Cómo hacer que la inteligencia artificial sea verdaderamente costo-efectiva en el marketing jurídico?

El futuro inevitable

"La idea de simplemente prohibir completamente la IA ha demostrado no ser sostenible dentro de las firmas de abogados", concluyó Shaffer. Citó resultados transformadores: "Algunos abogados han podido utilizar IA para acelerar su trabajo, y para crecer a una firma de 25 a 30 abogados diferentes. Estamos viendo casos comenzando a resolverse más rápido. Usando herramientas como Vincent, puedes tomar procesos de investigación que solían tomar la mejor parte de uno o dos días y condensarlos en una sesión de 30 minutos".

El mensaje final: Prohibir la IA en una firma es como prohibir el correo electrónico en 1995: simplemente no es viable. "La estrategia ganadora es 'usar IA con protocolos claros y salvaguardas específicas'. Eso sí es profesional y defendible ante clientes y reguladores".

La masterclass no dejó espacio para dudas: en una profesión donde la IA ya está redefiniendo quién gana y quién pierde casos, quién retiene y quién pierde clientes, la ignorancia sobre estos temas no es solo arriesgada; es una negligencia profesional en potencia. Como resumió Shaffer: "No se trata de si usarás IA, sino de si la usarás correctamente o si te convertirás en una historia de advertencia para otros".