Las discusiones sobre la Inteligencia Artificial aún persisten y no se irán pronto, mucho menos cuando hay una profunda necesidad de ajuste regulatorio que guíe el uso de este conjunto de tecnologías generativas, que están penetrando todos los aspectos de la vida.
Uno de estos conjuntos regulatorios es la Ley de Inteligencia Artificial de la Unión Europea, que avanzó en el parlamento comunitario el 2 de febrero, cuando fue finalmente aprobado el texto definitivo, luego de que Alemania y Francia retiraron sus objeciones.
Esta ley es, según Thierry Breton, Comisionado de Mercado Interior de la UE, “histórica” y “la primera en el mundo” que busca regular sus aplicaciones de IA.
El acuerdo abarca el uso gubernamental de la IA en la vigilancia biométrica, la transparencia de las IA —especialmente las generativas—, la regulación de los sistemas de IA basada en el grado de riesgo que represente (siendo los que producen deepfakes uno de los más riesgosos) y el establecimiento de responsabilidades legales para los desarrolladores, según el grado de riesgo.
Relacionado: ¿El uso de la IA en la invención aumentará los litigios de Propiedad Intelectual?
Por su naturaleza extraterritorial (regulará a las empresas europeas que trabajen fuera de la UE y a las extranjeras dentro de la UE), esta ley termina siendo aplicada en otros países, como por ejemplo en Brasil, lo que significa que cualquier empresa brasileña que aplique soluciones de IA en la UE estará sujeta a la nueva normativa.
La ley de IA europea impone, como el Reglamento General de Protección de Datos (GDPR) y las leyes de Mercados Digitales (DMA) de Servicios Digitales (DSA), de Datos (DA) y de Gobernanza Digital (DGA), un estándar mundial y redefine el escenario innovativo y tecnológico de Europa al tiempo que afecta a Brasil, que tiene ad portas el Proyecto de Ley 2.338/23, pensada con el objetivo de regular el desarrollo, implementación y uso responsable de sistemas de IA en el territorio nacional.
El PL 2.338/23 impondrá medidas de gobernanza para transparencia y seguridad en los sistemas de IA, prevendrá las prácticas discriminatorias y, como la ley europea, clasificará los riesgos de los modelos de IA e impondrá medidas de seguridad sólidas según el grado de riesgo de los sistemas desarrollados y aplicados en el país. Este PL también se relaciona con la Ley General de Protección de Datos (LGPD) de Brasil.
De interés: Ley de Ciberseguridad en Chile, ¿cómo impacta a las empresas?
"A nivel individual, considerando que la UE es un mercado relevante en términos de rentabilidad, es probable que si bien la Ley de IA de la UE no se aplica directamente al territorio brasileño, múltiples empresas y organizaciones brasileñas se adaptarán a su conformidad. Esto podría implicar ajustar sus sistemas y algoritmos", dice Paulo Parente Marques Mendes, socio de Di Blasi, Parente & Associados"
Ahora, a nivel político y social, la regulación de la UE ya está causando un profundo impacto en las primeras etapas de las discusiones en el Congreso nacional sobre el Proyecto de Ley 2.338/23, que ya se parece a la Ley de IA de la UE, con su sistema basado en riesgos, “aunque hay algunas diferencias que tal vez puedan ajustarse debido a la promulgación oficial de la Ley de IA de la UE”, aclara Pedro Campos, asociado de Di Blasi, Parente & Associados.
Douglas Leite, socio de Bhering Abogados, apunta que no debe olvidarse que la Ley de IA de la UE afecta directamente a las empresas brasileñas que implementan o proporcionan sistemas de IA en el mercado de la UE, por lo que deberán adaptarse a la ley.
Adicionalmente, ya que ciertas normas locales (como la LGPD) se han inspirado en las leyes europeas, es de esperar que la Ley de IA de la UE influya en el contenido de las próximas regulaciones sobre la materia en Brasil.
Aunque Brasil no es un exportador importante de tecnologías habilitadas de IA para la Unión Europea, Luiz Fernando Plastino, abogado de Barcellos Tucunduva Advogados, explica que la Ley de IA de la UE será evidente al principio por la necesidad de cumplimiento de los proveedores generales de IA y otros proveedores de servicios internacionales que hacen negocios con el país. Sin embargo, el efecto mayor y de más largo plazo será más indirecto, ya que se espera que la Ley acelere la adopción por parte de Brasil de sus propias leyes nacionales sobre IA, como ocurrió con la adopción del GDPR como modelo para la LGPD.
Más sobre PI: Nintendo vs. la emulación y preservación de videojuegos
El cumplimiento será el más afectado
Ya quedó establecido que la Ley de IA de la UE tiene implicaciones para las empresas brasileñas que operan en el mercado europeo o que procesan datos de ciudadanos de la UE, por lo que, en términos de cumplimiento, las empresas locales deberán cumplir con las disposiciones de la ley para evitar sanciones y garantizar operaciones continuas en Europa. Pero también Brasil puede inspirarse en las regulaciones europeas para anticipar tendencias y preparar el trabajo para futuras regulaciones sobre tecnologías similares, precisa Alexander Coelho, socio de Godke Advogados.
Este especialista en derecho digital y protección de datos resalta que los puntos más relevantes de la Ley de IA para el mercado brasileño incluyen —además de la clasificación de los sistemas de IA según el nivel de riesgo— requisitos de transparencia y la necesidad de auditorías de cumplimiento, que podrían promover una adhesión más amplia a las prácticas de gobernanza de la IA, que protegen a los consumidores y garantizan el uso ético de estas tecnologías.
El enfoque basado en el riesgo de la prohibición de ciertos sistemas de IA debe ser el aspecto más relevante de la ley europea para el mercado brasileño, ya sea eliminando la factibilidad de importar algunas aplicaciones o prohibiendo la entrada de ciertas empresas brasileñas en los mercados europeos, detalla Plastino.
"Aunque según la ley brasileña todos los proveedores de servicios ya asumen la responsabilidad por todos los riesgos que puedan crear para los clientes, incluidos los proveedores de servicios habilitados para IA, no existe una tradición de prohibición general de las tecnologías debido al nivel de riesgo, al menos no sin una prohibición legal explícita".
Entrevistas: Asipi: 60 años de consolidación y crecimiento
Varios aspectos de la Ley IA de la UE ejercerán una influencia importante en términos de cómo las empresas y entidades tendrán que ajustar sus sistemas y algoritmos. Por ejemplo, es posible que algunas empresas brasileñas necesiten fortalecer su énfasis en la importancia de los datos de alta calidad y la transparencia o cumplir con la obligación de que humanos supervisen los sistemas de inteligencia artificial de alto riesgo, con poder para intervenir y anular las decisiones automatizadas.
Por esto, el primer paso para las empresas y entidades brasileñas que atienden el mercado de la UE debe ser contratar un asesor para comprender las diferencias entre la regulación de la UE y la normativa brasileña actual y en debate, explica Paulo Parente. Mientras el segundo paso es priorizar marcos y una gobernanza de datos sólidos, incluidas medidas de privacidad y garantía de calidad de los datos.
A decir de Pedro Campos, el tercer paso es priorizar la transparencia y la explicabilidad en los sistemas, lo que puede ser un desafío difícil para algunos actores ya que puede afectar la construcción y metodología de sus algoritmos. El cuarto paso es tener una comprensión detallada de los niveles de riesgo de los sistemas de la empresa, de acuerdo con la Ley de IA de la UE y si difieren del Proyecto de Ley 2.334/23, lo que también incluye identificar riesgos potenciales e implementar medidas de mitigación adecuadas (que puede ser un desafío técnico y organizacional para las empresas brasileñas).
Los pasos 5 y 6, dicen estos expertos, son considerar si es necesario garantizar mecanismos de supervisión y control humanos y que las empresas brasileñas que deseen ingresar al mercado de la UE obtengan la certificación necesaria.
No te pierdas: Notoriedad de marca: Panamá emite primera sentencia a nivel general a favor de cerveza Balboa
Los retos en su adaptación
La promulgación de la nueva ley europea trajo consigo desafíos legales y técnicos para el mercado brasileño, el Gobierno y las empresas. El primero y principal es realizar una evaluación para mapear los riesgos en sus sistemas de IA y clasificarlos en las categorías descritas por la UE (riesgo inaceptable, riesgo alto y riesgo bajo o mínimo). Luego, implementar los requisitos de cumplimiento aplicables a cada categoría.
Por esto, a decir de Luiz Fernando Plastino, la mayoría de las adaptaciones probablemente girarán en torno a la gobernanza de la IA y la evaluación y mitigación de riesgos para los sistemas de IA brasileños utilizados en la UE, mientras la transparencia y la supervisión humana de los sistemas de IA de alto riesgo plantean un desafío particular para las empresas brasileñas que ya están en la UE o que están a punto de ingresar a ella.
Para leer: Ante los ciberataques: ¿Cuánto han avanzado las leyes en América Latina en protección de datos?
"Todas estas nuevas obligaciones de cumplimiento serán especialmente duras para las empresas brasileñas que ofrecen sistemas de inteligencia artificial que no tratan datos personales, ya que la mayoría de las obligaciones legales similares existentes en Brasil se derivan de leyes y regulaciones de privacidad".
Alexander Coelho añade que, desde una perspectiva gubernamental, la inversión en tecnología y capacitación para alinearse con los requisitos europeos, podría significar la redacción de nuevas leyes o adaptaciones de las existentes, como la LGPD, para abordar los desafíos que plantea la IA.
"Para adaptarse a la Ley de IA de la UE, las empresas brasileñas deberían comenzar con una evaluación de impacto específica para los sistemas de IA, identificando y categorizando los riesgos asociados".
A esto le deberían seguir auditorías periódicas para garantizar el cumplimiento, especialmente en lo que respecta a la transparencia y la seguridad de los datos.
Es crucial implementar programas de capacitación para que los profesionales involucrados comprendan las normas legales relevantes, además de desarrollar políticas internas sólidas para la gobernanza de la IA. Mantenerse actualizado con las demandas legales y mantener un monitoreo continuo para ajustar las operaciones garantiza el cumplimiento continuo y fortalece las capacidades operativas globales de las empresas.
Es importante seguir este camino porque, después de todo, la armonización de las regulaciones facilita la colaboración y el comercio internacional y, dentro de Brasil, puede complementar y fortalecer las regulaciones ya existentes sobre protección de datos.
Douglas Leite asegura que ya que la Ley de IA establece requisitos relevantes para operar sistemas de IA, incluida la necesidad de transparencia, gobernanza adecuada y evaluación de riesgos, y los sistemas de IA a menudo manejan grandes volúmenes de datos personales, las empresas que operan IA necesitarán fortalecer sus controles sobre los datos personales, lo que puede aumentar su protección e impactar positivamente los esfuerzos de protección de datos locales.
}
Add new comment