Cuando escuchamos sobre Inteligencia Artificial (IA) probablemente pensamos en imágenes de robots o de ciudades futuristas, como se representa en algunas películas de ciencia ficción. Sin embargo, nuestra interacción con la IA es más frecuente de lo que pensamos: está incluida en herramientas tecnológicas que utilizamos día a día como Spotify, Netflix, Gmail o los chatbots de interacción, que nos sirven para absolver dudas o reclamos frente a una entidad bancaria.
En el caso del sector privado, muchas empresas han incorporado la IA para agilizar procesos internos, adquirir nuevos clientes, cross selling y up selling, prevenir riesgos y optimizar inventarios, entre otros usos.
La evolución y el crecimiento exponencial en los últimos años de la IA a nivel mundial en diferentes sectores del mercado trae consigo un intenso debate acerca de los potenciales riesgos inherentes a su uso y las medidas aplicables mediante una normativa específica que los supervise.
Pues bien, la Unión Europea (UE) ha tomado la delantera dentro de la estrategia digital de sus países miembros. Hace unos meses se publicó el Proyecto de Reglamento Europeo sobre los usos de IA, con el objetivo de garantizar la seguridad de sus ciudadanos y regular los sistemas que utilicen este tipo de tecnología.
También te puede interesar: MuniDigital, la primera GovTech que utiliza un municipio limeño
El proyecto de reglamento ha planteado una clasificación basada en el análisis del riesgo que la IA puede producir. Es así que se determina en qué medida se causa una vulneración de los derechos fundamentales de las personas y cómo se garantiza su uso seguro, transparente y bajo el control humano.
La Propuesta de Reglamento, junto al Libro Blanco sobre IA y otras disposiciones comunitarias, buscan que la UE se convierta en un hub mundial de Inteligencia Artificial.
El esfuerzo de la Comisión Europea en marcar un hito en IA promoviendo una regulación segura y planes de inversión no será en vano. Se plantea atraer más de 20.000 millones de euros de inversión al año durante los próximos diez años. Estos serán provenientes de empresas privadas y gobiernos europeos que fomentarán el desarrollo y la aplicación regulada de la IA.
En este contexto, ¿es prematuro pensar en una regulación de IA en Latinoamérica? Tomemos el caso de Perú.
Regulación de la IA en Perú
Desde el año 2018 el Gobierno peruano ha realizado grandes esfuerzos para promover la investigación en IA. A la par, en los últimos dos años hemos visto la publicación de los primeros documentos regulatorios en materia digital.
Como ejemplo, el Gobierno peruano, a través de la secretaria de Gobierno Digital de la Presidencia del Consejo de Ministros, ha puesto a disposición de la ciudadanía una Estrategia Nacional de Inteligencia Artificial (ENIA) correspondiente al periodo 2021 – 2026 que tiene como finalidad impulsar la investigación, desarrollo y adopción de la IA en el país.
Se ha publicado también la Ley de Gobierno Digital y su Reglamento. Estos establecen las primeras disposiciones sobre las condiciones, requisitos y usos de las nuevas tecnologías en los procedimientos desarrollados ante las entidades públicas.
Sin embargo, aún no hay una disposición específica sobre IA que regule sus riesgos, responsabilidades o su supervisión. Al no contar con una regulación que limite el desarrollo de la IA mientras su uso va en incremento, en un corto o mediano plazo hablaremos de un gran riesgo para la sociedad en general. Hay que tomar en cuenta que la IA en ocasiones funciona mal: es una tecnología en expansión y crecimiento cuyos errores nos pueden afectar como personas.
Te invitamos a leer: ¿Cómo funciona la Plataforma Nacional de Identificación y Autenticación de la Identidad Digital?
Imaginemos el siguiente caso hipotético: interactuamos con un chatbot de una aerolínea que nos da información errónea sobre la hora de salida de un vuelo. Sin saber sobre la información errónea, nosotros compramos el pasaje de ese vuelo y, por desconocimiento, acudimos al aeropuerto en un horario posterior a su despegue. ¿Quién es el responsable?, ¿quién sanciona a la empresa?, ¿cómo me reparan los daños ocasionados?
Este ejemplo está clasificado como un riesgo mínimo según el Proyecto de Reglamento Europeo. En nuestro caso, si no contamos con una clasificación propia sobre los tipos de riesgos en el uso de IA, además de una regulación para establecer los límites de su uso, ¿quién va a proteger nuestros derechos fundamentales?
Problemas de seguridad, de exposición de información personal, mal comportamiento de modelos de IA, problemas de interacción y, en general, los riesgos y responsabilidades que esto conlleva son algunos de los ejemplos de afectación a la persona.
Con este ejemplo podemos ver la clara necesidad de regular la IA en el Perú y en toda Latinoamérica. Pensar en un marco normativo sobre IA no es pensar en trabas administrativas, todo lo contrario. Mediante una legislación clara podemos alentar la inversión e innovación de la IA. Los modelos sandboxs regulatorios, al final, solamente traerían beneficios para nuestra región.
Lee sobre IA en años anteriores: ¿Quién regula la inteligencia artificial?
Los beneficios que nos trae la IA como ciudadanos son innegables, ni qué decir del valor que le aporta a las empresas, pero es necesario regularla. Por el momento, debemos esperanzarnos en que las empresas más grandes de la región, aquellas que utilizan la IA dentro del buen gobierno corporativo seguramente recurrirán a una autorregulación que se enfoque en la imparcialidad, transparencia, responsabilidad y seguridad de los usuarios.
*Eduardo Linares Yabar es miembro Activo de ALIL.
Abogado internacional – Ontier España
}
Add new comment