Avanza en el Congreso Nacional de Brasil el proyecto de ley que abordará normas generales, a nivel nacional para el desarrollo, implementación y uso responsable de sistemas de inteligencia artificial (IA). Se trata del PL 2338/2023, el resultado del trabajo de la comisión de juristas que redactó el texto sustitutorio de tres proyectos de ley que se tramitaban conjuntamente sobre el tema en el Senado.
El progreso del proyecto cobró impulso con la publicación de la Ley de inteligencia artificial, por parte del Parlamento Europeo, en abril de 2024, combinado con el uso creciente de la IA en diferentes segmentos de la industria y la sociedad.
Relacionado: ¿Cómo está dando forma la IA a las agencias de publicidad y a los creadores de contenidos?
Las innovaciones que ya aporta la IA y las que están por llegar traerán no solo avances, sino también riesgos para la sociedad y las empresas. Para esto, como lo recoge la Ley Europea de la IA, el PL presenta una clasificación detallada de los riesgos derivados del desarrollo, implementación y operación de sistemas de inteligencia artificial.
El PL establece los siguientes fundamentos de la IA:
- Centralidad de la persona humana.
- Respeto por los derechos humanos y los valores democráticos.
- Libre desarrollo de la personalidad.
- Protección del medio ambiente y desarrollo sostenible.
- Igualdad, no discriminación, pluralidad y respeto a los derechos laborales.
- Libre empresa, libre competencia y protección del consumidor.
- Privacidad y protección de datos.
También se enumeran varios principios para el uso de sistemas de IA, entre los que destacan:
- Participación humana en el ciclo de la inteligencia artificial y supervisión humana efectiva.
- No discriminación.
- Justicia.
- Equidad e inclusión.
- Transparencia.
- Explicabilidad.
- Inteligibilidad.
- Auditabilidad.
La cuestión que aún queda sin resolver es la de la competencia para controlar las normas establecidas. Según el PL, la autoridad competente será un organismo o entidad de la Administración Pública Federal.
De interés: Mes del Orgullo en México: La diversidad también tiene propiedad intelectual
La autoridad
Corresponderá al Poder Ejecutivo decidir si se crea un organismo con subordinación jerárquica y parte de la administración directa o si se crea una entidad de administración indirecta, dotada de mayor autonomía en relación con el poder central, como agencias y organismos reguladores de carácter especial.
La autoridad competente tendrá una amplia lista de responsabilidades, que involucran funciones estatales de poder policial, actividad regulatoria y promoción del desarrollo tecnológico y la innovación, en un entorno extremadamente desafiante, debido a su naturaleza disruptiva y rápido desarrollo de los sistemas de IA. El desafío para el Gobierno Federal será decidir cómo se creará la autoridad: ¿pequeña o grande?
Si la opción es empezar poco a poco, podría crearse como un organismo, una entidad de la Administración Federal directa, con subordinación jerárquica al Ministerio de Ciencia, Tecnología e Innovación, que estableció la Estrategia Brasileña de Inteligencia Artificial (EBIA). EBIA orienta las acciones del Estado brasileño hacia el desarrollo de acciones que fomenten la investigación, la innovación y el desarrollo de soluciones de IA.
En este caso, la autoridad competente no tendrá personalidad jurídica propia. Tampoco tendrá autonomía funcional, de decisión, administrativa y financiera, así como investidura de plazo fijo para sus dirigentes y estabilidad durante sus mandatos. Como organismo, la autoridad será una especie de departamento dentro del Ministerio de Ciencia, Tecnología e Innovación, ciertamente menos costoso para las arcas públicas.
No te pierdas: Las disposiciones más destacadas del Reglamento Europeo de Inteligencia Artificial
Si se crea como agencia reguladora o autoridad especial, la autoridad competente tendrá autonomía funcional, lo que presupone personal propio, y autonomía administrativa y financiera, que implica libertad para solicitar directamente autorización al Ministerio de Hacienda para realizar licitaciones públicas, cubrir puestos, celebrar contratos administrativos y prorrogar contratos vigentes relacionados con actividades de financiamiento, independientemente de su valor.
Las agencias reguladoras y las autoridades especiales también están sujetas a reglas de gobernanza más estrictas, cuyo objetivo es proteger los mandatos de sus directores de una posible interferencia gubernamental. Es decir, una estructura más sofisticada, pero más costosa para el dinero público.
En este tema, como en todos los asuntos estatales, corresponderá al Gobierno Federal pensar en la autoridad competente en IA de manera planificada, estratégica y con visión de largo plazo. El Poder Ejecutivo debe evaluar las experiencias pasadas, mirar el marco institucional existente y la generación de riqueza, los impuestos que generarán los sistemas de IA. Solo así será posible diseñar la mejor estructura de gobernanza pública e institucional para garantizar la aplicación del futuro marco regulatorio de la IA; además, garantizar la protección de los derechos fundamentales, los valores democráticos y la protección de la sociedad y las empresas.
*Carol Caiado es socia del área de derecho público y asuntos gubernamentales de Campos Mello Advogados en cooperación con DLA Piper.
}
Add new comment