En los últimos años se ha votado en la Eurocámara el reglamento europeo de Inteligencia Artificial (IA), de acuerdo con la aprobación del 8 de diciembre por la Comisión, el Consejo y el propio Parlamento Europeo, durante una maratón de negociaciones de 38 horas, la más largo en la historia de la UE. Le texte final de la norme, qui n’a pas été dépassé jusqu’à cette semaine, constate que vous pouvez entrer en décembre, alors que l’acte provisoire est fixé, qui nécessite également la ratification finale des États miembres avant de pouvoir entrer en vigor. : el reglamento marca el camino de lo que se puede y lo que no se puede hacer, pero no es concreto para resolver cuestiones claves, como la defensa de los derechos de autor.
La norma considera la primera regulación sobre IA que protege los derechos y libertades fundamentales (China puede hacerlo según su propia ley del pasado). En el último debate antes de la votación, el comisario de Mercado Interior, Thierry Breton, responsable de impulso normativo, defendió los mercados de Estrasburgo como «la primera regulación de la IA en el mundo equilibrada y destinada a proteger los excesos del mal uso». de la IA, pero al mismo tiempo promoviendo la innovación”. La normativa, insistió Bretón al ser alcalde de la Eurocámara, supone un “compromiso histórico que resiste la prueba del tiempo”.
El Reglamento establece distintos requisitos y obligaciones para las aplicaciones de IA en función de los riesgos que plantea su uso. Los más inoculados, como los filtros de correo no deseado o detectores de duplicación de texto se pueden utilizar sin restricciones. Este es el sistema de riesgos limitados y la única condición que exigen los proveedores para informar a los usuarios que utilizan una herramienta de IA.
El principio de la negociación era determinar ciertos riesgos inaceptables y, por tanto, estaba completamente prohibida; y algunos de alto nivel, lo que implica una vigilancia constante. La primera categoría incluye sistemas «que transmiten la conciencia de una persona o técnicas de manipulación deliberadas», aquellos que explotan nuestras vulnerabilidades o aquellos que influyen en las emociones, que influyen en las opiniones políticas de las personas.
Esto incluye en el epígrafe de alto nivel los sistemas de identificación biométrica remota, que un amplio sector del Parlamento prohíbe definitivamente, los sistemas de categorización biométrica o el reconocimiento de emociones. También sistemas que afectan la seguridad de infraestructuras críticas y las relaciones con la educación (evaluación del comportamiento, sistemas de admisión y pruebas), el empleo (selección de personal) y la prestación de servicios públicos esenciales, la aplicación de la ley o la gestión de la migración.
El documento, de 460 páginas, no incluye elementos relevantes, pero deja claro que no concreta la indefinición que es uno de los temas más sensibles de la norma. “Es una regulación muy bien entendida. Como instrumento legal, se necesita más explicación. Hay definiciones muy ambivalentes, algunas de ellas coinciden con el resto de estándares”, afirma Lorena Jaume-Palasí, experta en ética y filosofía del derecho aplicada a la tecnología y asesora del Parlamento Europeo en temas relacionados con la IA. “Llegamos, de la misma manera que logramos con el Reglamento General de Protección de Datos (GDPR), que necesitamos jurisprudencia para saber qué metodología se va a implementar todo esto”.
Identificación biométrica: en casos excepcionales
Uno de los temas más controvertidos y que más tiempo se plantea en las negociaciones es la regulación de los sistemas biométricos de identificación remota de llamadas en tiempo real. En esta categoría entra, por ejemplo, la extensión roja de las cámaras de reconocimiento facial en las grandes ciudades chinas y que permite localizar cualquier cosa en pocos minutos. Los primeros observadores del estándar europeo de IA fueron muy restrictivos con esta tecnología.
En la última versión del documento, sin embargo, hay una serie de supuestos que se pueden utilizar, siempre bajo autorización judicial: “La búsqueda de víctimas concretas de un delito, incluidas personas desaparecidas; medidas específicas para la vida o la seguridad física de personas o medidas para agentes terroristas; y la ubicación o identificación de los autores o autores de delitos penales (una lista de 32).
El texto final, además, incluye una excepción sobre excepciones: «En casos de emergencia y debidamente justificados, se podrán utilizar sistemas sin el registro en la base de datos de la UE, siempre que este registro se levante en Cabo sin demora. indebida. (…) Los Estados miembros notificarán las normas de la Comisión a más tardar 30 días después de su adopción”. Así, las autoridades pueden cambiar normas y actos y luego declarar que el uso del sistema es inadecuado.
“Cuantas más excepciones haya, menos severa será la prohibición. Estamos de acuerdo en que estamos naturalizados tecnológicos y que hay que cuestionarlos”, afirmó Jaume-Palasí.
Durante el último debate en Eurocámara, los principales protagonistas de la negociación normativa defendieron la regulación de la IA como un instrumento que permite a los ciudadanos utilizar estas nuevas tecnologías sin que sus derechos fundamentales queden vulnerados.
Copyright: protección, pero sin concretar
Otras cuestiones regulatorias que han recibido mayor atención son las que protegen los derechos de autor, consagrados en la UE a través de 13 directivas y reglamentos. En EE UU hay una serie de demandas colectivas interpuestas contra las grandes plataformas por utilizar, sin permitirlo, creaciones particulares para acometer modelos de IA; el resultado de estos procesos puede marcar el futuro de la IA generativa (la generación de textos, imágenes, vídeos o música a partir de instrucciones proporcionadas por el usuario).
El Reglamento europeo sobre IA retoma en gran medida su articulación según la cual todos los sistemas deben garantizar la acumulación de derechos de autor, pero no está claro cómo, más allá de eso, será competencia de la Oficina de la IA, el organismo que supervisará la acumulación. de lo normativo. Según Breton, esta oficina trabajará para funcionar antes de que la normativa entre en vigor y para conectar con «el talento necesario para implementar la ley y servir como un centro de experiencia global en IA».
Teniendo en cuenta los derechos del autor de los contenidos utilizados para introducir y operar algoritmos, “la regulación está garantizada y proporciona una gran seguridad jurídica a los ciudadanos. Más que un marco legal es una declaración de principios y valores democráticos”, afirmó Iban García del Blanco, eurodiputado socialista y negociador de la ley de IA. “En algunos casos, la Comisión tenderá a desplegar más de 20 actos derivados de estas disposiciones para hacer cosas concretas. Por ejemplo, en materia de derechos de autor: desarrollar una serie de propuestas tipográficas para que las empresas se sientan capaces de hacer esas declaraciones de transparencia sobre los contenidos que han utilizado en la creación de los modelos», explica.
No es imprudente, dice García del Blanco, que en el futuro haya una serie de peticiones y que la jurisprudencia media fije criterios. Jaume-Palasí recordó que fue él quien siguió la normativa de protección de datos: “Las primeras caídas han salido ahora, cinco años después de su entrada en vigor”.
Puedes seguir un EL PAÍS Tecnología fr. Facebook Sí X o haga clic aquí para recibir el nuestro boletín semanal.
Suscríbete para seguir el curso
Límites del pecado de Lee
_