La inteligencia artificial entra en una fase crítica en Europa y la mayoría de las obligaciones previstas en el Reglamento Europeo, entran en vigor el próximo día 2 de agosto.
, que , establece un marco común para que con los derechos fundamentales, y exige un control técnico y ético de todas estas herramientas para mitigar los riesgos.
, por utilizar por ejemplo sistemas de IA prohibidos; o de , por incumplimientos relacionados con los sistemas catalogados como «de alto riesgo».
Los sistemas que conllevan riesgos inaceptables están ya prohibidos desde el pasado año, y entre ellos están los que usan técnicas subliminales, manipuladoras o engañosas; los que tratan de explotar la vulnerabilidad de las personas (menores, mayores o discapacitados); ; o los sistemas que usan la ‘puntuación social’ para evaluar conductas.
Están también ya prohibidos en la UE los sistemas de IA que infieren emociones en los centros laborales o educativos; la recolección de imágenes de internet para crear bases de datos faciales; o la identificación biométrica remota y en tiempo real en lugares públicos con fines policiales.
Y a estas herramientas ‘ ’ se acaban de incorporar como sistemas prohibidos algunos de los peores usos de la IA generativa, como la creación o manipulación sin consentimiento de contenidos íntimos (‘ ’) o cualquiera capaz de generar pornografía infantil.
Marcado como el punto de inflexión del Reglamento, el 2 de agosto se empieza a aplicar el grueso de la norma: todas las obligaciones de transparencia, las reglas que regulan la mayoría de los sistema de IA y las obligaciones de los proveedores y de los usuarios, pero la Comisión Europea ha aprobado una norma ( ) para simplificar el complejo ecosistema de leyes digitales e intentar que su aplicación sea más gradual y coordinada.
Y aplaza, hasta diciembre de 2027, algunos de los puntos más trascendentes de la ley, entre ellos las exigentes obligaciones que tienen que cumplir los sistemas de IA catalogados como ‘ ’ (por ejemplo los que se usen para evaluar o calificar a estudiantes, para filtrar currículos, para evaluar la solvencia económica de las personas o para fijar el precio de un seguro de vida o de salud).
Sí entra en vigor el próximo 2 de agosto la obligación de informar a cualquier usuario de que está interactuando con un sistema de IA, pero no el etiquetado obligatorio de los contenidos que se generen con herramientas de IA (con una marca de agua con las siglas AI), que se ha pospuesto hasta el próximo 2 de diciembre para aquellos sistemas capaces de generar contenidos sintéticos (imágenes, vídeos o audios que imiten elementos o personas reales).
Dos años más (agosto de 2028) tardarán en entrar en vigor todas las obligaciones referidas a los sistemas de inteligencia artificial, clasificados también ‘de alto riesgo’ pero que estén integrados en productos o en servicios ya regulados ( ).
Al complejo armazón legislativo europeo se suma el proyecto de ley para el buen uso y la gobernanza de la IA que ha aprobado el Gobierno español (en tramitación en el Congreso), que busca adaptar la norma europea al marco de España, que en ningún caso establece un régimen paralelo pero sí lo concreta, lo desarrolla, organiza quién supervisa, cómo se sanciona o cómo se debe usar esta herramienta en el sector público.
Especialistas en derecho y transformación digital han analizado con EFE el entramado jurídico y el complejo calendario de aplicación del Reglamento Europeo de IA.
El director general de la empresa Iberia , Giovanni Alessandrello, ha apuntado que el mayor riesgo es que las empresas interpreten las prórrogas «como una invitación a esperar».
En declaraciones a EFE, ha valorado el reglamento como «una prueba de madurez» porque cualquier sistema de IA se debe poder « » y ha rechazado la «falsa» dicotomía que a su juicio existe de que o que este tipo de normas frenen la innovación y competitividad europeas.
«La cuestión no es si debemos regular la IA; el reto es cómo gobernarla sin frenar la innovación, porque sin control puede generar riesgos sistémicos, pero una regulación excesivamente rígida puede impedir que Europa compita.
El desafío es encontrar el equilibrio», ha manifestado.
El abogado especializado en tecnología y derechos digitales Guillermo Hidalgo, de la firma Maio Legal, percibe que el Reglamento aporta reglas claras, porque no es lo mismo regular un chatbot de atención al cliente que un sistema que decide si te conceden un crédito, y se ha mostrado convencido de que la norma puede ser «un sello de calidad para la IA europea».
Hidalgo, en declaraciones a EFE, ha advertido que la tecnología avanza más rápido que la regulación y es previsible que aparezcan sistemas con un impacto real sobre las personas que queden fuera de los que ya están catalogados ‘de alto riesgo’, o de la confusión y la complicación que pueden suponer para muchas empresas el calendario de aplicación o el solapamiento con otras normativas ( ) ya vigentes..
