La regulación sobre Inteligencia Artificial de la Unión Europea al detalle: qué son los niveles de riesgo, y cómo funcionan

Publicado por: Adrián Ruiz
Bandera Europa

La Comisión Europea ha presentado una nueva legislación sobre Inteligencia Artificial, la primera propuesta legal sobre esta tecnología. Esta comitiva viene acompañada por otra serie de normativas sobre maquinaria y robótica que contemplan múltiples escenarios, como la cirugía robótica.

Con esto la UE quiere garantizar la seguridad al mismo tiempo que fortalece la inversión en Inteligencia Artificial dentro de Europa, prohibiendo aspectos como el reconocimiento facial en situaciones determinadas. En otras palabras, esta normativa podría tener implicaciones globales en el futuro.

No es el primero intento de la Comisión por orientar el crecimiento y la evolución de las nuevas tecnologías, en el pasado ya se salió la primera Estrategia Europea sobre Inteligencia Artificial, así como un Plan Coordinado sobre Inteligencia Artificial publicado en 2018. El año siguiente tuvimos las Directrices para una IA segura, y el 2020 el Libro Blanco sobre el futuro de Europa, con varias contemplaciones sobre la inteligencia artificial.

Todo esto seguiría el mismo ejemplo de la Ley de Protección de datos (GDPR;, la Comisión busca establecer un nivel de confianza con el público sobre la tecnología.

Cuatro niveles de riesgo para todo tipo de casos

Esta nueva normativa de la UE propone dividir los esfuerzos en el desarrollo de IAs basándose en un sistema de cuatro niveles: riesgo mínimo, riesgo limitado, de alto riesgo, y completamente prohibido, todos en función de la implicación que tendría la tecnología para la sociedad europea. Los usos totalmente prohibidos incluirían cualquier aplicación que manipule el comportamiento humano y eluda el libre albedrío de las personas, especialmente de aquellas que pertenecen a grupos vulnerables según la edad o discapacidades físicas y mentales.

Las aplicaciones de alto riesgo, por otro lado, se definen como cualquier producto donde la IA esté destinada a ser utilizada como un componente de seguridad del producto o esta es el componente de seguridad en sí mismo. Un ejemplo básico sería la función de un coche basada en IA para evitar accidentes. Además, las aplicaciones de inteligencia artificial que estén destinadas a mercados como la educación, el sector judicial u otros ámbitos sociales también estarán sujetas a los requisitos reglamentarios de aplicaciones de alto riesgo. Todo esto significa que para lanzar al mercado aplicaciones que empleen inteligencia artificial y entren en uno de estos casos, necesitará cumplir con la legislación y obtener un permiso de Europa.

Las aplicaciones de riesgo limitado irían enfocadas aquellas aplicaciones como los bots que podemos encontrarnos en muchos servicios web y aplicaciones de mensajería, o los contenidos generados mediante deepfakes. En estos casos el fabricante de la IA simplemente deberá informar por adelantado a los usuarios de que van a interactuar con una máquina en lugar de una persona. Y en cuanto los productos de riesgo mínimo se refiere a las IAs que podemos encontrarnos en videojuegos y la mayoría de aplicaciones que ya emplean la tecnología actualmente, por ejemplo, el tipo de IAs que usan servicios como Netflix, YouTube o Instagram para sugerir contenido a sus usuarios. Estas no requerirán requisitos especiales por parte de la Unión Europea.

Por último, si alguna empresa o incluso desarrollador independiente creara una inteligencia artificial destinada al mercado europeo ignorando estas leyes, podría enfrentarse a multas considerables que pueden calcularse en porcentajes del PIB. Siendo más específicos, las multas por incumplir la normativa europea de inteligencia artificial podrían hasta los 30 millones de euros, o el 4% de los ingresos anuales de la empresa.

Imagen: Unsplash
Publicado en:
¡Síguenos!

Si te ha gustado el artículo síguenos para no perderte nuestras publicaciones:

Deja un comentario:

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *