La Comisión propone hoy nuevas normas y acciones destinadas a transformar Europa en el polo mundial de la inteligencia artificial (IA) fiable. La Unión entre el primer marco jurídico sobre la IA jamás realizado y un nuevo plan coordinado con los Estados miembros garantizará la seguridad y los derechos fundamentales de las personas y las empresas, al tiempo que fortalecerá la adopción de la IA y la inversión e innovación en el sector en toda la UE. Las nuevas reglas sobre las máquinas complementarán este enfoque adaptando las reglas de seguridad para aumentar la confianza de los usuarios en una nueva y versátil generación de productos.
La nueva regulación de la IA garantizará que los ciudadanos europeos puedan confiar en lo que la IA tiene para ofrecer, gracias a reglas proporcionadas y flexibles que abordarán los riesgos específicos que plantean los sistemas de IA y establecerán los más altos estándares a nivel mundial. El plan coordinado delinea los cambios estratégicos y las inversiones necesarias a nivel de los Estados miembros para fortalecer la posición de liderazgo de Europa en el desarrollo de una IA antropocéntrica, sostenible, segura, inclusiva y fiable.
Las nuevas normas se aplicarán directamente y de la misma forma en todos los Estados miembros, basándose en una definición de IA adaptada a las necesidades futuras, y siguiendo un enfoque basado en el riesgo.
Riesgo inaceptable: se prohibirán los sistemas de IA que se consideren una clara amenaza para la seguridad, los medios de subsistencia y los derechos de las personas. Esto incluye sistemas o aplicaciones de IA que manipulan el comportamiento humano para eludir el libre albedrío de los usuarios (por ejemplo, juguetes que utilizan asistencia de voz para fomentar comportamientos peligrosos por parte de menores) y sistemas que permiten a los gobiernos atribuir una "puntuación social".
Alto riesgo: se consideran de alto riesgo los sistemas en los que se utiliza tecnología de IA:
- en infraestructuras críticas (por ejemplo, transporte), ya que podría poner en peligro la vida y la salud de los ciudadanos;
- en educación o formación profesional, ya que puede determinar el acceso a la educación y la trayectoria profesional en la vida de una persona (por ejemplo, la calificación de exámenes)
- en componentes de seguridad de los productos (por ejemplo, una aplicación de IA utilizada en cirugía asistida por robot);
- en el empleo, la gestión de trabajadores y el acceso al trabajo autónomo (por ejemplo, software de selección de CV para los procedimientos de contratación);
- en servicios públicos y privados esenciales (por ejemplo, calificación crediticia que puede negar a los ciudadanos la posibilidad de obtener un préstamo);
- en actividades de contraste que puedan interferir con los derechos fundamentales de las personas (por ejemplo, evaluación de la fiabilidad de las pruebas);
- en la gestión de la migración, el asilo y el control de las fronteras (por ejemplo, verificación de la autenticidad de los documentos de viaje);
- en la administración de justicia y procesos democráticos (por ejemplo, la aplicación de la ley a un conjunto concreto de hechos).
Los sistemas de IA de alto riesgo estarán sujetos a obligaciones estrictas antes de que puedan comercializarse:
- sistemas adecuados de evaluación y mitigación de riesgos;
- alta calidad de los conjuntos de datos que alimentan el sistema, para minimizar riesgos y resultados discriminatorios;
- registro de actividades para asegurar la trazabilidad de los resultados;
- documentación detallada que proporcione toda la información necesaria sobre el sistema y sus fines para que las autoridades evalúen su conformidad;
- información clara y adecuada para el usuario;
- medidas adecuadas de vigilancia humana para minimizar los riesgos;
- alto nivel de robustez, seguridad y precisión.
En particular, todos los sistemas de identificación biométrica remota se consideran de alto riesgo y están sujetos a requisitos estrictos. Su uso en tiempo real con fines de contraste en espacios accesibles al público está en principio prohibido. están previstas pocas excepciones estrictamente definidas y reguladas (por ejemplo, cuando sea estrictamente necesario para buscar un menor de edad desaparecido, prevenir una amenaza terrorista específica e inminente o localizar, identificar o enjuiciar a los autores o sospechosos de un delito grave). Dicho uso está sujeto a la autorización de un órgano judicial u otro organismo independiente y a límites en cuanto al tiempo, el alcance geográfico y las bases de datos consultadas.
Riesgo limitado, es decir, sistemas de IA con obligaciones específicas de transparencia: cuando se utilizan sistemas de IA como chatbots, los usuarios deben ser conscientes de que están interactuando con una máquina, de modo que puedan tomar una decisión informada si continuar usándolos o no.
Riesgo mínimo: la propuesta legislativa permite el uso libre de aplicaciones como videojuegos o filtros de spam basados en la IA. La gran mayoría de los sistemas de IA entran en esta categoría. El proyecto de reglamento no interviene en este caso, ya que estos sistemas de IA presentan poco o ningún riesgo para los derechos o la seguridad de los ciudadanos.
En términos de gestión, la Comisión propone que las autoridades nacionales competentes de vigilancia del mercado supervisen las nuevas normas, mientras que el establecimiento de una Junta Europea de inteligencia artificial facilitará su implementación y estimulará el desarrollo de estándares de IA. También se proponen códigos de conducta voluntarios para los sistemas de IA que no son de alto riesgo, así como espacios de experimentación regulatoria para facilitar la innovación responsable.
El enfoque europeo para la excelencia en IA
La coordinación fortalecerá el liderazgo de Europa en una IA antropocéntrica, sostenible, segura, inclusiva y fiable. Para mantener la competitividad global, la Comisión se compromete a promover la innovación en el desarrollo y uso de tecnologías de IA en todos los sectores industriales y en todos los Estados miembros.
Publicado por primera vez en 2018 para definir acciones e instrumentos de financiación para el desarrollo y la adopción de la IA, el plan coordinado sobre la IA ha permitido un panorama vibrante de estrategias nacionales y financiación de la UE para asociaciones público-privadas y las redes de investigación e innovación. La actualización integral del plan coordinado propone acciones de colaboración conjuntas concretas para garantizar que todos los esfuerzos estén en línea con la estrategia europea sobre la IA y el Pacto Verde Europeo, teniendo en cuenta los nuevos desafíos que plantea la pandemia de coronavirus. Presenta una visión para acelerar la inversión en IA que puede fomentar la recuperación. También tiene como objetivo estimular la implementación de estrategias nacionales de IA, eliminar la fragmentación y abordar los desafíos globales.
El plan coordinado actualizado utilizará los fondos asignados a través de los programas Europa Digital y Horizonte Europa, así como el Fondo de Recuperación y Resiliencia, que incluye un objetivo de gasto para el digital del 20%, y los programas de la Política de Cohesión para:
- crear condiciones favorables para el desarrollo y la adopción de la IA mediante el intercambio de información estratégica, el intercambio de datos y las inversiones en capacidades de cálculo críticas;
- promover la excelencia en IA "del laboratorio al mercado" estableciendo una asociación público-privada, creando y movilizando capacidades de investigación, desarrollo e innovación y poniendo a disposición de las PYMEs y las administraciones públicas instalaciones de prueba y experimentación, así como de los centros de innovación digital;
- garantizar que la IA sirva a las personas y sea una fuerza positiva en la sociedad, operando a la vanguardia del desarrollo y en la difusión de una IA fiable, cultivando talentos y habilidades a través de períodos de prácticas, redes de doctorado y becas postdoctorales en el campo digital, integrando la confianza en las políticas de IA y promoviendo la visión europea de IA sostenible y fiable a nivel mundial;
- crear un liderazgo estratégico en sectores y tecnologías de alto impacto, incluido el medio ambiente, centrándose en la contribución de la IA en la producción sostenible, la salud, la expansión del intercambio transfronterizo de información, así como el sector público, la movilidad, los asuntos internos y la agricultura y robótica.