La Comisión Europea presentó ayer el Libro Blanco sobre inteligencia artificial, en el que fija una serie de reglas estrictas sobre el uso de los datos que puedan presentar riesgos para la salud y los derechos fundamentales de los ciudadanos de la Unión Europea. La estrategia de Bruselas es aprovechar las oportunidades que plantea el uso de la inteligencia artificial (IA) aplicado a los datos, a la vez que evitar sus riesgos, y reforzar así la soberanía tecnológica de la UE frente a Estados Unidos y China. Para ello, se exigirá un uso “responsable” de la IA, sobre una base de datos común y compartida, en la ley que debería estar lista a finales de año. “Promoveremos la utilización de una IA responsable y centrada en las personas”, insistió la presidenta de la Comisión Europea, Ursula von der Leyden.
El Libro Blanco sobre inteligencia artificial, que lleva el subtítulo de “un enfoque europeo a la excelencia y la confianza”, reconoce de entrada que la utilización de las técnicas de IA puede comportar muchos beneficios, sea para la salud de los ciudadanos, una mayor eficiencia agrícola y de los sistemas productivos e, incluso, mitigar el cambio climático. Pero, al mismo tiempo, conlleva riesgos potenciales, como la toma de decisiones opacas, discriminatorias o que vulneren la privacidad de las personas. Por ello, la UE quiere actuar y promover el desarrollo y despliegue de la IA de forma definida, “basada en los valores europeos”, y que beneficie a ciudadanos, compañías y sociedad en su conjunto. Puede consultarse aquí (PDF).
Para lograr este noble propósito, “Europa debe desarrollar y reforzar las capacidades industriales y tecnológicas necesarias” y tener una estrategia definida en cuanto al tratamiento y proceso de los datos, que requerirá tomar medidas para que Europa disponga de un “hub” global para los datos. El objetivo de este enfoque europeo en IA es, como dice en la conclusión el Libro Blanco, es “promover la capacidad de innovación de Europa en el área de IA mientras se soporta el desarrollo y aceptación de una IA ética y de confianza en todas la economías de la UE”.
La estrategia sobre IA de la CE implicará explorar “una acción legislativa” que impulse a las compañías a compartir y tener un receptáculo común para los datos
Esta estrategia sobre IA de la Comisión Europa implicará la necesidad de explorar “una acción legislativa” que impulse a las compañías a compartir y tener un receptáculo común para los datos, como sostuvo Margrete Vestager, vicepresidenta ejecutiva de la CE y encargada de la agenda digital y de la competencia. Las compañías tecnológicas dominantes, como Amazon y Google, deberán compartir sus datos con rivales más pequeños si prospera la “estrategia de datos” que quiere a impulsar la CE y se convierte en ley, inicialmente prevista para finales de este mismo año.
Vestager considera que las compañías tecnológicas gozan de muchas ventajas cuando se les permite no compartir sus datos mientras que los bancos o los fabricantes de coches se les exige que otras empresas puedan acceder a información de sus clientes. La comisaria destacó en la presentación del Libro Blanco que forzar a las compañías tecnológicas a abrir sus datos puede ser un “remedio” a la concentración empresarial y que funcione. Añadió que se dispone de los medios para multar conductas anteriores, aunque reconoció que las discusiones sobre la estrategia digital definitiva están aún empezando.
Uno de los aspectos que puede ayudar a conseguir los objetivos de la futura ley será el adecuado control de las comunicaciones móviles, porque será allí donde se generarán gran parte de los datos y su explotación deberá ser regulada de manera precisa para que no vulnere derechos y preserve la confidencialidad. Como explica el gráfico adjunto acerca del documento sobre IA de la Comisión, “con políticas e inversiones adecuadas por parte de la CE, Estados miembros y empresas, Europa puede aprovechar las oportunidades asociadas con este cambio de paradigma y ser líder en datos”. La Comisión prevé invertir de 4.000 a 6.000 millones en total para crear espacios comunes de datos europeos y una federación europea de infraestructura y servicios alojados en la nube.
La propia CE calcula que el valor de la economía de datos crecerá 2,8 veces entre 2018 y 2025, pasando de 301.000 millones de euros a 829.000 millones de euros en el conjunto de los 27 países que ahora forma la Unión Europea. Se prevé que el número de profesionales de datos se duplique entre 2018 y 2025, de 5,7 a 10,9 millones, mientras que la población de la UE con conocimientos digitales básicos lo hará el 20%, del 57% al 65%. Hay mucho, por tanto, en juego, con una competencia por parte de Estados Unidos y China que no cederá fácilmente.
Los analistas consideran que la CE se enfrentará a numerosos obstáculos cuando redacte la legislación, desde cómo definir qué clases de datos deberían compartirse hasta quién debería ser el responsable de posibles vulneraciones. Mark Zuckerberg, fundador de Facebook, presentó el pasado lunes un documento sobre la regulación de contenidos en su visita a Bruselas, lo que da idea de que considera inevitable establecer un marco de actuación. El documento de Facebook fija objetivos loables pero, como asegura Financial Times en un editorial, “carece de substancia”.
La Comisión establece cuatro sectores “críticos” y “de alto riesgo”, donde los sistemas de IA deberían ser “transparentes, rastreables y que garanticen un control humano”, dice el Libro Blanco, y se quieren promulgar “reglas muy estrictas” de utilización. Los cuatro sectores críticos son la salud, los transportes, la policía y la justicia, que pueden implicar efectos jurídicos o utilizaciones indeseables. Las autoridades deberían poder verificar que los sistemas de IA utilizados están conformes a la legislación, como los coches, los juguetes o los cosméticos, puso de ejemplo Ursula von der Leyden.
Habrá un marco político, con la colaboración del sector privado y público, para crear un ecosistema de excelencia y otro regulatorio para lograr un ecosistema de confianza, de acuerdo con las reglas de la UE
En las aplicaciones de IA con menor riesgo se prevé poner simplemente una etiqueta, de uso no obligatorio, en el caso de que puedan servir para aplicaciones más estrictas. Los poderes públicos, a escala nacional pero con la supervisión comunitaria, deberían poder probar y verificar los datos utilizados por los algoritmos para garantizar que se respetan los derechos fundamentales de los ciudadanos, según quiere la CE.
Sobre el tema tan delicado del reconocimiento facial, Bruselas ha decidido finalmente estudiarlo más a fondo en los próximos meses antes de ponerlo en el borrador legislativo, aunque no lo prohibirá, al menos en algunos lugares públicos como los aeropuertos, donde ya se está utilizando ahora. Vestager ha comentado que se quiere evitar que se pueda enviar un mensaje por el smartphone en el que se diga que se sabe que se está en un sitio y que se sugiere que debería irse a casa, evocando lo sucedido en manifestaciones en Hong-Kong.
La legislación comprenderá dos bloques principales, un marco político y otro regulatorio. El marco político quiere alinear la estrategia en toda la UE “en colaboración entre el sector privado y el público”. Su propósito es crear “un ecosistema de excelencia a lo largo de toda la cadena de valor. El marco regulatorio para la IA en la UE quiere crear “un ecosistema de confianza” y que esté de acuerdo con las reglas de la UE. Este marco regulatorio tendrá en cuenta las normas éticas preparadas por el grupo de expertos de alto nivel de la UE sobre IA y también estará basada en una comunicación sobre crear confianza en la IA centrada en lo humano.