Europa quiere tomar la delantera en la regulación de la inteligencia artificial. Mientras que la mayoría de las potencias mundiales como Japón o Estados Unidos aún no cuentan con una regulación específica sobre inteligencia artificial, sino con una serie de iniciativas y marcos fragmentados que solo contemplan el uso de la IA en algunos sectores e industrias, Europa busca diferenciarse a través de una regulación integral de la IA. Como ya se intentó con el GDPR de 2018, Europa no solo quiere establecer las bases sobre cómo se va a regular la fuerza motriz de la próxima década en su territorio, sino también influir en los estados democráticos de todo el mundo para que esta futura Ley se convierta en un estándar global.

La Ley de Inteligencia Artificial de la UE, también conocida como Reglamento Europeo sobre Inteligencia Artificial, está llamada a ser un conjunto de normas y directrices que rijan el desarrollo y el uso de la inteligencia artificial en la Unión Europea. La Ley pretende ofrecer el primer marco jurídico horizontal mundial para el desarrollo y uso ético y seguro de la IA, al tiempo que fomenta la innovación y la competitividad dentro de la UE. Sin embargo, ¿pueden la innovación y la regulación coexistir y prosperar juntas?

Aunque aún no podemos pronunciarnos sobre el texto definitivo, en la medida en que la propuesta de la Comisión Europea sigue debatiéndose en el Consejo y el Parlamento de la UE, la estructura que adoptará parece estar bien establecida. Profundizando en esa estructura, uno debería poder empezar a tener en cuenta lo que supondría para las empresas y los desarrolladores el próximo reglamento.

El reglamento (que a diferencia de las directivas será de aplicación directa sobre los estados de la unión, algo que nunca está de más recordar especialmente para aquellos lectores que no estén familiarizados con el derecho europeo) se estructurará sobre una clasificación de grado de riesgo causado por el uso de la IA. Como consecuencia, una de las principales disposiciones de la Ley de IA de la UE será el requisito de que los sistemas de IA de alto riesgo se sometan a una evaluación de riesgos antes de que puedan comercializarse o utilizarse en público.

Los sistemas de IA de alto riesgo se definen como aquellos que pueden tener repercusiones significativas en la seguridad, los medios de subsistencia o los derechos de las personas, o en el medio ambiente. El proceso de evaluación de riesgos implica la identificación de riesgos potenciales y la aplicación de medidas para mitigarlos.

Sin ir muy lejos, a todos nos preocupa que la IA no sea precisamente un cuento de hadas. No cabe duda de que la IA nos brindará una gran cantidad de oportunidades que antes ni siquiera podíamos imaginar, pero también puede utilizarse para acabar con la comprensión actual del mundo, que es precisamente lo que la UE quiere evitar. Pero, de nuevo, ¿cómo se verían afectadas las empresas?

Si bien es cierto que algunos desarrolladores de software de IA de alto riesgo, como por ejemplo los que puedan desarrollar sistemas masivos de reconocimiento facial, podrían decidir trasladarse a China o a otros regímenes no democráticos en busca de mejores oportunidades, la mayoría de los usos de la IA quedarán desregulados. Hay que tener en cuenta que la evaluación de la regulación se hará caso por caso, ya que el mismo producto o pieza de software podría estar sujeto a diferentes requisitos o disposiciones en función del uso al que se destine.

Regular el uso de la Inteligencia Artificial es una tarea polifacética, ya que implica a una amplia gama de actores dentro de la cadena de valor de la IA, incluidos, entre otros, los desarrolladores de software, los proveedores de datos de formación y las entidades que personalizan los modelos de IA, junto con los que en última instancia ofrecen servicios a los usuarios finales. La determinación de qué actores entran en el ámbito de la regulación dependerá de los peligros potenciales que plantee el uso de la IA en cada marco específico de la cadena.

Por ejemplo, a lo largo de la cadena de valor, mientras una empresa sólo haya escrito un código para la IA, que todavía tenga que ser llevado a otro lugar para ser entrenado con datos para luego convertirse en algo que pueda utilizarse en el mercado, este primer tratamiento de la IA estará libre de regulación, por lo que todavía no está creando un riesgo.

Mientras que, tomando el mismo ejemplo, una vez que ese código inicial es alimentado con datos por otra persona, y luego llevado al mercado buscando un propósito particular mientras produce un riesgo que figura en la regulación, la entidad que ha alimentado el código introduciendo un cambio significativo en esa máquina inicial, se enfrentaría, efectivamente, a la regulación.

Habiendo distinguido entre dos eventuales situaciones diferentes de la cadena de valor, además, es importante señalar que quienes jueguen con lo que podría asentarse como IA industrial escaparán a la regulación, siempre y cuando no se esté afectando a los intereses de particulares ni jugando con datos personales de la gente. Eso no lo contemplaría la Ley de IA de la UE. No porque la IA industrial no pudiera importar para la seguridad, sino por la razón de que en ese caso el legislador pretende centrarse principalmente en la IA orientada al consumidor, puesto que ya existe un régimen regulador para la producción industrial.

Aparte de las previsiones esenciales mencionadas, que nuestro equipo analizará con matices cuando se publique el texto definitivo, la Ley de IA de la UE también establecerá una serie de principios para el desarrollo y el uso de la IA, como la transparencia, la equidad y la no discriminación. Estos principios pretenden garantizar que la IA se desarrolle y utilice respetando los derechos y valores de las personas y la sociedad.