La Inteligencia Artificial, conocida por su acrónimo IA o AI en inglés, es una de las herramientas más potentes y atractivas a día de hoy, además de suponer una gran oportunidad para aquellas personas que deseen emprender e innovar en el mercado de las nuevas tecnologías.
Su implementación en la vida diaria y/o profesional, en todos los niveles, puede suponer una gran ventaja para personas y empresas, habiéndose convertido en un elemento clave para la productividad y el crecimiento empresarial. Sin embargo, el desarrollo de la IA es tal que los legisladores están comenzando a ver necesaria su regulación.
En este sentido, en el seno de la Unión Europea, la Presidencia del Consejo y los negociadores del Parlamento Europeo, el pasado 13 de marzo de 2024, aprobaron la nueva «Ley de Inteligencia Artificial» o Reglamento de Inteligencia Artificial.
Los objetivos son claros: por un lado, que los sistemas de Inteligencia Artificial introducidos en el mercado europeo y utilizados, tanto por organismos públicos como privados, sean seguros y respetuosos con los derechos fundamentales de los ciudadanos; y de otro lado, se pretende estimular la inversión y la innovación en el ámbito de la IA en Europa.
Pero, ¿cómo puede afectar este Reglamento a tu emprendimiento? Repasemos los puntos clave del acuerdo:
Ámbito de aplicación
En cuanto al ámbito de aplicación, cabe destacar que en el acuerdo preliminar se dejan fuera los sistemas de Inteligencia Artificial exclusivamente militares o de defensa, así como de investigación e innovación; el acuerdo también establece que el Reglamento no se aplicará a las personas que utilicen la IA por motivos no profesionales.
Asimismo, con la intención de atender a las solicitudes de la comunidad open source que abogaba por evitar obstáculos y desventajas para los participantes de este entorno en pro de la investigación y la innovación, se contempla la posibilidad de establecer una excepción específica para ciertos casos particulares de modelos de IA gratuitos basados en código abierto. No obstante, estos modelos deberán cumplir con obligaciones de transparencia y comprometerse a garantizar el respeto de los derechos de propiedad intelectual.
Clasificación de los sistemas de IA, ¿qué sistemas se prohíben?
El punto clave del acuerdo es el establecimiento de unos criterios de clasificación de los sistemas de Inteligencia Artificial según el riesgo que supongan. Así, encontramos en primer lugar aquellos sistemas de IA de riesgo mínimo, que no serán regulados (p. ej.: filtros de spam).
En segundo lugar, encontramos los sistemas de IA de riesgo limitado, quedando sujetos a obligaciones de transparencia muy leves, como por ejemplo el deber de dejar constancia de que el contenido en cuestión se haya generado mediante IA, cuestión de relevancia en publicidad o chatbots.
En tercer lugar, las IA consideradas como de riesgo alto no quedan directamente prohibidas, sino que se autoriza una amplia variedad, no obstante, quedando sujetas a una serie de requisitos y obligaciones para acceder al mercado, evaluando siempre su impacto sobre derechos fundamentales. Se pretende por parte del legislador que estos requisitos sean lo más técnicamente viables sobre todo con enfoque para PyMEs y empresas emergentes.
Por último, los sistemas de IA de riesgo inaceptable y, por ende, prohibidos, son, por ejemplo, entre otros: sistemas de social scoring, reconocimiento de emociones en entorno laboral o educativo, o identificación biométrica remota en tiempo real en espacios de acceso público, con excepciones limitadas para uso policial).
General Purpose AI y modelos fundacionales
Los GPAI o sistemas de IA de propósito general (capaces de multitud de fines), así como los modelos fundacionales (p. ej.: IA Generativa de texto, imágenes o vídeos entre otros), son específicamente regulados en el acuerdo provisional.
Se deberá proporcionar documentación técnica en la que se incluya un resumen del contenido utilizado para entrenar el sistema, garantizando siempre el cumplimiento de la normativa de propiedad intelectual.
En caso de que se considere que se reúnen los requisitos para considerar el sistema como de riesgo sistémico, se impondrán obligaciones más estrictas tal y como la emulación de adversarios o adversarial testing, la obligación de informar a la Comisión de incidentes graves, o informar sobre niveles de eficiencia energética, entre otros.
Para el cumplimiento de las nuevas obligaciones, se prevé la elaboración de códigos de conducta en conjunto con la industria, la comunidad científica, la sociedad civil, partes interesadas y la Comisión.
Obligaciones de transparencia
Destaca las que pueden tener una relación con la identificación directa de deepfakes o contenido generado mediante herramientas de IA Generativa.
En este sentido, se prevé el deber de informar al usuario del hecho de que un contenido ha sido generado por IA y, en este contexto, se establece que estos sistemas tendrán que ser diseñados de forma que sus resultados puedan ser identificados por sistemas que permitan reconocer la generación o la manipulación de contenidos sintéticos mediante IA.
Sanciones para empresas
El acuerdo prevé multas para las empresas infractoras del Reglamento de Inteligencia Artificial, configuradas como un porcentaje del volumen de negocios anual global de la empresa en el ejercicio financiero anterior, o bien un importe predeterminado si este resultara superior. Podemos desglosarlas de la siguiente manera:
- Infracciones de aplicaciones de IA prohibidas: 35 millones de euros o 7%.
- Incumplimiento de obligaciones del Reglamento: 15 millones de euros o 3 %.
- Presentación de información inexacta: 7,5 millones de euros o 1,5%.
Cabe destacar que para las PyMEs y las empresas emergentes se establecen límites más proporcionados.
¿Cuándo entrará en vigor el Reglamento?
Sin perjuicio del trabajo legislativo necesario, tras el acuerdo preliminar alcanzado el pasado 13 de marzo de 2024 el Reglamento de IA entrará en vigor a los veinte días de su publicación en el Diario Oficial de la Unión Europea siendo aplicable a partir de los 24 meses después de dicha fecha (2026), con algunas excepciones para ciertas obligaciones que podrán resultar aplicables a partir de los seis meses.
En conclusión, no cabe duda de que esta nueva regulación conlleva un acervo de obligaciones y normativa a tener en cuenta, sobre todo si nos dedicamos o pretendemos dedicarnos a un campo tan prometedor como lo es la Inteligencia Artificial.
Desde Supra Legit estaremos atentos al devenir del futuro Reglamento de IA y así poder acompañar a las empresas en el análisis de sus implicaciones, preparándolas para la entrada en vigor de nueva normativa que será definitoria para más de un sector.
+34 963 210 530
Whatsapp, Viber, Telegram: + 34 627 971 734
Si te ha interesado este artículo, de seguro que te interesará nuestras entradas más recientes: