Articulo escrito por PEDRO LEÓN CORNET, Head Legal de LUCODS.
El objeto de la regulación.
Recientemente la Unión Europea ha acordado regulaciones exhaustivas para la inteligencia artificial (IA) de propósito general. Esta medida, resultado del compromiso entre los eurodiputados y el Consejo, busca garantizar la seguridad, el respeto de los derechos fundamentales y la democracia, al tiempo que busca impulsar la innovación y colocar a Europa como líder en el ámbito de la IA.
Las restricciones son extensas, apuntan principalmente al respeto de derechos humanos fundamentales, abordando áreas críticas como la categorización biométrica, la identificación facial y la manipulación de comportamientos. Entre las regulaciones se prohíbe el uso de sistemas biométricos que utilicen características sensibles, la recopilación indiscriminada de imágenes faciales y la identificación de emociones en entornos laborales y educativos. Además, se prohíbe la puntuación social basada en el comportamiento y la manipulación de la conducta humana para eludir el libre albedrío, así como la explotación de las vulnerabilidades de las personas.
En el ámbito de la aplicación de la ley, se han establecido cuidados para el uso de sistemas biométricos en espacios públicos, sujetos a autorización judicial y restricciones específicas. Este enfoque equilibrado busca garantizar la efectividad sin comprometer los derechos individuales.
Para los sistemas de alto riesgo, se han establecido claras obligaciones, incluyendo evaluaciones del impacto en derechos fundamentales y medidas de mitigación. Por ejemplo, la utilización de inteligencia artificial en procesos electorales se ubica en una categoría de alto riesgo otorgando a los ciudadanos el derecho a presentar quejas y recibir explicaciones sobre decisiones que afectan sus derechos.
En un gesto hacia la transparencia, los sistemas de IA deberán cumplir con requisitos de transparencia, incluida la elaboración de documentación técnica y la difusión de resúmenes detallados sobre el contenido utilizado para el entrenamiento. Para modelos de alto impacto con riesgo sistémico, se imponen medidas más rigurosas, desde evaluaciones incluso hasta informes de eficiencia energética.
La regulación de lo que no existe.
Sin embargo, a pesar de estos avances. ¿Estamos regulando lo que aún no ha emergido por completo? ¿Cómo actúa el resto del mundo a la cuestión regulatoria? Esto se vuelve más evidente al considerar que demás países, como Estados Unidos o China, no siguen el mismo camino regulatorio.
Los informes sobre la posición de Europa en la distribución global de startups y la ubicación baja de las ciudades Unión Europea en la lista de Hubs tecnológicos plantean preguntas sobre la capacidad de Europa para competir en un escenario global tan dinámico.
El dilema por permitir que el mercado opere por sí solo se vuelve más fuerte. ¿Es la regulación el único factor determinante para el éxito? Ante la incertidumbre del desarrollo tecnológico, regular hasta 2027, podría provocar el traslado de operaciones a lugares menos regulados, como Estados Unidos, China o Israel donde la innovación florece sin restricciones tan estrictas.
En fin, la regulación es esencial, pero se necesita un equilibrio cuidadoso para no sofocar la creatividad y la capacidad de adaptación. Europa enfrenta el desafío de buscar liderar en la era de la IA sin limitar su propio potencial. ¿Estarán adelantándose demasiado con regulaciones que podrían limitar la capacidad de adaptación y evolución de la tecnología? La cautela y la flexibilidad pueden ser clave en este viaje hacia el futuro de la inteligencia artificial.
Comentarios