La Agencia Española de Supervisión de la IA (AESIA) afirma que en España no operan sistemas de IA prohibidos según el nuevo reglamento europeo — Qué significa para usuarios, empresas y reguladores
- Qué se entiende por sistemas de IA prohibidos
- La evaluación de AESIA y su alcance
- Limitaciones metodológicas
- Riesgos persistentes pese a la ausencia de prohibiciones detectadas
- Ejemplos de áreas con especial atención
- Implicaciones para empresas
- Responsabilidad y cadena de suministro
- Impacto sobre la administración pública y servicios esenciales
- Garantías para los ciudadanos
- Transparencia y comprensión pública
- Qué deben hacer empresas y organizaciones privadas
- Fiscalización y seguimiento
- Conclusión
La Agencia Española de Supervisión de la IA (AESIA) ha comunicado que, según sus controles y criterios de evaluación, no se han identificado en el país sistemas de inteligencia artificial que entren en la categoría de sistemas prohibidos previstos por el nuevo marco regulatorio europeo. La declaración plantea dudas sobre el alcance de la supervisión, las obligaciones de las empresas y las garantías para la ciudadanía.
Qué se entiende por sistemas de IA prohibidos
El marco normativo europeo define un conjunto de actuaciones y tecnologías cuya utilización se considera de riesgo inaceptable y, por tanto, prohibida. Se trata de casos en los que el uso de IA pone en peligro derechos fundamentales o integridad de las personas. Entre las preocupaciones más habituales están los mecanismos que permiten la manipulación social, la discriminación automatizada sistemática y la vigilancia masiva sin garantías.
La etiqueta de prohibido no se aplica a modelos o desarrollos por su naturaleza técnica. Se aplica a usos concretos. Un mismo tipo de algoritmo puede ser lícito o ilegal dependiendo del contexto, los fines y las condiciones de aplicación.
La evaluación de AESIA y su alcance
Según la comunicación de la autoridad supervisora, las actividades de control realizadas hasta la fecha no han detectado implementaciones que encajen con la descripción de sistemas prohibidos. La evaluación se centra en criterios técnicos, funcionales y en el análisis del impacto sobre derechos fundamentales.
Es importante distinguir entre la ausencia de detección y la inexistencia. La supervisión pública revisa proyectos declarados, canales formales de notificación y casos elevados por terceros. No siempre cubre desarrollos privados no declarados o soluciones integradas en cadenas de valor complejas.
Limitaciones metodológicas
- Los controles dependen de la cooperación de empresas y administraciones.
- La detección de usos prohibidos puede requerir acceso a datos, código y procesos internos.
- Existen casos donde la misma tecnología se distribuye desde el extranjero y se integra en servicios locales.
Riesgos persistentes pese a la ausencia de prohibiciones detectadas
Que no se hayan identificado sistemas prohibidos no implica que no existan riesgos. La regulación europea clasifica muchos usos como alto riesgo, lo que exige medidas de mitigación, transparencia y auditoría. Estos requisitos buscan reducir posibles daños, aunque no prohíben por principio la tecnología.
Empresas y organizaciones deben mantener sistemas de gestión de riesgos. También deben documentar decisiones de diseño, datos de entrenamiento y procedimientos de verificación. La supervisión pública puede exigir correcciones cuando se detectan incumplimientos.
Ejemplos de áreas con especial atención
- Sistemas aplicados a decisiones administrativas que afectan derechos individuales.
- Herramientas de selección de personal o evaluación de crédito con sesgos discriminatorios.
- Tecnologías de reconocimiento biométrico en espacios públicos sin salvaguardas suficientes.
Implicaciones para empresas
La comunicación sobre la ausencia de sistemas prohibidos genera alivio, pero no exonera de obligaciones. Las empresas deben comprobar si sus soluciones entran en categorías de alto riesgo y adaptar procesos internos para cumplir exigencias de transparencia, documentación y supervisión.
La normativa obliga a realizar evaluaciones de impacto y a implementar controles técnicos. También requiere establecer canales internos para gestionar incidentes y facilitar auditorías externas cuando proceda. No cumplir estas obligaciones puede dar lugar a sanciones administrativas.
Responsabilidad y cadena de suministro
La responsabilidad no recae solo sobre el proveedor directo. En muchos proyectos intervienen proveedores de datos, integradores y subcontratistas. Es esencial que las organizaciones verifiquen a sus socios y exijan contratos que reflejen las obligaciones regulatorias.
Impacto sobre la administración pública y servicios esenciales
La administración que use sistemas de IA para decisiones que afecten a la ciudadanía debe aplicar criterios estrictos de evaluación. La supervisión requiere registros, pruebas de fiabilidad y garantías de protección de derechos.
En servicios esenciales, la confianza pública es crucial. La ausencia de sistemas prohibidos detectados refuerza la necesidad de transparencia. Las autoridades deben comunicar con claridad los controles que aplican y las vías de reclamación disponibles para la ciudadanía.
Garantías para los ciudadanos
El régimen legal prioriza la protección de derechos fundamentales. Entre las garantías se incluyen el derecho a información, la posibilidad de recurrir decisiones automatizadas y el acceso a mecanismos de reparación en caso de perjuicio.
La supervisión pública también tiene un papel preventivo. La divulgación de criterios de evaluación y las campañas de información facilitan que la sociedad identifique usos problemáticos y los denuncie.
Transparencia y comprensión pública
La transparencia implica tanto obligaciones técnicas como lenguaje accesible. Explicar cómo funciona una herramienta asistida por IA y qué datos se usan es esencial para que la ciudadanía valore riesgos y beneficios.
Qué deben hacer empresas y organizaciones privadas
- Realizar una evaluación de impacto que identifique riesgos y definan medidas de mitigación.
- Documentar procesos de desarrollo, limpieza de datos y pruebas de sesgo.
- Establecer procedimientos de gobernanza y un responsable que coordine cumplimiento.
- Facilitar auditorías y colaborar con supervisores cuando se solicite información.
- Formar a personal en criterios éticos y legales aplicables a la IA.
Fiscalización y seguimiento
La tarea de supervisión no es estática. Implica vigilancia, actualización de criterios y coordinación internacional. Los reguladores trabajan en identificar nuevas formas de uso que pudieran vulnerar el marco legal y priorizan intervenciones en casos de mayor riesgo.
La cooperación entre autoridades nacionales y europeos facilita intercambiar información y elaborar guías técnicas. Esto contribuye a un criterio común sobre qué debe considerarse prohibido o regulado de forma estricta.
Conclusión
La declaración de que no se detectan sistemas de IA prohibidos en el país ofrece una primera lectura positiva. Sin embargo, el mensaje central para empresas, administraciones y ciudadanía es la necesidad de mantener la vigilancia. La regulación distingue entre usos prohibidos y usos de alto riesgo. Ambos requieren atención.
La prevención, la transparencia y la gobernanza son las claves para que la adopción de la IA sea compatible con la protección de derechos. Cumplir con las obligaciones regulatorias y fomentar una cultura de responsabilidad tecnológica ayuda a reducir la posibilidad de que surjan usos que el marco legal catalogaría como prohibidos.
Los controles y las auditorías seguirán siendo herramientas esenciales. La colaboración entre el sector privado y las autoridades de supervisión contribuirá a una implantación de la IA más segura y respetuosa con las garantías públicas.
