Sistema de IA de alto riesgo

Cómo se decide si lo es

Lo que clasifica no es la tecnología, sino la tarea. El anexo III enumera ocho ámbitos —biometría, infraestructuras críticas, educación, empleo, servicios esenciales, garantía del cumplimiento del Derecho, migración y justicia— y dentro de cada uno, usos concretos. A un centro de alojamiento pueden tocarle dos:

• Educación y formación (punto 3): decidir el acceso o la admisión a centros educativos, evaluar el aprendizaje o vigilar exámenes. El anexo no dice si una residencia cuenta como centro educativo; una herramienta que puntúe a quien pide plaza en la admisión se acerca a este punto.
• Empleo (punto 4): seleccionar candidatos, filtrar solicitudes o supervisar y evaluar el rendimiento del personal. Aquí el centro entra como cualquier otro empleador.

Hay una salida (art. 6.3): un sistema del anexo III no es de alto riesgo si no influye sustancialmente en la decisión, por ejemplo porque hace una tarea de procedimiento limitada o prepara una evaluación que hace una persona. Pero si elabora perfiles de personas físicas, lo es siempre, y el proveedor que se acoja a la salida tiene que documentarlo antes de ponerlo en el mercado (art. 6.4).