Orientaciones de la Comisión Europea sobre la definición de Sistemas de Inteligencia Artificial

El 2 de febrero de 2025, entraron en vigor las primeras disposiciones generales del Reglamento de Inteligencia Artificial (Reglamento (UE) 2024/1689, conocido como "AI Act"), reglamento que impone reglas rigurosas para el desarrollo, la puesta a disposición y el uso de sistemas de IA en la Unión Europea.

Con el fin de proporcionar criterios prácticos para identificar cuándo una tecnología se encuadra como IA, permitiendo una mejor interpretación y aplicación del Reglamento, la Comisión Europea presentó Orientaciones sobre la definición de sistemas de Inteligencia Artificial, señalando que las mismas no tienen carácter vinculante, correspondiendo, en última instancia, al Tribunal de Justicia de la Unión Europea la tarea de interpretar y aplicar el concepto de Sistema de IA en el marco jurídico de la Unión.

1. ¿POR QUÉ SON IMPORTANTES ESTAS ORIENTACIONES?

Las orientaciones de la Comisión Europea son esenciales para que las empresas y los profesionales del sector tecnológico evalúen si sus soluciones se encuadran en la definición de un sistema de IA y, en consecuencia, en los requisitos del Reglamento de IA. Además de ayudar a los distintos intervinientes (quienes desarrollan, implementan, importan, distribuyen o utilizan los sistemas de IA) a adecuarse a las nuevas reglas, estas directrices también sirven de referencia para las entidades fiscalizadoras, garantizando una interpretación coherente y una aplicación uniforme de las normas en toda la Unión Europea.

2. ¿QUÉ DEFINE UN SISTEMA DE INTELIGENCIA ARTIFICIAL (IA)?

1. Basado en máquinas

• Desarrollado y operado por hardware y software;
• Utiliza componentes como procesadores, memoria, código y sistemas operativos.

Ejemplos:
• Asistente virtual que recibe preguntas de clientes en línea y utiliza software especializado para interpretar y generar respuestas;
• Sistema de control de accesos, que verifica credenciales digitales y autoriza o bloquea entradas en edificios;
• Reconocimiento facial en tiempo real, mediante el uso de cámaras y servidores;
• Monitorización industrial que predice fallos de equipos con sensores y software.

2. Autonomía

• Funciona con distintos grados de independencia;
• Puede operar sin supervisión humana constante.

Ejemplos:
• Vehículos autónomos, que usan sensores, cámaras y software para interpretar el entorno y tomar decisiones de conducción;
• Sistema de voz que permite al usuario dar órdenes para controlar luces y calefacción en casa, sin necesidad de comandos manuales;
• Sistema que analiza tendencias de mercado y ajusta automáticamente las inversiones según el riesgo y el perfil del usuario.

3. Adaptabilidad

• Puede aprender y ajustar su comportamiento después de ser implementado;
• Sus respuestas pueden evolucionar con el tiempo.

Ejemplos:
• Plataforma de películas y series que ajusta las sugerencias con base en los contenidos que el usuario ya ha visto;
• Sistema de diagnóstico médico que ajusta sus resultados con base en nuevos datos;
• Traductor que mejora la precisión de las traducciones al aprender de las correcciones realizadas por los usuarios;
• Algoritmo de previsión/estimación de demanda/necesidades de mercado que refina sus cálculos según los cambios del mercado.

4. Objetivos

• Diseñado para alcanzar objetivos explícitos o implícitos;
• Puede ser programado para optimizar procesos o descubrir patrones.

Ejemplos:
• Sistema de análisis de riesgo financiero, que detecta fraudes con base en patrones de transacciones;
• IA para optimización logística, reduciendo costes de transporte con base en datos;
• Algoritmo de recomendación de productos, que sugiere artículos con base en los hábitos de los usuarios/consumidores;
• Sistema de fijación dinámica de precios, ajustando precios automáticamente según la demanda del mercado.

5. Capacidad de inferencia

• Analiza datos de entrada y genera resultados sin depender estrictamente de reglas fijas predefinidas;
• Utiliza técnicas como aprendizaje automático y modelos basados en lógica.

Ejemplos:
• Algoritmo de selección de currículums, que recomienda candidatos adecuados;
• Asistente virtual inteligente, que comprende preguntas y genera respuestas coherentes;
• Sistema de detección de anomalías, identificando transacciones sospechosas en tiempo real;
• Sistema que predice los periodos de mayor consumo eléctrico y ajusta automáticamente la distribución de energía;
• Programa que analiza el tráfico de red y predice ataques cibernéticos basándose en actividades sospechosas.

6. Resultados (Outputs)

• Produce predicciones, contenidos, recomendaciones o decisiones;
• Sus respuestas pueden afectar el mundo físico o digital.

Ejemplos:
• Algoritmos de recomendación de películas y música (p. ej., Netflix, Spotify);
• Sistemas que generan imágenes y vídeos, como deepfakes o diseños automáticos;
• Sistemas de puntuación crediticia, que influyen en la aprobación de préstamos;
• Plataformas de moderación automática, que eliminan contenidos perjudiciales en redes sociales.

7. Interacción con el entorno

Influye directamente en entornos físicos (como robots) o virtuales (como asistentes de IA).

Ejemplos:
• Sistemas de control de tráfico, que ajustan los semáforos en función del flujo de vehículos;
• Robots industriales, que adaptan sus movimientos a distintos procesos de fabricación;
• Sistemas de monitorización ambiental, que analizan datos climáticos y recomiendan medidas a adoptar;
• Sistemas de detección de incendios forestales, que recopilan datos de temperatura y humedad para identificar riesgos.

3. ¿CÓMO ACTUAR?

Las empresas deben mapear y analizar todos los sistemas de IA que están siendo utilizados en su organización, con el fin de identificar si se encuadran en la definición de un sistema de IA y si las exigencias del AI Act les son aplicables.

4. ¿CÓMO PUEDE AYUDAR TIMESTAMP?

Disponemos de una metodología sistematizada para mapear, analizar y clasificar los sistemas de IA de tu organización, identificando puntos críticos relevantes y riesgos asociados en alineación con el marco regulador.

TIMESTAMP presenta un enfoque 360º a la Inteligencia Artificial, que incluye las vertientes de Conformidad Regulatoria, Consultoría tecnológica y funcional, y Soluciones tecnológicas, acompañando a su empresa a lo largo de todo el ciclo de vida de los proyectos de IA: desde el diagnóstico, diseño, desarrollo, implementación de los sistemas, hasta su monitorización.

Adaptamos la Inteligencia Artificial a tu estrategia de negocio, requisitos y necesidades, de forma ética y responsable, garantizando el uso de las mejores prácticas del sector, las mejores tecnologías y el cumplimiento normativo.