Especial cautela merecen las puntuaciones automáticas de integridad o fiabilidad. Sin conocer los datos empleados, los criterios de ponderación y las limitaciones del modelo, un resultado numérico puede crear una falsa sensación de objetividad.
El Reglamento europeo de IA prohíbe determinadas prácticas, incluida, con excepciones limitadas, la inferencia de emociones en el ámbito laboral. Otros usos en contratación o gestión de trabajadores pueden estar clasificados como de alto riesgo, según sus características.
El RGPD establece garantías específicas para decisiones basadas únicamente en tratamientos automatizados que produzcan efectos jurídicos o afecten significativamente a las personas. Añadir una firma humana sin una revisión real no resuelve el problema.
En España, la información penal requiere habilitación legal específica y los datos personales publicados en internet no quedan fuera de la normativa de protección de datos. También deben evitarse inferencias especulativas sobre personalidad, lealtad o conducta futura.
Un control sólido exige fuentes originales, contraste de identidades, análisis de sesgos y capacidad efectiva de rectificación. En la cuarta entrega veremos cómo integrar estos criterios en una gestión de riesgos proporcionada.
Validato S.A.
Claridenstrasse 34
CH8002 Zürich
Telefon: +41 (44) 51577-77
http://validato.com/
CEO
Telefon: +41 (44) 5157778
E-Mail: andre.naef@validato.com
