L’émergence que très récente de l'intelligence artificielle (IA) soulève une difficulté particulière, il n'est pas toujours aisé de comprendre précisément comment un outil aboutit à un résultat, une recommandation ou une décision. Ce flou ne dispense toutefois pas l'employeur de ses obligations en matière de protection des données personnelles.
Les salariés et les bénéficiaires doivent être informés de manière claire de l’existence du traitement, de ses finalités, des catégories de données utilisées ainsi que lorsque cela est possible des grands principes guidant le fonctionnement du système. Ils conservent également l’ensemble des droits garantis par le RGPD notamment les droits d’accès, de rectification, d’effacement, de limitation et d’opposition.
Une vigilance particulière doit être portée aux outils susceptibles d’intervenir dans le recrutement, l’évaluation des salariés, l’organisation du travail ou l’attribution de missions. Lorsqu’une décision produit des effets juridiques ou affecte significativement une personne celle-ci doit pouvoir solliciter une intervention humaine afin de faire valoir ses observations et contester la décision prise.
Dans le secteur des services à la personne les usages de l’IA peuvent être nombreux : analyse automatisée de candidatures, aide à la planification des interventions à domicile, retranscription d’échanges téléphoniques, assistance à la…