En cas de prise de décision automatisée ayant des effets juridiques ou des conséquences tout aussi importantes pour les personnes concernées, celles-ci ont le droit d'exprimer leur point de vue et de voir celui-ci pris en considération lorsque ces décisions automatisées les concernent.
Des effets juridiques surviennent lorsque des décisions automatisées ont un impact direct sur les droits ou le statut juridique d'une personne. Il s'agit notamment :
- Droits et avantages : décisions affectant la liberté d'association, le droit de vote ou le droit d'intenter une action en justice
- Conséquences contractuelles : résiliation d'un contrat ou refus de conclure un contrat
- Prestations et services : refus d'octroi ou modification des conditions d'éligibilité aux prestations sociales
- Immigration et citoyenneté : refus d'entrée sur le territoire d'un pays ou refus d'octroi de la citoyenneté
Les conséquences non juridiques sont tout aussi significatives lorsqu’elles sont suffisamment graves ou importantes pour justifier les mêmes protections que les conséquences juridiques. En voici quelques exemples :
- Conséquences financières : refus automatique d’une demande de crédit en ligne, décisions affectant la situation financière d’une personne ou son éligibilité à un crédit
- Conséquences en matière d’emploi : refus d’opportunités d’emploi ou décisions qui placent une personne dans une situation de grave désavantage lors du recrutement (pratiques de recrutement en ligne sans intervention humaine)
- Accès aux soins de santé : décisions refusant à une personne l'accès aux services de santé
- Accès à l'éducation : décisions affectant l'admission à l'université ou d'autres opportunités éducatives
- Influence sur le comportement : traitement influençant la situation personnelle, le comportement ou les choix d'une personne