L’utilisation croissante de l’intelligence artificielle (IA) dans les services publics français soulève des questions juridiques et éthiques, malgré les avantages apparents.
Les services publics, notamment l’assurance maladie, commencent à intégrer des algorithmes performants pour améliorer l’efficacité des réponses aux citoyens. L’IA permet d’accomplir plus rapidement et plus efficacement certaines tâches. Cependant, cette rapidité soulève des interrogations sur la fiabilité des réponses, car les algorithmes peuvent parfois halluciner en inventant des réponses en cas de complexité.
L’usage généralisé de l’IA est une source de risques potentiels. Ainsi, aux Pays-Bas, des algorithmes utilisés pour détecter des fraudes aux prestations familiales ont entraîné des erreurs massives, ce qui a contraint le gouvernement à démissionner. Le profilage statistique, basé sur des critères tels que la localisation, le nombre d’enfants et les couples binationaux, a conduit à des suppressions brutales d’aides, touchant à tort 35 000 familles. Cela souligne la nécessité d’une vigilance accrue.
Si l’IA offre des avantages en termes d’efficacité, elle suscite également des inquiétudes quant à la précision et à l’éthique. Les services publics doivent trouver un équilibre entre l’automatisation des tâches et la préservation des droits des citoyens. La nécessité de réglementations et de garanties juridiques pour encadrer l’utilisation de l’IA dans les services publics émerge comme un enjeu crucial pour assurer une transition éthique vers une administration automatisée.
Source : Francetvinfo.fr.