Ce que l’expérience d’Amsterdam nous apprend sur l’IA et la confiance

On a souvent tendance à voir Amsterdam comme le « bon élève » de la Smart City en Europe. Alors que l’IA relance les promesses de la Smart City - mieux gérer les flux, anticiper les congestions, sécuriser les grands événements, optimiser les mobilités - Amsterdam compte rester ce bon élève en tirant les leçons des premiers projets lancés.

‍

L’utilisation de l’IA dans l’espace public pose dans les villes européennes très directement l’enjeu de sa compatibilité avec des exigences fortes en matière de protection de la vie privée, des données personnelles et des libertés publiques et donc aussi d’acceptabilité. Là où d’autres modèles urbains peuvent avancer plus vite au nom de l’efficacité, les villes européennes doivent démontrer qu’une ville augmentée par l’IA peut rester une ville démocratique.

C'est précisément ce qu'ont analysé Eric Gu, Senthil Chandrasegaran et Euiyoung Kim, chercheurs à la Delft University of Technology à partir de Public Eye, un système de comptage de foule par IA déployé en 2020 pour gérer les flux touristiques. Malgré une approche « privacy-by-design » exemplaire et un code entièrement open-source, le projet a d'abord été accueilli avec une réelle méfiance par le public.

‍

Pourquoi ce décalage ?

Parce que les concepteurs ont confondu transparence technique et adhésion sociale. Publier un algorithme ou afficher des garanties sur la protection des données ne suffit pas si les citoyens ne comprennent pas clairement ce qui est observé, pourquoi, par qui, et avec quelles limites.

L’IA change la donne. Une caméra qui filme est déjà sensible. Une caméra qui interprète l’espace public, compte les corps, analyse les flux et produit des décisions potentielles l’est encore davantage. L’impression de « boîte noire », voire de Big Brother, peut alors être décuplée, même lorsque le projet est techniquement vertueux.

Eric Heng Gu, Senthil Chandrasegaran et Euiyoung Kim ne plaident donc pas pour plus de communication ou “plus de participation” en général, mais pour une participation mieux dessinée : identifier les publics affectés, les associer avant que les choix techniques soient verrouillés, et adapter le niveau de dialogue au risque social du projet, pour construire la confiance dans le design même du service.

À Amsterdam, les projets qui ont adopté cette démarche sont ceux qui ont rencontré le moins de résistance politique et sociale.

‍

La leçon pour les villes européennes

L’IA peut permettre aux villes européennes de rester à la pointe de l’innovation urbaine, mais leur avantage compétitif ne viendra pas seulement de la performance technologique. Il viendra de leur capacité à faire autrement : déployer l’IA sans banaliser la surveillance, protéger les données sans freiner l’innovation, et construire la confiance avant que la défiance ne s’installe.

‍