Et si… Les algorithmes impactaient non seulement les media que vous consultez ou les services publics auxquels vous avez accès, mais aussi votre capacité à vous déplacer dans la ville ?

Les super-algorithmes de Bigville font de certains citoyens des prisonniers de fait

C’était une ère nouvelle pour Bigville, une « ville intelligente » à une autre échelle, allant d’une planification centralisée à un meilleur comportement dans les rues. La première véritable ville intelligente allait encore plus loin qu’une simple gestion du trafic ou de purification de l’air : elle modifiait en profondeur la vie quotidienne de ses citoyens.

La « police intelligente » appliquait des méthodes heuristiques basées sur des preuves à ses missions de protection civile, mettant fin à l’ère de la pratique tant décriée du « contrôle et fouille ». La reconnaissance faciale, via le réseau de caméras de surveillance le plus dense au monde, a rendu les crimes impossibles en fichant les individus à risque et en les surveillant à la minute où ils quittaient leur domicile. Les individus présentant un certain niveau de menace étaient suivis en permanence, et chacun de leurs mouvements évalués en fonction du risque qu’ils pouvaient provoquer. Grâce à ce système, la police et les services d’urgence ont pu réagir encore plus vite face au terrorisme, aux crimes et aux comportements anti-sociaux. Libres de toute inquiétude concernant désordre et chaos, les bigvillois se sont concentrés sur ce qu’ils font le mieux, gagner de l’argent.

Mais alors, qu’est ce qui a mal tourné ?

Il s’est avéré que les algorithmes de profilage se sont de plus en plus concentrés sur des facteurs qui repèrent les riches, les pauvres, les endettés, et les personnes les plus à même de commettre des crimes. Les centres commerciaux ont ainsi commencé à se servir de la même IA afin de se concentrer sur les acheteurs probables plutôt que sur les simples flâneurs. Les espaces publics et les transports en commun, les entrepreneurs du bâtiment et les centres commerciaux se sont mis à surveiller des dizaines de milliers d’individus, pistant ceux avec un profil à haut risque, avec la possibilité de faire intervenir la sécurité à tout moment. Les personnes identifiées comme dangereuses sont empêchées de pénétrer dans certains quartiers ou bâtiments. Le résultat : une ségrégation grandissante, les pauvres étant tenus éloignés des centres-villes et des quartiers résidentiels car un algorithme les a désignés comme ayant dépassé la limite de risque acceptable.

Les urbanistes disent que le système a juste besoin de petits ajustements, et que les algorithmes sont moins discriminatoires que les humains, tant que les données sont saines. Mais plusieurs personnes, surprises par l’utilisation extrême du profilage de Bigville, se demandent si la ville, en devenant intelligente, n’a pas perdu son âme.

Ces questions étudient la façon dans laquelle Internet pourrait évoluer. Mais le chemin que nous prenons dépend de nous.

Appartenant à