personal-freedom

Libertés et droits individuels

Les libertés et les droits individuels en ligne font face à un avenir incertain. La diminution de la confiance, les lois extrêmes en matière de cybersécurité et la vague de transformation technologique représentent de graves menaces pour les droits fondamentaux tels que la liberté d'expression et la confidentialité.

Au fur et à mesure que la portée et la gravité des cybermenaces s'intensifient et que des plateformes Internet mondiales sont utilisées pour diffuser délibérément de la désinformation, les utilisateurs perdent confiance en Internet.
S'ils correspondent aux intérêts humains, les progrès technologiques vont changer la vie des gens dans le monde entier en rendant la fourniture des services essentiels plus efficace et en transformant l'éducation, la santé et bien d'autres secteurs de l'économie et de la société.
Le déploiement avancé de l'IA et des objets connectés entraînera la génération et la collecte d'énormes quantités d'informations sur les individus qui peuvent être analysées de manière très personnelle et qui susciteront l'émergence d'une « société de la surveillance ».
Tous les gouvernements sont soumis à de plus en plus de pressions politiques, économiques et sociales pour répondre aux cybermenaces, au terrorisme et aux comportements violents en ligne. Les mesures visant à sécuriser le cyberespace compromettront de plus en plus les libertés et droits individuels.

Vue d’ensemble

Pour beaucoup, la croissance et l’ubiquité d’Internet sont signe de progrès et d’innovation. Ils voient Internet comme un facilitateur des droits de l'homme tels que la liberté d'expression, la liberté d'association et l'émancipation sociale. Internet permet aux gens de créer et de rejoindre de nouvelles communautés et supprime les obstacles géographiques aux relations entre les individus.  Les jeunes utilisateurs et ceux des pays en développement sont particulièrement optimistes quant à l'avenir d'Internet et à la capacité d'utiliser la technologie pour améliorer leur vie actuelle et future. Pourtant, beaucoup craignent que les droits fondamentaux en ligne tels que la confidentialité et la liberté d'expression soient remis en question à l'avenir.

L'avenir d'Internet est inextricablement lié à la capacité des gens à lui faire confiance en tant que moyen d'améliorer la société, d'émanciper les individus et de préserver les droits et libertés individuels.

La puissance de l'analyse des données et de l'intelligence artificielle fonctionnant grâce à Internet soulèveront des questions importantes sur l'avenir de l'autonomie et de la prise de décision personnelles, et un manque de transparence pourrait compromettre la confiance des utilisateurs.  Alors que la portée et la gravité des cybermenaces continuent de croître, les gouvernements vont mettre en place des mesures plus strictes, souvent au nom de la sécurité nationale, qui auront une incidence sur les libertés individuelles et les droits de l'homme.  Nous constatons déjà une baisse de la liberté sur Internet à travers le monde et nous craignons que, si l'on maintient ce cap, les libertés et les droits individuels en ligne connaissent un déclin irréversible.

Et si… La perte de confiance en Internet devenait un mouvement mondial ?

Le « désengagement » devient tendance

Anne me donne rendez-vous sur le banc d’un parc d’une ville américaine prospère. Il fait une chaleur étouffante, mais elle porte un tailleur et des collants. Car nous sommes en public, elle porte aussi son anonymiseur, une paire de lunettes qui projettent sur son visage des caractéristiques aléatoires. Le visage d’Anne ne peut pas être détecté par les systèmes de reconnaissance faciale dans les lieux publics et privés, et ne peut ainsi pas recevoir de publicités géolocalisées sur son téléphone. De cette manière, elle évite aussi que la « ville intelligente » ne connaisse tous ses mouvements et ne déclenche une alerte si elle fait quoi que ce soit d’imprévisible.

La perte de confiance en Internet

En fin de compte, le pouvoir d'Internet dépend de la capacité de ses utilisateurs à lui faire confiance. Ils doivent notamment croire que leurs données sont sécurisées, que leurs interactions et que leurs attentes en matière de confidentialité seront respectées.

Malheureusement, la tendance actuelle est à un déclin de la confiance en Internet, en grande partie en raison de l'augmentation du nombre et des types de cybermenaces et de préoccupations concernant les fausses nouvelles et la désinformation.

L'étude CIGI/IPSOS de 2017 a révélé que « la majorité des citoyens du monde sont davantage préoccupés par leur confidentialité en ligne qu'il y a un an ».1 https://www.cigionline.org/internet-survey Les citoyens des pays développés ont déclaré qu'ils perdaient confiance en Internet parce qu'ils s'inquiètent « du comportement des gouvernements et du contrôle exercé par les élites du secteur privé ». De même, les personnes interrogées dans le cadre d'un récent sondage de l'Internet Society dans la région Asie-Pacifique ont cité la cybersécurité, la protection des données et la confidentialité parmi les cinq principales préoccupations en rapport avec Internet.2 https://www.internetsociety.org/news/cyber-security-tops-list-concerns-internet-users-asia-pacific Et les conséquences sont encore plus grandes en ce qui concerne le développement d'Internet, un des membres de notre communauté ayant suggéré que « les objectifs en matière d'accès ne pourront être atteints si la question de la confiance n'est pas réglée ».  Ceci dit, l'utilisation d'Internet en général continue d'augmenter, les médias sociaux restent populaires et l'économie du partage ne montre aucun signe de ralentissement.

Les internautes craignent d'être abandonnés à leur sort en matière de gestion de leur sécurité en ligne, et la succession ininterrompue des annonces de piratage de données par les entreprises et les gouvernements témoigne de l'ampleur du problème. Les cyberattaques, les usurpations d'identité et les piratages des systèmes informatiques des entreprises et des gouvernements font que les utilisateurs se sentent de plus en plus impuissants à se protéger ou à protéger leurs données.  En cas de piratage de données, l'utilisateur subit souvent un préjudice mais dispose de peu de recours.

Avec l'augmentation de la quantité de données recueillies sur de nombreux autres aspects de notre vie, nous aurons encore plus à perdre dans les futurs piratages de données.  Si le fardeau du risque n'est pas plus largement partagé, grâce à une responsabilité juridique plus claire et à des investissements accrus dans la sécurité, la baisse de la confiance s'accélérera.

L'absence de normes de sécurité et de confidentialité claires pour les objets connectés fait craindre la perspective d'une « catastrophe écologico-numérique3 https://otalliance.org/system/files/files/initiative/documents/iot_sharedrolesv1.pdf », un scénario dans lequel les détournements d'objets connectés par des criminels, des terroristes ou même des gouvernements augmentent à tel point que l'environnement des objets connectés devient un espace pollué aux yeux des consommateurs. Une étude Accenture de 2016 sur les consommateurs de 28 pays a conclu que « le secteur des technologies grand public ne dispose pas des fondamentaux nécessaires et ne bénéficie pas d'une confiance des consommateurs suffisante pour s'immiscer dans des domaines plus personnels et sensibles comme il cherche à le faire pour la prochaine génération d'innovations »4 https://www.accenture.com/_acnmedia/PDF-3/Accenture-Igniting-Growth-in-Consumer-Technology.pdf#zoom=50 . Cette même étude a démontré que le manque de confiance a déjà des effets sur le marché des objets connectés, car les consommateurs restent prudents quant à savoir si les appareils et leurs données sont sécurisés.

Certains, à l'image du spécialiste de la cybersécurité Bruce Schneier, sont allés jusqu'à suggérer qu’en l'absence de décisions morales, éthiques et politiques claires, les consommateurs pourraient se détourner des objets connectés5 http://www.elon.edu/e-web/imagining/surveys/2016_survey/internet_of_things_infrastructure.xhtml ..

Les mesures prises par les pouvoirs publics nuisent également à la confiance des utilisateurs à l'égard d'Internet à travers le monde. Suite aux révélations sur la surveillance généralisée et aux diverses cyberattaques, les utilisateurs finaux se demandent s'ils ne seront pas les dommages collatéraux d'un conflit dont ils ne connaissent pas les tenants et les aboutissants et sur lequel ils n'ont quasiment aucun contrôle. Beaucoup de politiciens abordent la question de la sécurité en suggérant qu'un compromis doit être trouvé entre, d'une part, les droits et les libertés et, d'autre part, la sécurité.  Cela a amené un membre de notre communauté à suggérer qu'« Internet ne mène pas à une société fondée sur les droits, mais plutôt à une société de la surveillance ».

Il n'y a pas de réponse unique au dilemme de la confiance, mais de nombreuses activités actuelles permettront d'améliorer la sécurité en ligne des utilisateurs finaux. Les parties prenantes consacrent de plus en plus de ressources à la sécurité. Selon une estimation, les dépenses mondiales en matière de cybersécurité pourraient s'élever à 1 milliard de dollars (USD) entre 2017 et 2021.6  De plus en plus d'applications de messagerie utilisent le chiffrement de bout en bout. Ce développement des messageries sécurisées a entraîné une augmentation du trafic chiffré. Des cadres de sécurité sont en cours d'élaboration dans le domaine des objets connectés. Les entreprises prennent également des mesures pour répondre aux préoccupations concernant les fausses nouvelles et les contenus en ligne violents. Et enfin, les efforts sérieux, à l'échelle mondiale et régionale,6 For example: 2016 OECD Security Guidelines; 2017 African Union / Internet Society Internet Infrastructure Security Guidelines for Africa; Global Commission on Internet Governance; Global Commission on Cyber Stability. visant à promouvoir la collaboration entre les parties prenantes, notamment les gouvernements, commencent à porter leurs fruits.

Les personnes interrogées croient déjà que le grand public affiche une certaine confiance en Internet et prédisent que le grand public affichera un degré plus élevé de confiance (et peu de préoccupations quant à la plupart des utilisations) à l'avenir.
Appartenant à
En l'absence de progrès, Internet risque de perdre des personnes « simples », « honnêtes » au profit des trolls, des spammeurs et des logiciels malveillants. Le commerce en ligne pourrait s'effondrer en raison d'un manque de confiance et de l'absence de recours juridique efficace. Technologue, Europe
Un manque de confiance en Internet pourrait entraîner une régression. Technologue, Afrique
Je pense que la confiance aura une influence très importante sur le développement et l'adoption futurs d'Internet. Avec l'augmentation de la quantité de données en circulation, la protection des données et la sécurité des informations à caractère personnel constituent selon moi des incertitudes. Secteur privé, Asie-Pacifique
Les problèmes de sécurité peuvent commencer à empêcher les utilisateurs d'utiliser Internet, et une fois en ligne, ils peuvent avoir un impact sur leur utilisation, notamment en ce qui concerne les questions politiques et personnelles sensibles. Société civile, Europe
Sans vouloir paraître sombre, avec toutes ces coupures d’accès, ces filtrages et toute cette surveillance à grande échelle, les utilisateurs existants ou potentiels ont l'impression qu'Internet est devenu une gigantesque plateforme virtuelle reproduisant l'oppression du monde réel. Technologue, Caraïbes
Fait-on suffisamment d'efforts pour améliorer le web, le rendre plus décentralisé et plus sûr ? Est-ce que nous recherchons de nouvelles technologies, comme par exemple une technologie permettant de diversifier les sources des données que nous téléchargeons chaque seconde afin d'empêcher les gens de savoir facilement ce que nous faisons en ligne ? J'imagine que cela se produira bientôt et que cela aura un impact considérable sur Internet, car les internautes seront plus à l'aise et auront davantage confiance en Internet. Technologue, Moyen-Orient

L'IA et les objets connectés seront pour les consommateurs à la fois source d'émancipation et d'affaiblissement

Les nouvelles technologies telles que les objets connectés et l'IA pourraient rendre la fourniture des services essentiels plus efficace et générer des progrès dans l'éducation, la santé, l'agriculture et de nombreux autres secteurs de l'économie et de la société.

Plus de partage signifie moins de confidentialité ; les gens continuent de privilégier la sécurité au détriment de la commodité. Technologue, Amérique du Nord
La collecte de données soulève désormais un grand nombre de questions en matière de protection de la vie privée, en particulier lorsque les citoyens sont observés par des appareils connectés. Gouvernement, Afrique
Dans le cas du Big Data et des objets connectés, qui est responsable ? Nous ne savons pas qui doit rendre des comptes en cas de problème avec un produit ou un service : le concepteur, le fabricant, le propriétaire ? Comment inclure les aspects liés aux droits de l'homme dans ces objets connectés ou utilisant l'IA est une question fondamentale. Secteur privé, Moyen-Orient
Les gens sont inquiets : ils ne connaissent pas l'influence réelle des algorithmes sur les droits et les données individuels. Société civile, Moyen-Orient
Le développement des services axés sur les données soulève des inquiétudes de type Minority Report. Les citoyens craignent de ne plus avoir leur destin entre leurs mains et de ne plus pouvoir prendre des décisions librement. Ensuite, certains craignent que les personnes ayant une bonne connaissance des données puissent devenir une sorte d'élite numérique, désireuse de maintenir à tout prix les « non initiés » au bas de l'échelle sociale. Secteur privé, Europe

Disposant de meilleures informations, les citoyens seront capables de prendre des décisions plus éclairées et de responsabiliser les gouvernements et les entreprises.

Comme l'a suggéré un expert européen, l'« IA pourrait permettre d'accroître la transparence en facilitant la réponse à la question de savoir où les informations sont stockées. Ainsi, à l'avenir, nous pourrons utiliser notre téléphone, notre tablette, notre bracelet, notre ordinateur ou n'importe quel autre type d'appareil et demander à son fabricant de nous indiquer où il stocke les données nous concernant ». Les individus pourront développer leurs propres algorithmes afin de suivre la façon dont ils sont suivis. Ce scénario, dans lequel les progrès considérables de l'intelligence artificielle ont des effets positifs sur la vie des gens, n'est possible que si les humains contrôlent cette technologie et orientent son développement et son déploiement d'une manière compatible avec les valeurs humaines.

 

Il existe un autre avenir possible dans lequel l'IA et les technologies similaires sont conçues et déployées si rapidement, et avec des effets si importants sur le plan social, que les cadres éthiques et moraux ne pourront pas suivre. Dans ce scénario, les progrès de l'IA et des objets connectés peuvent constituer une menace pour les droits de l'homme et les libertés individuelles et avoir d'énormes conséquences sur la transparence de la prise de décision et les attentes en matière de confidentialité. Les algorithmes utilisent d'énormes quantités d'informations, dont une grande partie est collectée de manière opaque aux yeux des citoyens. Quid de la responsabilité lorsque les algorithmes prennent des décisions qui affectent la vie des gens mais qui sont difficiles à comprendre ou à contester ?

Certaines personnes s'inquiètent déjà de la grande quantité de données à caractère personnel collectées et se sentent impuissants à protéger leur confidentialité. Déjà, certains systèmes s'immiscent dans la vie privée des internautes en utilisant le profilage des données pour tirer des conclusions sur leurs croyances, leurs préférences ou leurs habitudes.

Respondents from Africa and Asia predict that developing regions will improve their uptake of new technologies.

Avec les progrès de l'IA, la collecte de données à caractère personnel passera outre les questions de confidentialité et pourrait mettre en danger l'autonomie individuelle.  Dans un monde où la collecte de données à caractère personnel commence avant même la naissance, et où ces données sont utilisées pour prendre des décisions qui influent profondément sur la vie des gens, certains craignent de ne plus pouvoir remettre en cause ces décisions et de ne plus avoir leur destin entre leurs mains.

Un travail considérable est effectué dans les secteurs de la recherche, de l'industrie et de la politique pour faire en sorte que les progrès technologiques et commerciaux s'appuient sur les valeurs humaines. La question de savoir si l'Internet du futur respectera nos libertés et nos droits ou les dépouillera de façon irréversible dépend de la capacité de ce travail à suivre le rythme des innovations technologiques et de l'adhésion et du soutien dont il bénéficiera de la part de toutes les parties prenantes.

Appartenant à

Les libertés face au rôle croissant des gouvernements virtuels

Dès ses débuts en tant que réseau d'échange d'informations, Internet a permis aux utilisateurs et aux communautés de s'émanciper et a permis une gouvernance plus responsable, en sensibilisant les citoyens aux violations des droits de l'homme et en rassemblant des preuves nécessaires aux poursuites judiciaires.

Cependant, alors que la portée et la gravité des cybermenaces continuent de croître, les gouvernements vont mettre en place des mesures plus strictes, souvent sous couvert de sécurité nationale, qui auront une incidence sur les libertés individuelles et les droits de l'homme. Dans certaines parties du monde, Internet est utilisé comme outil à des fins de collecte, de surveillance et de contrôle généralisés des données. Cela se traduit par une détérioration globale de la liberté sur Internet dans le monde entier et nous craignons que, si l'on maintient ce cap, les libertés et les droits individuels connaissent un déclin irréversible.

Freedom House, une organisation non gouvernementale œuvrant dans les politiques de l'Internet, a démontré qu'il y avait bien eu une baisse de la liberté sur Internet au cours des six dernières années.7 https://freedomhouse.org/report/freedom-net/freedom-net-2016 Beaucoup, au sein de la communauté mondiale de l'Internet Society, font écho à ce sentiment de déclin des droits et des libertés. Selon eux, les restrictions telles que les coupures d'accès constituent une menace constante pour leurs moyens de subsistance, leurs communautés et leurs possibilités futures.

Les outils qui permettent aux humains de s'émanciper peuvent également être utilisés pour contraindre cette émancipation, et comme Internet est au cœur de toutes nos activités, la tentation pour les gouvernements de l'utiliser à des fins de contrainte ne cessera de croître.

Alors que de nombreux gouvernements sont pressés de répondre aux cybermenaces, à la haine en ligne et au terrorisme, même les gouvernements respectueux des droits peuvent se croire obligés d'effectuer un faux choix entre la sécurité et les droits de l'homme.  Par exemple, les efforts visant à restreindre le chiffrement ou à interdire les outils d'anonymisation comme Tor pour des raisons de sécurité nationale représentent une menace pour la liberté d'expression et la vie privée des citoyens du monde entier. Alors que les nouvelles technologies promettent une plus grande efficacité et de nouveaux services, elles peuvent également être utilisées par les gouvernements, toujours au nom de la sécurité, pour créer une société de la surveillance, au détriment des libertés et de la vie privée.

Bien qu'il existe une responsabilité collective de veiller à ce qu'Internet ne soit pas utilisé comme un outil de contrôle, une grande partie du fardeau incombera aux entreprises qui exploitent des réseaux ou des plateformes et fabriquent des appareils connectés. La façon dont l'industrie, et en particulier les entreprises de l'Internet, réagissent aux pressions exercées par les pouvoirs publics influera sur l'avenir d'Internet en tant qu’espace de liberté d'expression ou de censure et de surveillance.

Les parties prenantes de notre communauté considèrent toujours que l'ouverture et la portée mondiale d'Internet sont des valeurs fondamentales qui méritent d'être protégées. En effet, il est clair que les valeurs fondamentales d'Internet ne sont liées à aucune idéologie géopolitique. Elles sont considérées comme universelles.

De même, ces valeurs d'ouverture et de portée mondiale deviendront plus précaires et ne peuvent être considérées comme acquises. En tant que parties prenantes, nous devrons tous être vigilants et persévérants si nous voulons préserver ces valeurs fondamentales face aux contraintes croissantes liées à la sécurité nationale et à l'ordre public. Les technologies nouvelles et émergentes peuvent bien faire partie de la solution: plutôt que de les utiliser pour restreindre les libertés et les droits, nous devrions les utiliser pour préserver les valeurs fondamentales d'ouverture et de portée mondiale d'Internet et pour contrer la tendance mondiale à l'affaiblissement des libertés et des droits de l'homme.

Appartenant à
Les valeurs libérales s'affaiblissent dans le monde entier, [ce qui] n'est pas bon signe pour Internet. L'hiver approche. Société civile, Amérique du Nord
De façon surprenante, suite à l'apparition de nouvelles menaces pour la sécurité nationale et de nouveaux systèmes de surveillance, il semble que les pays démocratiques commencent à abandonner leur rôle de leader au profit d'un Internet ouvert qui soutient les libertés en ligne. Société civile, Europe
On pensait qu'Internet pourrait apporter la démocratie à tous les pays à partir du moment où ils étaient connectés à Internet, mais nous avons constaté que ce n'est pas le cas. L'influence d'Internet sur la politique n'est pas aussi grande que ce que nous pensions. En raison de la censure, il existe une violation des droits de l'homme. La Chine et la Russie préservent la stabilité de leur pays. Les pays occidentaux ne le voient pas de cette façon. Ce sera un gros problème dans les 5 à 7 prochaines années. Gouvernement, Asie-Pacifique
Internet sera de plus en plus utilisé en matière d'éducation, pour effectuer des transactions économiques, prendre des décisions politiques et défendre nos droits. Les attaques contre la confidentialité et la vie privée deviendront plus évidentes. Les citoyens seront davantage conscients des risques et des menaces qui pèsent sur Internet. Société civile, Amérique latine et Caraïbes

Et si… Les algorithmes impactaient non seulement les media que vous consultez ou les services publics auxquels vous avez accès, mais aussi votre capacité à vous déplacer dans la ville ?

Les super-algorithmes de Bigville font de certains citoyens des prisonniers de fait

C’était une ère nouvelle pour Bigville, une « ville intelligente » à une autre échelle, allant d’une planification centralisée à un meilleur comportement dans les rues. La première véritable ville intelligente allait encore plus loin qu’une simple gestion du trafic ou de purification de l’air : elle modifiait en profondeur la vie quotidienne de ses citoyens.

Explorer les Moteurs du changement et Secteurs d’impact