Séance 12 - Politique et culture numérique : II – Enjeux éthiques de la culture numérique

Introduction

Vie privée, surveillance et données massives

Vie privée, surveillance et données massives - 1

On parle beaucoup du caractère habilitant de l'internet. On nous dit que cet outil extraordinaire nous permet de faire des choses jusqu'alors insoupçonnées. L'expression de "World Wide Web" suggère un réseau mondial de nœuds électroniques interconnectés qui rendent possible un niveau supérieur de communication [...], qui promet de surpasser même la structure démocratique du système téléphonique. [...] Les toiles peuvent avoir d'autres objectifs, bien sûr. L'araignée tisse la toile afin d'enchevêtrer et de piéger la mouche qui ne se doute de rien. Plus la mouche se débat, plus elle est coincée. Sans contester les possibilités de démocratisation inhérentes à l'Internet, il convient d'explorer la capacité du "Web" à capturer et à contrôler, à cibler et à piéger, à gérer et à manipuler. Bien que beaucoup de choses aient changé depuis la naissance du précurseur d'Internet en tant que système de communication militaire de la Guerre froide, le pouvoir n'a pas simplement été rejeté comme un trait infantile. Au contraire, le pouvoir est désormais lié à une technologie de surveillance étendue et de plus en plus intégrée.

Vie privée, surveillance et données massives - 2 - Le Panoptique

Vie privée, surveillance et données massives - 3

[I]n the year 2000 [the Aware Home project] naturally assumed an unwavering commitment to the privacy of individual experience. Should an individual choose to render her experience digitally, then she would exercise exclusive rights to the knowledge garnered from such data, as well as exclusive rights to decide how such knowledge might be put to use. Today these rights to privacy, knowledge, and application have been usurped by a bold market venture powered by unilateral claims to others’ experience and the knowledge that flows from it [...], [a] voracious and utterly novel commercial project that I call surveillance capitalism.

[E]n l'an 2000, [le projet Aware Home] supposait naturellement un engagement inébranlable en faveur de la confidentialité de l'expérience individuelle. Aujourd'hui, ces droits à la vie privée, à la connaissance et à l'application ont été usurpés par une audacieuse entreprise commerciale alimentée par des revendications unilatérales sur l'expérience d'autrui et la connaissance qui en découle [...], [un] projet commercial vorace et totalement nouveau que j'appelle le capitalisme de surveillance.

Vie privée, surveillance et données massives - 4

Considérez qu'Internet est devenu essentiel à la participation sociale, qu'Internet est maintenant saturé de commerce, et que le commerce est maintenant subordonné au capitalisme de surveillance. Notre dépendance est au cœur du projet de surveillance commerciale, dans lequel notre besoin d'une vie efficace rivalise avec l'envie de résister à ses incursions audacieuses. Ce conflit produit un engourdissement psychique qui nous habitue à la réalité d'être suivis, analysés, exploités et modifiés. Il nous amène à rationaliser la situation dans un cynisme résigné, à créer des excuses qui fonctionnent comme des mécanismes de défense ("Je n'ai rien à cacher"), ou à trouver d'autres moyens de faire l'autruche, choisissant l'ignorance par frustration et impuissance. De cette façon, le capitalisme de surveillance impose un choix fondamentalement illégitime que les individus du XXI^e siècle ne devraient pas avoir à faire, et sa normalisation nous laisse chanter, enchaînés.

Vie privée, surveillance et données massives - 5 - Les Critical data studies - I

Les objets des Critical Data Studies sont les "assemblages de données" sociotechniques qui composent le Big Data. Les appareils et les éléments d'un assemblage de données peuvent inclure des systèmes de pensée, des formes de connaissances, la finance, une économie politique, des gouvernementalités et des légalités, des matérialités et des infrastructures, des pratiques, des organisations et des institutions, des subjectivités et des communautés, des lieux et le marché où les données sont constituées. Les assemblages doivent être compris comme des structures qui émergent comme constitutives des données massives, vues depuis une variété de positions sociales à des échelles multiples (locales, nationales, internationales) qui exercent un pouvoir. Les assemblages de données sont le puissant complexe d'entités qui forment la production sous-jacente de la science du Big Data à de multiples niveaux d'abstraction et dans une pluralité de domaines.

Vie privée, surveillance et données massives - 6 - Les Critical data studies - II

Contre l'idée que les données sont pré-analytiques et pré-factuelles, on a fait valoir que les données sont déterminées par les idées, les techniques, les technologies, les personnes, les systèmes et les contextes qui les conçoivent, les produisent, les traitent, les gèrent et les analysent. En d'autres termes, la façon dont les données sont conçues, mesurées et utilisées détermine activement leur nature. Les données ne préexistent pas à leur génération ; elles ne surgissent pas de nulle part et leur génération n'est pas inévitable : les protocoles, les processus organisationnels, les échelles de mesure, les catégories et les normes sont conçus, négociés et débattus, et la génération de données est quelque peu désordonnée. Comme le disent Gitelman et Jackson, "les données brutes sont un oxymore" ; "les données sont toujours déjà "cuites"". Les données sont donc situées, contingentes, relationnelles et encadrées, et utilisées de manière contextuelle pour tenter d'atteindre certains objectifs et buts.

Algorithmes décisionnels

Algorithmes décisionnels - 1

In his famous novel 1984, George Orwell got one thing wrong. Big Brother is not watching you, he's watching us. Most people are targeted for digital scrutiny as members of social groups, not as individuals. People of color, migrants, unpopular religious groups, sexual minorities, the poor, and other oppressed and exploited populations bear a much higher burden of monitoring and tracking than advantaged groups. Marginalized groups face higher levels of data collection when they access public benefits, walk through highly policed neighborhoods, enter the health-care systems, or cross national borders.

Dans son célèbre roman 1984, George Orwell s'est trompé sur une chose. Big Brother ne vous surveille pas, il nous surveille. La plupart des gens sont ciblés par la surveillance numérique en tant que membres de groupes sociaux, et non en tant qu'individus. Les personnes de couleur, les migrants, les groupes religieux impopulaires, les minorités sexuelles, les pauvres et autres populations opprimées et exploitées supportent un fardeau de surveillance et de suivi bien plus important que les groupes favorisés. Les groupes marginalisés sont confrontés à des niveaux plus élevés de collecte de données lorsqu'ils accèdent aux prestations publiques, traversent des quartiers très surveillés, entrent dans les systèmes de soins de santé ou franchissent les frontières nationales.

Algorithmes décisionnels - 2

Fake news  et post-vérité

Fake news  et post-vérité - 1

Whereas the construction of a false, alternative, or altered reality and its diffusion through media and/or word of mouth – which depends on the contested nature of knowledge – is not a new phenomenon in politics, what is new is the massive worldwide use of digital communication systems and the extremely extensive reach of social media […], which can spread news at a whirling pace, turning any message potentially ‘viral’.

Si la construction d'une réalité fausse, alternative ou altérée et sa diffusion par les médias et/ou le bouche-à-oreille - qui dépend de la nature contestée de la connaissance - n'est pas un phénomène nouveau en politique, ce qui est nouveau, c'est l'utilisation massive, à l'échelle mondiale, des systèmes de communication numérique et la portée extrêmement étendue des médias sociaux [...], qui peuvent diffuser des nouvelles à une vitesse vertigineuse, rendant tout message potentiellement "viral".

Fake news  et post-vérité - 2

[A] form of ideological supremacy, whereby its practitioners are trying to compel someone to believe in something whether there is good evidence for it or not. And this is a recipe for political domination.

[U]ne forme de suprématie idéologique, par laquelle ses praticiens tentent d'obliger quelqu'un à croire en quelque chose, qu'il y ait ou non de bonnes preuves à cet égard.

Fake news  et post-vérité - 3

[La post-vérité] est une recette pour la domination politique. Mais cette perspective peut et doit être remise en question. Voulons-nous vivre dans un monde où les politiques sont élaborées en fonction de ce que nous ressentons plutôt que de leur efficacité dans la réalité ? L'animal humain est peut-être câblé pour accorder un certain crédit à nos superstitions et à nos peurs, mais cela ne signifie pas que nous ne pouvons pas nous entraîner à adopter de meilleures normes de preuve. Il peut y avoir des questions théoriques légitimes sur notre capacité à connaître la vérité objective, mais cela ne signifie pas que les épistémologues et les théoriciens critiques ne consultent pas un médecin lorsqu'ils sont malades. Les gouvernements ne devraient pas non plus construire davantage de prisons parce qu'ils "sentent" que la criminalité augmente.

Fake news  et post-vérité - 4

This way of framing the problem sees fake news as the primary culprit. If only we could find some way of keeping fake news in check, this line of reasoning goes, we could restore some order and rationality to our public discourse. Presumably, then, the answer lies in more aggressive fact-checking on the part of traditional journalism and greater media literacy on the part of the public.

Cette façon de formuler le problème considère les fake news comme le principal coupable. Selon ce raisonnement, si nous pouvions trouver un moyen de contrôler les fake news, nous pourrions rétablir un certain ordre et une certaine rationalité dans notre discours public. On peut donc supposer que la réponse réside dans une vérification plus agressive des faits de la part du journalisme traditionnel et dans une meilleure éducation aux médias de la part du public.

Fake news  et post-vérité - 5

A second way of framing the problem is to focus on media, that is, on technologies of communication. This way of framing the problem regards the dominant media of the age, not their content, as the primary culprit. According to this second line of reasoning, if only we could understand how our dominant media shape not just content but the entire affective structure of public discourse, we might come to appreciate the nature and severity of our present chaos.

Une deuxième façon de formuler le problème consiste à se concentrer sur les médias, c'est-à-dire sur les technologies de la communication. Cette façon de formuler le problème considère les médias dominants de l'époque, et non leur contenu, comme les principaux coupables. Selon ce deuxième raisonnement, si nous pouvions comprendre comment nos médias dominants façonnent non seulement le contenu mais aussi toute la structure affective du discours public, nous pourrions comprendre la nature et la gravité de notre chaos actuel.