agora_review

Manipulation de masse et protection des plateformes : où en est-on ?

6 Mai, 2019  - écrit par  dans Le Bar de Gandi

La VIIeAgora du FIC s’est tenue le 18 avril 2019 à la Maison de la Chimie (Paris). Elle avait pour thème : « De l’influence à l’ingérence : la démocratie face aux cyber-menaces ». Ce que nous en avons retenu. 

AgoraFic-avril19
© Agora_FIC

Comment définir la cyber-guerre ?

Selon le Général Watin-Augouard, médiateur de l’événement et co-fondateur du FIC (Forum International de la Cybersécurité), la manipulation de l’information et la protection des plateformes sont les enjeux majeurs du XXIeme siècle. Jean-Louis Gergorin, ancien diplomate et auteur de Cyber. La guerre permanente, précise : « La cyber-guerre est la continuation moderne de la politique. Elle se traduit par deux vecteurs : l’intrusion et la manipulation. Une information fausse se propage sept fois plus vite qu’une vraie sur les réseaux sociaux. » La manipulation de grande ampleur a atteint son paroxysme lors des dernières élections américaines. Le United States Senate Select Committee on Intelligence estime que 126 millions d’Américains ont été touchés.

Pour définir la notion de manipulation, le CAPS et l’IRSEM, deux think tanks, ont mené plus de 100 entretiens à travers 20 pays et publié un rapport non-officiel disponible en français et en anglais : « La manipulation de l’information : un défi pour nos démocraties ». Selon Alexandre Escorcia, directeur ajoint du CAPS, il y a 3 critères communs et 3 grades parmi les cas de manipulation recensés par ce rapport : 

CRITERES

  • Des nouvelles transformées ou créées de toute pièce
  • Une diffusion massive et artificielle (bots)
  • Une intention politique de nuire

GRADATION

  • Fake news, diffamation
  • Manipulations d’origine étatique
  • Manipulation d’origine extérieure (régimes autoritaires qui instrumentalisent leurs propres populations) => grassroots movement

Les technologies vont rendre encore plus faciles la manipulation de l’information. Les défis futurs concernent le deep fake, la cinétisation, la normalisation et la proxysation. En France, la loi contre la manipulation de l’information, votée le 20 novembre 2018, s’est notamment nourrie de ce rapport.

Thierry Vedel, chercheur CNRS et Cevipof, enseignant à Sciences Po,  nuance :  

« La désinformation n’est pas un phénomène nouveau dans l’histoire. Ce qui a changé, c’est l’échelle, la vitesse et la visibilité apportées par les réseaux sociaux. »

Thierry Vedel

Le numérique : le nouveau contrat social

AgoraFIC2-avril19-FlorianBachelier
Florian Bachelier, Premier Questeur de l’Assemblée Nationale et Député d’Ille-et-Vilaine

Florian Bachelier, Premier Questeur de l’Assemblée Nationale et Député d’Ille-et-Vilaine, énonce sa conviction : 

« Le numérique n’est plus une révolution. C’est le nouveau contrat social. L’espace public est désormais pleinement numérique et bouleverse notre rapport au temps. La cybersécurité est un avenant à ce contrat. Il n’y a pas de place pour l’ignorance, la passivité ou la naïveté. »

Florian Bachelier

Pour Jean-Louis Gergorin, il n’est pas, dans l’histoire, une seule technologie qui, une fois inventée, n’ait trouvé son application militaire. L’explosion numérique n’a pas échappé à cette règle et l’utilisation offensive des réseaux sociaux à des fins de contrôle et d’influence s’est développée.

L’ancien diplomate revient sur la genèse de ce détournement. Aux États-Unis, Jared Cohen, sous l’ère Bush, fut l’un des premiers à recourir à l’utilisation des réseaux sociaux pour promouvoir la démocratie dans le monde. Jean-Louis Gergorin cite également  l’opération Earnest Voice, menée par le Pentagone en 2011, pour contrer les Talibans et Al Qaïda (en Afghanistan et au Pakistan notamment). Le principe : des sockpuppet accounts (comptes marionnettes) utilisant des faux profils Facebook et Twitter dans la langue locale pour répandre des informations à des fins d’influence politique. Les détails de ce programme ont fuité dans les semaines qui ont suivi sa mise en place, le rendant caduque.

Dernier exemple développé par Jean-Louis Gergorin, le Printemps Arabe et le grand rôle des réseaux sociaux dans la propagation du mouvement. La Russie avait alors estimé qu’il s’agissait d’une répétition de ce que les États-Unis préparaient contre elle et que les réseaux sociaux étaient instrumentalisés pour la déstabiliser. VKontakte (VK), équivalent russe de Facebook, avait alors vu son fondateur, Pavel Dourov, évincé, et le réseau passer sous le contrôle de proches de Vladimir Poutine. 

Comment agir contre la cyber-manipulation ?

Les filtres et les recommandations des réseaux sociaux créent un biais cognitif dans l’accès aux informations. Les contenus proposés incitent, de fait, à voir, des contenus en lien avec les goûts et opinions des internautes. Il y a également un effet « qui se ressemble s’assemble » qui favorise le regroupement d’individus en communautés. Thierry Vedel rappelle que la psychologie cognitive étudie comment le cerveau cherche à filtrer l’information. Il veut la cohérence. La plupart des individus s’exposent de façon sélective à l’information. Cela s’appelle le biais de confirmation : une information fausse peut nous satisfaire parce qu’elle correspond à ce qu’on cherche à trouver.

« Nous ne croyons pas ce que nous voyons. Nous voyons ce que nous croyons. »

Thierry Vedel

Les intervenants de cette Agora citent la rougeole comme un cas historique de cyber-épidémie, conséquence des campagnes massives anti-vaccination sur les réseaux sociaux.

Pour Jean-Louis Gergorin, cela se justifie en grande partie par l’algorithme de Facebook et Twitter, qui cherchent à maximiser l’audience. Youtube et Instagram prennent aujourd’hui la même direction. Vraie ou fausse, c’est l’information la plus croustillante qui est favorisée, d’où l’attrait pour les extrêmes. 

De nombreux contenus sont régulièrement épinglés. L’ONG Point de Contact permet le signalement de contenus manifestement illicites par le grand public et par un réseau d’associations internationales. Son président, Jean-Christophe Le Toquin, recense, en 2018, 32 000 signalements d’url, dont 18 000 requalifiés de manifestement illicites par Point de Contact. La majorité sont des cas de contenus pédo-pornographiques. 

LE POINT DE VUE DE GANDI

Gandi a une « double casquette » : hébergeur et registreur. Nous avons des obligations d’agir par la loi et par nos engagements contractuels (cf ICANN). Le traitement de la cyber-criminalité repose sur une tryptique humain, juridique et technique : pour chaque notification que nous recevons, nous veillons à apporter une réponse respectueuse des droits des tiers et de nos propres clients.

Gandi s’engage dans la formation continue des opérateurs en participant à la rédaction des bonnes pratiques du secteur. Nous avons notamment contribué à la rédaction du livre blanc Pédopornographie et propagande terroriste en ligne – Traitement des contenus et protection des professionnels, également disponible sur le site de Point de Contact.

Tous en train d’apprendre

En Europe, les choses évoluent, par exemple avec la loi contre la haine, en Allemagne, qui responsabilise les patrons des réseaux sociaux. Pour Thierry Vedel, même si la loi existe, on aura du mal à l’appliquer. 

« Comment, à l’échelle nationale, imposer à des réseaux sociaux transnationaux de s’autoréguler ? » 

Thierry Vedel

Toutefois, même si une loi est déclarative et pas difficilement efficace, c’est important qu’elle soit posée pour cadrer les choses.

Jean-Christophe Le Toquin évoque un inconfort collectif car nous sommes tous en train d’apprendre. Malgré tout, Microsoft, Facebook, Twitter ont des positions bien différentes d’il y a quelques années. 

Brad Smith, directeur juridique de Microsoft, a donné l’impulsion. En mars dernier, c’est Mark Zuckerberg qui reconnaissait dans le JDD la nécessite pour Facebook de s’autoréguler. Jack Dorsey, fondateur de Twitter, a reconnu des lacunes dans le traitement des contenus.

Aux Etats-Unis, Facebook et Twitter ont donc commencé à s’auto-réguler, notamment pour la suppression des faux comptes. Mais chacune de ces plateformes est, elle-même, traversée de tensions internes : les ingénieurs ont une approche technique, avec l’intelligence artificielle pour solution. Les modérateurs ont une approche plus sociologique. Des arbitrages sont à faire.

Pour Jean-Christophe Le Toquin, les deux points d’amélioration sur la régulation sont :

LE POINT DE VUE DE GANDI

Concernant la sécurisation, Gandi défend la liberté individuelle et la protection des données. Dans une société où les individus sont de plus en plus dépendants de sociétés privées qui ne fournissent aucune transparence sur leur modèle économique et l’exploitation faite des données individuelles, il existe peu de solutions transparentes et ouvertes permettant de s’en affranchir.

Les internautes doivent prendre conscience de l’importance de veiller à la confidentialité de leurs échanges. C’est la raison pour laquelle Gandi participe au projet Caliopen aux côtés de Qwant, de l’UPMC, et avec le soutien de la BPI. Caliopen est un outil de messagerie sécurisée orienté vers la confidentialité des messages privés. Le web est une carte postale envoyée sans enveloppe. Caliopen se veut l’enveloppe scellée qui protège les courriers des comptes emails IMAP et des Direct Messages Twitter. La sortie de la version Beta sera annoncée très prochainement !

Découvrir Caliopen.org