La démocratie, otage des algorithmes

Il s’appelle Brad Parscale, ancien responsable de la campagne numérique de Donald Trump. Dans une interview au Guardian, il explique qu’il publiait en moyenne « 50 000 à 60 000 variantes d’un message publicitaire sur Facebook, chaque jour ». Lawrence Lessig nous demande de nous arrêter un instant sur ce chiffre. Seule une machine peut produire 50 000 variations d’une publicité chaque jour. Pour Lessig, Parscale utilisait une technologie, qui est devenue classique, où l’intelligence artificielle fabrique des messages qui produisent les réponses voulues par l’émetteur. L’objectif de ces milliers de micro-variations est de trouver, pour chaque lecteur, la formulation la plus efficace pour provoquer une réaction : un don, un clic, un like, un partage, ou bien sûr un vote.

La liberté d’expression, comme nous l’entendions jusqu’à présent, reposait sur l’idée que des humains parlaient à d’autres humains. Il y a toujours eu une asymétrie entre ceux qui parlent et ceux qui écoutent, mais cette asymétrie demeurait dans le cadre de l’humanité. Qu’en est-il de cette asymétrie quand ce sont des machines et des algorithmes qui s’adressent aux humains ? Quand les humains qui reçoivent les messages n’ont aucune idée de ce que les machines savent sur eux et de la raison pour laquelle ils les reçoivent.

En 2016, la société Cambridge Analytica innovait en permettant aux organisateurs de la campagne du Brexit d’élaborer et diffuser dans une quinzaine de communautés des messages anti-européens ciblés (“L’Europe, c’est l’impôt”, pour la City, “L’Europe c’est le chômage” et “l’immigration” pour les ouvriers et les chômeurs du nord, “les quotas de pêche” pour les pêcheurs, « la fermeture des services de la NHS » pour les malades), alors que les “remainers”, qui défendaient le maintien dans l’Union Européenne, tentaient de proposer un discours unique, global et cohérent.

C’est ainsi que la vie politique change de nature. L’agenda de la campagne électorale compte beaucoup moins. La bataille pour le contrôler perd de son importance. Il y a encore des débats ou des échanges d’arguments entre responsables politiques, mais l’important se passe en-deçà ou au-delà de l’espace public. Comme le souligne Lessig : « L’économie moderne de la liberté d’expression n’est pas pilotée par des éditeurs qui cherchent à publier ce que leurs lecteurs pourraient comprendre, mais par des machines qui fabriquent un discours fondé sur le comportement que l’on désire obtenir. Dans la plupart des cas, ce comportement est simplement commercial : cliquer sur une publicité. De façon plus préoccupante, ce comportement va parfois au-delà du commercial : prendre d’assaut le Capitole ».

La suite ici : La démocratie, otage des algorithmes