La récente Assemblée générale des Nations Unies (AGNU) s’est démarquée en mettant l’accent sur le climat de la planète Terre. Une autre série de réunions autour de l’Assemblée générale des Nations Unies a quant à elle porté sur un autre climat : celui de la peur, de la colère et de la violence sur Internet.
Pas plus tard qu’en mars dernier un homme (il n’y a qu’un seul accusé) a tiré sur des dizaines de personnes lors de deux attaques contre des musulmans en prière. Le tireur a diffusé les 17 premières minutes de ses attaques sur Facebook Live. L’utilisation d’un service Internet dans ce cas précis, combinée aux préoccupations générales sur la façon dont les services Internet sont utilisés pour le terrorisme et l’extrémisme violent, a donné lieu à l’Appel de Christchurch.
L’Appel de Christchurch nous donne des raisons d’être optimiste. Rarement les gouvernements ont travaillé aussi résolument ou aussi rapidement, ensemble, pour s’attaquer à un problème social mondial. Lors d’une réunion parallèle à New York à l’Assemblée générale des Nations Unies, une trentaine de pays supplémentaires ont signé l’appel ; plus de 50 au total. La Nouvelle-Zélande a pris les devants tout en insistant sur le fait que les gouvernements ne peuvent pas s’attaquer seuls au problème et a essayé d’impliquer tout le monde – par le biais d’un réseau consultatif – dans les décisions qui ne peuvent que nous affecter tous.
Il peut néanmoins y avoir des raisons d’être plus prudent qu’optimiste. La même réunion parallèle a annoncé la « refonte » du Forum mondial de lutte contre le terrorisme sur internet (GIFCT). Le GIFCT (généralement prononcé « gif-cii-tii », avec un g dur) a été créé par quelques grandes entreprises de réseautage social en 2017 afin de coopérer lors d’activités visant à lutter contre le « contenu terroriste » trouvé sur les pages desdites entreprises. La définition du « contenu terroriste » a évolué au fil du temps et il est d’ailleurs maintenant désigné comme « contenu terroriste et extrémiste violent » afin de préciser que les cibles ne sont pas toutes membres d’organisations terroristes identifiables. Indépendamment de ces détails, le projet GIFCT semble être une idée excellente, et il a le potentiel d’être une initiative valable. Il reste cependant beaucoup de travail à faire pour s’assurer que le GITCT ne devient pas simplement un mécanisme permettant à certaines grandes entreprises de conserver les avantages existants.
Le premier problème avec le GIFCT est que bien qu’il prétende être un forum dédié à Internet, il ne l’est pas vraiment. Il s’agit d’un forum permettant aux grandes entreprises des plateformes de réseautage social de partager leurs techniques de filtrage de contenu afin de détecter certains types de contenus et de les supprimer des plateformes participantes. Les plateformes de réseautage social ne sont pas l’Internet, et les caractéristiques architecturales qu’elles partagent généralement ne sont pas partagées par tous les autres services sur Internet. Bien sûr, personne, sauf les terroristes, ne veut de contenu terroriste sur les réseaux sociaux. C’est donc probablement une bonne chose que les entreprises de réseautage social collaborent pour s’attaquer aux problèmes que posent ces contenus. Pourtant, la plupart des services de réseautage social sont dotés d’une autorité centrale qui contrôle le flux de contenus, tandis que bien d’autres services sur Internet sont conçus pour résister à une telle centralisation. Les techniques qui fonctionnent pour un type de service ne fonctionneront pas pour tous.
De plus, ce n’est pas seulement que les mécanismes qui conviennent à la plupart des services de réseautage social ne conviennent pas à d’autres types d’activités sur Internet. Il est également vrai que les opérateurs des grandes entreprises de réseautage social ont un réel intérêt à brouiller la distinction entre leurs services et Internet. Aussi bien intentionnées soient-elles, lesdites entreprises ont tout intérêt à soutenir une réglementation qui fasse de l’architecture de leurs plateformes une caractéristique permanente de l’ensemble de l’Internet. Si les gouvernements commencent à adopter une réglementation de l’Internet qui favorise l’approche GIFCT, alors la conception des plateformes de réseautage social deviendra une caractéristique permanente de ce que nous pouvons faire avec Internet. Cela freinerait l’innovation future, y compris les innovations qui pourraient être plus résistantes aux contenus violents viraux en premier lieu. C’est ce qui rend l’annonce de la restructuration de la GIFCT à New York si inquiétante : elle a été annoncée par les gouvernements qui ont parrainé l’Appel de Christchurch, dans le cadre de leur programme continu.
Il est franchement étrange que les gouvernements semblent si à l’aise avec le GIFCT, puisque l’organisation restructurée s’est dotée d’un modèle de gouvernance qui donne aux entreprises participantes la pleine responsabilité. Les quatre membres fondateurs du GIFCT obtiennent des sièges permanents au conseil d’administration, et d’autres entreprises de technologie participantes peuvent également siéger au conseil qui prend toutes les décisions. Ni la société civile, ni la communauté technique, ni les gouvernements, ni les utilisateurs des plateformes, ni personne d’autre n’a jamais son mot à dire sur le fonctionnement du GIFCT, sur le contenu qui sera couvert, etc. Cette participation est reléguée à un comité consultatif composé de représentants gouvernementaux et de la société civile, mais sans aucune autorité réelle cependant. Ce comité est également censé être suffisamment restreint pour qu’il soit possible de vraiment discuter d’opinions diverses, d’autant plus que l’on ne sait pas très bien qui doit le composer. Ce qui est clair, c’est qu’au bout du compte, seules les entreprises de technologie seront en mesure d’influencer les décisions du GIFCT. Il est juste que le président Macron continue d’appeler cela un « nouveau multilatéralisme ». Le multilatéralisme dépend toujours de la participation de certaines parties prenantes seulement. Ce nouveau multilatéralisme sous-traite fondamentalement la solution au problème des contenus indésirables à un consortium d’acteurs du secteur, qui sera inévitablement dominé par les plus grandes entreprises du secteur en raison des ressources qu’elles doivent y consacrer.
Au-delà de la triste histoire de gouvernance, l’approche même du GIFCT repose sur le principe que l’éradication de ce contenu indésirable est à la fois possible et efficace. En fait, on peut même aller jusqu’à supposer que le fait d’essayer d’éradiquer les messages non désirés se retourne contre nous – que les gens déjà radicalisés le deviendront davantage. Ainsi, paradoxalement, en affaiblissant les communications protégées et en filtrant le contenu, les dirigeants mondiaux risquent de stimuler le terrorisme, plutôt que de dissuader les terroristes. Et bien sûr, même les meilleurs filtres sont imparfaits : ils laissent passer certains contenus qui devraient être filtrés, et ils filtrent du contenu qui n’aurait pas dû l’être. Ils entraînent aussi des conséquences secondaires : ceux qui travaillent à la protection des journalistes ou à la poursuite des crimes de guerre constatent progressivement que les preuves sur lesquelles ils s’appuyaient auparavant disparaissent à cause des filtres de contenu. Ainsi, l’activité fondamentale du GIFCT est au mieux une demi-mesure sur la voie d’un environnement en ligne sain ; et, l’activité pourrait même aggraver les choses. Comme on pouvait s’y attendre, ces problèmes sont tous censés être résolus par le miracle que semble être l’intelligence artificielle, mais personne ne peut dire comment cela va fonctionner.
Comme si cela ne suffisait pas, le GIFCT a toujours été controversé en partie parce qu’il semble être une solution à un problème sans s’attaquer aux racines dudit problème. Les simples solutions techniques aux problèmes sociaux ne fonctionnent presque jamais, et les problèmes liés au terrorisme et à l’extrémisme violent sont incontestablement des problèmes sociaux. La solution technique proposée consiste à essayer de supprimer le contenu indésirable. Le problème social semble être enraciné dans la façon dont les plateformes actuelles de réseautage social attirent et récompensent les utilisateurs. Il est au moins possible que le contenu extrémiste terroriste et violent « devienne viral » en raison d’une caractéristique dans la conception des plateformes. Peut-être que leur fonctionnement basé sur la publicité, qui exige l’attention des utilisateurs, les rend particulièrement doués pour mettre en avant d’horribles contenus. Pourtant, s’attaquer à ce problème pourrait avoir des effets négatifs sur les modèles d’affaires des entreprises impliquées dans le GIFCT : celles qui nommeront tous les membres votants du conseil d’administration du GIFCT. Sans une voix compensatrice dans sa gouvernance, le GIFCT ne pourra tout simplement pas aborder cette question de façon crédible. Les entreprises concernées ne doivent même pas s’engager à respecter les décisions du GIFCT, seulement à y contribuer.
Les défenseurs de la nouvelle structure organisationnelle du GIFCT attirent l’attention sur le nombre de (nouveaux) groupes de travail, qui pourraient être en mesure de faire des recommandations autres que le simple filtrage de contenu. Mais ironiquement, même dans ce cas, la refonte du GIFCT pourrait s’avérer être un obstacle autant qu’une aide. Puisque l’on est en train de transformer le GIFCT en une institution distincte des entreprises de plateformes de réseautage social, les données qui auraient pu être accessibles dans une entreprise de réseautage social précise devront désormais être traitées comme toutes les autres demandes de données des chercheurs. En raison des efforts accrus (et souhaitables !) des entreprises de réseautage social en matière de protection de la vie privée, de telles demandes de données sont aujourd’hui plus difficiles à satisfaire qu’elles ne l’étaient auparavant. Ainsi, même si la nouvelle institution est dominée, si ce n’est contrôlée, par les entreprises de la plateforme, il semble probable qu’être une entité distincte sera désavantageux au moment d’accéder aux données.
Il est encore temps d’éviter ces pièges. Pour ce faire, il faut revenir aux habitudes qui nous ont procuré de nombreux avantages de l’Internet. Au lieu du « nouveau multilatéralisme », qui nous a apporté cette institution d’une légitimité douteuse et d’une efficacité contestable, il convient d’entreprendre une consultation diversifiée et sérieuse avec le reste de l’Internet. Quand tout le monde a un intérêt en jeu, il convient d’aborder les problèmes de façon appropriée par la collaboration. Cela signifie, dans la pratique, l’approche désormais dénigrée, mais toujours utilisable, d’une institution multipartite. Pour ce faire, le groupe consultatif du GIFCT peut être rendu plus utile grâce à des engagements concrets et contraignants en matière de transparence organisationnelle : il convient donc d’inciter le conseil d’administration du GIFCT à rendre son travail public et s’assurer que nous comprenons ce qu’il fait, et d’utiliser le groupe consultatif pour surveiller ces travaux. Cela signifiera probablement aussi que les « rapports de transparence » entièrement définis, créés, publiés et vérifiés par la même organisation devront être au moins aussi solides que les méthodes modernes de comptabilité. En même temps, les gouvernements doivent reconnaître publiquement que le GIFCT, même s’il s’avère efficace dans le traitement d’un problème sur les plateformes de réseautage social, ne sera jamais une solution parfaite et sera presque certainement mal adapté aux autres types de technologie. Et toutes les personnes concernées doivent clairement définir ce que signifie, pour elles, efficace.
Nous devons être attentifs à tout, pas seulement à ce que nous n’aimons pas sur Internet. Par exemple, nous pouvons certainement empêcher le partage d’informations sur les activités terroristes et les contenus extrémistes violents en empêchant le partage de tout. Ce serait une victoire à la Pyrrhus.