Donate
El GIFCT en el punto de mira Thumbnail
‹ Back
Gobernanza de Internet 11 Octubre 2019

El GIFCT en el punto de mira

Andrew Sullivan
By Andrew SullivanPresident & CEO

La reciente reunión de la Asamblea General de las Naciones Unidas (AGNU) destacó por la atención prestada al clima del planeta Tierra. Se celebraron varias reuniones en torno a la AGNU sobre otro clima: un clima de miedo, indignación y violencia que se cierne sobre Internet.

El pasado mes de marzo, un hombre (solo hay un acusado) disparó a decenas de personas en dos ataques a mezquitas durante la oración. El atacante emitió los primeros 17 minutos del ataque por Facebook Live. El uso de un servicio de Internet en un hecho así, sumado a la preocupación general sobre el uso de Internet por parte del terrorismo y del extremismo violento, dio pie al Manifiesto de Christchurch.

Existen motivos para sentirse optimistas con el Manifiesto de Christchurch. Pocas veces se ha visto a los gobiernos colaborar de una forma tan expeditiva y rápida en un problema social global. En una reunión paralela en la AGNU de Nueva York, 30 países más firmaron el Manifiesto, que ya han suscrito 50 países. Nueva Zelanda lideró esta iniciativa haciendo hincapié en que los gobiernos no pueden abordar solos el problema, y ha buscado la participación (mediante una red de asesores) en decisiones que nos afectan a todos sin excepción.

Con todo, es posible que haya motivos para mostrar más cautela que optimismo. En la misma reunión paralela se anunció la “reforma” del Foro Global de Internet Contra el Terrorismo (GIFCT, por sus siglas en inglés). El GIFCT fue creado por grandes empresas de redes sociales en 2017, para colaborar en el tratamiento del “contenido terrorista” publicado en los servicios de las empresas. La definición de “contenido terrorista” ha cambiado con el tiempo y ahora se denomina “contenido terrorista y extremista violento” para dejar claro que no todos los objetivos son miembros de organizaciones terroristas identificables. Independientemente de estos detalles, el GIFCT parece una idea maravillosa y es posible que valga la pena el esfuerzo. No obstante, queda todavía mucho trabajo por delante para garantizar que el GIFCT no se convierta en un mero mecanismo para que varias grandes empresas consoliden sus ventajas actuales.

El primer problema con el GIFCT es que, si bien afirma ser un foro de Internet, en realidad no lo es. Se trata de un foro en el que las grandes empresas de plataformas sociales comparten sus técnicas de filtrado de contenido con la finalidad de encontrar determinado tipo de contenido y eliminarlo de las plataformas participantes. Las plataformas de redes sociales no son Internet, y las soluciones de arquitectura que comparten generalmente no son las mismas que las de cualquier otro servicio de Internet. Lógicamente, nadie, excepto los terroristas, quiere difundir contenido terrorista en las redes sociales, por lo que quizá sea buena idea que las empresas de redes sociales colaboren en hacer algo con ese contenido. Con todo, la mayoría de los servicios de redes sociales están diseñados con una autoridad central que controla el flujo de contenido, y muchos otros servicios de Internet no están diseñados para soportar dicha centralización. Las soluciones técnicas que sirven para un tipo de servicio no son compatibles con todos.

Además, ya no se trata únicamente de que los mecanismos que sirven para la mayoría de los servicios de redes sociales son una solución pobre para otro tipo de actividad en Internet. También se da el caso de que los operadores de las grandes empresas de redes sociales están realmente interesados en difuminar la distinción entre sus servicios e Internet. Independientemente de sus buenas intenciones, las empresas en cuestión están interesadas en fomentar una normativa que convierta la arquitectura de sus plataformas en una característica permanente de todo Internet. Si los gobiernos empiezan a aprobar leyes de Internet que favorezcan el enfoque del GIFCT, el diseño de las plataformas de redes sociales se convertirá en una característica permanente de lo que podamos hacer con Internet. Una cosa así cerrará las puertas a la innovación futura, incluidas innovaciones que podrían ser más resistentes a contenido violento viral, para empezar. Esto es una parte de lo que hace que el reciente anuncio de restructuración del GIFCT en Nueva York sea tan preocupante: los gobiernos que se sumaron al Manifiesto de Christchurch lo anunciaron satisfactoriamente como parte de su programa permanente.

Resulta verdaderamente raro que los gobiernos se muestren tan cómodos con el GIFCT, ya que la organización reestructurada ha instaurado un modelo de gobernanza que da el control total a las empresas participantes. Los cuatro miembros natos del GIFCT son miembros permanentes de la junta y el resto de empresas tecnológicas participantes también podrían estar en la junta que toma todas las decisiones. Ni la sociedad civil, ni la comunidad técnica, ni los gobiernos, ni los usuarios de las plataformas, ni cualquier otra persona podrá influir en el funcionamiento del GIFCT, el contenido que tratará, etc. Dicha participación queda relegada a un comité asesor con miembros del gobierno y de la sociedad en general, pero sin un peso importante claro. También se supone que ese comité será bastante pequeño por lo que la diversidad de opinión está en duda, sobre todo porque todavía no se ha definido claramente cómo estará formado el comité. Lo que sí está claro es que, al fin y al cabo, las empresas tecnológicas son las únicas que pueden influir en cualquier decisión del GIFCT. Está bien que el presidente Macron siga refiriéndose a esto como un “nuevo multilateralismo”. El multilateralismo siempre depende de que solo participen determinadas partes interesadas. Básicamente, este nuevo multilateralismo externaliza la solución al problema del contenido no deseado a un consorcio de actores de la industria, que estará irremediablemente dominado por las empresas más grandes del sector, dados los recursos que han dedicado a ello.

Si dejamos aparte la triste historia de gobernanza, el enfoque real del GIFCT se basa en el principio de que extirpar este contenido no solo es posible, sino también efectivo. De hecho, existen varios motivos para suponer que tratar de extirpar mensajes no deseados resulta contraproducente, ya que radicaliza todavía más a personas ya radicalizadas. Por lo tanto, paradójicamente, al debilitar comunicaciones protegidas y filtrar contenido, los líderes globales se arriesgan a aupar a los terroristas en lugar de neutralizarlos. Y lógicamente, hasta los mejores filtros son imperfectos: no filtran contenido que deberían filtrar y filtran contenido que no debería filtrarse. También tienen efectos secundarios: las personas que trabajan para proteger a periodistas o investigar crímenes de guerra están descubriendo paulatinamente que las pruebas en las que solían confiar están desapareciendo debido a los filtros de contenido. Así pues, la actividad fundamental del GIFCT es, en el mejor de los casos, una medida a medias para garantizar un entorno online saludable; y la actividad no podría sino empeorar las cosas. Como es de esperar, estos problemas se tendrían que solucionar con los polvos mágicos de la Inteligencia Artificial, pero nadie sabe decir cómo funcionará.

Y por si no bastase, el GIFCT siempre ha sido algo polémico, porque parece una solución a un problema sin abordarlo desde la raíz. Unos cuantos simples parches tecnológicos para problemas sociales no funcionan casi nunca, y no cabe duda de que los problemas interrelacionados de terrorismo y extremismo violento son problemas sociales. El parche tecnológico va a tratar de eliminar contenido no deseado. El problema social parece estar enraizado en las formas que usan las plataformas de redes sociales actuales para atraer y premiar a los usuarios. Es posible que el contenido terrorista y extremista violento se “haga viral” debido a una característica de diseño de las plataformas. Es posible que su actividad basada en la publicidad, que requiere la atención del usuario, las haga especialmente buenas para difundir contenido espeluznante. No obstante, abordar este asunto puede tener efectos negativos en los modelos de negocio de las empresas que participan en el GIFCT, las mismas que nombrarán a los miembros de la junta con derecho a voto en el GIFCT. Sin una voz de contrapeso en su gobernanza, no habrá ninguna forma de que el GIFCT trate este asunto de una forma creíble. No existe ni la promesa de que las empresas participantes acatarán las decisiones del GIFCT. Solo contribuirán a ello.

Los defensores del nuevo diseño de organización del GIFCT esgrimirán la cantidad de grupos de trabajo (nuevos), que podrán hacer recomendaciones que vayan más allá de filtrar contenido. Pero irónicamente, puede que la reforma del GIFCT sea tanto un obstáculo como una ayuda en este sentido. Puesto que el GIFCT se va a convertir en una institución independiente de las empresas de plataformas de redes sociales, el acceso a los datos que pudiera haber sido posible mientras se trabaja con una empresa de red social determinada ahora se tendrá que tratar como cualquier otra solicitud de datos de los investigadores. Como consecuencia del aumento (deseable) de las iniciativas en torno a la privacidad de las empresas de redes sociales, actualmente dichas solicitudes de datos son más difíciles de atender que antes. Así pues, aunque la institución estará dominada, por no decir controlada, por las empresas de redes sociales, parece que van a tener las desventajas del acceso a los datos por ser una entidad independiente.

Todavía hay tiempo para evitar estos inconvenientes. Para ello, es necesario cambiar los hábitos que nos trajeron muchas de las ventajas de Internet. En lugar del “nuevo multilateralismo”, que nos ha traído esta institución de dudosa legitimidad y cuestionable efectividad, es necesario garantizar una consulta amplia y significativa con el resto de Internet. Un problema que afecta a todo el mundo se aborda mejor desde la colaboración. En la práctica, esto significa un enfoque de una institución con múltiples partes implicadas, actualmente criticada, pero todavía útil. Para lograr esto, el consejo consultivo del GIFCT puede hacerse más efectivo mediante compromisos más profundos y vinculantes con la transparencia organizativa: hacer que la junta del GIFCT trabaje en público y que todos sepamos qué está haciendo, y el uso del órgano consultivo para supervisar su actividad. Probablemente esto también significa que los “informes de transparencia” que se definan, creen, publiquen y auditen en su totalidad por la misma organización acaben favoreciendo algo que sea, como mínimo, tan sólido como los métodos de rendición de cuentas modernos. Al mismo tiempo, los gobiernos deben reconocer públicamente que el GIFCT, incluso aunque acabe funcionando para abordar un problema en las plataformas de redes sociales, nunca será una solución perfecta y con toda probabilidad no sea eficaz para otros tipos de tecnología. Y todas las partes implicadas tienen que definir claramente qué significa funciona.

No solo tenemos que estar alerta a aquello que no nos gusta en Internet. Por ejemplo, sí se puede evitar la difusión de contenido terrorista y extremista violento evitando que se comparta todo. Aunque también es verdad que eso sería una victoría pírrica.

‹ Back

Disclaimer: Viewpoints expressed in this post are those of the author and may or may not reflect official Internet Society positions.

Artículos relacionados

25 Años de Internet Society
25 Años de Internet Society
25 Anniversario25 Septiembre 2017

25 Años de Internet Society

Ha sido una semana tormentosa, con eventos celebrados en todo el mundo para celebrar los 25 años de la defensa...

Guía general del IETF 101: la resiliencia de la infraestructura de Internet
Guía general del IETF 101: la resiliencia de la infraestructura de Internet
Estándares abiertos de Internet12 Marzo 2018

Guía general del IETF 101: la resiliencia de la infraestructura de Internet

En esta nota, que forma parte del Internet Society Rough Guide to IETF 101, me centraré en el trabajo importante que...

Grandes esperanzas y algunas preocupaciones para la Gran Cumbre Africana de Internet (AIS)
Grandes esperanzas y algunas preocupaciones para la Gran Cumbre Africana de Internet (AIS)
Eventos4 Junio 2018

Grandes esperanzas y algunas preocupaciones para la Gran Cumbre Africana de Internet (AIS)

A principios de este mes, la comunidad africana de Internet se reunió en Dakar, Senegal, para la Cumbre de Internet...

Join the conversation with Internet Society members around the world