¿Puede realmente expulsar a un usuario controvertido de Internet?

Jun 02, 2023

Libertad de expresión

Nicolás Nugent | 30.08.2023 8:01

(Esta publicación es parte de una serie de cinco partes sobre la regulación de la moderación de contenido en línea).

Cuando se trata de regular la moderación de contenidos, mi tesis general es que la ley, como mínimo, debería intervenir para evitar la "exclusión de puntos de vista", es decir, evitar que intermediarios privados expulsen completamente de Internet a usuarios, grupos o puntos de vista impopulares. . Pero el escéptico –quizás el purista que cree que el Estado nunca debería intervenir en la moderación de contenidos privados– podría cuestionar si la amenaza de exclusión del punto de vista existe siquiera. "Nadie corre el riesgo de ser expulsado de Internet", podría decir. "Si Facebook te prohíbe, puedes unirte a Twitter. Si Twitter no te acepta, puedes unirte a Parler. E incluso si todos los demás proveedores se niegan a albergar tu discurso, siempre puedes crear tu propio sitio web".

En mi artículo, Los cinco derechos en Internet, llamo a esta opcionalidad el "contrato social" de la moderación de contenido: nadie puede ser obligado a alojarte en Internet, pero tampoco nadie puede impedirte que te alojes a ti mismo. Después de todo, Internet está descentralizado. Y esta descentralización impide que cualquier parte privada, o incluso cualquier gobierno, actúe como punto de estrangulamiento central para la expresión en línea. Como dijo John Gilmore: "La Red interpreta la censura como un daño y la derrota".

Pero si bien este dicho puede haber sido cierto durante gran parte de la historia de Internet, hay indicios de que puede estar acercándose a su fecha de vencimiento. Y a medida que la moderación de contenido avanza más profundamente en Internet, el contrato social puede estar desmoronándose. En esta publicación, describiré las palancas técnicas que hacen posible la exclusión de puntos de vista y brindaré ejemplos de un creciente apetito por usar esas palancas.

Para ilustrar estos conceptos, resulta útil pensar en Internet no como un monolito sino como una pila (una pila de tres capas, por así decirlo). En la parte superior de la pila se encuentra la capa de aplicaciones, que contiene el universo de aplicaciones que ponen el contenido directamente a disposición de los consumidores. Esas aplicaciones incluyen servicios de llamadas de voz y video, aplicaciones móviles, juegos y, lo más importante, sitios web como Twitter (X), YouTube, Facebook y Medium.

Pero los sitios web no funcionan en el vacío. Dependen de la infraestructura, como la informática, el almacenamiento, las bases de datos y otros servicios necesarios para ejecutar sitios web modernos. Estos servicios web suelen ser proporcionados por proveedores de alojamiento y computación en la nube como WiX, Google Cloud, Microsoft Azure o Rackspace. Estos recursos forman la capa de infraestructura de Internet.

Sin embargo, ni siquiera los proveedores de infraestructura controlan su propio destino. Para hacer posible la comunicación por Internet, dichos proveedores dependen de recursos fundamentales, como redes, direcciones IP y nombres de dominio (DNS). Estos recursos centrales se encuentran en la capa más baja de Internet: la capa de infraestructura central.

La siguiente figura muestra este modelo de Internet de tres capas.

Con esta estructura en mente, pasamos ahora a la moderación de contenidos. Como veremos, la moderación de contenido ha evolucionado (y por lo tanto se ha vuelto más agresiva y más preocupante) al capturar más espacio dentro de la pila de Internet. En la siguiente discusión, divido esa evolución en cuatro etapas principales: moderación de contenido clásica, eliminación/no-plataforma, eliminación profunda de plataforma y exclusión de puntos de vista. Y para que los conceptos sean identificables, utilizaré un estudio de caso actual de un usuario ficticio de Internet que se encuentra a sí mismo como víctima de esta evolución cuando finalmente es expulsado de Internet.

Moderación de contenido clásica

En el escenario típico y clásico, cuando un sitio web toma medidas adversas contra un usuario o su contenido, lo hace porque el usuario ha violado los términos de servicio del proveedor a través de su contenido o conducta en el sitio. Por ejemplo, si un usuario (llamémosle "Jane") publica un meme ofensivo en su línea de tiempo que viola los Estándares comunitarios de Facebook, Facebook podría eliminar la publicación, suspender la cuenta de Jane o prohibirla por completo.

Aquí vemos la moderación de contenido clásica en acción, definida por dos variables: (1) el alcance de preocupación y (2) el alcance de acción. En este punto, Facebook se ha preocupado únicamente por la conducta de Jane en su sitio y si esa conducta viola las políticas de Facebook (alcance de la preocupación). Luego, habiendo decidido que Jane ha violado esas políticas, Facebook resuelve el problema simplemente eliminando el contenido de Jane de sus servidores, impidiendo que otros usuarios accedan a él o cancelando la cuenta de Jane (ámbito de acción). Pero lo más importante es que estas acciones se llevan a cabo únicamente dentro del sitio de Facebook y, una vez iniciada, Jane sigue siendo libre de unirse a cualquier otro sitio web. Por lo tanto, como se muestra a continuación, la moderación de contenido clásica se caracteriza por un ámbito de preocupación y un ámbito de acción limitados, los cuales se limitan a un solo sitio.

Desmontaje/Sin plataforma

Si Jane es una figura oscura, entonces las acciones contra su contenido podrían limitarse a la moderación de contenido clásica. Incluso si Facebook suspende permanentemente su cuenta, probablemente pueda saltar a otro sitio y empezar de nuevo. Pero si Jane es lo suficientemente famosa como para generar una reacción pública, entonces una campaña contra sus puntos de vista puede progresar hasta convertirse en un desplataformismo.

Como lo expresó un diccionario, "desplazarse" es "evitar que una persona que sostiene puntos de vista que no son aceptables para muchas personas contribuya a un debate o foro en línea". Por lo tanto, la desplataforma se dirige a usuarios o grupos en función de la ideología o el punto de vista que tienen, incluso si ese punto de vista no se expresa en la plataforma en cuestión. Por ejemplo, en abril de 2021, Twitch actualizó sus términos de servicio para reservarse el derecho de prohibir a los usuarios "incluso [por] acciones [que] ocurren completamente fuera de Twitch", como "membresía en un grupo de odio conocido". Según estos términos, la mera pertenencia a un grupo ideológico, sin ningún discurso o conducta que lo acompañe, podría descalificar a una persona del servicio. Otras plataformas destacadas han realizado cambios similares en sus términos de servicio, y las acciones de cumplimiento han incluido la desmonetización de un canal de YouTube después de que sus creadores alentaron a otros (fuera de la plataforma) a ignorar el distanciamiento social, la suspensión de las cuentas de Facebook e Instagram de los acusados ​​(pero aún no condenado) por delitos fuera del sitio y prohibir el acceso a Airbnb a un experto político (y a su esposo) después de que ella habló en una conferencia controvertida (fuera de línea). Dicho de otra manera, la desplataforma amplía el alcance de la preocupación más allá del sitio web particular en el que un usuario podría expresar una opinión desfavorable para abarcar las palabras o acciones del usuario en cualquier sitio web o incluso las palabras y acciones del usuario fuera de línea.

Además, en algunos casos, el alcance de la acción puede expandirse horizontalmente si la eliminación de plataformas avanza hasta llegar a ser "sin plataformas". Tal como uso el término, la no plataforma ocurre cuando uno o más terceros objetores (otros usuarios, periodistas, grupos de la sociedad civil, por ejemplo) trabajan para marginar a un orador impopular aplicando presión pública a cualquier proveedor de aplicaciones que esté dispuesto a albergar el altavoz. Por ejemplo, los detractores de Jane podrían montar una tormenta en Twitter o amenazar con boicots masivos contra cualquier sitio web que dé la bienvenida a Jane como usuario, persiguiendo a Jane de un sitio a otro para impedirle tener una plataforma desde la cual evangelizar sus puntos de vista. Como se muestra a continuación, el efecto práctico de una campaña exitosa sin plataformas es negar por completo a un orador impopular el acceso a la capa de aplicación.

Desmontaje profundo

"Pero Jane no se pudo iniciar completamente desde la capa de aplicación", se podría decir. "Seguramente algún sitio web estaría dispuesto a albergar sus puntos de vista. O, en el peor de los casos, siempre podría crear su propio sitio web".

Mientras la moderación del contenido se limite a la capa de aplicación, esos sentimientos son ciertamente correctos. Captan la naturaleza descentralizada de Internet y la supuesta capacidad de cualquier orador emprendedor para actuar por su cuenta.

Pero se vuelven menos ciertas a medida que la moderación de contenido se expande hacia la capa de infraestructura de Internet. Como se explicó anteriormente, esa capa contiene la informática, el almacenamiento y otros recursos de infraestructura de los que dependen los sitios web. Y debido a que los sitios web generalmente dependen de proveedores externos de alojamiento y computación en la nube para estos recursos, un sitio web podría funcionar sólo si sus proveedores aprueban lo que permite a sus usuarios decir.

Por lo tanto, incluso si Jane migra a algún sitio web que simpatiza con sus puntos de vista o que simplemente defiende la libertad de expresión ("nichehub.xyz" para los fines de este estudio de caso), el propio NicheHub podría tener dependencias de WiX, Google Cloud, Microsoft Azure, o Rackspace. Cualquiera de estos proveedores puede amenazar con apagar NicheHub a menos que deje de albergar a Jane o sus puntos de vista. De manera similar, si Jane decide crear su propio sitio web, su esfuerzo podría verse obstaculizado por proveedores de infraestructura que se niegan a brindarle los servicios de alojamiento que necesita para permanecer en línea.

Estos desarrollos caracterizan el "deplatforming profundo", una forma más agresiva de deplatforming que utiliza la cancelación de segundo orden para tapar los agujeros dejados por las técnicas convencionales. Como se muestra a continuación, la eliminación profunda de plataformas expande verticalmente tanto el alcance de preocupación como el alcance de acción para abarcar la capa de infraestructura de la pila de Internet. El efecto práctico es evitar que oradores impopulares utilicen sitios web como plataformas (incluso sitios web de terceros o sus propios sitios web) al centrarse en las dependencias técnicas de esos sitios web.

Quizás el ejemplo más conocido de desplataforma profunda fue el de Parler, la red social alternativa que se presentó como una alternativa favorable a la libertad de expresión frente a Facebook y Twitter. Después del motín del 6 de enero en el Capitolio, la atención se centró en el supuesto papel de Parler en el alojamiento de usuarios que amplificaron la retórica de "Stop the Steal" de Donald Trump, y aumentó la presión contra los proveedores en los que Parler confiaba para permanecer en línea. Como resultado, Amazon Web Services (AWS), un proveedor de computación en la nube que Parler utilizaba para alojamiento y otros recursos de infraestructura, canceló la cuenta de Parler, dejando a Parler, junto con todos sus usuarios, fuera de línea.

La figura anterior también introduce un nuevo concepto cuando se trata de evadir la eliminación de plataformas: el alcance del control. Mientras Jane dependa de operadores de sitios web de terceros para que le proporcionen un foro, ella controla poco. Puede participar en la capa de aplicación (y, por tanto, hablar en línea) sólo cuando los demás lo deseen. Sin embargo, al crear su propio sitio web, puede ampliar verticalmente su alcance de control hasta la capa de aplicación, protegiéndola así de las acciones de otros operadores de sitios web (aunque no de las acciones de los proveedores de infraestructura).

Ejecución hipotecaria del punto de vista

"Ah, pero ¿Jane no puede simplemente integrarse verticalmente en otra capa? ¿No puede simplemente comprar sus propios servidores web y alojar su propio sitio web?"

Tal vez. Ciertamente puede hacerlo desde una perspectiva técnica. Y hacerlo eliminaría su dependencia de otros proveedores de infraestructura. Pero los servidores no son baratos. También es costoso conectarse a Internet, ya que muchos ISP residenciales no permiten que los suscriptores alojen sitios web y no proporcionan direcciones IP estáticas, lo que obliga a los operadores de sitios web autohospedados a comprar un servicio comercial de Internet. Y dejando de lado los recursos financieros, es posible que Jane no tenga la experiencia necesaria para montar sus propios servidores web. La mayoría de los oradores en su posición probablemente no lo harían.

Pero incluso si Jane tiene tanto el dinero como las habilidades técnicas para ser anfitriona, aún puede ser desconectada si la moderación de contenido avanza hasta la "embargo del punto de vista", su etapa terminal. Como se muestra a continuación, la exclusión del punto de vista ocurre cuando los proveedores en la capa de infraestructura central revocan los recursos de los que dependen los proveedores de infraestructura.

Por ejemplo, los registradores de nombres de dominio, como GoDaddy y Google, han optado cada vez más por suspender los nombres de dominio asociados con sitios web ofensivos, aunque legales. Los ejemplos incluyen la suspensión de gab.com y ar15.com por parte de GoDaddy, la suspensión de dailystormer.com por parte de Google y la suspensión de incels.me por parte de DoMEN.

Los ISP también han entrado en juego. En respuesta a una huelga laboral, Telus, el segundo mayor proveedor de servicios de Internet de Canadá, bloqueó el acceso de sus suscriptores a un sitio web que apoyaba la huelga. Y en lo que sólo podría describirse como represalia por la suspensión permanente de las cuentas de redes sociales de Donald Trump, un proveedor de servicios de Internet en una zona rural de Idaho supuestamente bloqueó el acceso de sus suscriptores a Facebook o Twitter.

Pero lo más preocupante de todo fue un evento de la saga Parler que recibió poca atención pública. Después de ser expulsado de AWS, Parler finalmente logró encontrar un host en DDoS-Guard, un proveedor de nube ruso que ha servido como refugio para otros sitios web exiliados. Sin embargo, en enero de 2021, Parler volvió a desconectarse después de que el Centro de Información de Redes de América Latina y el Caribe (LACNIC), uno de los cinco registros regionales de Internet responsables de administrar las direcciones IP del mundo, revocara las direcciones IP DDoS-Guard en las que confiaba. Esa revocación fue cortesía de Ron Guilmette, un investigador que, según un experto en seguridad, "ha convertido en una especie de misión personal desbancar a los teóricos de la conspiración y a los grupos de extrema derecha".

Si ningún sitio web acoge a un usuario como Jane, que tiene puntos de vista impopulares, ella puede crear su propio sitio web. Si ningún proveedor de infraestructura aloja su sitio web, puede integrarse verticalmente comprando sus propios servidores y alojando ella misma. Pero si se le niega aún más el acceso a recursos infraestructurales básicos como nombres de dominio, direcciones IP y acceso a la red, se hundirá. La Internet pública utiliza un único sistema de nombres de dominio y un único espacio de direcciones IP. No puede crear sistemas alternativos para llegar a su audiencia a menos que esencialmente cree una nueva Internet y convenza al mundo para que la adopte. Tampoco puede, de manera realista, construir su propia red de fibra global para que su sitio web sea accesible. Si se le niegan recursos dentro de la capa de infraestructura central, ella y sus puntos de vista quedarán, para todos los efectos, exiliados de Internet.

Si bien Parler finalmente encontró su camino nuevamente en línea, e incluso sitios como Daily Stormer han logrado evadir el destierro total de Internet, no cabe duda de que el apetito por convertir en armas los recursos infraestructurales centrales de Internet está aumentando. Por ejemplo, en 2021, como forma de represalia ideológica, ciertos ISP africanos discutieron públicamente dejar de enrutar paquetes a direcciones IP pertenecientes a un proveedor colo inglés que había demandado al registro regional de Internet de África. Y en marzo de 2022, quizás inspirada por los ejemplos anteriores, Ucrania solicitó al registro regional de Internet de Europa que revocara los dominios de nivel superior de Rusia (por ejemplo, .ru, .su), desactivara los servidores raíz DNS situados en territorio ruso y retirara el derecho de cualquier El ISP ruso puede utilizar cualquier dirección IP europea.

En resumen, si bien hoy en día no necesariamente se expulsa a los usuarios de Internet por expresar opiniones impopulares, existen medios técnicos para hacerlo. También parece que nos estamos moviendo hacia un mundo en el que ese tipo de exclusión puede convertirse en rutina.