Substack tiene herramientas de boletines líderes en la industria y una plataforma a la que acuden los escritores independientes, pero sus recientes errores en la moderación de contenido podrían resultar costosos.
A finales de noviembre, el Atlántico reportado que una búsqueda en la plataforma de publicación “aparece en Substack decenas de boletines de supremacía blanca, neoconfederados y explícitamente nazis; muchos de ellos aparentemente comenzaron el año pasado”. Eso incluía 16 boletines con imágenes nazis explícitas, incluidas esvásticas y el símbolo del sol negro que suelen emplear los supremacistas blancos modernos. Las imágenes aparecieron en lugares destacados de Substack, incluidos algunos logotipos de boletines, lugares que el tipo de sistemas de moderación algorítmica estándar en las plataformas de redes sociales tradicionales podrían detectar fácilmente.
Los escritores de Substack tomaron nota y una carta que recogía las firmas de casi 250 autores en la plataforma presionó a la compañía para que explicara su decisión de publicar y sacar provecho de los neonazis y otros supremacistas blancos. “¿Las plataformas nazis son parte de su visión del éxito?” ellos escribieron. “Háganos saber: a partir de ahí, cada uno de nosotros puede decidir si todavía queremos estar aquí”.
En ese momento, el director ejecutivo de Substack, Hamish McKenzie dirigido las crecientes preocupaciones sobre el enfoque agresivo de no intervención de Substack en una nota en el sitio web, observando que si bien “tampoco nos gustan los nazis”, Substack rompería con las normas de moderación de contenido al continuar alojando contenido extremista, incluidos boletines informativos de nazis y otros supremacistas blancos.
“Continuaremos haciendo cumplir activamente esas reglas mientras ofrecemos herramientas que permitan a los lectores seleccionar sus propias experiencias y optar por sus comunidades preferidas”, escribió McKenzie. “Más allá de eso, nos apegaremos a nuestro enfoque descentralizado de moderación de contenido, que otorga poder a lectores y escritores”.
McKenzie pasa por alto o no le preocupa la forma en que amplificar el odio (en este caso, nada menos que la autodeclarada supremacía blanca y la ideología nazi) sirve para quitar poder, ahuyentar e incluso silenciar a los objetivos de ese odio. Acoger incluso una pizca de ese tipo de extremismo envía un mensaje claro de que se permite más.
McKenzie continuó afirmando que la compañía traza una línea en las “incitaciones a la violencia”, que según la definición de Substack necesariamente deben ser intensamente específicas o cumplir con criterios no articulados, dada su decisión de albergar ideologías que, por definición, buscan erradicar las minorías raciales y étnicas y establecer un etnoestado blanco.
En su propio aprobación En la carta abierta de los autores de Substack, Margaret Atwood observó lo mismo. “¿Qué significa o significa “nazi”?” —Preguntó Atwood. “Muchas cosas, pero entre ellas está ‘Matar a todos los judíos’… Si ‘nazi’ no significa esto, ¿qué significa? Estaría ansioso por saberlo. Tal como están las cosas, cualquiera que muestre la insignia o reclame el nombre está diciendo en realidad ‘Maten a todos los judíos’”.
Nada de esto es una sorpresa. Entre los espíritu declarado del liderazgo de la empresa y controversias previas Eso alejó a muchos usuarios transgénero de la plataforma, la falta de experiencia de Substack e incluso el desinterés activo en las herramientas más fundamentales de moderación de contenido fueron bastante claros al principio de su trayectoria ascendente.
A principios del año pasado, el director ejecutivo de Substack, Chris Best no logró articular respuestas a preguntas sencillas del editor en jefe de Verge, Nilay Patel, sobre la moderación de contenido. La entrevista se produjo cuando Substack lanzó su propia plataforma social de microblogging similar a Twitter (ahora X), conocida como Notes. Best finalmente adoptó una postura defensiva tambaleante de que “no participaría en especulaciones o contenido específico de ‘permitiría esto o aquello’”, cuando se le presionó para que respondiera si Substack permitiría que proliferara el extremismo racista.
En una publicación de seguimiento, McKenzie hizo un gesto flácido para corregir el registro. “Lo arruinamos”, escribió. “Y en caso de que alguien tenga alguna duda: no nos gusta ni aprobamos la intolerancia en ninguna forma”. El problema es que Substack, a pesar de su defensa, funcionalmente lo hizo, permitiendo incluso un boletín monetizado del organizador de Unite the Right y prominente supremacista blanco Richard Spencer. (Substack obtiene un porcentaje del 10 por ciento de los ingresos de los escritores que monetizan su presencia en la plataforma).
Los autores de substack se encuentran en una encrucijada
En medio de las consecuencias de Substack, que están en curso, otra ola de autores desilusionados está contemplando abandonar Substack, con un número sustancial de lectores a cuestas. “Dije que lo haría y lo hice, por lo que Today in Tabs finalmente está libre de nuestra antigua plataforma lamentable, que no se volvió menos lamentable durante las vacaciones”, dijo el autor de Today in Tabs, Rusty Foster. escribió de su decisión de cambiarse al competidor de Substack Beehiiv.
Desde su rincón de Substack, el autor de Platfomer y periodista tecnológico Casey Newton sigue presionando a la empresa para tomar medidas enérgicas contra el contenido nazi, incluida una lista de cuentas que el propio equipo de Platformer identificó y proporcionó que parecen violar las reglas de la compañía contra la incitación a la violencia. Newton, que ha seguido la moderación de contenido en sitios de redes sociales tradicionales durante años, presenta un caso conciso de por qué Substack tiene cada vez más en común con esas empresas (Facebook, Twitter y YouTube) que con, por ejemplo, Dreamhost:
“[Substack] Quiere ser visto como un proveedor puro de infraestructura, algo así como Cloudflare, que aparentemente sólo tiene que moderar el contenido una vez cada pocos años. Pero Cloudflare no recomienda blogs. No envía un resumen de los sitios web para visitar. No ejecuta una red social basada en texto ni recomienda publicaciones que te puedan gustar en la parte superior.
… Hacer la vista gorda ante el contenido recomendado casi siempre resulta perjudicial para la plataforma. Fueron las recomendaciones en Twitter, Facebook y YouTube las que ayudaron a que Alex Jones pasara de ser un teórico de la conspiración marginal a convertirse en un gigante que podía aterrorizar a las familias hasta sacarlas de sus hogares. Fueron las recomendaciones las que convirtieron a QAnon de un troleo loco en 4Chan a un movimiento nacional violento. Fueron las recomendaciones las que ayudaron a construir el moderno movimiento antivacunas.
En el momento en que una plataforma comienza a recomendar contenido, es el momento en que ya no puede pretender ser un simple software”.
El lunes, subpila acordó eliminar “varias publicaciones que respaldan la ideología nazi” de la lista de cuentas marcadas de Platformer. A pesar del escrutinio en curso, la compañía sostuvo que no comenzaría a eliminar de manera proactiva contenido extremista y neonazi en la plataforma, según Platformer. Substack está intentando enhebrar la aguja prometiendo que está “trabajando activamente en más herramientas de informes” para que los usuarios puedan marcar contenido que podría violar sus pautas de contenido y realizar efectivamente el trabajo de moderación más básico de la compañía, que en sí es una red social tradicional. Tradición de plataforma.
Más pulido en muchos aspectos que un Rumble o un Truth Social, las útiles herramientas editoriales de Substack y su razonable participación en las ganancias han atraído a autores cansados de todo el espectro político ansiosos por un lugar donde colgar el sombrero. Pero hasta que Substack se tome más en serio la moderación de contenido, corre el riesgo de perder a los escritores convencionales (y a sus suscriptores) que están legítimamente preocupados de que sus ejecutivos insistan en mantener la luz encendida sobre los neonazis y los de su calaña.
Substack ha ofrecido durante mucho tiempo un punto de aterrizaje suave para escritores y periodistas que se lanzan por su cuenta, pero es poco probable que la última medida a medias de la compañía le sienta bien a cualquiera que esté preocupado por las políticas de la plataforma por mucho tiempo. Es lamentable que los escritores y lectores de Substack ahora tengan que lidiar con otra forma más de precariedad evitable en el mundo editorial.