La independencia en la moderación de contenidos

Los administradores de redes sociales no pueden tolerar toda expresión en sus plataformas. Están obligados a maximizar el valor para sus accionistas. Permitir algunas expresiones en una plataforma podría espantar algunos usuarios. Entonces los administradores de redes sociales establecen reglas con la intención de maximizar el número de usuarios. Los administradores también contratan moderadores de contenido para hacer cumplir esas reglas. Los usuarios que son expulsados no tienen de qué quejarse. Cuando se unieron a la plataforma ellos acordaron respetar las reglas y la manera en que se logra que estas sean respetadas. Fin de la historia. 

Excepto que ese no es el fin de la historia. Los administradores de redes sociales no parecen creer que el consentimiento mutuo sobre unas reglas y su aplicación es suficiente para hacer de la moderación del contenido algo legítimo. Para los propósitos actuales, yo simplemente acepto esta creencia; no necesitamos considerar aquí su validez. Si el consentimiento no es suficiente, las redes sociales necesitan otras justificaciones para su legitimidad. Algunos administradores de redes sociales adoptaron un modelo judicial: el debido proceso lograría la legitimidad. Por ejemplo, Facebook estableció normas escritas cuyo cumplimiento últimamente sería apelado ante una Junta de Supervisión (OSB, por sus siglas en inglés). 

¿Cómo podría ser un proceso de apelaciones legítimo? El acta constitutiva, los estatutos y el Código de Conducta de los miembros de la OSB menciona las palabras “independiente” o “independencia” 28 veces. Aquí hay algunos ejemplos. La OSB establecida por “un fideicomiso independiente e irrevocable” que supervisa las cuestiones administrativas. El propósito de la OSB “es proteger la libre expresión tomando decisiones basadas en principios e independientes acerca de piezas importantes de contenido…” A los miembros de la OSB se les requiere “ejercer un juicio neutral e independiente y generar decisiones de manera imparcial”. Además, los miembros de la OSB “no deben tener conflictos de intereses reales o percibidos que podrían comprometer su juicio y toma de decisiones independientes”. Los estatutos dicen que los miembros “ejercerán un juicio neutral e independiente y generarán decisiones de manera imparcial”.

El adjetivo independiente tiene muchos significados. El más relevante aquí es “no sujeto al control por parte de otros”. Muchos temen que la moderación del contenido en las redes sociales dependerá de las prioridades financieras de las empresas de tecnología. Las redes sociales más exitosas son (y serán) propiedad de sus accionistas. Sus administradores tendrán el deber de maximizar el valor para esos accionistas. ¿Qué hay de malo en eso? Los críticos dicen que la maximización de ganancias conduce a las redes sociales a tolerar expresiones que podrían perjudicar a otros. Las redes sociales buscan involucrar a los usuarios y mantenerlos dentro de una plataforma, maximizando así los ingresos. Los críticos afirman, sin embargo, que algunas expresiones que perjudican a otros también atraen usuarios. Las redes sociales pueden proteger a los usuarios solamente si fracasan en maximizar las ganancias. De esta manera, se argumenta, las redes sociales de propiedad privada son percibidas como entidades que se enfrentan a un conflicto potencial entre sus obligaciones ante sus accionistas y la independencia de su moderación de contenidos (incluyendo el proceso de apelaciones).

Sin embargo, observamos que una importante plataforma de red social, Facebook, ha creado un proceso independiente para gobernar su moderación de contenido. Los administradores de contenido están conscientes de su obligación ante sus accionistas. Deben ver la moderación de contenidos independiente como un medio para satisfacer esa obligación, al menos a mediano plazo. Tal vez están equivocados acerca de eso. Pero los administradores tienen mejores incentivos que sus críticos para adoptar las mejores políticas sobre esta cuestión. Por ahora, podemos asumir que la moderación independiente de contenidos no necesariamente debe causar problemas para los accionistas. 

Facebook también parece considerar como iguales la independencia y la imparcialidad. De hecho, toda una sección del Código de Conducta de los miembros de la OSB discute “la independencia e imparcialidad”. Merriam-Webster agrega de manera útil:

Ser “parcial” o “parcial hacia” alguien o algo es estar algo sesgado o prejuiciado, lo cual implica que una persona que es parcial realmente solo ve una parte de la toda la imagen. Ser imparcial es lo contrario. 

El Código de Conducta discute varias fuentes de conflicto de intereses y por lo tanto la parcialidad. Los miembros no deberían aceptar regalos. No pueden haber trabajado para Facebook. El Código identifica dos amenazas menos tradicionales a la imparcialidad: “la expresión pública politizada o partidista de respaldo o crítica a un partido político, candidato político, o funcionario electo” y “el levantamiento de fondos público para respaldar a un partido político, un candidato político o un funcionario electo”. El juicio de un miembro de la junta podría estar comprometido ya sea por intereses económicos o políticos. Eso tiene sentido. El dinero puede corromper el juicio pero también lo podría hacer el partidismo; la política actual sería el último lugar donde buscar la imparcialidad. 

Los funcionarios estatales ciertamente amenazan la independencia e imparcialidad de la moderación de contenidos. Dichos funcionarios muchas veces son intolerantes de las críticas y buscan censurarlas. En EE.UU., tales críticas están protegidas por la Primera Enmienda. Pero la Constitución de EE.UU. no protege las expresiones en foro privados como las redes sociales. Los funcionarios electos podrían estar tentados a “persuadir” a los administradores de redes sociales de suprimir las expresiones no favorecidas. De esta manera, la moderación del contenido en redes sociales podría volverse parcial a los intereses del gobierno y dependiente de los funcionarios electos. 

El Código de Facebook separa su OSB del gobierno: “Los miembros y el personal de la junta y sus familiares inmediatos no interactuaran con funcionarios estatales (incluyendo los miembros familiares inmediatos de los funcionarios estatales) acerca de su servicio en la junta y/o los casos que están considerando”. Un requisito razonable, pero las amenazas (o, asimismo, las ofertas) no necesitan hacerse en persona. El diseño de la OSB también ayuda a mantener afuera al gobierno. Los administradores de Facebook no pueden despedir a miembros de la OSB. Facebook ha financiado la OSB por seis años. Los miembros de la OSB es probable que estén mucho menos interesados que Facebook en los asuntos relacionados a las cuestiones regulatorias. De hecho, los miembros de la OSB puede que no estén dispuestos a ayudar a Facebook con su problema político precisamente porque ven la independencia de la Junta como algo esencial para su existencia. Pero todo esto podría ser suplementado mediante una buena política pública. En EE.UU., la independencia de las redes sociales y la moderación de su contenido deberían tener un respaldo judicial claro similar a aquellas protecciones provistas a las decisiones editoriales en los medios más tradicionales. En las naciones donde tales protecciones no existen, la dependencia de las redes sociales de los funcionarios estatales podría seguir siendo un problema. El problema político va más allá de la acción estatal. Todos saben que la expresión en las redes sociales tiene pocas protecciones por parte de la moderación del contenido. Inducir a los administradores de redes sociales a suprimir ciertos tipos de expresión podría parecer ofrecer beneficios sustanciales no solo para los funcionarios electos sino también para los grupos interesados en diseñar políticas. Si algunos individuos no son escuchados en las redes sociales, sus oponentes podrían obtener una ventaja relativa en los debates de políticas públicas y en las elecciones (una manera indirecta de influir el diseño de las políticas públicas). Considere un ejemplo análogo. Los productores de azúcar buscan protección de los productores extranjeros. Cuando obtienen protección, el precio de su producto y sus ganancias aumentan. Dicha protección impone pérdidas relativamente bajas (precios más altos) a un gran número de personas (consumidores). Los costos de obtener protección son asumidos por un grupo relativamente pequeño que incurre en los costos de organizarse para obtener la protección y recibir beneficios sustanciales que fácilmente superarían sus costos. Los consumidores pagan más por el azúcar de lo que pagarían sin la protección comercial; en general los costos agregados de la protección superan sus beneficios. Sin embargo, el costo para cada consumidor es lo suficientemente pequeño que los beneficios de organizarse para demandar una liberalización comercial no superan los costos de organizarse en torno a ese objetivo.

Los intereses organizados que respaldan una política o agenda política también se beneficiarían de excluir ideas rivales acerca de una política pública. Su agenda se volvería relativamente más influyente en la plataforma y tal vez en la sociedad en general. Como sucede con el azúcar, los perdedores serían el público en general ya sea en la plataforma y quizás en la sociedad. El público tendría menos ideas y opciones de políticas públicas y menos satisfacción con las políticas públicas y la política. La competencia entre las ideas no es exactamente igual a la competencia entre los productos. Pero el proteccionismo en ambos casos conduce a resultados similares. Los intereses de un gran número de personas son sacrificados para beneficiar a unos pocos. 

La moderación realmente independiente de contenidos sería una respuesta a este sesgo no convencional. La moderación de contenidos parcial a los intereses organizados verá solo “una parte de toda la imagen” e impone perdidas a los muchos para favorecer a unos pocos. La moderación imparcial hace lo contrario. Pero nadie debería subestimar el reto que hay aquí. La moderación de contenidos en redes sociales muy bien podría evitar la parcialidad hacia los intereses de negocios y del estado solo para convertirse dependiente de intereses organizados.  

La independencia y la imparcialidad son vitales para la legitimidad de la moderación de contenidos. Los moderadores de contenidos deberían ser independientes de los funcionarios estatales, y tal vez la Primera Enmienda podría ser llamada para esa tarea. Pero la supresión de expresiones en línea ofrece recompensas sustanciales para la organización grupal. Es difícil ver cómo un Código de Conducta por sí solo podría evitar la dependencia de intereses organizados. La voluntad de decir “no” podría ser más una cuestión de carácter que de pactos. Pero será esencial para el éxito de las redes sociales durante los próximos años.

Este artículo fue publicado originalmente en Cato At Liberty (EE.UU.) el 8 de septiembre de 2020.