Instagram está agregando más impulsos de amabilidad como parte de su plan para combatir el acoso

No es ningún secreto que Instagram tiene grandes problemas con acoso Y acoso en su plataforma. Un ejemplo reciente: un informe de que Instagram no actuó en el 90 por ciento de más de 8,700 mensajes ofensivos recibido por varias mujeres de alto perfil, incluida la actriz Amber Heard.

Para tratar de hacer de su aplicación un lugar más hospitalario, Instagram está implementando funciones que comenzarán a recordarles a las personas que sean respetuosas en dos escenarios diferentes: ahora, cada vez que envía un mensaje de texto a un creador por primera vez (Instagram define a un creador como alguien con más más de 10.000 seguidores o usuarios creando cuentas de “creador”) o cuando responda a un hilo de comentarios abusivos, Instagram mostrará un mensaje en la parte inferior de la pantalla pidiéndole que sea respetuoso.

Estos dulces recordatorios son parte de una estrategia más amplia llamada “empujón”, que tiene como objetivo influir positivamente en el comportamiento en línea de las personas alentándolos, en lugar de obligarlos, a cambiar sus acciones. es una idea muy arraigada teoría de la ciencia del comportamientoy uno que Instagram y otras empresas de redes sociales han adoptado en los últimos años.

Si bien los empujones por sí solos no resolverán los problemas de acoso e intimidación de Instagram, la investigación de Instagram ha demostrado que este tipo de intervención sutil puede frenar los instintos más crueles de algunos usuarios en las redes sociales. El año pasado, la empresa matriz de Instagram, Meta, dijo que después de comenzar a advertir a los usuarios antes de publicar un comentario potencialmente ofensivo, alrededor del 50% de las personas lo editaron o eliminaron. su comentario insultante. Instagram le dijo a Recode que alertas similares también han demostrado ser efectivas en mensajes privados. Por ejemplo, en un estudio interno de 70 000 usuarios cuyos resultados se compartieron por primera vez con Recode, el 30 % de los usuarios envió menos mensajes a los creadores con muchos seguidores después de ver el recordatorio de amabilidad.

Mitad

Empujar ha demostrado ser lo suficientemente prometedor como para que otras aplicaciones de redes sociales con sus problemas de intimidación y acoso, como Gorjeo, YouTubeY golpe de tic – también utilizaron la táctica para fomentar interacciones sociales más positivas.

“La razón por la que ponemos tanto esfuerzo en esta inversión es porque vemos a través de los datos y los comentarios de los usuarios que esas intervenciones realmente funcionan”, dijo Francesco Fogu, diseñador de productos del equipo de bienestar de Instagram, que se enfoca en garantizar que el tiempo que las personas pasan en la aplicación sea de apoyo y significativo.

Instagram lanzó por primera vez nudges en un intento de influir en las personas comportamiento de los comentarios en 2019. Los recordatorios pedían a los usuarios por primera vez que reconsideraran la publicación de comentarios que caen en un área gris, aquellos que no violan por completo las políticas de Instagram sobre conversaciones maliciosas lo suficientemente abiertamente como para ser eliminados automáticamente, pero que aún se acercan a esa línea. (Instagram usa modelos de aprendizaje automático para informar contenido potencialmente ofensivo).

Las advertencias iniciales de comentarios abusivos fueron sutiles en la redacción y el diseño, preguntando a los usuarios: “¿Está seguro de que desea publicar esto?” Con el tiempo, dijo Fogu, Instagram ha hecho que los impulsos sean más obvios, lo que requiere que las personas hagan clic en un botón para ignorar la advertencia y continuar con sus comentarios potencialmente ofensivos, y advierte más claramente cuando los comentarios pueden violar las líneas de la guía de la comunidad de Instagram. Una vez que la advertencia se volvió más directa, Instagram dijo que el 50% de las personas editaron o eliminaron sus comentarios.

Los efectos de los empujones también pueden ser duraderos, dice Instagram. La compañía le dijo a Recode que realizó una investigación sobre lo que llama “comentaristas maliciosos repetidos” (personas que dejan múltiples comentarios abusivos en un período de tiempo) y descubrió que los empujones tenían un efecto positivo a largo plazo en la reducción del número y la proporción de comentarios ofensivos a los comentarios regulares que estas personas han hecho a lo largo del tiempo.

A partir del jueves, la nueva función push de Instagram aplicará esta advertencia no solo a las personas que publiquen un comentario abusivo, sino también a los usuarios que estén considerando responder a uno. La idea es hacer que las personas reconsideren si quieren “acumularse en un hilo que se está saliendo de control”, dijo Liz Arcamona, directora global de política de productos de Instagram. Esto es cierto incluso si su respuesta individual no contiene lenguaje problemático, lo cual tiene sentido, considerando que muchas respuestas acumuladas en hilos de comentarios insignificantes son simples emojis de aprobación o lágrimas de alegría o “jaja”. se lanzará en las próximas semanas para los usuarios de Instagram cuyas preferencias de idioma estén configuradas en inglés, portugués, español, francés, chino o árabe.

Una de las teorías generales detrás de las funciones de impulso de Instagram es la idea de un “efecto de desinhibición en línea”, que argumenta que las personas tienen menos restricciones sociales para interactuar con personas en Internet que en la vida real, y esto puede hacer más fácil para las personas. para expresar sentimientos negativos sin filtrar.

El objetivo de muchas de las funciones de inserción de Instagram es contener esa desinhibición en línea y recordar a las personas, en un lenguaje sin prejuicios, que sus palabras tienen un impacto real en los demás.

“Cuando estás en una interacción fuera de línea, ves las respuestas de las personas, como que lees la sala. Siente sus emociones. Creo que pierdes algo muy a menudo en un contexto en línea “, dijo Arcamona de Instagram. Y entonces estamos tratando de llevar esa experiencia fuera de línea a la experiencia en línea para que las personas tomen una foto y digan: ‘Espera un minuto, c’ él es un ser humano al otro lado de esta interacción y debería pensar en ello'”.

Esta es otra razón por la que Instagram está actualizando sus impulsos para centrarse en los creadores: las personas pueden olvidar que hay emociones humanas reales en juego cuando envían mensajes de texto a alguien que no conocen personalmente.

Alguno 95 por ciento de los creadores de redes sociales los encuestados en un estudio reciente de la Association for Computing Machinery han experimentado odio o acoso durante sus carreras. El problema puede ser particularmente grave para los creadores quienes son las mujeres o gente de color. Figuras públicas en las redes sociales, de Despedida de soltera estrellas y competidores a futbolistas internacionales, llegaron a los titulares por ser blanco de comentarios racistas y sexistas en Instagram, en muchos casos en forma de comentarios no deseados y mensajes directos. Instagram dijo que está limitando sus recordatorios de amabilidad a las personas que envían mensajes a las cuentas de los creadores por ahora, pero también puede expandir esos recordatorios de amabilidad a más usuarios en el futuro.

Además de los creadores, otro grupo de personas particularmente vulnerable a las interacciones negativas en las redes sociales son, por supuesto, los adolescentes. La denunciante de Facebook, Frances Haugen, reveló documentos internos en octubre de 2021 que muestran cómo la investigación de Instagram indicó que un porcentaje significativo de adolescentes se sentía peor con su imagen corporal y su salud mental después de usar la aplicación. Luego, la compañía se enfrentó a un escrutinio cuidadoso de que estaba haciendo lo suficiente para proteger a los usuarios más jóvenes de ver contenido no saludable. Unos meses después de las filtraciones de Haugen en diciembre de 2021, Instagram anunció que comenzaría alejar a los adolescentes del contenido fluyó continuamente durante demasiado tiempo, como publicaciones relacionadas con la imagen corporal. Lanzó esa función este junio. Instagram Ella dijo que, en un estudio interno de una semana, encontró que uno de cada cinco adolescentes cambió de tema después de ver el empujón.

Mitad

Si bien los empujones parecen alentar un comportamiento más saludable para una buena parte de los usuarios de las redes sociales, no todos quieren que Instagram les recuerde que sean amables o que dejen de desplazarse. Muchos usuarios se sienten censurados por las principales plataformas de redes sociales, lo que puede hacer que algunos se resistan a estas funciones. Y algo los estudios han demostrado que demasiadas presiones para dejar de mirar la pantalla pueden deshabilitar a los usuarios de una aplicación o hacer que ignoren el mensaje por completo.

Pero Instagram dijo que los usuarios aún pueden publicar algo si no están de acuerdo con un empujón.

“Lo que considero ofensivo, podrías considerarlo una broma. Así que es muy importante para nosotros no hacer una llamada por ti “, dijo Fogu.” Al final del día, estás en el asiento del conductor “.

Varios expertos externos en redes sociales con los que habló Recode vieron las nuevas funciones de Instagram como un paso en la dirección correcta, aunque destacaron algunas áreas para mejorar aún más.

“Este tipo de pensamiento realmente me excita”, dijo Evelyn Douek, profesora de derecho de Stanford que busca la moderación del contenido de las redes sociales. Durante demasiado tiempo, la única forma en que las aplicaciones de redes sociales trataban el contenido ofensivo era eliminándolo después de que ya se había publicado, en un enfoque a gritos que no dejaba lugar para los matices. Pero en los últimos años, Douek dijo que “las plataformas están comenzando a ser mucho más creativas sobre las formas de crear un entorno de voz más saludable”.

Para que las audiencias evalúen realmente qué tan bien funciona el nudge, Douek dijo que las aplicaciones de redes sociales como Instagram deberían publicar más investigaciones o, mejor aún, permitir que investigadores independientes verifiquen su efectividad. También ayudaría a Instagram a compartir instancias de intervenciones con las que Instagram ha experimentado pero que no han sido tan efectivas, “por lo que no siempre son críticas positivas o entusiastas de su trabajo”, dijo Douek.

Otro hecho que podría ayudar a poner en perspectiva estas nuevas características: cuántas personas están experimentando interacciones sociales no deseadas, para empezar. Instagram se negó a decirle a Recode qué porcentaje de creadores, por ejemplo, generalmente reciben mensajes directos no deseados. Entonces, si bien podemos saber cuánto empujoncito puede reducir los DM no deseados a los creadores, no tenemos una imagen completa del alcance del problema subyacente.

Dada la enormidad de la base de usuarios estimada de Instagram de más de 1400 millones, es inevitable que los empujones, sin importar qué tan efectivos sean, no se acercarán a evitar que las personas sean acosadas o intimidadas en la aplicación. Existe un debate sobre hasta qué punto el diseño detrás de las redes sociales, cuando se maximiza para la participación, incentiva negativamente a las personas a participar en conversaciones incendiarias en primer lugar. Por ahora, los recordatorios sutiles pueden ser algunas de las herramientas más útiles para resolver el problema aparentemente intratable de cómo evitar que las personas se comporten mal en línea.

“No creo que haya una solución única, pero creo que dar un pequeño empujón parece muy prometedor”, dijo Arcamona. “Somos optimistas de que puede ser una pieza realmente importante del rompecabezas”.