Metazine Tu Magazine del Metaverso. Toda la información del presente y futuro de nuestra vida digital.
¿Qué contenido puede ver un niño en línea? ¿Quién puede decidir qué es bueno y qué es peligroso? ¿Y qué papel debe desempeñar un gobierno, una empresa o una matriz en esa decisión?
Estas preguntas fueron enfocadas por la investigación sobre la muerte de Molly Russell, de 14 años. Y si hubo un momento durante la audiencia de dos semanas en que el caso de una regulación en línea más estricta se volvió abrumador, fue durante el testimonio de la ejecutiva del Meta, Elizabeth Lagone.
El jefe de política de salud y bienestar de Mark Zuckerberg en la compañía de Mark Zuckerberg participó en una selección de las publicaciones de Instagram que el adolescente había visto en los seis meses anteriores a su muerte, creyendo que muchas de ellas eran “seguras” para los niños. No era una opinión compartida por muchos en la sala del tribunal forense del norte de Londres.
Molly, del noroeste de Londres, murió en 2017 después de ver una gran cantidad de contenido en línea relacionado con el suicidio, la depresión, las autolesiones y la ansiedad. En lo que la NSPCC describió como una primicia mundial, el forense principal dijo que las redes sociales contribuyeron a la muerte de Molly, estableciendo que Molly había muerto de “un acto de autolesión mientras sufría de depresión y los efectos negativos del contenido en línea”.
A Lagone se le mostraba una publicación y luego se comentaba si cumplía con las pautas de Instagram en ese momento. Muchos han sido considerados admisibles por Lagone, quien supuestamente usó frases como “compartir sentimientos” mientras explicaba que el contenido suicida y autodestructivo podría permitirse si representaba un intento de crear conciencia sobre el estado mental de un usuario y compartir sus emociones.
Elizabeth Lagone, directora de salud y bienestar de Meta, llega al tribunal forense en el norte de Londres el 23 de septiembre. Fotografía: Beresford Hodge / Pensilvania
Se espera que el proyecto de ley de seguridad en línea reanude su progreso en el parlamento en breve, y la nueva secretaria de cultura, Michelle Donelan, dijo que se fortalecerán sus disposiciones de protección infantil. El proyecto de ley establece un deber de cuidado en las plataformas tecnológicas para proteger a los niños de contenido y sistemas maliciosos.
En el mes de julio, una declaración escrita de la predecesora de Donelan, Nadine Dorries, dejó en claro que el tipo de contenido que vio Molly estaría cubierto por el proyecto de ley. Se debe evitar que los niños encuentren contenido que promueva la autolesión y el contenido suicida legal, aunque se puede permitir el contenido sobre la recuperación de la autolesión o los sentimientos suicidas si es apropiado para su edad. El método de Meta para evaluar si este contenido está permitido o es apropiado será evaluado por el regulador de comunicaciones Ofcom; no será decisión de la empresa.
El padre de Molly, Ian, se mostró feroz con respecto a la calificación de “seguro”. Hablando al final de la audiencia de dos semanas, dijo: “Si este loco rastro de contenido que chupa la vida fuera seguro, mi hija Molly probablemente todavía estaría viva y en lugar de ser una familia afligida de cuatro, serían cinco”. no podemos esperar a vivir una vida llena de propósitos y promesas que nos espera para nuestra encantadora Molly”.
Lagone se disculpó porque parte del contenido que Molly vio en ese momento violó las pautas de Instagram, que prohibieron el contenido que promovía o glorificaba el suicidio y las autolesiones.
Al cuestionar a Lagone, el representante legal de la familia Russell, Oliver Sanders KC, dijo que toda la situación no era segura. “Sugiero que este es un ambiente intrínsecamente peligroso… peligroso y tóxico para los niños entre las edades de 13 y 14 años solos en sus dormitorios pasando esta basura por sus teléfonos”.
“Respetuosamente no estoy de acuerdo”, respondió Lagone. Ha habido muchos intercambios tan tensos, que en un momento llevaron al forense principal Andrew Walker a pedirle a Lagone que respondiera “sí o no” si una serie de contenido que había visto era seguro para los niños.
El impacto acumulado de este ir y venir hizo que Russell levantara la voz en un momento: “¿Por qué diablos estás haciendo esto?” Dijo que Instagram estaba eligiendo poner el contenido “en las habitaciones de los niños deprimidos”, y agregó: “No tienes derecho. No eres su padre. Eres solo un negocio en Estados Unidos”.
La inmersión semanal de Alex Hern sobre cómo la tecnología está dando forma a nuestras vidas
Política de privacidad: Los boletines pueden contener información sobre organizaciones benéficas, anuncios en línea y contenido financiado por terceros. Para obtener más información, consulte nuestra Política de privacidad. Usamos Google reCaptcha para proteger nuestro sitio web y Google Política de privacidad Y Términos de servicio Aplicar.
El impacto de la comparecencia de dos días de Lagone y lo que le sucedió a Molly fue dañar la confianza de que una gran plataforma de redes sociales podría usarse para controlar su contenido y sistemas sin un marco regulatorio más amplio para garantizar que se hiciera correctamente.
Como dijo más tarde Ian Russell: “Es hora de que el proyecto de ley de seguridad en línea del gobierno entregue urgentemente la legislación prometida durante mucho tiempo”.
El padre de Molly, Ian Russell, en el último día de la investigación. Fotografía: Jeff Gilbert / Rex / Shutterstock
Meta dijo que sus pensamientos estaban con la familia Russell y que estaba “comprometida” a garantizar que la experiencia de las personas en Instagram fuera “una experiencia positiva para todos”. Pinterest, otra plataforma que había mostrado contenido malicioso a Molly antes de su muerte, también dijo que estaba “comprometida a realizar mejoras continuas para garantizar que la plataforma sea segura para todos”.
Si este gobierno del Reino Unido logra aprobar la legislación planificada, ellos y otras plataformas pronto serán responsables ante Ofcom por esos compromisos.
Si desea leer la versión completa del boletín, regístrese para recibir TechScape en su bandeja de entrada todos los miércoles.
