Molly Russell tenía 14 años.
Russell era muy activa en las redes sociales, como Instagram, Pinterest y Twitter. Alrededor del momento de su muerte, su padre encontró imágenes que alentaban a autolesionarse en su computadora. En 2017, «murió por un acto de autolesión mientras sufría depresión y los efectos negativos del contenido online», concluyó Andrew Walker, forense del Reino Unido, en un informe ese mismo año.
«No tengo ninguna duda de que Instagram ayudó a matar a mi hija», dijo Ian, el padre de Molly, sobre el producto de la red social Meta en una entrevista con la BBC en 2019.
La historia de la señora Russell se contó en una demanda que 42 fiscales generales estatales presentaron contra Meta (antes Facebook) en octubre. En ese caso, los estados lanzaron varios cargos contra Meta, alegando que el gigante de las redes sociales daña a sabiendas a los niños haciéndolos adictos a sus productos, y ocultando el hecho de que lo está haciendo para obtener ganancias.
«Al igual que las grandes tabacaleras y las empresas de vapeo han hecho en el pasado, Meta optó por maximizar sus beneficios a expensas de la salud pública, en concreto perjudicando la salud de los más jóvenes entre nosotros», escribió Phil Weiser, fiscal general de Colorado, en un comunicado.
Para quienes investigan la influencia de las redes sociales en el comportamiento de las personas, el testimonio de Haugen y la demanda de los estados sacan a la superficie un problema mucho mayor: las grandes empresas tecnológicas —por muy grandes y omnipresentes que sean— no están al servicio de la humanidad, lo que exige un cambio de paradigma que integre la moralidad y la humanidad en el diseño tecnológico.
The Epoch Times se ha puesto en contacto con Meta para obtener comentarios. En respuesta a la demanda presentada en octubre, la portavoz de Meta, Liza Crenshaw, declaró a la prensa que la empresa está «decepcionada de que, en lugar de trabajar de forma productiva con empresas de todo el sector para crear normas claras y adecuadas a la edad para las numerosas aplicaciones que utilizan los adolescentes, los fiscales generales hayan elegido este camino».
«Adicción, coacción y manipulación»
La demanda interpuesta en octubre contra Meta, un desafío legal sin precedentes dirigido por un Estado contra las grandes empresas tecnológicas, surgió a raíz de la investigación realizada durante años por los Estados sobre las prácticas comerciales de Meta.
Las empresas propiedad de Meta, como Instagram, que presumió de unos ingresos totales de 51,400 millones de dólares y 2300 millones de usuarios en 2022, «atraen, involucran y, en última instancia, atrapan a jóvenes y adolescentes» a través de sus productos, que están diseñados para explotar las vulnerabilidades psicológicas de los niños y emplean funciones destinadas a crear adicción en los niños a las plataformas, alegan los estados en su demanda.
El caso suministró artillería en 2021 para cuando Frances Haugen, una denunciante que trabajó anteriormente en Meta, filtró documentos internos de la empresa que mostraban que Meta sabe que Instagram es tóxico para las adolescentes, pero resta importancia a sus efectos nocivos en público.
«Los productos de Facebook dañan a los niños, avivan la división y debilitan nuestra democracia», dijo Haugen en una audiencia en el Congreso en octubre de 2021. «Los líderes de la compañía saben cómo hacer que Facebook e Instagram sean más seguros, pero no harán los cambios necesarios porque han antepuesto sus ganancias astronómicas a las personas».
Más del 95 por ciento de los beneficios de Meta provienen de la publicidad. Cuanto más enganchada está la gente, más tiempo pasa en la plataforma, más anuncios ve y más dinero gana Meta.
Este modelo de negocio significa que hay un desajuste fundamental entre el propósito que impulsa los negocios de empresas como Meta —ganar dinero— y las intenciones de los usuarios al utilizar la tecnología, dijo James Williams, autor y especialista en ética tecnológica, en una entrevista con The Epoch Times el viernes. Williams, exestratega de Google, recibió en 2010 el Founder’s Award, el máximo galardón que concede Google a sus empleados, por su labor en el campo de la publicidad en las búsquedas.
Como resultado, dijo Williams, las «modalidades de daño» —como la «adicción», la «coerción» y la «manipulación»— están integradas en los entornos de información que están siempre presentes en la vida de las personas.
«Hay una disonancia fundamental entre lo que queremos para nosotros mismos y lo que estos sistemas quieren para nosotros», afirmó. «Los sistemas en los que confiamos para dar forma a nuestras vidas no se ajustan a su propósito y, de hecho, ni siquiera están diseñados para ayudarnos a hacerlo: las redes sociales no están diseñadas para ayudarnos a ser sociales».
¿Qué se puede hacer?
Según Divya Siddarth, del Proyecto de Inteligencia Colectiva, una incubadora de tecnologías transformadoras que trabaja con empresas como Open AI, los problemas «sistémicos» que plantean las instituciones tecnológicas actuales exigen una respuesta que vaya más allá de una solución normativa pura y dura, que suele estancarse en el proceso político.
«Silenciar a nuestras instituciones no va a funcionar. Tenemos que apretar los dientes y construir algo nuevo», dijo Siddarth.
Como ejemplo, la experta recordó uno de sus proyectos con Anthropic, una empresa de seguridad e investigación en Inteligencia Artificial, y propuso un modelo basado en la transparencia que abriera las empresas que construyen nuevas tecnologías al escrutinio público.
«Teníamos que preguntar a 1000 estadounidenses representativos qué querían de una constitución que rigiera la inteligencia artificial, y luego realmente volvimos a entrenar uno de los modelos basándonos en eso, y nos comprometimos con la transparencia de esas reglas para el proceso».
«Muchas empresas de redes sociales son famosas por su hermetismo a la hora de dar acceso a los investigadores a los datos sobre su impacto en las elecciones, por ejemplo», explica Siddarth. «Así que abrirse al escrutinio —y luego rendir cuentas— sería como dar a los investigadores acceso a esos datos».
El Sr. Williams coincidió con la opinión de la Sra. Siddarth, señalando que los cambios regulatorios se limitan a un enfoque de detener de forma persistente y aleatoria en el momento en que se advierte su aparición limitado al tipo de daño «agudo».
Lo que se necesita para un cambio «generacional» en el panorama tecnológico, dijo, es una especie de cambio de paradigma cultural y una mayor conciencia tecnológica que lleve a más empresas a desarrollar —y a más personas a utilizar— tecnologías que se ajusten mejor a las intenciones de las personas al utilizar las tecnologías para empezar.
«Me inspiran los proyectos en los que se observa una alineación más explícita entre las intenciones del usuario y las de la empresa», afirma Williams. «Está integrado en el modelo de negocio: empresas que no se limitan a decir que se preocupan por los intereses de los usuarios, sino que realmente se comprometen a ello».
Empezar por la moral
Una de estas empresas tecnológicas que promete infundir consideraciones morales en el desarrollo y suministro de sus productos es Gan Jing World, una plataforma de contenidos de video online cuyo vicepresidente ejecutivo de tecnología, James Qiu, escapó de la China comunista en 1989, donde se enfrentó a una citación policial por su papel en la masacre de la plaza de Tiananmen. Al mismo tiempo, fue aceptado en un programa de posgrado de ingeniería informática en Canadá, evitando así el inminente procesamiento politizado en China, tras lo cual se forjó una carrera en Silicon Valley, trabajando en empresas tecnológicas como Apple y Oracle.
Un aspecto importante en el que juegan las consideraciones morales en los productos de Gan Jing es el contenido de la plataforma. Desde su creación en junio de 2022, Gan Jing ha prometido y puesto en práctica un entorno online «libre de material violento, erótico, delictivo y dañino», como el que hace apología del comunismo.
«Toda la esencia de la plataforma es que se evitan muchas de las cosas adictivas como la violencia, el erotismo, el consumo de drogas, la sexualización excesiva y el contenido que se alinea con la ideología del Partido Comunista Chino», dijo Nick Janicki, portavoz de Gan Jing, a The Epoch Times en una entrevista el viernes.
Otro aspecto de este diseño basado en la moralidad es que la plataforma trataría de dirigir a los usuarios hacia su intención original de acudir a ella, basándose en una serie de cuestionarios basados en objetivos que los usuarios realizarían al registrarse, explicó Janicki.
«La analogía que utilizo es la de los videos de gatos: si te pasas el día viendo videos de gatos, vas a ver muchos más videos de gatos en YouTube», explica Janicki. «La diferencia con Gan Jing World es que no te lleva necesariamente a lo que considera más adictivo. Va a tratar de darte siempre una especie de patrón interrumpido basado en lo que seleccionaste inicialmente como tus intereses».
«Así, si inicialmente te seleccionaste como estudiante de enfermería, y sólo estás interesado en cosas relacionadas con tu carrera, y empiezas a ver videos de gatos, vas a empezar a ver más cosas relacionadas con tu carrera, porque esa era tu intención inicial», dijo Janicki, añadiendo que la compañía está desarrollando más funciones con este fin.
Según Janicki, esto forma parte de un cambio de mentalidad que llevan años pidiendo las organizaciones de ética tecnológica, pero Gan Jing es una de las primeras en aplicar estas prácticas.
«En el resto de las redes sociales, en la mayoría de los casos, tú eres el producto», afirma el portavoz. «Ganan todo su dinero de los anunciantes, no de la comunidad. Y Gan Jing World le está dando la vuelta a eso».
Por último, en un mundo profundamente polarizado, Gan Jing prevé crear una comunidad online que aspire a la cultura tradicional y a lo divino, que considera formas de unir a la gente.
«La cultura tradicional puede describirse mejor como la singularidad y los rasgos culturales inherentes. En la cultura china, por ejemplo, las tradiciones son variadas y diversas en múltiples grupos étnicos», afirma Janicki. «Muchas culturas tienen danzas, comidas y atuendos únicos. En muchas tradiciones, la familia es de suma importancia, al igual que la creencia y la reverencia por lo divino».
«La misión de toda la plataforma es utilizar la tecnología para capacitar a los seres humanos a volver a la cultura tradicional y a la divinidad», dijo el Sr. Janicki. «Apela a las personas que realmente sienten esa estructura de valores».
Únase a nuestro canal de Telegram para recibir las últimas noticias al instante haciendo click aquí
Cómo puede usted ayudarnos a seguir informando
¿Por qué necesitamos su ayuda para financiar nuestra cobertura informativa en Estados Unidos y en todo el mundo? Porque somos una organización de noticias independiente, libre de la influencia de cualquier gobierno, corporación o partido político. Desde el día que empezamos, hemos enfrentado presiones para silenciarnos, sobre todo del Partido Comunista Chino. Pero no nos doblegaremos. Dependemos de su generosa contribución para seguir ejerciendo un periodismo tradicional. Juntos, podemos seguir difundiendo la verdad.
