Desnudarse o fallar: el algoritmo de Instagram obliga a los usuarios a mostrar la piel

Advertisement

Por Judith Duportail, Nicolas Kayser-Bril, Kira Schacht y Édouard Richard, en asociación con la Red Europea de Periodismo de Datos .

Una investigación exclusiva revela que Instagram prioriza las fotos de hombres y mujeres con poca ropa, configurando el comportamiento de los creadores de contenido y la visión del mundo de 140 millones de europeos en lo que sigue siendo un punto ciego de las regulaciones de la UE. 

Sarah es una emprendedora de alimentos en una gran ciudad europea (se cambió el nombre). La compañía que creó ayuda a las mujeres a sentirse cómodas con su ingesta de alimentos y aboga por la «alimentación intuitiva». Como muchos propietarios de pequeñas empresas, Sarah confía en las redes sociales para atraer clientes. Instagram, la segunda red social más grande de Europa después de Facebook, es un canal de marketing del que no podría prescindir, dijo.

Pero en Instagram, que está muy orientado a las fotos y videos, sintió que sus fotos no alcanzaron a muchos de sus 53,000 seguidores a menos que posara en trajes de baño. De hecho, cuatro de sus siete publicaciones más populares de los últimos meses la mostraron en bikini. Ely Killeuse, autora de libros con 132,000 seguidores en Instagram que aceptó hablar en el registro, dijo que «casi todas» sus fotos que más le gustaron la mostraban en ropa interior o trajes de baño.

Podría ser el caso de que su público prefiera masivamente ver a Sarah y Ely en trajes de baño. Pero desde principios de 2016, Instagram organiza las imágenes en la fuente de noticias de un usuario para que las fotos que más le interesan al usuario aparezcan en la parte superior de la fuente. Si las otras fotos que publican Sarah y Ely son menos populares, podría ser que no se muestran tanto a sus seguidores.

Qué fotos se muestran y cuáles no, no es solo cuestión de gustos. Los empresarios que confían en Instagram para adquirir clientes deben adoptar las normas que el servicio alienta a llegar a sus seguidores. Incluso si estas normas no reflejan los valores sobre los que construyeron sus negocios, o los de su audiencia y clientes principales.

2.400 fotos analizadas

Para comprender qué imágenes priorizó Instagram, la Red Europea de Periodismo de Datos y AlgorithmWatch pidieron a 26 voluntarios que instalaran un complemento de navegador y siguieran una selección de creadores profesionales de contenido. Seleccionamos a 37 profesionales de 12 países (14 de ellos hombres) que usan Instagram para publicitar marcas o adquirir nuevos clientes para sus negocios, principalmente en los sectores de alimentos, viajes, fitness, moda o belleza.

El complemento abre automáticamente la página de inicio de Instagram a intervalos regulares y anota qué publicaciones aparecen en la parte superior de las noticias de los voluntarios, proporcionando una visión general de lo que las plataformas consideran más relevantes para cada voluntario.

Si Instagram no se entrometiera con el algoritmo, la diversidad de publicaciones en las noticias de los usuarios debería coincidir con la diversidad de las publicaciones de los creadores de contenido que siguen. Y si Instagram personalizó la fuente de noticias de cada usuario de acuerdo con sus gustos personales, la diversidad de publicaciones en sus fuentes de noticias debería estar sesgada de una manera diferente para cada usuario. Esto no es lo que encontramos.

Entre febrero y mayo, se analizaron 1.737 publicaciones publicadas por los creadores de contenido que monitoreamos, que contenían 2.400 fotos. De estas publicaciones, 362, o el 21%, fueron reconocidas por un programa de computadora que contenía imágenes que mostraban mujeres en bikini o ropa interior, u hombres con el torso desnudo. Sin embargo, en las noticias de nuestros voluntarios, las publicaciones con tales imágenes representaron el 30% de todas las publicaciones que se muestran desde las mismas cuentas (algunas publicaciones se mostraron más de una vez).

Las publicaciones que contenían imágenes de mujeres en ropa interior o bikini tenían un 54% más de probabilidades de aparecer en las noticias de nuestros voluntarios. Las publicaciones que contenían imágenes de hombres con el torso desnudo tenían un 28% más de probabilidades de mostrarse. Por el contrario, las publicaciones que muestran imágenes de alimentos o paisajes tenían un 60% menos de probabilidades de aparecer en las noticias.

Estos resultados, que se pueden leer en detalle en una página dedicada , pasan las pruebas estándar de significancia estadística.

Esperando una auditoria

La inclinación hacia la desnudez podría no aplicarse a todos los usuarios de Instagram. Si bien fue consistente y evidente para la mayoría de los voluntarios, una pequeña minoría recibió publicaciones que reflejaban mejor la diversidad publicada por los creadores de contenido. Es probable que el algoritmo de Instagram favorezca la desnudez en general, pero que la personalización u otros factores limitan este efecto para algunos usuarios.

Nuestros resultados no alcanzan una auditoría exhaustiva del algoritmo de suministro de noticias de Instagram. Solo documentan lo que sucedió en las noticias de nuestros voluntarios. (Puede ayudarnos a mejorar los resultados instalando el complemento , publicaremos actualizaciones a medida que ingresen más datos). Sin acceso a los servidores internos de datos y producción de Facebook, siempre será imposible sacar conclusiones definitivas.

Facebook no respondió a nuestras preguntas precisas, pero envió una declaración: «Esta investigación es defectuosa de varias maneras y muestra un malentendido sobre cómo funciona Instagram. Clasificamos las publicaciones en su feed según el contenido y las cuentas en las que ha mostrado interés, no por factores arbitrarios como la presencia de trajes de baño «.

Sin embargo, tenemos razones para creer que nuestros hallazgos son representativos de cómo funciona generalmente Instagram.

Maximizando el compromiso

En una patente publicada en 2015, los ingenieros de Facebook, la compañía que administra Instagram, explicaron cómo la fuente de noticias podría seleccionar qué imágenes priorizar. Cuando un usuario publica una imagen, se analiza automáticamente en el acto, según la patente. Las imágenes reciben una «métrica de compromiso», que se utiliza para decidir si mostrar o no una imagen en la fuente de noticias del usuario.

La métrica de compromiso se basa en parte en el comportamiento anterior del usuario. Si a un usuario le gustó una marca específica y una foto muestra un producto de la misma marca, la métrica de compromiso aumenta. Pero la métrica de compromiso también se puede calcular en función del comportamiento pasado de todos los usuarios del servicio. La patente establece específicamente que el género, el origen étnico y el «estado de desnudez» de las personas en una foto podrían usarse para calcular la métrica del compromiso.

Si bien Instagram afirma que la fuente de noticias está organizada de acuerdo con lo que a un usuario «le importa más», la patente de la compañía explica que en realidad podría clasificarse de acuerdo con lo que cree que les importa a todos los usuarios. El hecho de que los usuarios vean o no las imágenes publicadas por las cuentas que siguen depende no solo de su comportamiento anterior, sino también de lo que Instagram cree que es más atractivo para otros usuarios de la plataforma.

Correlaciones espurias

Facebook analiza automáticamente las imágenes con un software, conocido como visión por computadora, antes de que su algoritmo decida cuáles mostrar en la fuente de noticias de un usuario. Dicho software extrae inferencias automatizadas de un conjunto de datos de entrenamiento, hecho de miles de imágenes anotadas manualmente. Sus limitaciones podrían afectar la forma en que Instagram prioriza las imágenes en las noticias.

Los científicos informáticos han sabido durante años que tales sistemas replican y amplifican los sesgos de sus datos de entrenamiento, lo que lleva a correlaciones espurias o falaces. Por ejemplo, un programa encargado de identificar lobos y perros basados ​​en imágenes de los caninos que se encuentran en línea no reconocerá a los animales en el sentido humano de la palabra. En cambio, le dará la etiqueta «lobo» a cualquier animal en un fondo nevado.

Los datos de capacitación para la visión por computadora generalmente son producidos por trabajadores mal pagados con un incentivo para trabajar rápidamente y proporcionar resultados que se ajusten a las expectativas de sus empleadores. Esto los lleva a adoptar acríticamente las categorías que se les ofrecen y a pasar por alto las sutilezas que puede contener una foto, escribió Agathe Balayn, candidata a doctorado en la Universidad Tecnológica de Delft sobre el tema del sesgo en los sistemas automatizados.

Las consecuencias pueden ser severas. En diciembre, un artista brasileño intentó publicitar una de sus publicaciones de Instagram. La solicitud fue denegada debido a que la publicación contenía contenido violento. Solo representaba a un niño y al corredor de Fórmula Uno Lewis Hamilton. Ambos eran de piel oscura. En abril, a una maestra de yoga se le negó un anuncio porque la imagen mostraba malas palabras, a pesar de que solo estaba haciendo la pose de la grúa lateral. Ella es asiático-americana.

(En nuestra configuración experimental, también utilizamos un sistema de visión por computadora, Google Vision. Si bien sus resultados son atroces, por ejemplo, la etiqueta «belleza» solo se devolvió para las mujeres, es muy probable que sus sesgos sean similares a los de la computadora de Facebook motor de visión, solo porque fue construido en parte por las mismas personas).

Una fina línea para enhebrar

Las pautas de Instagram establecen que la desnudez «no está permitida» en el servicio, pero favorece las publicaciones que muestran skin. La sutil diferencia entre lo que se fomenta y lo que se prohíbe se decide mediante algoritmos de visión por computadora no auditados y probablemente sesgados. Cada vez que publican una imagen, los creadores de contenido deben enhebrar esta línea muy fina entre revelar lo suficiente como para llegar a sus seguidores, pero no revelar tanto que se inician desde la plataforma.

Una encuesta realizada en 2019 a 128 usuarios de Instagram por la revista estadounidense Salty mostró que la eliminación abusiva de contenido era común. Es imposible decir qué tan comunes son estos eventos y si las personas de color y las mujeres se ven desproporcionadamente afectadas, siempre y cuando los algoritmos de Instagram permanezcan sin auditar.

Sin embargo, una revisión de 238 patentes archivadas por Facebook que contiene la frase «visión por computadora» mostró que, de las 340 personas incluidas en la lista de inventores, solo 27 eran mujeres. Los ambientes dominados por los hombres generalmente conducen a resultados que son perjudiciales para las mujeres. Los cinturones de seguridad en los automóviles, por ejemplo, solo se prueban en muñecos masculinos, lo que genera mayores tasas de lesiones para las mujeres. Nuestra investigación muestra que los algoritmos de Facebook podrían seguir este patrón.

Miedo a la prohibición de las sombras.

Sarah y otros empresarios que confían en Instagram estaban aterrorizados de hablar con la prensa. La mayoría de los creadores profesionales de contenido de Instagram temen represalias de Facebook, en forma de eliminación de cuenta o prohibiciones ocultas (una práctica en la que las publicaciones de un usuario se muestran a ninguno o muy pocos de sus seguidores, sin el conocimiento del usuario), una sentencia de muerte para su negocio .

Una joven empresaria con aproximadamente 70,000 seguidores, que dijo que Instagram era «muy importante» para su negocio, le dijo específicamente a AlgorithmWatch que no quería ser nombrada por temor a una prohibición en la sombra. Ely Killeuse, quien habló en el expediente, dijo que tener otra fuente de ingresos era la «condición número uno» para ella. Demasiada dependencia de Instagram significaría perder su libertad y su cordura, agregó.

El Reglamento General de Protección de Datos (RGPD), que entró en vigor en 2018, y el Reglamento Plataformas para Empresas (P2B), que será aplicable a partir del 12 de julio de 2020, ya ofrecen muchas garantías para usuarios y profesionales. En particular, el RGPD establece que los usuarios tienen un «derecho a la explicación» con respecto a las decisiones automatizadas, y la regulación P2B obligará a los servicios de intermediación en línea a revelar los «parámetros principales que determinan la clasificación [algorítmica]».

Esta nueva medida no debería obligar a las plataformas a revelar el funcionamiento interno de sus algoritmos, según Petra de Sutter, quien preside la Comisión de Mercado Interior y Protección del Consumidor en el Parlamento Europeo. Evitar que Instagram clasifique las fuentes de noticias de sus usuarios no sería legalmente factible, escribió en un correo electrónico a AlgorithmWatch. En cambio, la transparencia que traerá P2B debería permitir decisiones de política bien informadas en un momento posterior, agregó. En cuanto a los temores de prohibiciones de sombras, la Sra. De Sutter los considera exagerados. «Una pregunta nunca trajo represalias», escribió.

P2B puede ser diferente, pero dos años después de la entrada en vigor del RGPD, varios expertos deploran una implementación muy launaria. Un problema es que la autoridad de protección de datos irlandesa, que es responsable de regular la filial europea de Facebook con sede en Dublín, parece tener poco personal y «no parece entender el RGPD», como lo explicó AlgorithmWatch como especialista en trabajo de plataformas. Otro problema radica en la falta de vigilancia. Ninguna autoridad, a nivel europeo o dentro de los Estados miembros, tiene el poder o las herramientas necesarias para auditar cualquiera de las plataformas gigantes, incluido Instagram, lo que deja sin cumplir muchas de las disposiciones del GDPR.

Posible discriminación

Si bien nuestros resultados muestran que los creadores de contenido masculino y femenino se ven obligados a mostrar la piel de manera similar si quieren llegar a su audiencia, el efecto podría ser mayor para las mujeres y ser considerado una discriminación de las mujeres empresarias. Sin embargo, aunque la Carta de los Derechos Fundamentales de la Unión Europea prohíbe la discriminación basada en el género, no existen vías legales para que un usuario de Instagram inicie procedimientos legales. Los detalles del emprendimiento en las redes sociales no se tienen en cuenta en la legislación.

Miriam Kullmann, profesora asistente de la WU Vienna University of Economics and Business, escribió a AlgorithmWatch que la legislación europea contra la discriminación se ocupa casi exclusivamente de las relaciones laborales. Las personas que trabajan por cuenta propia, como los profesionales que monitoreamos, no están protegidas.

Algunos grupos luchan por los derechos de los creadores independientes en las redes sociales. IG Metall, el sindicato más grande de Europa, apoya una acción colectiva de YouTubers, exigiendo más justicia y transparencia de Google (que posee YouTube) cuando se desmonetizó un video. No planean extender su programa a los creadores de contenido en Instagram u otras plataformas.

Uno de cada tres europeos

Dado que el número de empresarios europeos que crean contenido desde Instagram probablemente sea de miles, el impacto de sus publicaciones es enorme, ya que habitualmente cuentan con cientos de miles de seguidores. Facebook afirma que cerca de 140 millones de residentes de la Unión Europea, o uno de cada tres, usaron Instagram en abril.

Entre los jóvenes de 18 a 24 años, la penetración de Instagram es aproximadamente del 100% en todos los países de la UE. Las órdenes de quedarse en casa vinculadas a la pandemia de Covid-19 aumentaron el tiempo pasado en Instagram en cantidades asombrosas. En una semana en Italia cerrada, las visitas de Instagram se duplicaron más de lo normal, informó Facebook a los inversores.

Un rollo propio

Hace casi un siglo, la famosa autora británica Virginia Woolf dijo que las mujeres necesitaban «una habitación propia» para que floreciera su creatividad. Aferrarse a la opinión de las autoridades externas, escribió, era como invitar a la podredumbre a desarrollarse en el corazón del trabajo.

En Instagram, no es una decisión diferir la opinión de las autoridades que crearon el algoritmo de suministro de noticias. Negarse a mostrar partes del cuerpo reduce drásticamente la audiencia. Los empresarios masculinos y femeninos deben cumplir con las reglas establecidas por los ingenieros de Facebook si quieren tener la oportunidad de ganarse la vida.

¿Usas Instagram profesionalmente? ¿Has visto tus publicaciones o tu cuenta suspendida, deshabilitada o prohibida? Nos encantaría saber de usted. Póngase en contacto con Nicolas Kayser-Bril de forma segura en kayserbril@protonmail.com o Signal +491702875332.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Maestroviejo

El tiempo del despertar … tu conciencia, tu alma, tu mente, tu vida

Somos conciencia

Un grupo de personas queriendo buscar puntos de vista distintos de cómo llevar la vida y enfrentar los problemas nos pusimos a recopilar información para poder compartir nuestras inquietudes y tratar de desenmarañar la vida.

Categorias

Síguenos