Las corporaciones tecnológicas y de redes sociales lucran a costa de desinformación y racismo, afirma experta de la ONU

por | 16 julio 2020

«Las empresas como Facebook tienen modelos económicos y comerciales que significan que se benefician activamente de la información errónea, la discriminación y la intolerancia«, dijo Tendayi Achiume, la relatora especial sobre racismo.

El actual modelo comercial de las redes sociales más populares se beneficia activamente de la información falsa, el racismo y la intolerancia para hacer negocio, denuncia la experta de la ONU.

Desde algoritmos de reconocimiento facial que fallan más con afrodescendientes y asiáticos hasta permitir que gente rica financie plataformas para defender la ideología supremacista, pasando por los bots que interfieren en elecciones y asuntos políticos, las tecnologías digitales emergentes impulsadas por macro datos e inteligencia artificial afianzan la desigualdad racial, la discriminación y la intolerancia, asegura el informe de una experta de la ONU en derechos humanos.

Según Tendayi Achiume, relatora especial sobre racismo, incluso cuando los desarrolladores y usuarios de tecnología no pretenden que la tecnología discrimine, a menudo lo hace de todos modos.

«La tecnología no es neutral ni objetiva. Está fundamentalmente conformada por las desigualdades raciales, étnicas, de género y de otro tipo que prevalecen en la sociedad, y típicamente empeora estas desigualdades. Está resultando en discriminación y trato desigual en todas las áreas de la vida, desde la educación y el empleo hasta la atención médica y la justicia penal”.

Según Achiume, el problema no es simplemente el racismo extremista, la xenofobia y la intolerancia y va mucho más allá de eso.

«Las empresas como Facebook tienen modelos económicos y comerciales que significan que se benefician activamente de la información errónea, la discriminación y la intolerancia. Además, muchos gobiernos han adoptado algoritmos que discriminan estructuralmente a los grupos marginados», explicó.

Tecnologías racistas

En su informe, la relatora describe varios casos en los que las tecnologías emergentes están promoviendo la discriminación.

Por ejemplo, una revisión de 2019 de 189 algoritmos de reconocimiento facial de 99 desarrolladores de todo el mundo descubrió que «muchos de estos algoritmos tenían de 10 a 100 veces más probabilidades de identificar de manera incorrecta una fotografía de un rostro afrodescendiente o de Asia oriental, en comparación con una blanca».

“Ya no puede haber ninguna duda de que las tecnologías digitales emergentes tienen una capacidad sorprendente para reproducir, reforzar e incluso exacerbar la desigualdad racial dentro y entre las sociedades”, asegura el informe que explica que varios estudios académicos importantes han demostrado concretamente que el diseño y el uso de tecnologías ya están teniendo este efecto preciso en una variedad de contextos.

Las corporaciones privadas ejercen una influencia monumental en el diseño y uso de las tecnologías digitales emergentes. Entre las plataformas digitales, siete «super plataformas» – Microsoft, Apple, Amazon, Google, Facebook, Tencent y Alibaba – representan dos tercios del valor total de mercado de las 70 plataformas más grandes del mundo.

A pesar del alcance global de sus tecnologías digitales emergentes, las corporaciones que ejercen la mayor influencia sobre ellas se concentran predominantemente en Silicon Valley, en los Estados Unidos de América, mientras que la participación de Europa es del 3,6%, la de África del 1,3% y la de América Latina 0,2%...

Sigue leyendo la nota en Noticias ONU