¿Pueden ser éticos los algoritmos de las redes sociales?
Por analyticsindiamag.com –
Según Datareportal, 4.330 millones de personas utilizan las redes sociales, lo que equivale al 55% de la población total de la Tierra. Solo en los últimos 12 meses, un total de 521 millones de nuevos usuarios se unieron a las redes sociales con un crecimiento anual del 13,7%, un promedio de 16 nuevos usuarios por segundo.
“Me siento tremendamente culpable”, admitió Chamath Palihapitiya, ex vicepresidente de Crecimiento de Usuarios en Facebook, a una audiencia de estudiantes de Stanford en 2017. “Los ciclos de retroalimentación a corto plazo impulsados por la dopamina que hemos creado están destruyendo el funcionamiento de la sociedad. «
Algoritmos
Los algoritmos están orientados a maximizar la atención del usuario. Las estrategias de diseño conductual utilizan conocimientos neurológicos y conductuales para desarrollar interacciones con el cliente e influir en el comportamiento del usuario. «El éxito de una aplicación a menudo se mide por la medida en que introduce un nuevo hábito», dijo el desarrollador de aplicaciones Peter Mezyk en una entrevista con Business Insider . Cuanto más tiempo pasa un usuario en la aplicación, más ingresos publicitarios fluyen hacia los bolsillos de las empresas; la atención es moneda de cambio.
Youtube & Google
El algoritmo de recomendación de Youtube sabe lo que la gente quiere tan bien que una sesión de visualización móvil promedio dura unos buenos 60 minutos. El algoritmo aporta a YouTube gran parte de sus ingresos y tiene un valor de miles de millones de dólares.
El CPO Neal Mohan dijo que los videos recomendados representan el 70 por ciento del tiempo que los usuarios pasan en Youtube. El algoritmo comprende dos redes neuronales, una para la generación de candidatos y la otra para la clasificación. El primer algoritmo reduce la biblioteca de videos masiva, y el segundo algoritmo clasifica estos videos en función de su valor para el usuario.
El uso en Youtube de redes neuronales profundas también convierte a Google en una de las primeras empresas en implementar redes neuronales profundas de nivel de producción para sistemas de recomendación. La red de generación de candidatos utiliza el historial de actividad del usuario: datos demográficos a nivel de usuario, los ID de los videos vistos, historial de búsqueda y da una salida de unos cientos de videos que son ampliamente aplicables al usuario.
La generación de candidatos utiliza el filtrado colaborativo basado en lo que las personas con valoraciones similares han disfrutado previamente. La segunda red utiliza características más enriquecidas para lograr una alta recuperación y no perder los vídeos relevantes para las sugerencias. La red se entrena de principio a fin.
Algoritmos adictivos
En una conferencia de Google 2018, la compañía anunció planes para introducir herramientas para limitar los atracones. Sin embargo, el artículo de investigación Google (2019) propuso una actualización de sus algoritmos para recomendar contenido aún más específico para aumentar el engagement.
“Las supercomputadoras más grandes del mundo están dentro de dos empresas, Google y Facebook, y ¿hacia dónde las apuntamos? Los estamos apuntando al cerebro de las personas, a los niños ”, dijo Tristan Harris, ex especialista en ética tecnológica de Google y cofundador del Centro de Tecnología Humana, en una entrevista .
El algoritmo de Facebook decide qué publicaciones se muestran en el feed del usuario. Facebook se basa en múltiples capas de modelos ML y clasificaciones desarrolladas para predecir las publicaciones más valiosas y significativas para el usuario. La personalización y el contenido relevante siguen siendo la principal prioridad de la empresa.
El motor de recomendaciones de TikTok aprovecha las prácticas de inteligencia artificial y minería de datos para crear su feed ‘For You’.
Los algoritmos de recomendación se desarrollan para que los usuarios estén al tanto:
- Tan pronto como termina un video, comienza otro video con contenido relevante. Tik Tok, los carretes de Instagram no tienen la opción de deshabilitar la reproducción automática de contenido, lo que dificulta dejar de mirar.
- Efecto de dotación: cuanto más tiempo se invierte en construir un mundo virtual en un juego o un perfil en las redes sociales, más difícil resulta desprenderse de la aplicación o eliminarla.
- Presión social: Por ejemplo, los checks azules cuando se ven y los grises cuando el mensaje se entrega con éxito.
- Recompensa y retroalimentación social
Cuestiones éticas
Los algoritmos que muestran a un usuario lo que quiere ver y mejoran la predicción de lo que el usuario consume acaban creando una cámara de eco. Por ejemplo, debido a que el algoritmo de YouTube está optimizado para lograr el máximo engagement, tiende a ofrecer opciones que refuerzan creencias, gustos y disgustos que ya se tienen y cierran otras vistas, creando una experiencia adictiva.
Los informes muestran que los videos polémicos y extremos son recompensados, lo que genera desinformación y radicalización política. En muchos aspectos, el discurso político en el que participan las personas hoy en día es un producto directo de las redes sociales.
El propósito de los algoritmos es ayudar a tomar decisiones. El usuario elige entre una serie de opciones que sirven para entrenar al algoritmo. Con el tiempo, se crea un bucle de retroalimentación en el que el resultado se convierte en una parte de la entrada del algoritmo.
En gran medida, los algoritmos se tratan como desafíos puramente de ingeniería y no como problemas socio-técnicos. Los expertos en tecnología están más preocupados por encontrar soluciones efectivas que por su impacto social.
Los algoritmos adquieren sesgos con el tiempo. A pesar de los sólidos argumentos y la evidencia de que los algoritmos reducen las opciones, algunos estudios de investigación dudan de su validez. La experta en comunicación holandesa Judith Moller y sus colegas utilizaron algoritmos para recomendar artículos en un periódico. El estudio informó de un conjunto más diverso de resultados en comparación con las selecciones de los editores humanos.
Los algoritmos de aprendizaje automático dominan la recomendación de lo que le interesa a un usuario. Se investiga sobre la ingeniería de la diversidad para mejorar la gama de opciones y comprender mejor los intereses del usuario. Eso en lo que respecta a los algoritmos. Las empresas de Social Media, sin embargo, necesitan ser reguladas, pero equilibrar el beneficio y el interés humano es un reto para estas empresas.
