Conclusiones clave
- El sesgo algorítmico es dañino para los adolescentes que pasan mucho tiempo en Internet, dicen los expertos.
- Los usuarios de Twitter se encontraron recientemente con un problema en el que los rostros negros se sacrificaban en favor de los blancos.
- Los cerebros en desarrollo de los adolescentes pueden ser particularmente susceptibles a los efectos dañinos del sesgo algorítmico, dicen los investigadores.
El prejuicio integrado en algunas tecnologías, conocido como sesgo algorítmico, puede ser dañino para muchos grupos, pero los expertos dicen que es particularmente dañino para los adolescentes.
El sesgo algorítmico, cuando los sistemas informáticos muestran resultados perjudiciales, es un problema creciente. Los usuarios de Twitter encontraron recientemente un ejemplo de sesgo en la plataforma cuando un algoritmo de detección de imágenes que recortaba fotos recortaba las caras negras en favor de las blancas. La compañía se disculpó por el problema, pero aún no ha publicado una solución. Es un ejemplo del sesgo que enfrentan los adolescentes cuando se conectan a Internet, lo que hacen más que cualquier otro grupo de edad, dicen los expertos.
"La mayoría de los adolescentes no saben que las empresas de redes sociales las tienen para promocionar contenido específico que creen que les gustará a los usuarios [con el fin] de que permanezcan el mayor tiempo posible en la plataforma", Dr. Mai- Ly Nguyen Steers, profesora asistente en la Escuela de Enfermería de la Universidad de Duquesne que estudia el uso de las redes sociales entre adolescentes/estudiantes universitarios, dijo en una entrevista por correo electrónico.
"Incluso si existe cierto nivel de conciencia sobre el algoritmo, el efecto de no obtener suficientes Me gusta y comentarios sigue siendo poderoso y puede afectar la autoestima de los adolescentes", agregó Steers.
Cerebros en desarrollo
El sesgo algorítmico puede afectar a los adolescentes de maneras imprevistas, ya que su corteza prefrontal aún se está desarrollando, explicó Mikaela Pisani, científica de datos en jefe de Rootstrap, en una entrevista por correo electrónico.
El efecto de no obtener suficientes Me gusta y comentarios sigue siendo poderoso y puede afectar la autoestima de los adolescentes.
"Los adolescentes son especialmente vulnerables al fenómeno de la 'fábrica social', donde los algoritmos crean grupos sociales en plataformas en línea, lo que provoca ansiedad y depresión si no se satisfacen las necesidades de aprobación social del adolescente", dijo Pisani. "Los algoritmos se simplifican en función de datos imperfectos previos, lo que lleva a una sobrerrepresentación de los estereotipos a expensas de enfoques más matizados para la formación de la identidad.
"Tomando un punto de vista más amplio, también nos queda preguntarnos, como sociedad, si queremos algoritmos que den forma a los viajes de nuestros adolescentes hacia la edad adulta, y si este sistema incluso apoya en lugar de sofocar el crecimiento personal individual?"
Debido a estos problemas, existe una creciente necesidad de tener en cuenta a los adolescentes al diseñar algoritmos, dicen los expertos.
"Con base en los aportes de especialistas en desarrollo, científicos de datos y defensores de la juventud, las políticas del siglo XXI sobre privacidad de datos y diseño algorítmico también podrían construirse teniendo en cuenta las necesidades particulares de los adolescentes", Avriel Epps-Darling, doctora estudiante de Harvard, escribió recientemente. "Si, en cambio, continuamos minimizando o ignorando las formas en que los adolescentes son vulnerables al racismo algorítmico, es probable que los daños repercutan en las generaciones venideras".
Combatiendo los prejuicios
Hasta que haya una solución, algunos investigadores están tratando de encontrar formas de disminuir el daño causado a los jóvenes por algoritmos sesgados.
"Las intervenciones se han centrado en hacer que los adolescentes reconozcan que sus patrones en las redes sociales tienen un impacto negativo en su salud mental y tratar de idear estrategias para mitigar eso (por ejemplo, uso reducido de las redes sociales)", dijo Steers.
"Algunos de los estudiantes universitarios que hemos entrevistado han indicado que se sienten obligados a generar contenido para seguir siendo "relevantes", incluso si no quieren salir o publicar", continuó. "Sin embargo, sienten que necesitan generar contenido para mantener sus conexiones con sus seguidores o amigos".
La respuesta definitiva podría ser eliminar el sesgo humano de las computadoras. Pero dado que los programadores son solo humanos, ese es un desafío difícil, dicen los expertos.
Una posible solución es desarrollar computadoras descentralizadas y programadas para olvidar cosas que han aprendido, dice John Suit, director de tecnología de la empresa de robótica KODA.
"A través de una red descentralizada, los datos y el análisis de esos datos se compilan y analizan desde múltiples puntos", dijo Suit en una entrevista por correo electrónico. "Los datos se recopilan y procesan no desde un solo procesamiento mental de IA dentro de los límites de su algoritmo, sino desde cientos o incluso miles.
"A medida que se recopilan y analizan esos datos, se olvidan las "conclusiones" antiguas o los datos superfluos. A través de este sistema, un algoritmo que puede haber comenzado con un sesgo eventualmente corregirá y reemplazará ese sesgo si resulta ser incorrecto."
Si bien el sesgo puede ser un problema antiguo, puede haber formas de combatirlo, al menos en línea. Diseñar computadoras que se deshagan de nuestros prejuicios es el primer paso.
