Conclusiones clave
- La Comisión Europea (CE) ha propuesto un nuevo conjunto de normas para frenar la difusión de material de abuso sexual infantil.
- La propuesta exige escanear conversaciones privadas en línea y ha sido criticada por defensores de la privacidad.
- Lo que se requiere es usar tecnología para ayudar a los padres a monitorear a sus hijos en línea, sugieren los expertos.
El material de abuso infantil a través de los canales en línea ha alcanzado niveles sin precedentes, pero una solución propuesta para controlar esta amenaza no está sentando bien a los defensores de la privacidad.
La Comisión Europea (CE) ha propuesto recientemente nuevas regulaciones que exigirían que las aplicaciones de chat como WhatsApp y Facebook Messenger analicen los mensajes privados de los usuarios marcados en busca de material de abuso sexual infantil (CSAM).
"Esta es una propuesta impresionantemente audaz y ambiciosa para prevenir sistemáticamente el abuso y el acoso infantil evitables que se está produciendo a niveles récord", Andy Burrows, director de seguridad infantil en línea de la Sociedad Nacional para la Prevención de la Crueldad contra los Niños (NSPCC), le dijo a Lifewire por correo electrónico. “Si se aprueba, impondrá un requisito claro en las plataformas para combatir el abuso donde sea que ocurra, incluso en mensajes privados donde los niños corren mayor riesgo”.
¿Fin de extremo a extremo?
La regulación busca establecer nuevas reglas para las plataformas en línea, denominadas colectivamente proveedores de servicios en línea, y cubre una amplia gama de servicios que incluyen tiendas de aplicaciones, empresas de alojamiento web y cualquier proveedor de "servicio de comunicaciones interpersonales".
El único aspecto de la propuesta que ha alterado algunas plumas entre los grupos de privacidad son las obligaciones que se aplicarían a los servicios de mensajería como WhatsApp y Facebook Messenger.
Según la propuesta, siempre y cuando un servicio de mensajería reciba una "orden de detección" de la CE, se le pedirá que escanee los mensajes de los usuarios marcados para buscar evidencia de MASI y otros comportamientos abusivos que involucren a niños. En lugar de emplear humanos para la tarea, la propuesta exige el uso de herramientas de aprendizaje automático (ML) e inteligencia artificial (IA) para examinar las conversaciones.
Margaritis Schinas, vicepresidenta para la promoción de nuestro estilo de vida europeo, señaló que la propuesta también exige la colocación de salvaguardias para evitar el uso indebido. "Solo estamos hablando de un programa que escanea en busca de marcadores de contenido ilegal de la misma manera que los programas de ciberseguridad ejecutan controles constantes de violaciones de seguridad", señaló Schinas en el anuncio de EC.
Los organismos que trabajan para proteger a los niños se han manifestado en apoyo de la propuesta. "Esta propuesta innovadora podría establecer el estándar para la regulación que equilibre los derechos fundamentales de todos los usuarios de Internet al tiempo que prioriza la protección de los niños", afirmó Burrows.
horquillas y antorchas
Sin embargo, los defensores de la privacidad argumentan que la propuesta desalienta efectivamente el uso del cifrado de extremo a extremo.
"Al amenazar a las empresas con acciones legales, es probable que la Comisión intente lavarse las manos de la responsabilidad por medidas peligrosas y que invadan la privacidad, mientras que de facto incentiva estas medidas con la ley", opinó Ella Jakubowska, Política Asesor del grupo de defensa digital European Digital Rights (EDRi) en un comunicado de prensa.
br/
EDRi argumenta que las medidas de la propuesta ponen en peligro la integridad vital de las comunicaciones seguras, llegando incluso a afirmar que las nuevas reglas "obligarían a las empresas a convertir nuestros dispositivos digitales en piezas potenciales de spyware. También se opone al uso de herramientas de escaneo basadas en IA, refiriéndose a ellas como "notoriamente inexactas".
Dimitri Shelest, fundador y director ejecutivo de OneRep, una empresa de privacidad en línea que ayuda a las personas a eliminar su información confidencial de Internet, cree firmemente que ninguna aplicación gubernamental o de redes sociales debe escanear los mensajes privados de los usuarios, ni siquiera de forma selectiva.
"Al legitimar este tipo de vigilancia, abrimos la caja de Pandora y creamos múltiples oportunidades para hacer mal uso de la información obtenida como resultado de tal intrusión en la privacidad", dijo Shelest a Lifewire por correo electrónico.
Jakubowska está de acuerdo. En el comunicado de prensa, pregunta si las empresas hoy pueden escanear nuestros mensajes privados, ¿qué impide que los gobiernos las obliguen a "buscar evidencia de disidencia u oposición política mañana?"
Sin embargo, todo podría quedar en nada. Jesper Lund, presidente de IT-Pol Dinamarca, cree que algunos aspectos de la propuesta podrían no ser implementables en primer lugar.
"La propuesta incluye un requisito para que los proveedores de servicios de Internet bloqueen el acceso a piezas específicas de contenido en sitios web bajo las órdenes de las autoridades nacionales", explicó Lund en el comunicado de prensa de EDRi. "Sin embargo, este tipo de bloqueo será técnicamente imposible con HTTPS, que ahora se usa en casi todos los sitios web".
Cuando se le preguntó si la violación de la privacidad era la única forma de proteger a los niños en línea, Shelest respondió con un rotundo "No". Él cree que una solución viable real combina la participación de los padres con el apoyo de la tecnología, lo que podría ayudar a los padres a controlar las actividades en línea de sus hijos.
"Un buen comienzo sería que los gigantes tecnológicos como Apple y Google proporcionaran capacidades más amplias en sus plataformas que respalden a los padres con una automatización más avanzada", sugirió Shelest. "La clave es ayudar a los padres a apoyar a sus hijos".
