La discusión sobre la extensión del sistema de control de chats en Europa ha dado un paso notable con la reciente presentación del informe preliminar de la ponente del Parlamento Europeo, Birgit Sippel, del grupo S&D. En su propuesta, Sippel sugiere que se continúe con el monitoreo de chats sin la necesidad de órdenes judiciales, aunque establece restricciones adicionales que buscan limitar el uso de tecnologías menos fiables, como la exploración de mensajes de texto y la evaluación automática de visuales desconocidos.
A pesar de estos cambios, la organización «Stop Chat Control» ha expresado su preocupación sobre la forma en que la vigilancia masiva seguirá siendo la norma. Este borrador permitiría la supervisión sin procedimientos judiciales de los chats privados, con el objetivo de detectar «material conocido» a través del escaneo de hash. Sin embargo, críticos argumentan que la modificación propuesta es insuficiente y podría tener repercusiones negativas en la privacidad de los ciudadanos.
La problemática inherente a este sistema es alarmante. Actualmente, aproximadamente el 99% de los informes de chats a la policía provienen de la plataforma Meta, que ya se enfoca únicamente en «material conocido», lo cual continuaría bajo la nueva regulación. Esto genera un alarmante 48% de falsos positivos, donde los chats considerados irrelevantes criminalmente, según la Oficina Federal de Investigación Criminal de Alemania, acaban saturando los recursos destinados a la investigación efectiva de delitos.
Los problemas son profundos y se agravan por varios factores. La “ceguera de contexto e intención” de los algoritmos puede llevar a malentendidos y a la criminalización de menores. Hoy en día, el 40% de las investigaciones de abuso en Alemania se enfocan en adolescentes en lugar de en redes de depredadores organizados. La carga sobre las fuerzas policiales también se vuelve insostenible; cerca de la mitad de los chats marcados como problemáticos son considerados irrelevantes desde el punto de vista criminal.
El seguimiento de imágenes ya conocidas no aborda el problema del abuso en tiempo real, ni ayuda a rescatar a los niños en peligro. Además, los perpetradores pueden simplemente trasladarse a plataformas de mensajería encriptadas donde no se lleva a cabo el Chat Control. Desde 2022, la cantidad de chats reportados a la policía ha disminuido en un 50%, lo que pone en duda la eficacia del escaneo masivo.
La crítica de expertos y activistas resalta la necesidad de un verdadero cambio en las estrategias de protección infantil en línea, en lugar de medidas que solo parecen simbólicas. “La vigilancia masiva sin órdenes judiciales está mal, independientemente de si se aplica a textos o imágenes”, señala un representante de la alianza «Stop Chat Control». Los eurodiputados ahora tienen la oportunidad de presentar enmiendas al borrador hasta el 10 de febrero, en un proceso que se espera sea acompañado por protestas ciudadanas, subrayando la relevancia de la defensa de derechos fundamentales en la era digital.
