Facebook, Twitter, Microsoft y YouTube anunciaron que trabajarán juntos para construir una base de datos masiva. Esta base de datos contendrá imágenes y videos utilizados por redes terroristas Crimen, Terrorismo y Seguridad: El Lado Oscuro de las Redes Sociales Crimen, Terrorismo y Seguridad: El Lado Oscuro de las Redes Sociales Los medios sociales no son solo memes de gatos y videos de bromas. Los usuarios de Facebook, Twitter y Tumblr pueden fácilmente encontrar material más oscuro distribuido por grupos terroristas con habilidades tecnológicas. Que deberias hacer al respecto? Lea más para difundir propaganda y llegar a posibles reclutas. La base de datos alertará a estas compañías cuando algo en su sitio probablemente viole sus términos de uso.
Parece una buena idea, ¿verdad?
Los detalles
A partir de ahora, los detalles son un poco confusos. Cada imagen y video en la base de datos tendrá una "huella dactilar digital única" y se alertará a las compañías cuando aparezca ese contenido en su sitio. Al comienzo del programa, las empresas solo agregarán "las imágenes y videos terroristas más extremos y atroces" a la base de datos.
La idea es que estas imágenes y videos sean los más susceptibles de violar los términos de uso. Por qué deberías leer los términos del servicio, hacer que Pokemon GO Go Away ... [Tech News Digest] ¿Por qué deberías leer los términos del servicio? Haz Pokémon. GO Go Away ... [Tech News Digest] Todo el mundo se salta las Condiciones del servicio, PokeGone convierte a Pokemon GO en Pokemon NO, Facebook mantiene sus conversaciones en secreto, Blizzard silencia a los jugadores de douchebag de World of Warcraft y Samuel L. Jackson explica Game of Thrones. Lea más de todas las plataformas. Esto hace que sea una decisión fácil eliminar ese contenido si aparece en otro lugar. Cada compañía decide qué imagen y videos deben estar en la base de datos. También tendrán el poder de decidir si eliminan el contenido si aparece en su sitio.
Eso es todo lo que sabemos hasta ahora. Twitter espera que "esta colaboración conduzca a una mayor eficiencia a medida que continuamos aplicando nuestras políticas para ayudar a frenar el acuciante problema global del contenido terrorista en línea". Pero realmente no sabemos mucho hasta el momento. ¿Quién decidirá qué contenido contribuir? ¿Las compañías establecerán comités de revisión independientes para este tipo de cosas? ¿O simplemente agregarán algunas cosas de vez en cuando cuando les apetezca?
Un pobre registro
Es realmente difícil controlar el contenido en línea. Ya sea información errónea, abuso, videos de reclutamiento de terroristas. Cómo las plataformas de medios sociales luchan contra los extremistas Cómo las plataformas de medios sociales luchan contra los extremistas Las redes sociales representan una herramienta poderosa para los grupos terroristas, principalmente para la propaganda y el reclutamiento. Entonces, ¿qué están haciendo Facebook y Twitter sobre esto? ¿Cómo pueden las redes sociales combatir el terrorismo? Lea más, o uno de los muchos otros tipos de contenido malo en línea, hay un campo minado de problemas inherentes al proceso. ¿Quién decide qué grupos califican como terroristas? ¿Cómo se toma la decisión de eliminar contenido? ¿Las compañías saldrán a buscarlo, o dependerán de los usuarios para informarlo?
Microsoft, en su declaración sobre el contenido terrorista en línea, dijo esto:
Cuando llamemos nuestra atención sobre el contenido terrorista de nuestros servicios al consumidor alojados a través de nuestra herramienta de informes en línea, lo eliminaremos.
Y proporcionan un enlace a un formulario utilizado específicamente para informar sobre contenido terrorista. Pero, ¿qué probabilidades hay de que alguien busque y use esa forma? También dicen que "eliminarán los enlaces a contenido relacionado con terroristas de Bing solo cuando se requiera esa eliminación de los proveedores de búsquedas según las leyes locales".
Esto además pone la responsabilidad en otro lado.
Problemas de responsabilidad
La Electronic Frontier Foundation ha escrito extensamente sobre las dificultades en la vigilancia de este tipo de contenido en línea. En una publicación de 2014, criticaron el plan del Reino Unido para obligar a los ISP a bloquear el "contenido extremista" sin transparencia y procedimientos de rendición de cuentas. Los grupos de derechos humanos también han criticado a Francia por tener definiciones muy amplias de la actividad terrorista.
Tanto Twitter como Facebook tienen registros bastante pobres con contenido policial en sus sitios Cómo las plataformas de medios sociales luchan contra los extremistas Cómo las plataformas de medios sociales luchan contra los extremistas Las redes sociales representan una herramienta poderosa para los grupos terroristas, principalmente para la propaganda y el reclutamiento. Entonces, ¿qué están haciendo Facebook y Twitter sobre esto? ¿Cómo pueden las redes sociales combatir el terrorismo? Lee mas . Aunque Twitter ha eliminado más de 100.000 cuentas de Twitter relacionadas con ISIS y ha empezado a controlar más a los grupos de incitación al odio, tienen una mala reputación por permitir que el extremismo y el abuso proliferen en su plataforma. Facebook también parece contento de continuar usando un enfoque de no intervención bajo la bandera de la libertad de expresión.
Por supuesto, es bastante difícil administrar este tipo de responsabilidad. No digo que sea fácil. Pero las compañías tecnológicas son expertas en distanciarse de lo que se usa para su tecnología. Eso incluye la propagación de imágenes, videos, campañas de reclutamiento y otros contenidos terroristas. En agosto de 2016, un informe británico declaró que Facebook, Twitter y YouTube estaban "fracasando conscientemente en combatir el uso de sus sitios para promover el terrorismo y el asesinato".
El establecimiento de una base de datos de imágenes y videos no parece cambiar eso. Es alentador que estén tomando medidas, pero es difícil imaginar que sea más que poco entusiasta.
¿Podría ser esto un problema de privacidad?
Debido a que las empresas agregarán elementos manualmente a la base de datos después de que los usuarios los den a conocer, no parece que exista la posibilidad de que sus imágenes o videos accidentalmente encuentren su camino hacia la base de datos. Lo cual es alentador Sin embargo, la creación de una base de datos central masiva llena de contenido "malo" identificado de manera única es preocupante.
Esto se debe en gran parte a que las personas a cargo en ese momento deciden qué se considera "malo". Esto es especialmente cierto si hay participación gubernamental. Podrías ser parte de la mayoría un día, y en una minoría perseguida el siguiente. El despliegue de este tipo de tecnología hace que ese tipo de cambio sea aún más aterrador.
Por supuesto, no hay indicios de que estas compañías utilicen esta base de datos para nada más que la aplicación poco estricta de sus propios lineamientos de términos de uso. Pero el hecho de que las organizaciones privadas hayan desarrollado y estén implementando esta tecnología podría preocupar a algunas personas. Los gobiernos seguramente tienen tecnología de vigilancia que ya es poderosa, pero la proliferación podría ser una señal de que las empresas tendrán las herramientas para recopilar más información en el futuro cercano.
A partir de ahora, no hay razón para preocuparse de que su privacidad esté en peligro por la base de datos de contenido terrorista. Pero las organizaciones de defensa de la intimidad y de la defensa ¿Quién lucha contra usted en nombre de la NSA y por su privacidad? ¿Quién está luchando en su nombre contra la NSA y para la privacidad? Hay varios grupos de activismo de Internet que luchan en su nombre por la privacidad. También están haciendo lo mejor para educar a los internautas. Aquí hay solo algunos de ellos que son increíblemente activos. Leer más haría bien en vigilar el despliegue de este tipo de tecnología en otro lugar.
¿Un paso adelante?
Es bueno ver que las compañías tecnológicas están intensificando y siendo proactivas sobre el contenido terrorista en sus plataformas. Pero su registro está lleno de aplicación negligente y negligencia deliberada. ¿Esta herramienta ayudará a cambiar eso? No parece probable. (A menos que lo automaticen, que viene con una gran cantidad de otros problemas.) En mi opinión, esta base de datos no cambiará mucho, y Twitter, Facebook, Microsoft y YouTube lo han concebido muy bien como una medida de relaciones públicas en lugar de uno realmente tenía la intención de hacer el bien.
¿Qué piensas? ¿Esta base de datos ayudará a luchar contra la propagación del contenido terrorista en línea? ¿O es un gesto vacío en un esfuerzo por ganarse la admiración pública? ¡Comparte tus pensamientos en los comentarios a continuación!
Créditos de las imágenes: Yunava1 / Shutterstock