Detalles de los desafíos cara a cara a -face

Carro de YaleAnteriormente, el jefe de confianza y protección de Twitter, ahora en el partido, el futuro de la red social abierta y la eficiencia de luchar contra el abuso sexual infantil (CSAM), el spam y otros materiales ilegales han compartido sus preocupaciones. En una entrevista reciente, ansiosa por la falta de adición al equipo disponible para la Federación Roth: la red social abierta que incluye caminos de mástiles, hilos, Pixelfade y otros, así como otras plataformas abiertas como Bluski.

También recordó los momentos principales de confianza y protección en Twitter, como la decisión de prohibir el presidente Trump de la plataforma, la información errónea extendida por las empresas de bots rusas y cómo los propios usuarios de Twitter fueron sometidos a bots, incluido Jack Dorsy.

Podcast Con revolucion.social @rabbleRoth menciona que el intento de administrar las comunidades en línea de manera más democrática en la red social abierta es el recurso más bajo cuando se trata de herramientas de restricción.

“… Mirando a Mastadon, mirando otros servicios basados en la actividad (protocolo), mirando a Blusky en sus primeros días, el Meta comenzó a desarrollarlo, mirando los hilos, vimos que muchos de los riesgos más rigurosos en el control basado en la comunidad les dieron muchos servicios para poder manejar sus principios.

Cuando se produjo Twitter, una vez la transparencia y la validez de la decisión, vio un “gran avance” en la red social abierta. Aunque lógicamente, muchos no estaban de acuerdo con la decisión de Twitter de prohibir a Trump, la compañía explicó su argumento para hacer esto. Ahora, los proveedores de redes sociales están tan preocupados por evitar que los malos actores juegan que rara vez se explican.

Mientras tanto, en muchas plataformas sociales abiertas, los usuarios no recibirán ningún aviso sobre sus publicaciones prohibidas y sus publicaciones solo desaparecerán: la existencia de la publicación se usó para otros que se usaron para otros.

“No estoy culpando a las nuevas empresas de nuevas piezas de software por la falta de nuevas empresas, o todas las campanas y silbatos, pero si todo el tema del proyecto aumentaba la validez democrática de la administración, y lo que hicimos regresó un paso atrás a la administración, ¿realmente funcionó?” El carro está sorprendido.

Economía

Todavía no ha sostenido los problemas que rodean la economía de la moderación y cómo el método federado aún no se ha mantenido.

Por ejemplo, una compañía llamada IFTA (confianza y seguridad federadas independientes) estaba trabajando para hacer equipos de restricción para la federación, incluido el acceso a equipos para combatir CSAM, pero se ha quedado de dinero y Tuve que cerrar mucho Sus proyectos antes de 2025.

“Lo vimos aparecer hace dos años. Iftas lo vio llegar a él. Todos los que trabajan en este lugar ofrecen su tiempo y esfuerzo, y solo desaparece, porque en un momento las personas tienen familias y facturas, y si necesita administrar modelos de ML para identificar ciertos tipos de materiales malos, explicó”. Y en mi opinión no hacer eso todavía. ”

Mientras tanto, Bluiceki ha elegido moderadores para contratar y alquilar en fe y protección, pero se limita a su propia restricción de aplicaciones. Además, proporcionan herramientas que permiten a las personas personalizar sus propias preferencias de adición.

Roth dijo: “Están haciendo este trabajo en una escala. Obviamente, hay un lugar para mejorar. Me gustaría ver que sean un poco más transparentes, pero, sin embargo, como el servicio está más descentralizado, la responsabilidad de proteger a la persona en las necesidades de la comunidad se enfrentará, mencionó, mencionó.

Por ejemplo, con Doxxing, es posible que nadie vea que su información personal se está difundiendo en línea debido a cómo configuraron sus herramientas de adición. Pero incluso si el usuario no está en la aplicación original de Blogsky, debería ser responsabilidad de cualquier persona a implementar esta seguridad.

Donde dibujar líneas sobre la privacidad

Otro punto frente a la Federación es que la decisión de ir por la privacidad puede no intentar reestreles. Aunque Twitter no intentó guardar datos personales, no necesitaba recopilar cosas como la dirección IP del usuario, cuando accedieron a los servicios, identificadores de dispositivos y más. Necesitaban la agencia si algo como la granja de troll rusos necesitaba un análisis forense.

Los administradores de la federación, ya ni siquiera pueden recolectar los registros requeridos o si piensan que es una violación de la privacidad del usuario, es posible que no lo vea.

Pero la realidad es que sin datos, es más difícil determinar quién es realmente Bot.

Roth ha dado algunos ejemplos de esto desde sus días de Twitter, mencionando que se ha convertido en una tendencia a responder al “bot” de cómo los usuarios no están de acuerdo con nadie. Él dice que inicialmente tenía una advertencia y revisó manualmente todas estas publicaciones, probando cientos de ejemplos de quejas de “bot” y nadie era correcto. Incluso el cofundador de Twitter y ex CE De un actor ruso afirmó ser Crystal JohnsonUna mujer negra en Nueva York.

Roth dijo: “Al CEO de la compañía le gustó el contenido, lo amplió y Crystal Johnson no tenía forma de saberlo como un troll ruso”, dijo Roth.

Introducción de AI

Un tema oportuno de discusión es cómo AI está cambiando el paisaje. Investigaciones recientes de Roth Stanford señala que en un contexto político, los modelos de idiomas más grandes (LLM) pueden incluso ser más valiosos que los humanos, incluso cuando se sintonizan adecuadamente.

Esto significa que una solución que depende solo del análisis de contenido no es suficiente.

En cambio, las empresas deben rastrear otras señales de comportamiento, como si una entidad crea múltiples cuentas, utilizando la automatización para publicar o se publica en la hora más extraña del día que coincide con la zona en diferentes momentos, aconsejó.

“Estas son las señales de comportamiento que están realmente inactivas en el confinamiento del INSC. Y creo que esto es lo que necesitas comenzar”, dijo Roth. “Si comienzas con contenido, estás ejecutando un arma contra el liderazgo de los modelos de IA y ya has perdido”