Descubre Su Número De Ángel
Diseño de Lauren Park
'¿Va a ser una foto de polla?' es una pregunta que muchas personas, especialmente las mujeres, se hacen con una sensación de pavor cada vez que ven un mensaje directo de un extraño. Bueno, finalmente hay una aplicación para esa ansiedad, al menos para tus DM de Twitter.
La inspiración para SafeDM , un filtro de bloqueo de contenido que se encuentra actualmente en desarrollo, surgió cuando Kelsey Bressler se encontró lidiando con un acoso no deseado, del tipo sexual digital.
“[Era] una persona al azar y quería llamar mi atención”, dice Bressler. 'Me preguntaron por qué nunca me hablas y luego me enviaron ... eso. Creo que sé por qué no hablo con esa persona '.
La experiencia de Bressler con el porno de venganza también la ha impulsado a luchar contra este acoso. Con un equipo de otros tres, ella está trabajando en un filtro de contenido AI, enseñándole a reconocer fotos de pollas, informar al usuario sobre ellas y también eliminarlas de su bandeja de entrada.
La investigación muestra que 53 por ciento de las mujeres de 18 a 29 años y aproximadamente 78 por ciento de las mujeres millennial son mensajes de imágenes explícitas no solicitadas, muchas de las cuales son fotos de pollas.
'Si una mujer no ha experimentado el ciber flasheo, conoce a alguien que sí lo ha hecho. Es algo tan común que realmente no hemos tenido una solución más que decirles a las mujeres que simplemente cierren sus DM, lo cual no es la respuesta correcta en mi opinión ”, dice Bressler. 'Esto es algo que entusiasma mucho a la mayoría de las mujeres'.
¿Cómo aprende la IA cómo se ven las fotos de pollas?
Bueno, gracias a Tuit viral de Bressler en septiembre , muchas fotos solicitadas se envían a la cuenta ShowYoDiq . (Algunas fotos también se envían por error, y no por error, a la cuenta personal de Twitter de Bressler). Pollas cubiertas de purpurina. Pollas con calcetines. Penes en jaulas: todas estas fotos han sido probadas para ayudar a la IA a reconocer qué hace una foto de pene.
Pío
Si es un pene, SafeDM eliminará automáticamente la imagen y responderá al remitente diciendo que lo que se envió fue un mensaje inapropiado y le informará al usuario su recuento de golpes.
'No los regañamos en el mensaje. Decimos que fue contenido inapropiado. Estamos trabajando en toda la palabrería, así como en nuestro recuento de huelgas, [que después de] una cierta cantidad de huelgas, la persona se bloquea automáticamente para que no pueda volver a contactarte '.
Algunos usuarios potenciales han declarado que les gustaría bloquear manualmente a los infractores ellos mismos en lugar de que SafeDM lo haga automáticamente por ellos. Bressler y su equipo están escuchando los comentarios de los interesados en el filtro.
“Es lo que quieren los usuarios. Estamos tratando de hacer las cosas lo más flexibles posible para que la gente pueda cambiar esta configuración ”, dice Bressler. Cuando se lance, el filtro y su configuración serán completamente funcionales, pero el equipo está dispuesto a adoptar las opciones solicitadas por el usuario después del lanzamiento para sus usuarios finales mientras conserva su funcionalidad principal.
Este filtro de contenido está (tentativamente) programado para ser lanzado el 14 de febrero.
Gracias a la cantidad de datos proporcionados por gente ansiosa, ha habido bastante que probar para ayudar al filtro de contenido a determinar qué es un pene y qué, bueno, no es solo un producto de aspecto fálico. Esto también ha ayudado al equipo a desarrollar el filtro con bastante rapidez, incluso si los falsos positivos deben o no ser detectados por el filtro.
'Tenemos más del 99 por ciento de precisión, aunque tenemos falsos positivos', dice Bressler. “Tenemos que llegar a un punto en el que tenemos que decidir si la gente quiere ver objetos parecidos al pene, ¿eso también es acoso? Incluso si [la imagen] no es un pene, ¿debería el filtro filtrarlo de todos modos? Realmente se remonta a lo que el usuario desea '.
Las pruebas de Twitter de SafeDm han mostrado un tremendo progreso y precisión desde que se anunció en septiembre con cada vez menos superando su filtro de contenido AI. Y la gente está naturalmente entusiasmada con el próximo lanzamiento. En un giro sorprendente, Bressler mencionó que algunas de sus personas favoritas para recibir mensajes sobre el filtro son de los papás, en particular de los papás con hijas.
“Están felices de que lo esté haciendo, pero tristes de que sea necesario para empezar. [He tenido un par de] papás [que] están contentos de que esté trabajando en eso porque tienen hijas y no quieren que tengan que lidiar con esto '.
Cualquiera que tenga una cuenta de Twitter podrá utilizar el filtro de bloqueo de contenido
'No necesitas un modelo de teléfono específico', explica Bressler. “Cualquier cuenta de Twitter puede usar esto. Funciona igual en la aplicación y en la web '.
El objetivo final del proyecto es devolver el control a la comunidad para que no tengan que vivir con miedo de lo que reside en sus bandejas de entrada de Twitter.
altura de kate gorney
'Es gracioso cómo puedes sacar algo de una situación desagradable y tener un poco de control sobre la situación y hacer del mundo un lugar mejor'.
