Finn Ut Antall Engel
Design av Lauren Park
'Blir dette et pikk-bilde?' er et spørsmål så mange folk, spesielt kvinner, stiller med frykt når de ser en DM fra en fremmed. Vel, det er endelig en app for den angsten, i det minste for Twitter DM-ene dine.
Inspirasjonen til SafeDM , et innholdsblokkerende filter som for tiden er under utvikling, utløste da Kelsey Bressler fant seg å håndtere uønsket trakassering, av den digitale seksuelle typen.
'[Det var] en tilfeldig person og ønsket å få oppmerksomheten min,' sier Bressler. 'De spurte hvorfor ikke du noen gang snakket med meg og sendte meg ... det. Jeg tror jeg vet hvorfor jeg ikke snakker med den personen. '
Bresslers erfaring med hevnporno har også ansporet henne til å kjempe tilbake mot denne trakasseringen. Med et team på tre andre jobber hun med et innholdsfilter AI, og lærer det å gjenkjenne pikkbilder, informere brukeren om dem, og også slette dem fra innboksen sin.
Forskning viser det 53 prosent av kvinnene 18 til 29 og omtrent 78 prosent av tusenårs kvinnene er meldte uønskede eksplisitte bilder, hvorav mange er pikkbilder.
“Hvis en kvinne ikke har opplevd cyberblinking, kjenner hun noen som har gjort det. Det er noe så vanlig at vi virkelig ikke har hatt en annen løsning enn å fortelle kvinner å bare lukke DM, noe som ikke er riktig svar etter min mening, sier Bressler. 'Dette er noe de fleste kvinner er veldig begeistret for.'
Hvordan lærer AI hvordan pikkbilder ser ut?
Vel, takk til Bresslers virale tweet i september , mange anmodede bilder blir sendt til kontoen VisYoDiq . (Noen bilder sendes dessverre feilaktig, og ikke feilaktig, til Bresslers personlige Twitter-konto.) Dicks dekket av glitter. Dicks med sokker på. Peniser i bur - alle disse bildene er testet for å hjelpe AI å gjenkjenne hva som gjør et pikkbilde.
kvitring
Hvis det er en penis, vil SafeDM automatisk slette bildet og svare på avsenderen og si at det som ble sendt var en upassende melding, og la brukeren få vite antall streik.
“Vi skjeller dem ikke ut i meldingen. Vi sier at det var upassende innhold. Vi jobber med alle ordene så vel som antall streik, [som etter] en viss mengde streiker blir automatisk blokkert fra å kontakte deg igjen. ”
Noen potensielle brukere har uttalt at de ønsker å blokkere lovbrytere manuelt i stedet for at SafeDM automatisk gjør det for dem. Bressler og hennes team hører på tilbakemeldingene fra de som er interessert i filteret.
'Det er hva brukerne vil ha. Vi prøver å gjøre ting så fleksible som mulig, slik at folk kan endre disse innstillingene, sier Bressler. Når det er utgitt, vil filteret og dets innstillinger være fullt funksjonelle, men teamet er villig til å ta i bruk etterspurte alternativer etter utgivelsesdato til sluttbrukerne, mens de beholder sin kjernefunksjonalitet.
Dette innholdsfilteret er (foreløpig) satt til å bli utgitt 14. februar
Takket være mengden data som leveres av ivrige folk, har det vært ganske mye å teste for å hjelpe innholdsfiltret med å bestemme hva som er en penis, og hva, vel, ikke bare er et fallisk produkt. Dette har også hjulpet teamet med å utvikle filteret ganske raskt, inkludert om ikke falske positive skal eller ikke skal fanges opp av filteret.
'Vi er over 99 prosent nøyaktige, selv om vi har falske positive,' sier Bressler. “Vi må komme til et punkt der vi må bestemme om folk vil se penis som gjenstander, er det også trakassering? Selv om [bildet] ikke er en penis, skal filteret allikevel filtrere det ut? Det går virkelig tilbake til hva brukeren ønsker. ”
SafeDms twittertesting har vist enorm fremgang og nøyaktighet siden den ble kunngjort i september, med mindre og mindre å komme gjennom innholdsfilteret AI. Og folk er naturlig hyped over den kommende utgivelsen. I en overraskende vri nevnte Bressler at noen av hennes favorittpersoner for å få meldinger om filteret er fra pappaer, spesielt pappaer med døtre.
“De er glade for at jeg gjør det, men trist at det er nødvendig å begynne med. [Jeg har hatt et par] pappaer [som] er glade for at jeg jobber med det fordi de har døtre, og de vil ikke at de skal takle dette. '
Alle med en Twitter-konto vil kunne bruke filteret for innholdsblokkering
'Du trenger ikke en spesifikk telefonmodell,' forklarer Bressler. “Enhver Twitter-konto kan bruke dette. Det fungerer det samme på appen og på nettet. ”
Det endelige målet for prosjektet er å gi kontrollen tilbake til samfunnet slik at de ikke trenger å leve i frykt for det som ligger i deres Twitter-innbokser.
geraldine chaplin ektemann
'Det er morsomt hvordan du kan ta noe ut av en sur situasjon og få litt kontroll over situasjonen og gjøre verden til et bedre sted.'
