Sanntidsintervensjon på sosiale videoer: Yubo tar grep for å redusere risiko for unge mennesker

Her på Yubo leter vi alltid etter måter å innovere på når det gjelder nettsikkerhet. I vårt forrige blogginnlegg forklarte vi at vi tar ansvaret vårt overfor yngre Yubo-brukere på stor alvor. Siden den gang har vi fortsatt å jobbe med nettsikkerhetseksperten Annie Mullins OBE for å implementere en rekke sikkerhetstiltak i appen, og vi har nylig tatt et viktig skritt fremover ved å introdusere sanntidsintervensjon i livestreams.

Ved å bruke en kombinasjon av algoritmer og menneskelige moderatorer overvåker vi aktiviteten på Yubo slik at vi kan identifisere brukere som bryter retningslinjene for fellesskapet og som kan sette seg selv eller andre i fare under livestreams. Deretter iverksetter vi umiddelbare tiltak, og sender en melding til brukeren som forklarer hvordan de har gått over grensen, hvordan de kan endre atferd og hva som vil skje om de ikke overholder retningslinjene. Handlinger vi kan gjøre inkluderer midlertidig deaktivering av livesendingen og suspendering av kontoen deres.

Yubo er den eneste sosiale videoappen som griper inn på denne måten for å holde tenåringer tryggere. Ja, det er et dristig trekk. Og ja, noen brukere blir overrasket når de får en advarsel fra oss. Men vi tror det viktigste er å støtte og beskytte brukerne våre og gjøre Yubo-fellesskapet til et enda bedre sted å være.

I dette blogginnlegget ser vi nærmere på sanntidsintervensjon og utforsker hvordan det fremmer atferdsendring ved å oppmuntre Yubo-brukere til å være mer ansvarlige og trygge, samt bidra til å redusere risikoen for seksuell utnyttelse og andre problemer. Vi snakker også med en av våre mest erfarne moderatorer og finner ut hvordan tenåringsbrukerne våre reagerer på meldingene han sender om upassende oppførsel eller upassende innhold de har lagt ut.

"Vi vet at sosiale nettverk kan gjøre mer, og noen nettsteder som Yubo har allerede god praksis når det gjelder livestreaming." Andy Burrows, assisterende leder for Child Safety Online, NSPCC (2018)

Tenåringer liker å eksperimentere og teste grensene i det virkelige liv, og det samme gjør de i den digitale verden. De kan allerede ha sett upassende oppførsel eller innhold og er ikke alltid sikre på hva som er akseptabelt. Enten det er å filme seg selv i undertøyet eller å komme med stygge kommentarer om noen, er det viktig at de forstår og reflekterer over konsekvensene oppførselen deres kan ha for dem selv og andre. Og som selskap må vi være i stand til å iverksette tiltak når vi ser upassende eller ulovlig oppførsel og innhold i livestreams på Yubo (som vi kaller Lives).

Våre retningslinjer for fellesskapet er avgjørende for å sette standarder for brukeratferd. Brukerne våre må godta å følge dem, og vi henviser alltid til retningslinjene når vi griper inn i livestreams. Vi gjør det for eksempel veldig tydelig i disse retningslinjene at vi har nulltoleranse for nakenhet og posering i undertøy i Lives.

Hvis disse retningslinjene ikke følges, er det vår policy å engasjere og utdanne våre yngre brukere i stedet for å straffe dem. Det betyr at vi bruker muligheten når en regel har blitt brutt til å hjelpe brukeren å forstå og tenke på hva de har gjort galt og inspirere dem til å endre atferden i øyeblikket og i fremtiden. Vi ser allerede en positiv effekt av sanntidsadvarsler i appen, og tilnærmingen vår har blitt godt mottatt av rettshåndhevelse, veldedige organisasjoner og andre talsmenn for sikkerhet på nettet.

Som vår nettsikkerhetsrådgiver Annie Mullins OBE sier,

"Jeg har jobbet med Yubo for implementere sanntidsintervensjoner for å forhindre at brukere utsetter seg selv for risiko. Dette er et viktig steg når det gjelder barnas sikkerhet på nett, og noe som andre sosiale medieselskaper bør vurdere å følge. Jo flere sanntidsintervensjoner vi gjør med unge mennesker, jo mer vil vi være i stand til å støtte og utdanne dem. Ungdom gjør feil, det er en del av oppveksten , men det er viktig at sosiale medie-leverandører tilbyr et sikkerhetsnett og hjelper dem i riktig retning når oppførselen deres kan sette dem i fare."

Konsulent og barne- og ungdomspsykiater Dr Richard Graham legger til,

"Fremtiden til den digitale verden hviler nå på hvor villige vi er til å bruke atferdsinnsikt for å stoppe det dårlige fra å ødelegge for det gode. Yubo leder an med sanntidsintervensjon, og det er ingen bedre måte å lære på enn i øyeblikket."

Vårt globale team av moderatorer håndterer mange forskjellige situasjoner i livestreams, blant annet ungdom som poserer i undertøyet, tar av seg klærne, trakasserer andre brukere og truer med selvskading.

Vi spurte en av moderatorene våre, Tom*, om å forklare hvorfor det er så viktig å gripe inn i Lives.

"Innholdet sendes direkte på nett, så det er viktig at vi griper inn umiddelbart før det skjer skade. Jo raskere vi involverer oss, jo bedre," sier han.

Til tross for at brukerne får en popup-melding om våre retningslinjer for fellesskapet når de deltar i livestreams på Yubo og vet at Lives kan sees av alle (ikke bare vennene deres), velger noen brukere fortsatt å pushe grensene.

Så hvorfor oppfører unge mennesker seg slik på nettet? De har en rekke motivasjoner – noen gjør det for å tøffe seg eller flørte, andre fordi de ser idolene sine og andre kjendiser oppføre seg på en bestemt måte, eller fordi noen oppmuntrer dem eller presser dem til å gjøre det.

"Det handler ofte om å få oppmerksomhet, noe de kanskje ikke får i det virkelige liv," kommenterer Tom. "Å streame live er en god måte å nå frem til mange mennesker og få mange visninger. Gutter som går i bar overkropp vil for eksempel vise frem musklene sine."

Den potensielle risikoen ved livestreaming er blant annet mobbing, tvang til seksuell eksplisitt aktivitet og å bli kontaktet av fremmede med dårlige hensikter.

Tom forklarer hvordan yngre brukere ofte blir så oppslukt av appen at de ikke tenker på hva de gjør.

"Folk blir ofte oppslukt "i øyeblikket" og forstår ikke de umiddelbare risikoene eller at innholdet kanskje ikke forsvinner etter Live-sendingen. Hvis de filmer seg selv i undertøyet, kan noen ta opptak av det, publisere det et annet sted og bruke det mot dem," påpeker han.

Hvis en Yubo-moderator ser noe som bryter våre retningslinjer for fellesskapet og kan sette noen i fare, sender de en advarsel til brukeren. Meldingen kan for eksempel si at Live-sendingen blir avsluttet om ett minutt, eller den kan advare brukeren om at de vil bli suspendert fra appen hvis de ikke endrer atferden sin.

Vi er den eneste sosiale videoappen som gjør dette, da vi synes det er viktig at våre yngre brukere forstår hva problemet er, og at vi oppfordrer dem til å endre atferden sin. Tross alt er den beste måten å lære på i øyeblikket og gjennom erfaring fra det virkelige livet.

Vi iverksetter deretter passende tiltak, som kan inkludere å fjerne innholdet, suspendere eller stenge brukerens konto og rapportere potensielt ulovlig aktivitet til politiet og andre myndigheter, for eksempel Internet Watch Foundation (IWF). Det er vårt mål å hjelpe brukere med å endre atferd før det har gått såpass langt, men det viktigste er at vi vil gjøre det som er riktig for dem og andre brukere.

"Dessverre hender det at vi kommer over unge mennesker som skader seg selv eller er suicidale," sier Tom. "Selv om de som ser på Live-sendingen prøver å hjelpe, er de ikke trente profesjonelle og kan utilsiktet gjøre situasjonen verre. Å se noen snakke om selvskading kan også utløse lignende følelser hos andre brukere."

Vi tillater ikke selvskadingsinnhold på Yubo, og vi forklarer til våre yngre brukere hvorfor det er slik. Sanntidsintervensjon betyr at vi kan hjelpe noen i det avgjørende øyeblikket og henvise dem til støtteorganisasjoner.

"Jeg vil våge å si at... denne appen er i ferd med å bli en leder når det gjelder sikkerhet i livestreaming."Anne Collier, NetFamilyNews (august 2017)

Generelt reagerer Yubo sine brukere positivt på sanntidsintervensjon. De er ikke vant til at andre apper kommuniserer på denne måten, men generelt tar de disse varslene godt i mot og overholder forespørslene våre. Hvis noen mottar en advarsel mens de kler av seg på kamera, for eksempel, vil de vanligvis stoppe med en gang de ser meldingen og ta på seg klærne igjen.

Tom bemerker at brukere ofte takker ham for å gripe inn, da det betyr at de ikke trenger å håndtere en vanskelig situasjon selv. Hvis de føler seg presset til å oppføre seg på en bestemt måte på nettet, er det bra at de vet at vi er der for å holde øye med ting og at vi kan hjelpe dem med å håndtere situasjonen.

Mange av våre yngre brukere forteller vennene sine om våre regler og hvordan Yubo-moderatorene er der for å hjelpe, og det er et tydelig tegn på at selv om unge mennesker liker å være uavhengige, trenger de fortsatt støtte. Å utdanne en tenåring kan faktisk ha veldig store ringvirkninger. Vi har fått mange positive kommentarer om sanntidsintervensjon fra våre yngre brukere, som blant annet "Jeg tror det hjelper, det holder samfunnet tryggere og renere" og "Det er en veldig god idé, det gir folk en sjanse til å endre atferden sin og hvis ikke, må de møte konsekvensene."

Undersøkelser fra Childnet avslører at mer enn én av ti 8-17-åringer har streamet live, så vi vet at livestreaming har kommet for å bli. Vi tror sanntidsintervensjon er et viktig verktøy for å hjelpe unge mennesker til å få en tryggere opplevelse på sosiale videoapper.

I følge Anne Collier er det viktig å bygge et digitalt fellesskap med "veiledet praksis" – et felleskap der unge mennesker kan være selvsikre, glade, respektfulle og trygge. Med vår visjon om å bli ledende innen nettsikkerhet, vil vi fortsette å utvikle innovative sikkerhetsfunksjoner for Yubo slik at vi kan gjøre akkurat det.

"Jeg applauderer Yubo for det omfattende arbeidet de har gjort på sikkerhetsfunksjonene sine for å gjøre plattformen tryggere for tenåringer." Julie Inman Grant, australsk eSafety Commissioner (mars 2018)

Fem måter Yubo hjelper unge mennesker på

Yubo har aldersgrense på 13 år, og brukere må oppgi sine ekte opplysninger, inkludert mobilnummer. Vi bruker teknologi og moderatorer for å identifisere mindreårige profiler og blokkere dem.

Yubo-brukere kan angi sine egne preferanser, inkludert om de vil vise posisjonen sin og å bestemme hvem de snakker med.

Alle brukere må godta å følge våre retningslinjer for fellesskapet, som inkluderer regler om mobbing, nakenhet, falske profiler og annen upassende eller ulovlig oppførsel.

Vi bruker innovativ teknologi og ekte menneskelige moderatorer for å se hva som skjer på Yubo og iverksette tiltak hvis vi ser at reglene våre brytes.

Man kan enkelt rapportere eventuelle problemer eller bekymringer til oss via flaggikonet i appen eller på sikkerhetssenteret vårt. Vi prøver alltid å svare på rapporteringer innen 24 timer og prioritere nødsituasjoner.

Ved å bruke en kombinasjon av algoritmer og menneskelige moderatorer overvåker vi aktiviteten på Yubo slik at vi kan identifisere brukere som bryter retningslinjene for fellesskapet og som kan sette seg selv eller andre i fare under livestreams.

Yubo på hjernen.

Hva vi tenker på akkurat nå.

Sanntidsintervensjon på sosiale videoer