– Selv om videoen for de fleste av oss er helt uskyldig, så er det lurt å tenke at kanskje ikke alle vil se det på den måten, sierHans Marius Tessem, seniorrådgiver i Norsk senter for informasjonssikring og leder for tjenesten slettmeg.no. Foto: Illustrasjonsfoto Pixbay
– Selv om videoen for de fleste av oss er helt uskyldig, så er det lurt å tenke at kanskje ikke alle vil se det på den måten, sierHans Marius Tessem, seniorrådgiver i Norsk senter for informasjonssikring og leder for tjenesten slettmeg.no. Foto: Illustrasjonsfoto Pixbay

YouTubes algoritmer koblet uskyldig hjemmevideoer av barn til videoer med lettkledd innhold

Det avslører The New York Times. Norsk ekspert opplyser til Ingeniørenes stemme at det også kan skje med norske barn.

Publisert

Christiane C. tenkte ikke på at det kunne være noe galt i det, da hennes 10 år gamle datter og lastet opp en video av seg selv og venninnen som badet i bakgården.

– Videoen var helt uskyldig, forteller moren, som bor i Rio de Janeiro til The New York Times.

Noen dager senere hadde videoen 400.000 visninger.

– Jeg ble redd, forteller moren.

YouTubes automatiske anbefalingssystem, der seeren får forslag til nye filmer basert på det han eller hun har sett på, hadde begynt å vise videoen av jentene til brukere som så på andre videoer av barn med lite klær på, viser undersøkelser.

Algoritmenes skremmende effekt

– Det er YouTubes algoritmer som kobler sammen disse kanalene, sa Jonas Kaiser, en av de tre etterforskerne ved Harvard’s Berkman Klein Senter for internett og samfunn til The New York Times.

Han begynte å se på saken i forbindelse med at de undersøkte YouTubes påvirkning i Brasil.

YouTube hadde koblet videoene fra hele arkivet, flere ganger var det uskyldige hjemmevideoer lagt ut av uvitende familier, forteller etterforskerne. I mange av tilfellene ble videoene linket som oppfølgere til brukere som hadde sett på seksualisert innhold. Resultatet var en katalog av videoer som seksualiserte barn.

– Det er det som er skremmende. YouTube har aldri ønsket å betjene brukere med seksuelle interesser for barn, men det automatiserte systemet deres får seerne til å fortette å se på kanalen ved å bruke anbefalinger som jeg vil kalle forstyrrende målrettet, sier Kaiser til NYT.

Ble advart i februar

Videoen av Christianes datter fortsatte å få promotering av YouTube flere måneder etter at firmaet var blitt advart om at de hadde et pedofiliproblem. I februar rapporterte nyhetsmedier at kommentarfeltene til barnevideoer på YouTube ble brukt til å guide pedofile. Samme måned kalte YouTube problemene svert alvorlig og tok vekk kommentarfeltene på mange videoer der barn var med.

Men anbefalingssystemet, ble uendret og har samlet mange videoer inn i et nytt nettverk og pushet dem inn mot et bestemt publikum.

YouTube tar grep, men ikke slik etterforskerne anbefaler

Etter at The New York Times kontaktet YouTube om denne saken, fjernet selskapet flere videoer, men mange ble også liggende. Anbefalingssystemet deres ble også endret og flere av videoene ble ikke lenger koblet sammen.

– Vi er forpliktet til å få vekk utnyttelsen av barn på plattformen vår og vi har jobbet kontinuerlig med dette siden februar. Å beskytte barna er på toppen av listen vår, sa Jennifer O'Connor, YouTubes produktdirektør for tillit og sikkerhet til den amerikanske avisen.

Hans Marius Tessem

  • Har i flere år jobber som rådgiver innen informasjonssikkerhet i eget selskap.
  • Har også jobbet med FoU innen systemutvikling i flere virksomheter.
  • Har bachelor i data fra Høgskolen i Gjøvik og er sivilingeniør med industriell økonomi og teknologiledelse fra NTNU.
  • Har de siste årene ledet tjenesten Slettmeg.no.
  • Er seniorrådgiver i Norsk senter for informasjonssikring.

Men YouTube har ikke gjort de endringene som etterforskerne sier ville forhindret at det samme kan skje igjen, å skru av anbefalingssystemet helt på videoer med barn. YouTube begrunner dette med at systemet er deres største trafikkdriver.

– Kunne skjedd norske barn

– Dette kunne også skjedd norske barn, sier Hans Marius Tessem, til Ingeniørenes stemme.

Han er seniorrådgiver i Norsk senter for informasjonssikring og leder for tjenesten slettmeg.no.

I slettmeg.no har han ikke hatt saker av akkurat denne typen, men de har fått henvendelser fra barn helt nede i 12 årsalderen som har delt ting på nett som de angrer på og ønsker å fjerne.

– Jeg vil ikke si at man må si kategorisk skal nekte barn eller unge til å dele bilder eller videoer der barn er med. Men det er lurt å ha noen kjøreregler. Man bør veilede barna på hva som er greit å dele. Slik som i videoen i denne saken hadde barna lite klær. Selv om videoen for de fleste av oss er helt uskyldig, så er det lurt å tenke at kanskje ikke alle vil se det på den måten.

Kommersielle hensyn

Hva synes du om YouTubes håndtering av denne saken?

– Her virker det som om kommersielle hensyn overstyrer. Siden filmene brukes på denne måten er dette innhold med nakenhet og barn som ikke er greit, og personlig mener jeg de kunne gjort mer.

Hva kan man gjøre, om din video plutselig er sett over ekstremt mange ganger og man skjønner at noe er galt?

– Her var det det barnet selv som hadde lagt ut videoen og det ville hjelpe mye bare å slette den.

Problemet i mange saker der bilder og videoer kommer på avveie er at andre har lastet ned innholdet og enten laster videoen opp igjen på YouTube eller en annen plattform.

– I dette tilfelle tror jeg ikke det er så sannsynlig at videoen ble lastet ned. YouTube har også systemer der man kan varsle om at man ønsker at filmen ikke skal kunne lastes opp igjen på en annen konto hos dem, sier Tessem.

Snakk med barna - ikke skrem dem

Kan man snakke med barna sine om at bilder de legger ut kan bli misbrukt?

– Det er viktig hvordan dette formidles til barna. Vi ønsker jo ikke å skremme barna, men opplyse dem om hva som man ikke bør gjøre. Det er nok store individuelle forskjeller på barn, og hvordan dette gjøres må vurderes av foreldrene. Barn bruker i dag internett fra svært lav alder, og informere dem og fortelle dem om hvordan dette fungerer er viktig for at de skal være trygge brukere. Informasjon om dette bør barna få tidlig, og lenge før de begynner å dele eget innhold. sier Tessem.