Det Vinnova-finansierade projektet ”Maskininlärning för interaktiv åldersklassificering av filmer” (som avslutas i augusti 2021) har skapat ett öppet dataset bestående av annoterade filmsekvenser med fastställda åldersgränser utifrån den formella svenska beslutsprocessen och med tillgänglig filmgranskningsexpertis. Projektet har även utvecklat en AI-lösning som i förlängningen är tänkt att autonomt kunna detektera potentiellt skadliga scener i rörlig bild.

Målet i Vinnova-projektet var i första hand kompetensutveckling av den involverade myndighetens personal men den utvecklade AI-lösningen har även levererat positiva resultat vad gäller teknikutvecklingen, värda att ta vidare. AI-lösningen har exempelvis visat sig nästan lika säker som mänskliga filmgranskare när det gäller att sätta åldersgränsen barntillåtet.
Läs mer om resultaten här!

Tekniken kan, om projektet ges möjlighet att utveckla den vidare, finna viktiga applikationsområden som exempelvis i s.k. innehållsfilter eller föräldrakontroller. I förlängningen är tanken att AI-lösningen själv ska känna igen potentiellt skadliga scener men det vi söker finansiering för i det korta perspektivet är en begränsad studie, fokuserad på domain adaptation (domänadaption), dvs vi vill träna på trailers och evaluera mot t ex filmklipp från Youtube. Vi är väl medvetna om att den AI-baserade lösningen troligen inom överskådlig tid inte kommer att klara av att felfritt bedöma ett innnehållsflöde på internet. Samtidigt har inte en mänsklig bedömare förmågan att ta sig igenom så stora volymer som det handlar om. Tekniken är därför – i förlängningen – tänkt att fungera i en lösning som utgör en kombination mellan människa-maskin. I en offentlig applikation: som ett i volym hanterbart flöde för tillsynsmyndigheten; i en marknadsapplikation: som ett flöde av potentiellt problematiskt innehåll för till exempelvis en vårdnadshavare. Därigenom undviks den överfiltrering med potential att skada enskildas tillgång till information/yttrandefrihet som en rent automatiserad lösning skulle kunna resultera i.

Förväntat resultat

En mer utvecklad AI-teknik som når en nivå där vi i nästa steg kan implementera den i en app (ev i
samarbete med lämpligt SME), för att därifrån utveckla tekniken vidare till en än mer mogen lösning.