Annons
Nyheter

AI-fejkade nakenbilder sprids på skolor

Med bara några klick kläs personer av. De fejkade nakenbilderna kan sedan spridas via sociala medier.
– Det finns en stor risk att det används bland ungdomar för att kränka eller utpressa, säger forskaren Kristina Hunehäll Berndtsson.
Tech • Publicerad 26 september 2023
Så här går det förenklat till när AI genererar fejkade nakenbilder.
Så här går det förenklat till när AI genererar fejkade nakenbilder.Foto: Anders Humlebo
Kristina Hunehäll Berndtsson.
Kristina Hunehäll Berndtsson.Foto: Privat
Thomas Andersson, Ecpat. Pressbild.
Thomas Andersson, Ecpat. Pressbild.Foto: Ecpat

Första dagen på höstterminen på skolan i spanska Almendralejo tisslades och tasslades det på skolgården. Alla pratade om nakenbilderna, som föreställde tjejer och som spridits mellan eleverna.

De hade själva inte ställt upp på några nakenbilder. I stället var det påhittade bilder som skapats med hjälp av AI, rapporterar El País. Liknande händelser har också uppmärksammats i USA.

En tidsfråga

Annons

Thomas Andersson, ansvarig för barnrättsorganisationen Ecpats hotline, säger att det är en tidsfråga innan det dyker upp i Sverige, om det inte redan sker.

– Det som kan hända är dels att man sexuellt kränker de här barnen väldigt allvarligt, dels att det här materialet kan användas som utpressning, säger han.

I åtminstone ett fall i Almendralejo krävdes en tolvårig flicka på pengar för att bilderna inte skulle spridas.

Andersson ser också en risk att barn pressas att skicka riktiga nakenbilder, för att fejkbilderna inte ska spridas.

– Om bilden är av hög kvalitet lever du med en ovisshet. Du kan stå där och säga att bilden är fejk, men du vet inte om andra tror på dig, säger han.

"Djupt problematiskt"

Kristina Hunehäll Berndtsson, universitetslektor vid Göteborgs universitet som studerar digitala sexuella trakasserier bland unga, ser samma risker. Hon har i sin forskning mött elever som manipulerat bilder från porrsidor för att få dem att se ut som någon annan person.

– Det är djupt problematiskt att AI används för att inkräkta på vår privata integritet. Nakenbilder är så oerhört djupt personligt, och ett otroligt känsligt ämne, säger hon.

Det senaste halvåret har flera gratisverktyg poppat upp på nätet, som bland annat marknadsförs med att man klär av personer på ett foto.

– Även om alla vet att det är en AI-genererad nakenbild, för den som är uthängd så kommer det fortfarande vara otroligt jobbigt, pinsamt, känsligt och privat, säger hon.

En bild räcker

Det kan räcka med en enda bild tagen framifrån, exempelvis från sociala medier, för att skapa en nakenbild, berättar Robin Elliott, enhetschef för tillämpad AI på forskningsinstitutet Rise.

Annons

Problemet med fejkade nakenbilder har tidigare drabbat bland annat kändisar och influerare, som det finns ett omfattande bildmaterial av på nätet.

– Det är ett område som gått framåt fort. De verktyg som finns har blivit bättre och bättre på att skapa från mindre och mindre data, säger Elliott.

Viktigt att anmäla

Själva nakenheten – hudfärg, kroppsformer och så vidare – lär sig AI:n att skapa genom att gå igenom mängder med riktiga avklädda bilder på nätet.

Offret kan framställas i en naturlig miljö – exempelvis hemma i tonårsrummet.

– Det blir nästan Photoshop-mässigt, fast det görs med AI, så det blir extra känsligt och skadligt för den personen, säger Elliott.

Thomas Andersson på Ecpat betonar vikten av att anmäla om man utsätts för fejkade nakenbilder, och att man pratar med de unga. Eftersom tekniken är relativt ny finns det få exempel som testats i domstol.

Spridandet av AI-generade nakenbilder skulle kunna klassas som förtal eller olaga integritetsintrång, eller till och med barnpornografibrott.

– Det behövs mer samtal kring vad som är okej. Det är oerhört viktigt att alla förstår att den som utsätts inte gjort något fel, men att den som producerar eller sprider dessa bilder kan begå ett brott, säger han.

Fakta: AI-genererade nakenbilder

AI (artificiell intelligens) kan användas för att producera fejkat nakenmaterial genom att exempelvis klistra in ett ansikte på exempelvis porr. En annan metod är att med metoden "klä av" en person på en bild.

Tekniken kan beskrivas som att verktygen tränar genom att titta på mängder av bilder på nakna eller lättklädda personer på nätet. Det används sedan för att generera nytt nakenmaterial som ersätter kläderna. Ofta används maskininlärningsramverket generativa motståndarnätverk (GAN).

Hösten 2020 varnade företaget Sensity AI om att 100 000 AI-genererade nakenbilder på kvinnor och flickor spreds via meddelandeplattformen Telegram.

I juni manade amerikanska FBI allmänheten till försiktighet med att lägga ut bilder, sedan man under våren sett en ökning av offer där bilder och filmer från sociala medier används för att skapa fejkmaterial som användes i utpressningssyfte.

TT
Så här jobbar Ystads Allehanda med journalistik: uppgifter som publiceras ska vara korrekta och relevanta. Vi strävar efter förstahandskällor och att vara på plats där det händer. Trovärdighet och opartiskhet är centrala värden för vår nyhetsjournalistik.
Annons
Annons
Annons
Annons