GDPR Illustration

Ta del av vår integritetspolicy

Med dataskyddsförordningen GDPR (General Data Protection Regulation) har vi uppdaterat vår integritetspolicy så att det framgår vilka uppgifter vi samlar in från dig – och vad vi använder dem till. När du besöker våra webbplatser och appar samlar vi in uppgifter från dig för att förbättra din användarupplevelse. Det inkluderar även vilka annonser vi visar för dig.

Petter C Larsson: Tack för samtalet, fru Manipulativ Mjukvara!

Har du någon gång stiftat bekantskap med en artificiell intelligens (AI) i form av en så kallad AI-chatbot? En AI-chatbot är en mjukvara som används för att genomföra en chattkonversation, som alternativ till kommunikation med en riktig människa.
Petter C Larsson
Gästkrönika • Publicerad 10 januari 2023
Det här är en krönika av en medarbetare på ledarredaktionen. Ystads Allehanda politiska etikett är liberal.
Petter C Larsson
Petter C Larsson
Vad vet roboten om 2023?
Vad vet roboten om 2023?Foto: Lee Jin-man

När du chattar med vad du upplever vara en riktigt trevlig och hjälpsam medarbetare på något företags kundtjänst är det numera inte alls osannolikt att du faktiskt chattar med ett lika trevligt datorprogram i stället.

Under vintern har vi kunnat läsa om hur skolor och universitet jobbar hårt för att motverka att studenter tar hjälp av AI för att lösa sina skoluppgifter. Via AI kan studenter numera ställa en fråga, ungefär som man gör via Google, men i stället för att få en resultatlista med länkar så får man ett komplett svar.

Detta har studenter satt i system och skolor har nu fullt upp med att fundera ut hur man ska upptäcka vilka studenter som nyttjat tjänsten. Den kampen tror jag är svår att vinna. Den som vill fuska kommer att fuska.

Men det finns en mycket värre och allvarligare aspekt på AI än fuskande, nämligen lärande.

Hur vet man vem som påverkar AI:n och är den helt neutral i sina svar?

Jag testade den mest populära AI-chatboten och frågade vem som var skyldig till kriget i Ukraina. Svaret fick mig att omgående skriva denna text.

AI:n berättade nämligen för mig att konflikten i Ukraina, även känd som kriget i Donbass, är en mångfacetterad konflikt med en mängd olika orsaker och aktörer inblandade. AI:n menade att det är svårt att lägga skulden för konflikten på någon enskild part eller faktor, eftersom den har uppstått från en komplex uppsättning omständigheter och involverar ett antal olika aktörer med konkurrerande intressen. Den historieskrivning som AI:n bjöd mig på skulle garanterat motsägas av många helt oberoende mänskliga experter.

På det hela taget blev jag matt när jag inser att detta är samma AI-chatbot som universitet och skolor försöker begränsa bruket av på grund av att man anser att den hjälper studenter att fuska genom att ge dem kompletta svar. Men vad AI:n faktiskt gör är att den förvränger eller modifierar historieskrivningen. Påpassligt nog framgår det i beskrivningen av AI:n att den inte hanterar världshändelser som skett efter 2021 och att man kan trycka tumme ned om man anser att svaret inte riktigt stämmer med verkligheten.

Jag frågade avslutningsvis AI:n om den är oberoende och fick till svar att hen inte har några personliga känslor, tankar eller åsikter utan hens primära funktion är att ge information och svara på frågor efter bästa förmåga, utifrån den data och kunskap som programmerats in. Vidare förklarade den för mig att den inte har några personliga fördomar eller agendor, och hen förklarade för mig att hen inte är ansluten till någon specifik grupp eller organisation. Hens primära mål är att hjälpa användare och ge dem korrekt och pålitlig information. Min slutsats är att vi människor behöver be AI:n att trovärdigt bekänna färg innan vi lyssnar på den. Det är betydligt viktigare än fusk.

Petter Larsson är risk- och säkerhetsexpert

Välkommen att kommentera

Välkommen att kommentera! Tänk på att hålla dig till ämnet och diskutera i god ton. Visa respekt för andra skribenter och berörda personer i artikeln. Ystadsallehanda och Ifrågasätt förbehåller oss rätten att ta bort kommentarer vi bedömer som olämpliga.