AI-barnpornografi granskas – Spaniens offensiv mot techjättar
Spanien har tagit ett kraftfullt steg mot spridningen av AI-barnpornografi på sociala medier. Landets regering har gett åklagare i uppdrag att undersöka om plattformarna X, Meta och Tiktok har bidragit till att skapa eller sprida olagligt material som involverar barn och artificiell intelligens. Initiativet kommer direkt från premiärminister Pedro Sánchez, som i ett inlägg på X betonade vikten av att sätta stopp för vad han kallar “straffriheten för de digitala jättarna”.
Bakgrunden till utredningen
Under februari har Sánchez och hans regering presenterat flera nya åtgärder för att skydda barn på nätet. Den aktuella utredningen är en del av en bredare strategi där Spanien vill visa ledarskap inom EU när det gäller att bekämpa digitala brott mot barn. Premiärministern har varit tydlig med att det inte längre är acceptabelt att stora teknikbolag undgår ansvar för vad som sprids på deras plattformar.
EU:s ökade press på sociala medier
Spanien är inte ensamt om att agera. EU har nyligen inlett en omfattande granskning av X efter att sexualiserade AI-genererade bilder börjat cirkulera. Samtidigt har Irlands dataskyddsmyndighet startat en utredning av Elon Musks AI-verktyg Grok, och EU-kommissionen har krävt att Meta öppnar Whatsapp för konkurrerande AI-chattbottar. Dessa åtgärder visar på en växande oro inom Europa för hur AI och sociala medier kan användas för att sprida skadligt innehåll.
Vad innebär AI-barnpornografi?
AI-barnpornografi syftar på bilder eller videor som skapats med hjälp av artificiell intelligens och föreställer barn i sexuella situationer. Även om dessa bilder inte alltid bygger på verkliga personer, är de olagliga enligt europeisk lagstiftning och kan orsaka allvarlig skada. Tekniken gör det dessutom svårare att upptäcka och stoppa spridningen, vilket ökar behovet av kraftfulla insatser från både myndigheter och teknikföretag. Enligt en rapport från SVT ökar antalet beslag av AI-genererat barnpornografiskt material i hela landet.
Spaniens roll i kampen mot AI-brott
Genom att rikta in sig på X, Meta och Tiktok vill Spanien sätta press på de största aktörerna inom sociala medier att ta sitt ansvar. Premiärminister Sánchez har lovat att fler åtgärder är på väg för att skydda barn online och för att säkerställa att digitala plattformar inte blir en fristad för brottslig verksamhet. Ett exempel på hur allvarligt detta tas är en dom där en 35-årig man dömdes till fängelse för att ha skapat barnporr med AI, efter att ha smygfotat barn på sin arbetsplats, vilket rapporterades av Aftonbladet.
Faq om AI-barnpornografi och sociala medier
Varför utreder Spanien just X, Meta och Tiktok?
Dessa plattformar har stor räckvidd och påverkan, vilket gör dem centrala i kampen mot spridning av olagligt AI-material.
Vad är AI-barnpornografi?
Det är sexuellt exploaterande bilder eller videor av barn som skapats med artificiell intelligens, ofta utan att verkliga barn varit inblandade men ändå olagliga. Enligt en studie från Lunds universitet, AI-genererad barnpornografi – Verklighetens dystopi?, skildrar dessa bilder inte riktiga barn utan är helt genererade av AI.
Vilka åtgärder kan Spanien vidta?
Utredningen kan leda till rättsliga åtgärder mot företagen och krav på bättre kontroll av innehåll på deras plattformar.
Hur påverkar detta EU:s syn på techjättar?
Det stärker EU:s linje om att teknikbolag måste ta större ansvar för vad som sprids på deras plattformar, särskilt när det gäller barns säkerhet.
