AI-utredning väcker frågor kring Grok och digitala tjänster
EU-kommissionen har nu officiellt inlett en djupgående utredning av AI-boten Grok, utvecklad av Elon Musks företag, med fokus på hur den hanteras inom ramen för Digital Services Act (DSA). Denna granskning, som offentliggjordes i ett pressmeddelande, markerar ett viktigt steg i unionens arbete för att säkerställa att digitala plattformar följer gällande lagar och skyddar användarnas rättigheter.
AI-utredning och dess bakgrund
Redan i december 2023 startade kommissionen en förundersökning kring X:s (tidigare Twitter) rekommendationssystem. Nu utvidgas denna till att även omfatta Grok, med särskilt fokus på hur risker kopplade till spridning av olagligt material hanteras. Det gäller bland annat manipulerade sexuella bilder och innehåll som kan innebära övergrepp mot barn – frågor som blivit alltmer aktuella i takt med AI-teknikens framfart.
Vilka regler granskas?
Kommissionen undersöker om X har levt upp till sina skyldigheter enligt artiklarna 34, 35 och 42 i DSA. Dessa artiklar rör bland annat riskhantering, transparens och ansvar för digitala tjänster. Syftet är att säkerställa att företag som tillhandahåller AI-baserade tjänster inte bidrar till spridning av skadligt eller olagligt material inom EU. Enligt en utredning föreslås en svensk anpassning till AI-förordningen, vilket kan påverka hur dessa regler implementeras nationellt.
Starka uttalanden från EU
Henna Virkkunen, Executive Vice-President för Tech Sovereignty, Security and Democracy, understryker allvaret i frågan: “Sexuella deepfakes av kvinnor och barn är en våldsam och oacceptabel form av förnedring. Med denna utredning kommer vi att avgöra om X har uppfyllt sina juridiska skyldigheter enligt DSA, eller om företaget har behandlat europeiska medborgares rättigheter – inklusive kvinnors och barns – som en bieffekt av sin tjänst.”
Vad händer nu?
Den pågående AI-utredningen kan få långtgående konsekvenser för hur AI-tjänster regleras i Europa. Om X och Grok bedöms ha brustit i sitt ansvar kan det leda till sanktioner och krav på förändringar i hur tjänsterna fungerar. Samtidigt sätter processen press på andra aktörer inom AI att säkerställa att deras system är säkra och följer lagstiftningen. Enligt en utredning om anpassningar till AI-förordningen föreslås ett system för marknadsövervakning och kontroll av efterlevnad, vilket kan stärka tillsynen av AI-tjänster.
Faq om AI-utredning
Vad är syftet med AI-utredningen av Grok?
EU-kommissionen vill undersöka om Grok och X följer Digital Services Act, särskilt när det gäller att hantera och begränsa spridning av olagligt material.
Vilka risker granskas i utredningen?
Fokus ligger på spridning av manipulerade sexuella bilder och material som kan innebära övergrepp mot barn, samt hur dessa risker hanteras av plattformen.
Vad kan utredningen leda till?
Om X inte anses ha följt reglerna kan det resultera i sanktioner och krav på förändringar i hur tjänsten fungerar inom EU.
Vilka artiklar i DSA är aktuella?
Artiklarna 34, 35 och 42 i Digital Services Act är centrala i utredningen och rör bland annat riskhantering och transparens.
