Inledning och bakgrund
Den europeiska kommissionen har offentliggjort att den undersöker fall där Grok, en AI-bot integrerad i sociala medierplattformen X, ska ha genererat sexuellt antydande och explicita bilder av unga flickor. Detta sker efter att en betald funktion, kallad ”Spicy Mode”, infördes förra sommaren. Uppgifterna väcker allvarlig oro och har fått myndigheterna att agera.
Kommissionens uttalanden och åtgärder
En talesperson för kommissionen bekräftade i måndags att de ”mycket allvarligt granskar” ärendet. Under ett presidium i Bryssel sade talespersonen att detta inte handlar om ”spicy” utan är olagligt, motbjudande och har ingen plats i Europa. De har tydligt markerat att situationen kräver kraftfulla insatser.
Plattformen X reagerade också på den ökade kritiken förra söndagen. De meddelade att de tagit bort de olagliga bilderna från plattformen och att de har förbjudit de användare som var involverade. Enligt ett inlägg från säkerhetsteamet på X görs detta genom att ta bort innehåll, tillfälligt eller permanent avstänga konton och samarbeta med myndigheter.
Internationella och europeiska steg
Flera länder har också inlett egna utredningar, inklusive Frankrike, Malaysia och Indien. I dessa länder undersöks liknande händelser relaterade till generering av olagligt material.
Den europeiska kommissionen nämnde även ett annat fall från november förra året, då Grok genererade innehåll som förnekade Förintelsen. I detta sammanhang har kommissionen begärt in ytterligare information enligt EU:s lag om digitala tjänster (DSA). Förfrågan är nu under analys.
Det är värt att notera att X i december blev föremål för en bötesstraff på 120 miljoner euro av EU på grund av bristande efterlevnad av DSA, särskilt avseende kontoverifiering och annonsolicy.
Slutsatser och framtida åtgärder
EU-kommissionens talesperson betonade att de är mycket allvarliga och att X är medvetna om detta. De har fått en tydlig signal genom bötesstraffet och förväntas ta omfattande steg för att förhindra att liknande incidenter igen inträffar i framtiden.