Spanje heeft recentelijk aangekondigd dat de regering de rechterlijke macht zal vragen om onderzoek te doen naar sociale netwerkbedrijven zoals X, Meta en TikTok. Deze bedrijven worden ervan verdacht strafbare feiten te hebben gepleegd doordat zij kunstmatige intelligentie hebben gebruikt om materiaal over seksueel misbruik van kinderen te creëren en verspreiden. Premier Pedro Sánchez heeft aangegeven dat de regering vastbesloten is om de geestelijke gezondheid, waardigheid en rechten van kinderen te beschermen en een einde te maken aan de straffeloosheid op grote sociale-mediaplatforms.
De beslissing van de Spaanse regering volgt op een deskundigenrapport waarin de potentiële strafrechtelijke aansprakelijkheid van praktijken in de digitale omgeving, zoals het creëren en verspreiden van seksuele inhoud en seksueel misbruik van kinderen door deepfakes, werd geanalyseerd. Als reactie hierop is de regering bezig met het voorbereiden van een reeks maatregelen, waaronder het verbieden van sociale media voor mensen onder de 16 jaar. Daarnaast wordt er wetgeving voorbereid die technologiebedrijven aansprakelijk zou stellen voor schadelijke of haatdragende inhoud die zij verspreiden.
Naast de maatregelen die Spanje neemt, loopt er ook een onderzoek door de Europese Commissie naar het X-platform van Elon Musk. Dit platform wordt beschuldigd van de productie en verspreiding van seksueel onfatsoenlijke afbeeldingen, evenals mogelijk materiaal over seksueel misbruik van kinderen door de kunstmatige intelligentie-chatbot van het platform, Grok. Het onderzoek richt zich op de mogelijke betrokkenheid van het bedrijf bij deze verontrustende praktijken en of er strafbare feiten zijn gepleegd.
Al met al laat de actie van de Spaanse regering zien dat zij serieus omgaat met het beschermen van kinderen tegen schadelijk materiaal op sociale media en het aanpakken van bedrijven die deze praktijken mogelijk maken. Het onderzoek en de voorgestelde maatregelen zijn een belangrijke stap in de strijd tegen kindermisbruikmateriaal en het creëren van een veiligere online omgeving voor jongeren.
