Jaarverslag
2024

Niet zo gek dus, dat de discussie over een leeftijdsgrens op sociale media wereldwijd levendig wordt gevoerd. Ook in Nederland laaide het debat op.

We spraken ons steevast uit tegen een leeftijdsgrens en benadrukten dat we pas echt een vuist tegen sociale media maken als we ingrijpen in hun verslavende en giftige werking via regulering. In de media en meermaals in de Tweede Kamer hielden we voet bij stuk. Met succes: het kabinet wilde eind 2024 géén harde leeftijdsgrens voor kinderen op sociale media.

Dat is een doorn in ons oog. Niet alleen omdat het belachelijk is dat bedrijven geld verdienen aan databanken waarin onze gezichten worden herkend, maar ook omdat we vermoeden dat dit wettelijk gezien helemaal niet mag. Daarom dienden we in 2023 een tip in bij de Autoriteit Persoonsgegevens (AP) met het verzoek Clearview AI onder de loep te nemen.

In 2024 kwam het verlossende woord van de AP: ze gaf gehoor aan onze tip! Het bedrijf werd een boete opgelegd van 30,5 miljoen en dwangsommen tot vijf miljoen euro. Ook startte ze een onderzoek naar het gebruik van dit soort technologie door de politie. En dat is hard nodig.

Goed nieuws dus dat op 1 augustus 2024 de lang-verwachte AI verordening eindelijk in werking trad. De totstandkoming van die wet hebben wij dan weer de afgelopen jaren geïnformeerd. We brachten keer op keer de belangen van burgers onder de aandacht.

Met succes! De wet bevat maatregelen zoals strengere technische eisen voor ontwikkelaars van AI-systemen, transparantieregels voor overheidsinstanties die deze systemen gebruiken en toegankelijkheidseisen voor risicovolle systemen. Andere ontwikkelingen zijn onder andere juridisch handelingsperspectief voor mensen die de dupe zijn van algoritmische systemen, en een verbod op enkele toepassingen.

Om gebruikers bewust te maken van deze nieuwe regels en de mogelijkheden om je rechten online en op sociale media beter te verdedigen, rolden we met hulp van reclamebureau KesselsKramer een internationale campagne uit.

We haakten activisten en andere (Europese) organisaties aan om de boodschap ‘ken je rechten, wees veilig en blijf luid’ te verspreiden. Zo schreven we een manifest die we lieten ondertekenen door andere organisaties, lanceerden we de website jouwplatformrechten.nl, flyerden we actief op activistische hotspots, en stelden we een toolkit beschikbaar om de boodschap eenvoudig te kunnen delen. De campagne was daarnaast veelvoudig terug te zien op lokale nieuwswebsites, aan de hand van advertenties - uiteraard geheel trackingvrij.

Dit schaadt iedereen, inclusief de kinderen en jongeren die men juist wil beschermen tegen de verspreiding van online seksueel misbruikmateriaal. Ondanks de eerdere houding van de regering wilde het ministerie van Justitie en Veiligheid aanvankelijk instemmen met het laatste wijzigingsvoorstel.

We droegen bij aan grote ophef, met effect. Na veel druk van buitenaf besloot het kabinet uiteindelijk toch niet in te stemmen: het voorstel vormt een te groot risico voor onze digitale veiligheid. Hoewel het voorstel nog niet van tafel is, lijkt het aannemen ervan verder weg dan ooit.

Wij maakten ons zorgen over de manier waarop kinderen werden geselecteerd en de heftige gevolgen van die selectie, namelijk ingrijpende en langdurige surveillance.

Inmiddels is het gebruik van het algoritme stopgezet, maar wij willen dat de 125 jongeren die door het algoritme zijn geselecteerd gecompenseerd worden én voorkomen dat gemeenten in de toekomst weer gebruik maken van onrechtvaardige algoritmen om jongeren te profileren. Vertegenwoordigd door pro bono advocaten PILP en in samenspraak met geraakte gemeenschappen gingen we het gesprek aan met de gemeente Amsterdam. Eind 2024 zijn de eerste tekenen positief.

72 landen doen mee (goed voor 87% van alle internetgebruikers) en er werken 95 analisten en adviseurs aan. 2024 was het eerste jaar waarin ook Nederland in de analyse werd meegenomen; wij waren de penvoerder.

De belangrijkste ontwikkelingen waren de implementatie van de DSA, de positie van Nederland op het gebied van versleuteling en de nieuwe (niet zo) tijdelijke wet cyberoperaties. Maar we besteedden ook aandacht aan online intimidatie van journalisten en toegenomen surveillance van o.a. activisten. De positieve noten bevonden zich onder andere op het vlak van internettoegang en beperkte websiteblokkades.

Het hebben van dit soort momentopnames is belangrijk. Om ‘objectief’ vast te stellen hoe het gaat (ook in verhouding tot andere landen) en om makkelijker positieve en negatieve ontwikkelingen te identificeren en erop te acteren.

De wet betekent strengere regels voor grote platformen en betere bescherming van gebruikers. Samen met andere Europese organisaties dienden we al snel een klacht in bij de Europese Commissie over het advertentiemodel van LinkedIn. Volgens ons is het verboden om advertenties te richten op groepen die gevoelige informatie bevatten, zoals politieke voorkeuren of thema’s gelieerd aan LGTBQIA+.

De klacht had succes! Linkedin paste haar beleid aan. Het is niet langer mogelijk om mensen te profileren op deze gevoelige gegevens.

Daarom organiseerden we met veertig andere organisaties de Tech & Society Summit in Brussel. Het evenement werd bezocht door meer dan 350 leden van het Europees Parlement, andere EU-besluitvormers, vertegenwoordigers van maatschappelijke organisaties en journalisten. Bovendien was dit de allereerste Summit over technologiebeleid die niet werd gefinancierd door grote tech-bedrijven.

Uit vier genomineerden kozen het publiek en een panel van experts in 2024 respectievelijk Dilan Yeşilgöz-Zegerius en Meta, X en Telegram als winnaars van de Big Brother Awards. Yeşilgöz-Zegerius was genomineerd voor het aan het lot overlaten van mensen die onterecht op een terreurlijst staan. Meta, X en Telegram op hun beurt vanwege het beïnvloeden en belemmeren van het publieke debat: de platformen ontnamen een stem van onschuldige mensen in oorlogsgebied.

We lieten tevens zien dat er vele vormen van tegenmacht bestaat, om een breed publiek te inspireren en motiveren om samen werk te maken van onze digitale rechten. En dat is hard nodig om machthebbers in toom te houden.