Rechter verbiedt X.AI uitkleedbeelden en kinderporno via Grok — RBAMS:2026:3106
verbod genereren niet-consensuele uitkleedbeelden en kinderpornografisch materiaal via AI-tool Grok
Eiser / verzoeker
Stichting Offlimits
Verweerder / gedaagde
X.AI LLC, X Corp en X Internet Unlimited Company
X.AI, X Corp en X Internet Unlimited Company verboden om via Grok niet-consensuele uitkleedbeelden en kinderpornografisch materiaal te genereren of te verspreiden, op straffe van dwangsommen van €100.000 per dag met een maximum van €10 miljoen per gedaagde.
- Offlimits toonde aan dat op 9 maart 2026 nog steeds niet-consensuele uitkleedvideo's en geseksualiseerde beelden van minderjarigen konden worden gegenereerd via Grok, ondanks beweringen van gedaagden dat dit technisch onmogelijk was gemaakt.
- De rechtbank verwierp het verweer dat gebruikers (niet X.AI) verantwoordelijk zijn voor gegenereerd materiaal: als internet-tussenpersoon met controle over Grok is X.AI de aangewezen partij om onrechtmatige content te voorkomen.
- Niet-consensuele uitkleedbeelden van bestaande personen zijn in strijd met de AVG; het faciliteren van kinderpornografisch materiaal is een onrechtmatige daad op grond van artikel 6:162 BW.
- De Nederlandse rechter heeft bevoegdheid over X Corp (VS) via artikel 7 Rv wegens samenhang met de vorderingen tegen de Europese entiteit XIUC; voor XIUC geldt Brussel I-bis.
- Aan alle drie gedaagden worden dwangsommen opgelegd van €100.000 per dag, gemaximeerd op €10 miljoen per gedaagde, vanwege de categorische maar ongeloofwaardige ontkenningen en het uitblijven van afdoende maatregelen.
Samenvatting
Stichting Offlimits, een Nederlandse organisatie die strijdt tegen online seksueel grensoverschrijdend gedrag, heeft in kort geding gewonnen van X.AI, X Corp en X Internet Unlimited Company — de bedrijven achter de AI-chatbot Grok en het sociale mediaplatform X. De rechtbank Amsterdam legde de drie bedrijven vergaande verboden op na een rechtszaak over het gebruik van Grok om niet-consensuele uitkleedbeelden en kinderpornografisch materiaal te genereren.
De aanleiding voor de zaak was een functie die eind december 2025 werd gelanceerd: X-gebruikers konden daarmee met Grok bestaande foto's bewerken tot beelden waarop personen (deels) zijn uitgetrokken. Onderzoekers van de organisatie Center for Countering Digital Hate schatten dat in de eerste elf dagen na de lancering maar liefst drie miljoen geseksualiseerde beelden werden gegenereerd, waarvan ruim 23.000 beelden kinderen lijken af te beelden. Na felle maatschappelijke kritiek beperkte X in januari 2026 de functie tot betaalde gebruikers en kondigde het bedrijf aanvullende technische maatregelen aan.
Offlimits sommeerde de bedrijven op 4 februari 2026 om het genereren en verspreiden van dergelijk materiaal volledig te stoppen. Gedaagden reageerden aanvankelijk niet en stelden pas na de dagvaarding, begin maart, dat de genomen maatregelen de misbruiken al onmogelijk hadden gemaakt. Op 9 maart 2026 — de dag van een overlegbijeenkomst — slaagde Offlimits er echter nog steeds in om via Grok een video te genereren waarin het gezicht van een bestaand persoon zonder diens toestemming in een geseksualiseerde context werd geplaatst. Ook werden beelden gegenereerd van een meisje van vermoedelijk veertien jaar oud in suggestieve kleding.
De voorzieningenrechter vond de stellige ontkenningen van de bedrijven weinig geloofwaardig. Gedaagden claimden enerzijds dat het genereren van verboden materiaal technisch onmogelijk was gemaakt, maar erkenden tegelijkertijd dat een honderd procent garantie technisch niet haalbaar is. Bovendien bleek het in de praktijk nog altijd mogelijk om dergelijk materiaal te maken. De rechter oordeelde dat X.AI als aanbieder van Grok de aangewezen partij is om het genereren en verspreiden van onrechtmatige beelden te voorkomen — ook als het de gebruiker zelf is die de beelden genereert.
De rechtbank stelde vast dat niet-consensuele uitkleedbeelden in strijd zijn met de Algemene Verordening Gegevensbescherming (AVG), en dat het faciliteren van kinderpornografisch materiaal een onrechtmatige daad is in de zin van het Burgerlijk Wetboek. Offlimits werd ontvankelijk verklaard als belangenorganisatie, omdat haar vorderingen een ideëel doel dienen en een voldoende nauwe band hebben met de Nederlandse rechtsorde.
De rechtbank verbood X.AI om uitkleedbeelden te genereren van personen die in Nederland wonen zonder hun toestemming, en verbood het bedrijf om kinderpornografisch materiaal te vervaardigen of te verspreiden. X Corp werd verboden Grok als onderdeel van het platform X aan te bieden zolang die verboden worden overtreden — maar alleen voor zover het gaat om niet-consensuele uitkleedbeelden van Nederlanders, omdat de Nederlandse rechter geen bevoegdheid heeft ten aanzien van verspreiding van materiaal van fictieve personen buiten Nederland. X Internet Unlimited Company, verantwoordelijk voor het platform in Europa, kreeg een breder verbod opgelegd dat ook het kinderpornografieverbod omvat. Aan elk van de drie bedrijven werden dwangsommen verbonden van €100.000 per dag, met een maximum van €10 miljoen per gedaagde.
Betrokken advocaten
Betrokken rechters
Gerelateerde uitspraken
ECLI:NL:RBAMS:2025:4721, Rechtbank Amsterdam, 07-07-2025, C/13/767528 / KG ZA 25-262 KB/EB
Rechtbank Amsterdam · Civiel Recht
ECLI:NL:RBAMS:2024:3928, Rechtbank Amsterdam, 03-07-2024, C/13/705132 / HA ZA 21-687
Rechtbank Amsterdam · Civiel Recht
ECLI:NL:RBAMS:2023:5252, Rechtbank Amsterdam, 16-08-2023, C/13/705132 / HA ZA 21-687, C/13/712754 / HA ZA 22-71 en C/13/712812 / HA ZA 22-72
Rechtbank Amsterdam · Civiel Recht
ECLI:NL:GHAMS:2019:4091, Gerechtshof Amsterdam, 12-11-2019, 200.257.843/01
Gerechtshof Amsterdam · Civiel Recht
Gegevens
Datum uitspraak
Instantie
Rechtbank AmsterdamRechtsgebied
Civiel RechtZaaknummer
C/13/783613 / KG ZA 26-120
Procedure
Kort geding
Op de hoogte blijven
Laat het weten als er hoger beroep of een vervolg komt in deze zaak.
Nieuwe uitspraken van deze rechter
- dhr. mr. E.A. Messer
vast rendement
- Vastgoed als zekerheid
- Kwartaalbetalingen
- Vanaf €30.000
Let op! Geen vergunning- en geen prospectusplicht voor deze activiteit.
Recente uitspraken
Binnen een Amsterdams accountants- en adviesconcern is een jarenlange samenwerking tussen aandeelhouders stukgelopen. Het concern is een holding met meerdere werkmaatschappijen die accountants-, belastingadvies- en auditdiensten verlenen. Eén van de aandeelhouders, InkCas Investments, bezit 21,3 procent van de aandelen. De overige aandeelhouders vinden dat zij te weinig bijdraagt aan de omzet. Zij willen haar uit de holding hebben. Dat InkCas moet vertrekken staat inmiddels vast, maar partijen blijven het oneens over de prijs en over de vraag onder welke regeling zij uittreedt. De voorzieningenrechter van de rechtbank Amsterdam beoordeelde de zaak in kort geding. De eisers zijn de overige aandeelhouders, voor een deel via hun eigen holdingvennootschappen. Zij vorderden dat InkCas haar aandelen aan hen moet aanbieden en overdragen voor € 3.242.697. Daarnaast eisten zij een contractuele boete van € 100.000 en € 5.000 aan buitengerechtelijke kosten. De aandeelhouders hebben in een aandeelhoudersovereenkomst afgesproken dat een partij haar aandelen moet aanbieden als zij als bestuurder wordt ontslagen of als haar managementovereenkomst wordt beëindigd. De prijs volgt dan uit een vaste prijswaarderingsregeling. Die rekent met het eigen vermogen van de holding plus een goodwillwaarde van één keer de groepsomzet. Het MT stelde sinds 2024 kritische vragen over het functioneren van InkCas, onder meer over achterblijvende omzet en het beheer van haar debiteuren. Op 1 oktober 2025 bood InkCas zelf haar aandelen aan op grond van de statuten. Daar gold een andere prijsbepaling, namelijk door drie onafhankelijke deskundigen. De overige aandeelhouders wezen dat aanbod af. Op 18 oktober 2025 ontsloegen zij InkCas als bestuurder en zegden zij haar managementovereenkomst op. InkCas vindt dat haar eigen aanbod voorgaat en dat het ontslag misbruik van recht is. Ook stelde zij dat de prijsregeling te veel open einden kent. Verder wees zij erop dat zij bij de Ondernemingskamer al een verzoek tot uittreding heeft ingediend. Die behandelt de zaak op 10 december 2026. De voorzieningenrechter wijst erop dat een veroordeling tot aandelenoverdracht tegen betaling van een geldsom in kort geding terughoudendheid vraagt. Toch acht hij de gevraagde voorziening hier passend, als ordemaatregel. Partijen zijn het erover eens dat InkCas uittreedt en dat zij minimaal € 3.242.697 moet krijgen. Of er nog een hoger bedrag bijkomt, kan later worden beslist door de Ondernemingskamer, een bodemrechter of een deskundige. InkCas stelde niet dat de kopers zouden omvallen, zodat het risico op niet-terugbetaling klein is. Het spoedeisend belang zit in de impasse bij de holding. Volgens de rechter blijkt uit het dossier dat InkCas sinds 2024 ondermaats presteert. Potentiële nieuwe aandeelhouders willen niet toetreden zolang de zaak niet is opgelost. De vraag of het aanbod van 1 oktober 2025 voorgaat op de aanbiedingsplicht van 18 oktober 2025 laat de rechter in het midden. De bodemrechter moet dat beoordelen. De rechter vindt de geboden prijs vooralsnog niet onredelijk. InkCas is zelf deskundige op dit gebied, heeft de prijsregeling twee keer ondertekend en paste die eerder ook zelf toe bij verkopen van aandelen. De voorzieningenrechter verwijst naar een eerdere beschikking van de Ondernemingskamer van 30 april 2026. Daarin staat dat een eigen regeling van de aandeelhouders voorrang heeft op de wettelijke geschillenregeling. Dat ontbreken van een peildatum in de prijsregeling staat toewijzing niet in de weg. De voorzieningenrechter beveelt InkCas haar aandelen binnen 14 dagen na betekening van het vonnis aan te bieden en over te dragen aan vier van de eisers, naar rato van hun belang, voor € 3.242.697. Daarbij gelden twee voorwaarden. Worden binnen vijf jaar aandelen uitgegeven of overgedragen tegen een hogere waarde, dan krijgt InkCas een gestaffelde nabetaling van het verschil, van 80 procent in jaar één tot 10 procent in jaar vijf. En de kopers passen de koopprijscorrectie niet toe. Blijft InkCas in gebreke, dan geldt het vonnis zelf als akte van levering. De boete van € 100.000 en de € 5.000 aan kosten wijst de rechter af wegens gebrek aan spoedeisend belang. Drie eisers die hun aandelen via een andere holding houden en zelf geen aandeelhouder zijn, krijgen geen gelijk. InkCas moet de proceskosten van € 8.366 aan de andere eisers betalen.
Honderdduizenden Nederlanders bezaten in 2017 en 2018 een iPhone waarvan de prestaties werden afgeremd door een software-update. Volgens Stichting Aequitas Belangenbehartiging heeft Apple die gebruikers niet eerlijk geïnformeerd over problemen met de batterij en over de energiebeheerfunctie die de snelheid van het toestel verminderde. De stichting wil via een collectieve actie dat Apple de schade vergoedt, die zij voorlopig begroot op € 316.600.000. De rechtbank Amsterdam komt niet aan de vraag toe of Apple iets te verwijten valt, want de stichting mocht deze procedure niet voeren. Het gaat om de iPhone 6, 6 Plus, 6s, 6s Plus, de eerste generatie SE en de iPhone 7 en 7 Plus. Bij sommige van deze toestellen schakelde de telefoon onverwacht uit, vooral bij een laag oplaadniveau, een oudere batterij of lage temperaturen. Apple introduceerde daarop met de update iOS 10.2.1 van 23 januari 2017 een energiebeheerfunctie die pieken in het stroomverbruik beperkt. Voor de iPhone 7 volgde iOS 11.2 op 2 december 2017. De laatste relevante update verscheen op 29 maart 2018. Stichting Aequitas verwijt Apple dat het bedrijf niet duidelijk meldde dat de prestaties van de toestellen daardoor opzettelijk werden vertraagd. De zaak is aangespannen tegen Apple Inc. uit Californië en de Nederlandse vennootschappen Apple Benelux, Apple Holding en Apple Retail Netherlands. Het is een collectieve actie onder de Wet afwikkeling massaschade in collectieve actie (WAMCA). De rechter beoordeelt eerst of de belangenorganisatie ontvankelijk is, en pas daarna of de claim inhoudelijk deugt. De rechtbank toetst vooral aan het representativiteitsvereiste. Een belangenorganisatie moet de steun hebben van een voldoende groot deel van de groep voor wie zij opkomt. De Hoge Raad overwoog op 17 juli 2026 in een andere WAMCA-zaak dat het niet genoeg is dat een niet te verwaarlozen aantal personen achter de actie staat. Het aantal deelnemers moet worden afgezet tegen de totale groep. Bij Stichting Aequitas hadden zich bij dagvaarding 14.705 deelnemers aangemeld, op de datum van de mondelinge behandeling volgens de stichting 16.362. Stichting Aequitas zelf schat het aantal getroffen iPhones op ruim 4,4 miljoen. Omdat het aanmeldformulier uitgaat van één iPhone per deelnemer en de stelling dat veel mensen meerdere toestellen hadden niet is onderbouwd, stelt de rechtbank de totale groep ongeveer gelijk aan dat aantal. Dan steunt slechts 0,33 procent (bij 14.705 deelnemers) tot 0,37 procent (bij 16.362 deelnemers) van de groep de vordering. Die kleine achterban kan alleen voldoende zijn als andere omstandigheden dat goedmaken. Stichting Aequitas wees erop dat alle iPhone-modellen onder de deelnemers vertegenwoordigd zijn en dat ConsumentenClaim de aanmeldingen verwerkt. De rechtbank vindt dat onvoldoende. Over de samenstelling van de totale groep is niets bekend, dus zegt de verdeling over de modellen niets over een goede afspiegeling. Dat ConsumentenClaim de administratie verzorgt, zegt volgens de rechtbank evenmin iets over de steun onder gedupeerden. Daar komt bij dat niet vaststaat dat de aangemelde deelnemers wel tot de groep behoren zoals de stichting die zelf heeft gedefinieerd. Volgens het rapport van RSM Netherlands Accountants zijn niet vastgelegd welke update zij installeerden, of zij toen in Nederland woonden, of zij het batterijvervangingsprogramma voor de iPhone 6s hebben gebruikt en hoeveel van hen als bedrijf in plaats van als particulier handelden. De overige ontvankelijkheidseisen bespreekt de rechtbank niet meer. Apple vroeg ook om een vervijfvoudigde proceskostenveroordeling, omdat de vorderingen tegen de Nederlandse Apple-vennootschappen summierlijk ondeugdelijk zouden zijn. De rechtbank wijst dat af. Tegen Apple Inc. is dat verweer niet gevoerd, en niet is gebleken dat voor de Nederlandse gedaagden meer kosten zijn gemaakt. Daarom geldt het gewone liquidatietarief. De rechtbank verklaart Stichting Aequitas niet-ontvankelijk in haar vorderingen en veroordeelt haar in de proceskosten van Apple, begroot op € 19.639. Dat bedrag bestaat uit € 10.188 griffierecht, € 9.262 salaris voor de advocaat en € 189 nakosten.
Een Nederlandse distributeur van Herbalife-producten mag zijn membership niet terugkrijgen. De voorzieningenrechter van de rechtbank Amsterdam oordeelt dat het voldoende aannemelijk is dat hij het beloningssysteem van Herbalife heeft gemanipuleerd. Hij vroeg in kort geding herstel van zijn membership en schadevergoeding voor gemiste inkomsten. Herbalife verkoopt gewichtsbeheersing, sportvoeding en verzorgingsproducten uitsluitend via onafhankelijke distributeurs, 'Members' genoemd. Wie nieuwe Members aanbrengt, de 'upline', ontvangt royalty's over de bestellingen van zijn 'downline'. Die royalty's lopen op naarmate bestellingen lager in de keten worden geplaatst, omdat dan meer lagen erover verdienen. De man werd in 2020 Member via zijn schoonmoeder en bracht in 2024 twee eigen downlines aan. Naast zijn werk voor Herbalife heeft hij een bedrijf dat websites bouwt en beheert. Daarvoor deed hij technisch werk voor de webshops van beide downlines. Herbalife begon in 2025 een onderzoek naar mogelijke manipulatie van het Sales & Marketingplan, een gedraging die de Gedragsregels uitdrukkelijk verbieden. Na gesprekken en analyse van besteldata, volumepatronen, verzendadressen en apparaatgegevens besloot Herbalife op 7 januari 2026 het membership te beëindigen per 7 juli 2026. De beoordelingscommissie handhaafde die beslissing op 20 mei 2026. Herbalife verweet de man onder meer dat hij de Google-advertentiecampagnes en websites van zijn upline en downlines beheerde. Daarmee kon hij sturen welke webshop, en dus welke Member, bestellingen binnenhaalde. Ook zouden bestellingen vanaf hetzelfde apparaat zijn geplaatst en soms binnen dezelfde minuut, en zouden de Members veel gemeenschappelijke verzendadressen hebben. De twee downlines konden bovendien nauwelijks vragen beantwoorden over het marketingplan en hun eigen positie. De man betwistte elke overtreding en verklaarde de patronen uit minder eigen werkzaamheden en uit downlines die een eigen klantenkring opbouwden. De voorzieningenrechter vindt dat onvoldoende. Het volume dat eerst op zijn naam stond, schoof na de komst van de downlines naar hen toe, terwijl het totaal vrijwel gelijk bleef en hij meer compensatie ontving. Hij had zijn werkzaamheden voor de Google-advertenties en de websites inzichtelijk kunnen maken, maar deed dat niet. Herbalife heeft haar verwijt voorshands voldoende onderbouwd en de man heeft het niet kunnen ontzenuwen. Hij kreeg bovendien een opzegtermijn van zes maanden, had in januari 2024 een training over marketingplanmanipulatie gevolgd en kon op de onderzoeksbevindingen reageren. Daarom acht de rechter het hoogst onwaarschijnlijk dat de bodemrechter de opzegging onrechtmatig zal vinden. Omdat herstel van het membership in kort geding alleen kan als aannemelijk is dat de bodemrechter de eiser volgt, wijst de rechter die vordering af. De schadevorderingen, bijna € 2.900 per maand aan gemiste royalty's over zijn downlines en ruim € 1.600 per maand aan eigen inkomsten, vallen daarmee ook weg. Er is niet aannemelijk gemaakt dat sprake is van voor vergoeding in aanmerking komende schade. De voorzieningenrechter weigert alle gevraagde voorzieningen en veroordeelt de man in de proceskosten van Herbalife van € 4.449, te vermeerderen met € 98 aan nakosten en wettelijke rente als hij niet binnen veertien dagen na aanschrijving betaalt.