Overcomputers Giveaway: Win the latest from Stündenglass and G Pen.
Op 27 december 2023 heeft The New York Times een rechtszaak aangespannen tegen OpenAI, waarbij wordt beweerd dat het bedrijf opzettelijke inbreuk op het auteursrecht heeft gepleegd via zijn generatieve AI-tool ChatGPT.
De Times beweert dat ChatGPT onrechtmatig is getraind op enorme hoeveelheden tekst uit haar artikelen en dat de output van ChatGPT taal bevat die direct is overgenomen uit haar artikelen.
Om dit te verhelpen, vroeg de Times meer dan alleen maar geld: het vroeg een federale rechtbank om de “vernietiging” van ChatGPT te bevelen.
Indien toegewezen, zou dit verzoek OpenAI dwingen om zijn getrainde grote taalmodellen, zoals GPT-4, evenals zijn trainingsgegevens te verwijderen, wat het bedrijf zou verhinderen zijn technologie opnieuw op te bouwen.
Deze vooruitzichten zijn verontrustend voor de 100 miljoen mensen die ChatGPT elke week gebruiken. En het roept twee vragen op die mij als rechtenprofessor interesseren.
Ten eerste, kan een federale rechtbank daadwerkelijk bevelen dat ChatGPT wordt vernietigd? En ten tweede, zo ja, zal dat gebeuren?
Vernietiging in de rechtbank
Het antwoord op de eerste vraag is ja. Onder het auteursrecht hebben rechtbanken de bevoegdheid om vernietigingsbevelen uit te vaardigen.
Om te begrijpen waarom, moet je denken aan vinylplaten. Hun hernieuwde populariteit heeft vervalsers aangetrokken die nagemaakte platen verkopen.
Als een platenlabel een vervalser aanklaagt wegens auteursrechtinbreuk en wint, wat gebeurt er dan met de voorraad van de vervalser?
Wat gebeurt er met de master- en stamperplaten die worden gebruikt om de vervalsingen massaal te produceren, en met de machines die zijn gebruikt om die platen in de eerste plaats te maken?
Om deze vragen te beantwoorden, verleent het auteursrecht rechtbanken de bevoegdheid om inbreukmakende goederen en de gebruikte apparatuur om ze te maken te vernietigen.
Vanuit het oogpunt van de wet is er geen legitiem gebruik voor een illegale vinylplaat. Er is ook geen legitieme reden voor een vervalser om een illegale masterplaat te bewaren.
Het in bezit laten van deze items zou alleen maar meer wetsovertredingen mogelijk maken. Dus in sommige gevallen is vernietiging de enige logische juridische oplossing.
En als de rechtbank besluit dat ChatGPT vergelijkbaar is met een inbreukmakend goed of vervalsende apparatuur, zou het kunnen bevelen dat het wordt vernietigd. In haar klacht bood de Times argumenten aan dat ChatGPT beide analogieën past.
Auteursrecht is nog nooit gebruikt om AI-modellen te vernietigen, maar OpenAI mag hier geen troost uit putten. De wet staat steeds meer open voor het idee om AI aan te pakken.
Neem bijvoorbeeld het recente gebruik van algorithmische verbeurdverklaring door de Federal Trade Commission.
De FTC heeft bedrijven zoals WeightWatchers gedwongen niet alleen onrechtmatig verzamelde gegevens te verwijderen, maar ook de algoritmen en AI-modellen die zijn getraind met dergelijke gegevens.
Waarom ChatGPT waarschijnlijk een andere dag zal leven
Het lijkt een kwestie van tijd voordat het auteursrecht wordt gebruikt om de vernietiging van AI-modellen en datasets te bevelen. Maar ik denk niet dat dat in dit geval zal gebeuren. In plaats daarvan zie ik drie waarschijnlijkere uitkomsten.
De eerste en meest voor de hand liggende is dat de twee partijen tot een schikking zouden kunnen komen. In het geval van een succesvolle schikking, die waarschijnlijk is, zou de rechtszaak worden verworpen en zou geen vernietiging worden bevolen.
De tweede is dat de rechtbank misschien de kant van OpenAI kiest, met de conclusie dat ChatGPT wordt beschermd door de auteursrechtelijke doctrine van “fair use.”
Als OpenAI kan betogen dat ChatGPT transformerend is en dat de service geen substituut biedt voor de inhoud van The New York Times, zou het zomaar kunnen winnen.
De derde mogelijkheid is dat OpenAI verliest maar de wet ChatGPT toch redt. Rechtbanken kunnen alleen vernietiging bevelen als aan twee eisen is voldaan: Ten eerste mag vernietiging geen legitieme activiteiten voorkomen, en ten tweede moet het “het enige middel” zijn dat inbreuk kan voorkomen.
Dat betekent dat OpenAI ChatGPT zou kunnen redden door te bewijzen dat ChatGPT legitieme, niet-inbreukmakende toepassingen heeft of dat vernietiging niet nodig is om verdere inbreuken te voorkomen.
Beide uitkomsten lijken mogelijk, maar voor het argument, stel je voor dat aan de eerste vereiste voor vernietiging is voldaan.
De rechtbank zou kunnen concluderen dat, vanwege de artikelen in de trainingsgegevens van ChatGPT, alle gebruik inbreuk maakt op de auteursrechten van de Times – een argument dat naar voren is gebracht in diverse andere rechtszaken tegen generatieve AI-bedrijven.
In dit scenario zou de rechtbank een bevel tot staking kunnen opleggen aan OpenAI om niet langer inbreuk te maken op auteursrechten. Zou OpenAI dit bevel schenden?
Waarschijnlijk niet. Een enkele vervalser in een schimmig magazijn zou het misschien kunnen proberen daarmee weg te komen, maar dat is minder waarschijnlijk bij een US$100 miljard bedrijf.
In plaats daarvan zou het kunnen proberen zijn AI-modellen opnieuw te trainen zonder artikelen van de Times te gebruiken, of het zou andere softwarematige beveiligingsmaatregelen kunnen ontwikkelen om verdere problemen te voorkomen.
Met deze mogelijkheden in gedachten zou OpenAI waarschijnlijk slagen voor de tweede vereiste, en de rechtbank zou de vernietiging van ChatGPT niet bevelen.
Gezien al deze obstakels is het zeer onwaarschijnlijk dat een rechtbank OpenAI zou bevelen ChatGPT en zijn trainingsgegevens te vernietigen.
Maar ontwikkelaars moeten weten dat rechtbanken de bevoegdheid hebben om onwettige AI te vernietigen, en steeds bereid lijken te zijn om deze in te zetten.
