Microsoft heeft juridische stappen ondernomen tegen een groep waarvan het bedrijf beweert dat ze opzettelijk tools hebben ontwikkeld en gebruikt om de veiligheidsmaatregelen van zijn cloud AI-producten te omzeilen.
Volgens een klacht die het bedrijf in december heeft ingediend bij de Amerikaanse rechtbank voor het oostelijke district van Virginia, zou een groep van 10 anonieme beklaagden gestolen klantgegevens en speciaal ontworpen software hebben gebruikt om in te breken op de Azure OpenAI Service, Microsofts volledig beheerde service aangedreven door de technologieën van OpenAI, de maker van ChatGPT.
In de klacht beschuldigt Microsoft de beklaagden — die het alleen “Does” noemt, een juridische pseudoniem — van het schenden van de Computer Fraud and Abuse Act, de Digital Millennium Copyright Act, en een federale wet op racketeering door illegaal toegang te krijgen tot en gebruik te maken van Microsofts software en servers met als doel “aanstootgevende” en “schadelijke en onwettige inhoud” te creëren. Microsoft gaf geen specifieke details over de misbruikte inhoud die was gegenereerd.
Het bedrijf vraagt om een verbod en “andere billijke” maatregelen en schadevergoeding.
In de klacht stelt Microsoft dat het in juli 2024 ontdekte dat klanten met Azure OpenAI Service-credentials — specifiek API-sleutels, de unieke tekenreeksen die worden gebruikt om een app of gebruiker te authentiseren — werden gebruikt om inhoud te genereren die in strijd is met het beleid voor acceptabel gebruik van de service. Vervolgens ontdekte Microsoft, na een onderzoek, dat de API-sleutels waren gestolen van betalende klanten, volgens de klacht.
“De precieze manier waarop de Beklaagden alle API-Sleutels hebben verkregen die zijn gebruikt voor het wangedrag beschreven in deze Klacht is onbekend,” staat in de klacht van Microsoft, “maar het lijkt erop dat de Beklaagden zich hebben beziggehouden met een patroon van systematische diefstal van API-sleutels waardoor ze Microsoft API-sleutels van meerdere Microsoft-klanten hebben kunnen stelen.”
Microsoft beweert dat de beklaagden gestolen Azure OpenAI Service API-sleutels van Amerikaanse klanten hebben gebruikt om een “hacking-as-a-service” schema op te zetten. Volgens de klacht hebben de beklaagden een client-side tool genaamd de3u gemaakt, evenals software voor het verwerken en routeren van communicatie van de3u naar Microsofts systemen.
De3u stelde gebruikers in staat om gestolen API-sleutels te gebruiken om afbeeldingen te genereren met DALL-E, een van de OpenAI-modellen die beschikbaar zijn voor klanten van de Azure OpenAI Service, zonder dat ze hun eigen code hoefden te schrijven, aldus Microsoft. De3u probeerde ook te voorkomen dat de Azure OpenAI Service de prompts die werden gebruikt om afbeeldingen te genereren, zou herzien, volgens de klacht, wat kan gebeuren, bijvoorbeeld wanneer een tekstprompt woorden bevat die de inhoudsfiltering van Microsoft activeren.
Een repo met de de3u projectcode, gehost op GitHub — een bedrijf dat Microsoft bezit — is op het moment van publicatie niet meer toegankelijk.
“Deze functies, gecombineerd met de onwettige programmatische API-toegang van de Beklaagden tot de Azure OpenAI-service, stelden de Beklagenden in staat om methoden te reverse-engineeren om de inhouds- en misbruikmaatregelen van Microsoft te omzeilen,” staat in de klacht. “De Beklaagden hebben opzettelijk en met toestemming toegang gekregen tot de beschermde computers van de Azure OpenAI-service zonder autorisatie, en als gevolg van dit gedrag heeft dit schade en verlies veroorzaakt.”
In een blogpost die vrijdag is gepubliceerd, zegt Microsoft dat de rechtbank het heeft toegestaan om een website in beslag te nemen die “instrumenteel” is voor de operaties van de beklaagden, zodat het bedrijf bewijs kan verzamelen, kan ontcijferen hoe de vermeende diensten van de beklaagden worden gemonetariseerd en aanvullende technische infrastructuur kan verstoren die het tegenkomt.
Microsoft zegt ook dat het “tegenmaatregelen heeft ingevoerd,” die het bedrijf niet specificeerde, en “extra veiligheidsmaatregelen” heeft toegevoegd aan de Azure OpenAI-service gericht op de activiteit die het heeft waargenomen.