Anthropic beschuldigt Alibaba van onwettig uitpersen van Claude AI-mogelijkheden
Het Amerikaanse AI-bedrijf Anthropic beschuldigt het Chinese e-commerce- en technologiebedrijf Alibaba ervan 'brutaal' en 'onwettig' de mogelijkheden van zijn Claude AI-model te hebben uitgeperst. Het bedrijf stelt dat met Alibaba verbonden operatoren bijna 29 miljoen uitwisselingen met Claude hebben uitgevoerd met gebruikmaking van duizenden frauduleuze accounts.
In een brief gericht aan twee leden van het Amerikaanse Congres zegt het in San Francisco gevestigde bedrijf dat de operatoren gekoppeld aan Alibaba bijna 29 miljoen uitwisselingen met Claude hebben uitgevoerd met behulp van duizenden frauduleuze accounts, in wat het omschrijft als de grootste extractiecampagne van dit soort.
Anthropic spoorde het Congres aan bedrijven achter aanvallen als deze te straffen en maatregelen op te voeren om te voorkomen dat Amerikaanse technologie wordt gestolen.
De BBC heeft contact opgenomen met Alibaba voor commentaar en heeft meer details van Anthropic gevraagd.
De brief van Anthropic, gedateerd op 10 juni en gericht aan de Amerikaanse senatoren Tim Scott en Elizabeth Warren, beschuldigde het aan de New York Stock Exchange genoteerde Alibaba van het uitvoeren van 'de grootste campagne om onwettig de mogelijkheden van Claude uit te persen'.
Volgens Anthropic werd de campagne uitgevoerd via zogenaamde 'distillation attacks', waarbij antwoorden van een sterker AI-model werden geëxtraheerd om een zwakker model te trainen.
Operators gekoppeld aan Alibaba richtten zich op Claude's meest waardevolle mogelijkheden, inclusief het vermogen om langere en complexere taken aan te pakken en zijn benadering van besluitvorming, aldus Anthropic.
Dit soort aanvallen worden op 'industriële schaal' uitgevoerd om Chinese bedrijven in staat te stellen Amerikaanse AI-mogelijkheden te oogsten en als hun eigen product aan te bieden, aldus het bedrijf.
De brief haalde ook andere vermeende aanvallen aan, die volgens Anthropic een bedreiging vormen voor het Amerikaanse leger.
'Distillation attacks zetten honderdtallen miljarden dollars aan Amerikaanse investeringen en onderzoeks- en ontwikkelingsinvesteringen om in een massale subsidie voor onze geopolitieke concurrenten,' aldus Anthropic.
Het verwees naar beweringen van het Amerikaanse Ministerie van Defensie dat Alibaba en verschillende grote bedrijven zoals autofabrikant BYD en technologiebedrijf Baidu aan het Chinese leger zijn gekoppeld.
De bedrijven hebben dergelijke beschuldigingen ontkend, terwijl Alibaba deze week de Amerikaanse regering aanspande in een poging om zijn naam van de Pentagon-zwarte lijst te halen.
Amerikaanse ontwikkelaars hebben eerder Chinese concurrenten beschuldigd van het gebruik van distillation attacks om hun modellen te trainen met als doel Amerikaanse AI-technologie voor een fractie van de kosten te evenaren.
OpenAI heeft ook eerder Chinese groepen beschuldigd van dezelfde praktijk.
Anthropic is een leidende AI-ontwikkelaar en bereid zich, samen met ChatGPT-maker OpenAI, voor op een spectaculaire beursnoteringdie het tot een van de meest waardevolle bedrijven ter wereld zou kunnen maken.
Maar enkele van Anthropic's geavanceerdere modellen, zoals Mythos, hebben cybersecurity-zorgen opgeroepen vanwege hun vermogen om zwakke punten in computersystemen te richten.
