Jiahao Shao, een promovendus in Computer Science aan HKUST, heeft publiekelijk kritiek geuit op Anthropic en CEO Dario Amodei. Shao werd door het bedrijf beschuldigd van 'distillatie'—het trainen van een kleiner model op de output van Claude—wat volgens hem onterecht is. Dit leidde tot diverse sancties, waaronder account-downgrades en het abrupt beëindigen van sessies.
Shao beargumenteert dat Anthropic een dubbele standaard hanteert: terwijl het bedrijf zijn eigen modellen trainde op basis van data van het open web, verbiedt het nu anderen om op schaal te leren van de outputs van hun modellen. Hij concludeert dat Anthropic zich weliswaar profileert als een onafhankelijk alternatief voor Big Tech, maar in de praktijk dezelfde rigide, beschermende tactieken hanteert om een concurrentievoordeel te behouden.
Kritiek op Anthropic: Beschuldigingen van dubbele standaarden en beperkingen voor onderzoekers
Beschuldigingen van het trainen van concurrenten
Shao stelt dat hij door Anthropic ten onrechte is aangemerkt als iemand die Claude probeerde te "distilleren" (het proces waarbij een kleiner model wordt getraind op de output van een groter model). Volgens Shao kwamen de resultaten voort uit een sterk open-source model; Claude werd enkel gebruikt voor het indienen van taken en het uitvoeren van analyses.
Ondanks dit is hij gemarkeerd voor het "trainen van een concurrent". Dit heeft geleid tot verschillende sancties:
- Blokkades bij activiteiten die gerelateerd zijn aan RFT (Reinforcement Fine-Tuning), SFT (Supervised Fine-Tuning) of het trainen van grotere modellen.
- Een downgrade van zijn toegang van Opus 5.5 naar Opus 5.
- Het abrupt beëindigen van sessies.
Shao noemt het "jammerlijk" dat Anthropic modellen heeft gebouwd op basis van wereldwijde data, maar betalende gebruikers die automatisering inzetten voor onderzoek nu als de vijand behandelt.
De "anti-distillatie" kruistocht en dubbele standaarden
Volgens Shao getuigt de strijd tegen distillatie van een extreme dubbele standaard. Hij beargumenteert dat Anthropic zelf traint op het open web — inclusief boeken, code, forums en het werk van anderen — maar tegelijkertijd iedereen verbiedt om op schaal te leren van de outputs van hun eigen modellen. Hij stelt dat het beschermen van een concurrentievoordeel (een "moat") één ding is, maar dit moreel te rechtvaardigen terwijl men zelf steunt op gescrapte kennis, iets anders.
Vergelijking met Big Tech
Shao reflecteert op waarom kleine startups vaak weigeren door grote techbedrijven te worden overgenomen, zelfs bij hoge bedragen: zij willen liever onafhankelijk blijven dan het waardesysteem van zulke corporaties overnemen. Hij stelt dat Anthropic zich profileert als dat onafhankelijke alternatief, maar in de praktijk dezelfde rigide, bedrijfsmatige lockdowns toepast op betalende onderzoekers.
Aanvullende reacties
De discussie wordt ondersteund door andere gebruikers, zoals naughtyheuristic, die opmerkt dat het ironisch is dat Anthropic trainde op het open web en vervolgens een gebruiker blokkeerde die probeerde te trainen op de outputs van het model. De conclusie is dat de "gracht" (het concurrentievoordeel) van Anthropic alleen in stand blijft als betalende onderzoekers erbuiten worden gehouden.
Kritiek op Anthropic: Beschuldigingen van dubbele standaarden en beperkingen voor onderzoekers
Beschuldigingen van het trainen van concurrenten
Shao stelt dat hij door Anthropic ten onrechte is aangemerkt als iemand die Claude probeerde te "distilleren" (het proces waarbij een kleiner model wordt getraind op de output van een groter model). Volgens Shao kwamen de resultaten voort uit een sterk open-source model; Claude werd enkel gebruikt voor het indienen van taken en het uitvoeren van analyses.
Ondanks dit is hij gemarkeerd voor het "trainen van een concurrent". Dit heeft geleid tot verschillende sancties:
- Blokkades bij activiteiten die gerelateerd zijn aan RFT (Reinforcement Fine-Tuning), SFT (Supervised Fine-Tuning) of het trainen van grotere modellen.
- Een downgrade van zijn toegang van Opus 5.5 naar Opus 5.
- Het abrupt beëindigen van sessies.
Shao noemt het "jammerlijk" dat Anthropic modellen heeft gebouwd op basis van wereldwijde data, maar betalende gebruikers die automatisering inzetten voor onderzoek nu als de vijand behandelt.
De "anti-distillatie" kruistocht en dubbele standaarden
Volgens Shao getuigt de strijd tegen distillatie van een extreme dubbele standaard. Hij beargumenteert dat Anthropic zelf traint op het open web — inclusief boeken, code, forums en het werk van anderen — maar tegelijkertijd iedereen verbiedt om op schaal te leren van de outputs van hun eigen modellen. Hij stelt dat het beschermen van een concurrentievoordeel (een "moat") één ding is, maar dit moreel te rechtvaardigen terwijl men zelf steunt op gescrapte kennis, iets anders.
Vergelijking met Big Tech
Shao reflecteert op waarom kleine startups vaak weigeren door grote techbedrijven te worden overgenomen, zelfs bij hoge bedragen: zij willen liever onafhankelijk blijven dan het waardesysteem van zulke corporaties overnemen. Hij stelt dat Anthropic zich profileert als dat onafhankelijke alternatief, maar in de praktijk dezelfde rigide, bedrijfsmatige lockdowns toepast op betalende onderzoekers.
Aanvullende reacties
De discussie wordt ondersteund door andere gebruikers, zoals naughtyheuristic, die opmerkt dat het ironisch is dat Anthropic trainde op het open web en vervolgens een gebruiker blokkeerde die probeerde te trainen op de outputs van het model. De conclusie is dat de "gracht" (het concurrentievoordeel) van Anthropic alleen in stand blijft als betalende onderzoekers erbuiten worden gehouden.
Groetjes,