Hugging Face overgenomen door NVIDIA

NVIDIA is al lange tijd een actieve supporter van het llama.cpp-project. Al meer dan een jaar dragen hun engineers actief bij aan de codebase, werken ze samen met de community en stellen ze hardware ter beschikking voor ontwikkelings- en testdoeleinden. Het lokale AI-ecosysteem heeft grotendeels geprofiteerd van deze gezamenlijke inspanningen.

De toekomst van llama.cpp en ggml

Vooruitkijkend zullen llama.cpp/ggml trouw blijven aan hun oprichtingsprincipes. Een van de belangrijkste eigenschappen van het project is dat het hardware-agnostisch is. Daarom zal de ontwikkeling en ondersteuning van alle backends worden voortgezet zoals gebruikelijk: aangestuurd en gevormd door de community. Het project blijft open voor iedereen die bereid is deel te nemen. Het bestaan van een onafhankelijk softwareplatform als dit is cruciaal voor de snelle adoptie van lokale AI en om deze dichter bij de gebruiker te brengen.

Met een significante partner als NVIDIA die ons ondersteunt, naast het bredere Hugging Face-team, is het geloof gegroeid dat de langetermijndoelen makkelijker te bereiken zullen zijn. De focus blijft liggen op het bouwen van een van de meest spannende projecten, gebaseerd op de meest opwindende technologie van onze tijd, en dit op de meest toegankelijke en efficiënte manier beschikbaar te maken voor iedereen.

Reacties uit de gemeenschap

Perspectief vanuit NVIDIA

Gerardo Delgado, werkzaam bij NVIDIA, bevestigt dat het doel van zijn team is om lokale AI te laten groeien. Volgens Delgado is de manier om dit te bereiken het bieden van eenvoudige, krachtige tools aan het ecosysteem die over verschillende IHV's (Independent Hardware Vendors) heen werken, zoals llama.cpp. Tools met weinig wrijving leiden tot snellere ontwikkeling en adoptie. Hij benadrukt dat de doelstellingen op één lijn liggen en dat llama.cpp neutraal blijft.

Overige reacties

Andere reacties op dit nieuws variëren:

• zoobab merkt (met een ondertoon van scepsis) op dat men hoopt dat NVIDIA veel middelen zal investeren in het verbeteren van de AMD-ondersteuning in llama.cpp.
• Strata ziet dit als een volgende consolidatieslag in de markt, waarbij wordt gesteld dat dit scenario al vaker is vertoond.