Ik ben niet anti-AI, maar ik heb QUALLMS

Ik ben niet schuw geweest in het uiten van mijn negatieve mening over de huidige hype rondom grote taalmodellen (LLM's). Maar ik aarzel om mezelf als "anti-AI" te bestempelen. Dat is niet omdat ik een soort super-nuanceerd standpunt inneem, zoals "LLM's zijn in sommige gevallen prima" of "Ik zou oké zijn met LLM's als we alleen deze problemen konden oplossen".

Ik ben in feite fel tegen de aannames waarop de hype is gebaseerd: namelijk dat een statistisch model van de frequentie van het voorkomen van woorden naast elkaar een goede basis is voor een multifunctioneel hulpmiddel om vragen te beantwoorden of betekenisvolle tekst of code te genereren. Zelfs als je een lokaal model zou trainen op tekst die met uitdrukkelijke toestemming van de makers is verkregen, en dit zou draaien op een machine die volledig wordt aangedreven door hernieuwbare energie, denk ik nog steeds dat het geen goed idee is. Het feit dat commerciële LLM's toestemming en auteursrecht negeren en onvoorstelbare hoeveelheden middelen verbruiken, maakt iets wat fundamenteel slecht is alleen maar erger.

Dus waarom noem ik mezelf niet "anti-AI"? Dat komt door twee ambiguïteiten: één in de definitie van "AI", en een andere in wat het betekent om "anti-AI" te zijn. Daarom stel ik een alternatieve nomenclatuur voor om precies uit te leggen wat mijn positie is.

Waarom "AI" een grotendeels betekenisloze term is

Men gelooft gewoonlijk dat de term "kunstmatige intelligentie" ontstond rond de tijd van het Dartmouth Summer Research Project on Artificial Intelligence in 1956. Zelfs toen was het niet precies duidelijk waar de term naar verwees; het werd gekozen als een soort verzamelterm voor veel semi-gerelateerd onderzoek in informatietheorie, computerwetenschappen en andere disciplines.

breed genomen leek het te verwijzen naar pogingen om de effecten van menselijk denken met computers na te bootsen. Ik zeg "de effecten nabootsen" in plaats van "het menselijk denken nabootsen", omdat de betrokkenen er niet in geloofden dat de processen waarmee computers kennisrepresentatie, taalverwerking of visuele herkenning afhandelden, enigszins leken op wat er in het menselijk brein gebeurde. Niemand dacht dat menselijke hersenen Lisp-interpreters bevatten om alle zinnen die we horen te analyseren. Daarom gebruikten ze het woord "kunstmatig": om te benadrukken dat dit een imitatie van iets was, en niet het ding zelf. (De overtuiging dat hersenen werkelijk een vorm van berekening uitvoeren die vergelijkbaar is met wat er in een digitale computer gebeurt, behoort tot de verwante maar aparte discipline van de cognitiewetenschap.)

In het begin waren de meeste dingen die "kunstmatige intelligentie" werden genoemd regelgebaseerde systemen, die in essentie niet verschilden van andere typen computerprogramma's. Het belangrijkste verschil was dat computing traditioneel werd gebruikt voor taken die relatief eenvoudig in algoritmische vorm uit te drukken waren — zoals het berekenen van projectielbanen of het oplossen van algebraïsche vergelijkingen. Kunstmatige intelligentie probeerde echter terrein te winnen op gebieden die minder overduidelijk algoritmisch waren, zoals het representeren van de informatie-inhoud van natuurlijke taal, daarover redeneren en het formuleren van een antwoord in natuurlijke taal.

Maar na verloop van tijd werd "machine learning" een ding: het gebruik van geautomatiseerde statistische of quasi-statistische methoden om te generaliseren vanuit een set inputgegevens. Dit kan variëren van het sorteren van foto's van eten in de brede categorieën "hotdog" of "geen hotdog", tot het voorspellen van wat een klant van een website mogelijk daarna wil kopen op basis van eerdere aankopen.

Dit was een zeer andere benadering dan wat bekend kwam te staan als Good Old-Fashioned Artificial Intelligence (GOFAI). In plaats van de stappen uit te werken die nodig zijn om een taak uit te voeren en de computer opdracht te geven deze uit te voeren, gooide je gewoon een hoop data naar een programma en liet je de computer uitzoeken wat hij moest doen. Althans, dat is hoe het vaak antropomorfisch wordt beschreven. In feite is het precies dezelfde regelgebaseerde benadering op een hoger abstractieniveau: in plaats van regels om inputs in outputs om te zetten, zijn het regels van een hogere orde om trainingsdata om te zetten in regels die inputs in outputs omzetten. Maar het is veel gemakkelijker om te zeggen dat de computer "leert" hoe hij dingen moet doen, wat ongelukkig veel mensen ervan overtuigt dat machine learning-systemen iets doen dat veel meer lijkt op het menselijk brein dan in werkelijkheid het geval is.

Zo werd "kunstmatige intelligentie" nu gebruikt voor zowel ouderwetse algoritmen voor het manipuleren van symbolen als voor moderne statistische trucjes. Twee zeer verschillende technologieën die met dezelfde terminologie werden beschreven, waarbij hun enige gemeenschappelijkheid een vaag verlangen was om na te bootsen wat mensen doen.

Naarmate computerhardware goedkoper en krachtiger werd, ontstond "deep learning". Dit was in feite gewoon een multi-layer perceptron, een iets geavanceerdere versie van een machine learning-methode die teruggaat tot de jaren 50. Alleen konden we ze nu veel groter maken en trainen op veel grotere datasets. Rond diezelfde tijd nam het internet een vlucht, waardoor het makkelijker dan ooit werd om angstaanjagende hoeveelheden data te verzamelen, vooral data in natuurlijke taal. Hoewel deep learning fundamenteel niet verschilde van eerdere vormen van machine learning, zorgde de schaal ervoor dat we veel dingen konden doen (zoals beeldherkenning en automatische vertaling) waar eerdere methoden slechts matig in waren. Hierdoor begonnen veel mensen deep learning als iets op zich te zien, wat weer een nieuwe categorie werd onder de steeds uitbreidende paraplu van "AI".

Onlangs realiseerden mensen zich dat als je een bepaald type deep learning-architectuur combineert met een enorme hoeveelheid tekst, je deze kunt trainen om te voorspellen wat het volgende woord zal zijn, gegeven enkele honderden voorafgaande woorden. Er werd een raamwerk omheen gebouwd dat dialoog simuleerde, waarbij een mens de ene helft van het gesprek verzorgde en de woord-voorspeller de andere. Het was zo goed in het produceren van menselijk klinkende dialogen, en het durfkapitaal was zo overvloedig, dat bedrijven het in elk softwareproduct op de markt begonnen te duwen. Maar ze noemden het geen "grote taalmodellen", "next-token predictors" of zelfs maar "chatbots". Ze noemden het gewoon "AI".

Het resultaat is dat wanneer iemand nu "AI" zegt, er ongeveer 99% kans is dat diegene verwijst naar één specifieke toepassing van één bijzondere vorm van een van de verschillende brede categorieën software die allemaals op verschillende momenten "AI" zijn genoemd. En deze ene specifieke sub-sub-subdiscipline van AI is erg impopulair vanwege de milieu-impact, de onethisch verkregen trainingsdata, het feit dat werkgevers erover opscheppen dat het hen in staat stelt menselijke werknemers te vervangen, en het feit dat het eigenlijk niet erg goed is in de meeste dingen waarvoor het wordt verkocht. Daarom zeggen heel veel mensen: "Ik haat AI!"

De inherente ambiguïteit van de term biedt tech-CEO's — die zo snel waren om de term "AI" te associëren met hun beperkte selectie producten — de perfecte comeback: "Je haat AI? Maar kijk naar al die prachtige dingen die AI heeft gedaan! Kijk hoe je telefoon mensen in je afbeeldingen kan herkennen en taggen! Kijk hoe het je foto in real-time kan vervangen door een cartoonkat! Kijk hoe artsen kankercellen kunnen identificeren die voorheen onopgemerkt zouden zijn gebleven! Als je niet van AI houdt, moet je al deze dingen ook haten!"

Natuurlijk maken geen van deze dingen op enige manier gebruik van LLM's. Ze waren er allemaal al voordat techbedrijven chatbots in alles begonnen te stoppen. Ze zijn op geen enkele manier wat de overgrote meerderheid van de "AI-haters" bedoelt wanneer ze "AI" zeggen, en de tech bros weten dat. Het kan ze echter niet schelen, want het verdraaien van taal om het moeilijker te maken om ontevredenheid te uiten, is al lang een favoriete truc van autoritairen. Double plus ungood.

Nou, ik trap er niet in. Waar mogelijk probeer ik de term "kunstmatige intelligentie" of "AI" helemaal te vermijden en in plaats daarvan precies te benoemen waar ik het over heb (LLM's, logistische regressie, support vector machines, expertsystemen, Lisp, wat dan ook).

"Anti-AI" is ook niet erg betekenisvol

De ambiguïteit van de term "AI" stelt LLM-promotors in staat om hun tegenstanders aan te vallen door hen te beschuldigen van het bestrijden van zaken waar zij eigenlijk helemaal niet tegen zijn. Maar wat als we "AI" simpelweg herdefiniëren naar "grote taalmodellen"? Zouden we onszelf dan "anti-AI" kunnen noemen?

Nee, want LLM-aanhangers hebben die term reeds geastroturft (geëxploiteerd via schijnbaar grassroots-bewegingen). Er zijn organisaties zoals PauseAI die misschien anti-AI lijken, maar steun krijgen van enkele van de grootste AI-bedrijfsdirecteuren. Wanneer je beter kijkt naar hun klachten, is er nauwelijks sprake van milieuproblemen, intellectueel eigendom, devaluatie van vaardigheden (de-skilling) of andere zorgen die mensen daadwerkelijk hebben over LLM's. In plaats daarvan is het argument dat "chatbots superduper slim zijn en exponentieel slimmer worden! Het is slechts een kwestie van tijd voordat ze de wereld proberen over te nemen en ons in paperclips veranderen! Dus we moeten alle AI-ontwikkeling pauzeren en strikte regelgeving en wereldwijde bestuursorganen opzetten om ervoor te zorgen dat de AI-ontwikkeling, die onvermijdelijk is en nooit gestopt kan worden, op de juiste manier gebeurt!"

Dit argument heeft twee doelen. Ten eerste neemt het als gegeven aan dat LLM's extreem intelligent zijn en steeds slimmer worden, in de hoop dat mensen dit simpelweg accepteren en direct overgaan van de vraag "zijn deze dingen überhaupt slim?" naar "wat doen we met deze ongelooflijk slimme machines?". Deze premisse is echter aantoonbaar onjuist. Hoewel de precieze definitie van intelligentie moeilijk vast te pinnen is, voldoen sommige zaken simpelweg niet aan zelfs de breedste criteria voor intelligentie.

Grote taalmodellen leren niet. Ze ondergaan een eenmalige "trainingsfase", waarin de gewichten tussen hun perceptron-nodes worden gewijzigd op basis van trainingsdata. Zodra die fase voorbij is, en voordat het netwerk in productie wordt genomen, zijn de gewichten gefossiliseerd in barnsteen en zullen ze nooit meer veranderen. De enige manier om meer "informatie" in een multi-layer perceptron te krijgen, is door een nieuw netwerk met meer trainingsdata te trainen om het oude te vervangen. Zeker, chatbots lijken dingen te onthouden die je hen vertelt, maar dat is slechts een goocheltruc: elke keer dat je een chatbot bevraagt, wordt de volledige geschiedenis van het gesprek tot nu toe (of ten minste het deel dat in het contextvenster past) teruggevoerd naar het netwerk. Een LLM is eigenlijk gewoon een functie die een zeer groot binair getal (het gecodeerde gesprek) ontvangt en een veel kleiner binair getal teruggeeft (overeenkomstig het voorspelde volgende token). Het heeft geen innerlijk leven. Het denkt nergens over na tussen de prompts door, of verandert überhaupt niet. Om alles wat het doet "intelligentie" te noemen, is een belediging voor het concept intelligentie zelf. Dus natuurlijk is vragen "is dit ding intelligent?" iets wat de LLM-promotors je nooit willen laten doen.

Het andere doel van het "Pause AI"-argument is prozaïcher: regulatory capture (het overnemen van de regelgevende macht). Als de grote AI-bedrijven van vandaag de regeringen van de wereld kunnen overtuigen om AI-regelgeving in te voeren die de AI-bedrijven zelf helpen schrijven, en een overheidsorgaan vormen waarbij zij mee mogen beslissen wie erin komt, kunnen ze ervoor zorgen dat ze alles blijven doen wat ze willen, terwijl ze gelijktijdig de instapkosten voor potentiële concurrenten verhogen.

Eigenlijk is er misschien een derde doel, of in ieder geval een gelukkig onbedoeld gevolg: het idee dat chatbots superkrachtig kunnen worden en de wereld overnemen is zo absurd dat de meeste mensen het direct zouden afwijzen, terecht. Als LLM-promotors de controle over het narratief kunnen krijgen zodat "anti-AI" synoniem wordt met "gelooft in Skynet maar met een vreemde fixatie op paperclips", kunnen ze elke vorm van oppositie belachelijk laten klinken.

Ik moet toegeven, ik had mijn QUALLMS

Om "oppositie tegen LLM's" te onderscheiden van "oppositie tegen random-forest classifiers", en om legitieme zorgen over LLM's te distantiëren van de geastroturfte anti-Skynet hype, heb ik een alternatief voor "anti-AI" bedacht. Ik noem het QUALLMS: Quit Using All Large Language Models (Stop met het gebruik van alle grote taalmodellen).

Dit heeft de volgende voordelen:

• Het richt zich specifiek op LLM's, in plaats van vage "kunstmatige intelligentie".
• Het maakt duidelijk wat we willen dat er gebeurt (stoppen met het gebruik ervan, in plaats van het invoeren van Anthropic-vriendelijke regelgeving).
• Het is pakkend.

(De associatie met Widow’s Bay is slechts een extra bonus.)