Code-geïmplementeerde tool-aanroepen

Documentinformatie

Classificaties:

• Int. Cl. G06F 9/54 (2006.01)
• CPC G06F 9/547 (2013.01)

Methode voor uitvoering van tool-aanroepen

De methode bestaat uit de volgende stappen:

• Ontvangst van verzoek: Het ontvangen van een gebruikersverzoek op een server voor de uitvoering van één of meer tool-aanroepen.
• Generatie van code: Het genereren van een codeblok in een programmeertaal door een groot taalmodel (LLM), waarbij het codeblok is geconfigureerd om de één of meer tool-aanroepen te inkapselen.
• Uitvoering in sandbox: Het uitvoeren van het codeblok door de server in een sandbox.
• Pauzeren bij openstaande aanroep: Het pauzeren van de uitvoering van het codeblok als reactie op het verkrijgen van een openstaande tool-aanroep.
• Communicatie met client: Het verzenden van de openstaande tool-aanroep naar een client voor uitvoering.
• Verwerking van resultaat: Het ontvangen van een eerste resultaat van de openstaande tool-aanroep vanuit de client.
• Hervatting van uitvoering: Het hervatten van de uitvoering van het codeblok en het vervangen van de openstaande tool-aanroep door het eerste resultaat binnen het codeblok.
• Retourneren aan LLM: Het retourneren van een tweede resultaat van het uitgevoerde codeblok aan het LLM.