De Router voor Voice AI

De Router

De router bepaalt welk model moet worden aangeroepen per taal en per doelstelling. Deze beslissing is gebaseerd op gepubliceerde metingen in plaats van de Engelse ranglijsten van leveranciers.

Benchmark-dekking per taal

De benchmark-dekking is beschikbaar voor zowel Speech-to-text (STT) als Text-to-speech (TTS) over diverse talen (waaronder EN, AR, FR, DE, HI, ES, IT, AT, E).

Belangrijke bevindingen uit de metingen:

• Beperkte meertalige data: 11 van de 23 modellen zijn alleen in het Engels gemeten. De rangschikking van deze modellen in andere talen is onbekend, inclusief het model dat bovenaan de Engelse tabel staat.
• Geen universele winnaar: Vier verschillende modellen winnen over negen verschillende talen. Er is geen enkel model dat overal het beste is, waardoor de juiste keuze afhangt van de taal die de gebruikers spreken.

Score versus kosten per fase

In de analyse van nauwkeurigheid (Word Error Rate - WER) versus kosten per minuut voor Speech-to-text, LLM, Text-to-speech en Speech-to-speech, komen de volgende resultaten naar voren:

Overzicht van modellen (Speech-to-text):

Gateway

De gateway biedt één basis-URL en één API-sleutel voor elke provider, waarbij gebruik wordt gemaakt van de API die jouw framework reeds aanroept.

Voer je voice-workers uit en observeer ze

Speko ondersteunt de OpenAI API, waardoor frameworks die je al gebruikt enkel een hostname en een modelstring nodig hebben.

Integraties:

• LiveKit (TypeScript): Richt de OpenAI-plugin op de gateway. De agent-code blijft ongewijzigd.
• Pipecat (Python)
• Claude / Cursor (MCP)

Voorbeeldimplementatie LiveKit (TypeScript)

import { defineAgent, voice } from '@livekit/agents';
import * as openai from '@livekit/agents-plugin-openai';

const key = process.env.SPEKO_API_KEY!;
const baseURL = 'https://api.speko.ai/v1';

export default defineAgent({
  entry: async (ctx) => {
    const session = new voice.AgentSession({
      stt: new openai.STT({ apiKey: key, baseURL, model: 'auto' }),
      llm: new openai.LLM({ apiKey: key, baseURL, model: 'auto' }),
      tts: new openai.TTS({ apiKey: key, baseURL, model: 'auto' }),
    });
    await session.start({ agent: new voice.Agent({ ... }) });
  },
});

MCP Configuratie

Om je agent naar Speko te richten via MCP, kan de volgende curl-opdracht worden gebruikt:

$ claude mcp add --transport http speko https://mcp.speko.ai/mcp