🎛️

Tilslut custom LLM

For de, der ønsker fuld kontrol over deres chatbots underliggende sprogmodel, tilbyder Promte muligheden for at integrere en custom LLM (Large Language Model).

OBS: Hvis du kører Promte self-hosted, skal du kontakte Promte for at sætte dine custom LLMs op.

Sådan tilslutter du en custom LLM

Hvis du har en aftale, der inkluderer "self hosted LLM & Storage", kan du udskifte Promtes managed LLM med din egen instans.
Deploy din egen LLM på Azure og indtast derefter den relevante Target URL og API key på din Promte konto under Settings → Model → Custom Azure.
For instruktioner om deployment, følg Azure's officielle vejledninger.
Hvis du ønsker at integrere andre LLM'er, såsom Llama, Mistral, eller Claude, kontakt Promte for yderligere support.

Dette tilbyder en høj grad af tilpasning og kontrol over chatbottens funktionalitet og viden.