Tilpas Model | Notion

Under “Settings” → “Model” kan man sende særlige instruktioner til AI-modellen/LLM’en, som genererer svarerne på brugerens beskeder. De to vigtigste instruktioner, man kan justere på er Persona og Rules. De gennemgås særskilt her:

Lav en Persona

Opsæt regler

Yderligere tilpasningsmuligheder i Model

Udover “Persona” og “Rules” er der en række indstillinger, som kan tilpasses under”Model”:

Udskift LLM

I toppen ved siden af Model, har man mulighed for at ændre, hvilken LLM, der genererer svar. Standardindstillingen er altid den anbefalede indstilling, men man har mulighed for at skifte mellem forskellige LLMs. Udover LLMs kan man også justere på, hvor den valgte LLM hostes. Promte kan både benyttes med LLMs hosted af Azure (på servere i EU) eller hosted af OpenAI (på servere i USA). Derudover kan du også skifte til din egen hostede LLM. Se mere her:

Tilslut custom LLM

Include sources in answers

Som udgangspunkt angives kilder til svarerne med links. Dette kan slås fra.

Temperature

Denne indstilling justerer på, hvor meget tilfældighed, der benyttes, når LLM’en skal generere svaret. Meget forsimplet fungerer en LLM ved at estimere det mest sandsynlige næste ord et ad gangen. For at kunne fungere, skal der en lille smule tilfældighed til, så den ikke hver gang vælger det mest sandsynlige ord, men ind i mellem kan vælge mindre sandsynlige ord. LLM’en er dårlig til at generere god tekst helt uden tilfældighed. Omvendt vil man når man bygger en chatbot nødigt have en helt tilfældig chatbot.

Erfaring viser generelt at den bedste temperature ligger på 0,7. Dvs. at den skal ligge lidt over midten hen mod “Creative” på Promte.
Man er nødt til at eksperimentere med forskellige indstillinger for at finde den bedste indstilling til ens use-case på Promte. Men det er stort set aldrig en god idé at sætte indstilling til fuld “Conservative” eller fuld “Creative”, men i stedet et sted midt i mellem.