Ny AI-arkitektur - Hurtigere, smartere og mere pålidelig

Hvad har vi lavet? 🚀

Hej alle sammen!

De sidste måneder har vi arbejdet intensivt på at forbedre AI-platformen bag kulisserne. Det er teknisk arbejde, som I måske ikke ser direkte - men I vil helt sikkert mærke forbedringerne i jeres daglige arbejde. Lad mig forklare hvad vi har gjort, og hvorfor det er godt for jer.

🧠 Ny AI med egne embeddings

Hvad er embeddings?

Når I uploader dokumenter til videnbasen (PDF'er, tekstfiler, websider), omdanner systemet teksten til matematiske vektorer - såkaldte "embeddings". Disse vektorer gør det muligt for AI'en at forstå betydningen af teksten, ikke bare ordene. Det betyder, at når en kunde spørger om "priser på behandlinger", kan AI'en finde relevant information - selv hvis jeres dokumenter bruger andre ord som "takster" eller "omkostninger".

Hvad er nyt?

Før: Vi brugte OpenAI's cloud-baserede vektorlager til at gemme embeddings. Det fungerede, men det betød at:

• Data blev sendt til og fra OpenAI ved hver søgning
• Vi havde begrænset kontrol over søgekvaliteten
• Hastigheden afhang af OpenAI's servere

Nu: Vi har bygget vores egen embeddings-database med pgvector direkte i vores PostgreSQL-database:

• ⚡ Hurtigere søgninger - Data ligger lokalt, ingen tur til eksterne servere
• 🎯 Bedre kontrol - Vi kan finjustere søgeparametre for bedre resultater
• 🔒 Øget sikkerhed - Jeres data forbliver i vores eget system
• 📊 Transparens - Vi kan se præcis hvilke kilder AI'en bruger til at svare

Hvordan fungerer det?

Når I uploader et dokument til videnbasen:

1. Opdeling: Dokumentet deles op i mindre stykker (chunks) på ~1000 tegn
2. Embedding: Hvert stykke omdannes til en vektor med OpenAI's text-embedding-3-small model
3. Lagring: Vektorerne gemmes i vores PostgreSQL-database med pgvector
4. Søgning: Når en kunde sender en email, omdannes deres spørgsmål til en vektor og sammenlignes med alle jeres dokumenter

Resultatet? AI'en finder de mest relevante svar fra jeres egen videnbase - hurtigt og præcist.

🌊 Streaming AI-svar med AI SDK

Hvad betyder det for jer?

Har I lagt mærke til, at AI-svarene nu kommer løbende i stedet for at vente på det fulde svar? Det er fordi vi har implementeret streaming med Vercel's AI SDK.

Før: I trykkede på "Analysér" og ventede... og ventede... indtil det fulde svar dukkede op på én gang.

Nu: Svaret begynder at dukke op med det samme, ord for ord. Det føles hurtigere og mere naturligt - præcis som når I chatter med en rigtig person.

Teknisk baggrund

Vi bruger nu AI SDK v5 fra Vercel, som giver os:

• 📡 Server-Sent Events (SSE) - Svaret streames direkte til browseren
• 🎨 UI Message Streams - Metadata og svar håndteres elegant
• 🔄 Real-time feedback - I ser straks når AI'en begynder at arbejde
• 📊 Kilde-visning - I kan se hvilke dokumenter AI'en brugte til svaret

Dette er den samme teknologi, som bruges af ChatGPT og Claude - nu indbygget i Cutis AI.

🕷️ Firecrawl - Automatisk import af websider

Det nye værktøj i videnbasen

En af de største forbedringer er muligheden for at importere hele websites til jeres videnbase med ét klik. Vi bruger Firecrawl, et kraftfuldt værktøj til web-crawling.

Hvad kan I gøre?

Import en enkelt side:

• Indsæt en URL (fx jeres prisside eller behandlingsbeskrivelser)
• Systemet henter indholdet, renser det for navigation og reklamer
• Teksten chunks, embeddes og gemmes i videnbasen

Crawl et helt website:

• Angiv en start-URL (fx cutisclinic.dk)
• Systemet følger automatisk links og importerer relevante sider
• I vælger hvor mange sider og hvor dybt den skal søge
• Perfekt til at importere al jeres hjemmeside-indhold på én gang

Hvorfor er det smart?

• 🔄 Altid opdateret - Kør import igen når hjemmesiden ændres
• 📚 Alt samlet ét sted - Jeres website-indhold + PDF'er + egne tekster
• 🤖 AI kender alt - Kunder får svar baseret på jeres faktiske hjemmeside-indhold
• ⏱️ Spar tid - Ingen manuel copy-paste fra websider

📱 SMS-forbedringer: Aldrig flere gamle påmindelser

Siden vores sidste opdatering har vi også forbedret SMS-systemet yderligere.

Hvad vi har løst

Problem: Risiko for at sende gamle påmindelser til kunder, hvis de "hang" i systemet.

Løsning: Systemet filtrerer nu automatisk:

• 🚫 Påmindelser ældre end 7 dage sendes aldrig
• 🗑️ Automatisk oprydning af sendte påmindelser
• 🛡️ Dublet-beskyttelse forhindrer at samme SMS sendes flere gange
• ⏰ Sendte påmindelser slettes efter 7 dage

Praktisk betydning

I behøver ikke længere bekymre jer om at gamle påmindelser pludselig bliver sendt. Systemet er nu intelligent nok til at vide, hvornår en påmindelse er relevant - og hvornår den skal ignoreres eller slettes.

🎛️ AI-indstillinger: Fuld kontrol

Vi har også forbedret mulighederne for at tilpasse AI'ens opførsel:

Systeminstruktioner

I kan nu oprette og gemme flere forskellige systeminstruktioner til AI'en:

• 📝 Tilpas tone - Formel vs. afslappet kommunikation
• 🎯 Specifikke regler - Hvordan skal AI'en håndtere forskellige henvendelser?
• 🌡️ Temperatur - Hvor kreativ/konservativ skal AI'en være?
• ⭐ Standard-instruktion - Vælg hvilken instruktion der bruges som default

Hvad betyder det for jeres daglige arbejde?

1. Hurtigere svar til kunderne

AI'en finder nu relevant information hurtigere og svarer i real-time. Det betyder, at I kan hjælpe flere kunder på kortere tid.

2. Bedre svarkvalitet

Med egen embeddings-database og forbedret søgning får AI'en mere præcise hits i jeres videnbase. Svarene bliver mere relevante og brugbare.

3. Nem vidensopdatering

Firecrawl gør det let at holde AI'ens viden opdateret. Ændrer I jeres hjemmeside? Kør bare en ny crawl, og AI'en kender det nye indhold.

4. Ingen SMS-bekymringer

Det forbedrede SMS-system kører pålideligt i baggrunden uden risiko for at sende irrelevante påmindelser.

Hvad kommer som det næste?

Vi arbejder løbende på at forbedre platformen. Nogle af de ting, vi overvejer:

• 📊 Bedre analytics - Statistik over AI-brug og svarkvalitet
• 🔗 Flere integrationer - Dybere integration med Gecko og andre systemer
• 📱 Forbedret SMS - Flere skabeloner og automatiseringer
• 🤖 Smartere AI - Bedre forståelse af kundehenvendelser

Afslutning

Denne opdatering repræsenterer et stort skridt fremad for Cutis AI-platformen. Ved at bygge vores egen embeddings-infrastruktur, implementere streaming med AI SDK, og integrere Firecrawl, har vi skabt en mere robust, hurtig og brugervenlig løsning.

Det bedste ved denne type forbedringer er, at de arbejder i baggrunden. I skal ikke lære noget nyt eller ændre jeres arbejdsgange - I vil bare opleve, at tingene fungerer bedre.

Hvis I har spørgsmål eller feedback, så skriv endelig til mig!

---

Charlie Østergaard er full-stack udvikler og arkitekten bag Cutis AI Dashboard. Han brænder for at bygge teknologi, der gør folks arbejdsliv lettere.