En model gætter det næste ord ud fra alt det, den har læst. Den slår ikke op i en database, og den har ingen fornemmelse af, om den ved noget eller ikke ved noget. Derfor kan den svare forkert i præcis samme tone, som når den svarer rigtigt. Det er hele problemet: der er ingen usikkerhed i stemmen.
Jeg har set en model finde på en paragraf i en bekendtgørelse. Nummeret havde det rigtige format, sproget lød som lovsprog, og paragraffen fandtes ikke. Kunden havde skrevet den ind i et tilbud, før nogen tjekkede. Det blev fanget, men det blev fanget af et menneske, ikke af systemet.
Det, der virker, er at give den jeres egne kilder at slå op i. Ligger prislisten, betingelserne og de sidste tolv tilbud et sted, den kan læse, holder den sig til dem, og så bliver de fleste opdigtede detaljer væk af sig selv. Den anden halvdel er arbejdsgang: alt, der går ud af huset med jeres navn på, skal have været forbi et menneske.
Der er også en tredje ting, som er billigere end begge: bed den om at skrive, hvor den har det fra. Kan den ikke pege på en kilde, er det et gæt, og så ved den, der læser efter, hvor de skal se først.
Man kan ikke få tallet ned på nul. Man kan få det ned, hvor det ikke koster noget, fordi der er en, der læser efter, og fordi den arbejder ud fra jeres egne dokumenter i stedet for sin hukommelse.
Indlægget her er skrevet sammen med en AI, redigeret og godkendt af Mark, inden det blev lagt op. Tal, navne og holdninger er hans egne.