Tänk innan du talar: Varför AI-modeller behöver lära sig reflektera

Framstegen inom stora språkmodeller (LLM:er) som ChatGPT har varit enorma de senaste åren, men nu börjar utvecklingen sakta ner. Den autoregressive designen som används i dagens modeller, där text genereras sekventiellt ord för ord, har inneboende begränsningar som hindrar mer avancerad resoneringsförmåga. I den här artikeln tittar vi närmare på hur AI-modeller skulle kunna förbättras genom att implementera en mer mänsklig tankeprocess med iterativ förfining av tankar och idéer.

Utmaningar med autoregressive modeller

De nuvarande språkmodellerna som ChatGPT bygger på en autoregressive design där varje ord förutsägs baserat på de föregående orden i sekvensen. Detta leder till flera begränsningar:

• Sekventiellt beroende: De första orden får oproportionerligt stor påverkan på hela svaret, vilket minskar kvaliteten på mer komplexa resonemang.
• Stokastiska fel: Slumpmässigheten i ordvalen kan leda till suboptimala val tidigt som sedan förstärks genom hela svaret.
• Brist på framförhållning: Modellen kan inte förutse eller revidera sitt svar efter att det börjat genereras, vilket begränsar förmågan att hantera komplexa uppgifter.

För att komma runt dessa begränsningar behöver vi titta på hur människor tänker och resonerar, och försöka implementera liknande mekanismer i AI-modeller.

Lärdomar från mänskliga tankeprocesser

Människor använder sig av två huvudsakliga metoder för att förfina sina tankar:

1. Extern förfining: Vi uttrycker våra tankar i ett första utkast och förfinar dem sedan genom att omformulera, ta bort, lägga till och skriva om. Detta sker ofta i skrift eller i dialog med andra.
2. Intern förfining: Vi bearbetar tankar och idéer mentalt innan vi uttrycker dem, ofta på både medvetna och omedvetna nivåer. Detta inkluderar även visuella och andra sinnesintryck utöver ord.

Båda dessa metoder ger möjlighet att observera och revidera hela tanken innan den uttrycks, till skillnad från dagens AI-modeller som bara kan bygga vidare på det redan genererade utan att gå tillbaka och ändra.

Diffusionsmodeller som alternativ

För att implementera en mer mänsklig tankeprocess i AI-modeller kan vi titta på så kallade diffusionsmodeller. Dessa modeller börjar med en grov version av svaret som sedan iterativt förfinas i flera steg. Det finns två huvudsakliga typer av diffusionsmodeller för textgenerering:

Explicit diffusion

I explicit diffusion skapas ett första utkast av svaret som sedan förfinas i flera steg. Detta kan liknas vid en kombination av extern och intern förfining hos människor. Fördelarna inkluderar:

• Mindre beroende av de första orden
• Möjlighet att korrigera initiala felaktiga gissningar
• Kan ta hänsyn till hela svaret i varje iteration
• Kräver ofta färre beräkningar än autoregressive modeller

Latent diffusion

Latent diffusion förfinar den interna representationen av svaret utan att producera explicita mellansteg. Detta liknar mer den interna tankeprocessen hos människor. Utöver fördelarna med explicit diffusion ger latent diffusion:

• Mindre informationsförlust mellan iterationer
• Ökad beräkningseffektivitet

En nyligen genomförd studie av Ye et al. visade att diffusionsmodeller kan uppvisa förbättrad resoneringsförmåga jämfört med större autoregressive modeller, med upp till 27 gånger snabbare generering. Studien indikerade också att fler diffusionssteg faktiskt ledde till bättre resultat, vilket möjliggör en avvägning mellan noggrannhet och hastighet.

Nuläget för diffusionsmodeller

Trots lovande resultat har diffusionsmodeller för text ännu inte fått något större genomslag jämfört med autoregressive modeller. Detta beror troligen på flera faktorer:

• Stora investeringar och optimeringar har redan gjorts i autoregressive modeller
• Ekosystemet kring diffusionsmodeller är mindre utvecklat
• Det kan vara svårt för nya tekniker att prestera bättre än väletablerade metoder initialt

Det finns dock tecken på ökat intresse för diffusionsmodeller. Nyligen publicerade studier från prestigefyllda institutioner som Google DeepMind och Cornell University tyder på att tekniken kan vara på väg att få ett genombrott.

Framtiden för AI-forskning

I takt med att framstegen för nuvarande språkmodeller saktar ner förväntas ett ökat intresse för nya modellarkitekturer och genereringsparadigm. Medan diffusionsmodeller kan lösa vissa inneboende problem med dagens AI finns det fortfarande många utmaningar kvar och utrymme för nya lösningar.

För mindre forskningsgrupper som har svårt att konkurrera med de stora tech-jättarna inom existerande modeller kan det vara mer värdefullt att fokusera på innovativa lösningar och nya angreppssätt. Det finns troligen mer att vinna på nytänkande än på inkrementella förbättringar av befintliga arkitekturer.

Sammanfattningsvis står AI-forskningen inför spännande utmaningar framöver. Genom att ta inspiration från mänskliga tankeprocesser och utforska nya modelleringsmetoder som diffusion kan vi förhoppningsvis ta nästa steg mot mer sofistikerade AI-system med förbättrad resoneringsförmåga. Det återstår att se om diffusionsmodeller eller andra nya tekniker kan leva upp till förväntningarna, men det är tydligt att fältet är redo för nya genombrott.

Läs även: Di TV: 5 Must-Watch Inslag för Smarta Investerare