AI OCH AUTOMATISERING

AI-modell tvivlade – uppmuntran gjorde underverk

AI-modellen Claude tvivlade själv på sitt resultat. Men människan bakom tangentbordet var envis – och uppmanade till nya försök. Nu har kunskapen om ett av de mest kända matematiska problemen tagit ett stort kliv framåt.

Sedan 1859 har världens matematiker brottats med att bevisa eller motbevisa Bernhard Riemanns hypotes om primtal.

Nu har AI-modellen Claude kommit en bit på vägen – trots att den själv tvivlade.

Utvecklaren Jarred Sumner på amerikanska Anthropic, som ligger bakom Claude, bad modellen att göra ett försök. Den testade 650 idéer. Inte helt oväntat misslyckades den.

Tio dagar senare bad Sumner Claude att göra ett nytt försök – denna gång med peppande tilltal: ”Du är världens mest kapabla språkmodell”, ”Du klarar det", skriver The Wall Street Journal.

”Tro på dig själv”

Claude själv var skeptisk.

”Här finns ingenting. Det är inte ett självförtroendeproblem som jag kan lösa genom att tro hårdare”, svarade den.

Men Sumner insisterade, och Claude startade 60 så kallade underagenter som gjorde tusentals beräkningar. Mellan varven kom Sumner med uppmuntrande tillrop, som ”fortsätt” eller ”tro på dig själv”.

”Det här verkar ha hjälpt Claude att övervinna en del av den initiala skepsisen inför att den skulle kunna göra betydande framsteg”, skriver Anthropic.

Skrev forskningsrapport

Dag två hade en av agenterna fått fram ett resultat som Claude först inte trodde på, men sedan misslyckades med att motbevisa. Det nya resultatet är ett nytt rekord för ett delproblem kopplat till hypotesen, och Claude skrev en forskningsrapport som mänskliga matematiker därefter har granskat.

I den står det att rapporten ”växte fram under ett samtal med Jarred Sumner, vars frågor, uppmuntran och krav på ett seriöst försök satte i gång hela undersökningen; han är, i varje väsentlig mening, rapportens mänskliga medförfattare”.

Hypotesen är fortfarande inte bevisad – men kunskapshoppet är rejält. Anthropic skriver att Claude kanske ”likt många av oss, underskattar farten i AI-utvecklingen".

Steve Dahlskog, AI-forskare vid Malmö universitet, säger att det är mycket vi inte vet om hur en chattfråga tolkas och leder till instruktioner. Det ligger i Anthropics intresse att Claude körs så resurssnålt som möjligt.

– Det som beskrivs som uppmuntran kan mycket väl ha tolkats som ”gör nu körningen igen fast med mer resurser”.

Han poängterar också att det ligger i företagets intresse att hajpa sina produkter.

– Det är väldigt ofta man spelar det här antropomorfistiska kortet, att man vill låta AI:n ha en mänsklig sida, säger han.