En fascinerande och smula skrämmande aspekt av artificiell intelligens är att ingen helt förstår hur det fungerar. För kanske första gången i människans historia har vi uppfunnit teknik vi inte fullt begriper.

Grunderna är det många som förstår sig på; maskinlärningen, Transformer-modellen, kalibreringen och träningen – men inte varför chattbottar ger svaren de ger eller varför modellerna uppvisar särskilda beteenden.

People outside the field are often surprised and alarmed to learn that we do not understand how our own AI creations work. They are right to be concerned: this lack of understanding is essentially unprecedented in the history of technology.

– Anthropics vd Dario Amodei

En avgörande skillnad mellan artificiell intelligens och traditionella program är att AI får egna förmågor som bara dyker upp, likt kunskap om matematik och programmering. Vanliga program har specifikt skrivna funktioner, medan AI lär sig från statistiska mönster i data.

Många har påpekat just obegripligheten kring AI, inklusive AI-experter och Open AI:s vd Sam Altman som jämförde den artificiell intelligensens oförutsägbarhet med den mänskliga hjärnan. Nu senast har Anthropic-chefen Dario Amodei påpekat att de inte förstår sina egna skapelser, i ett inlägg på sin blogg.

AI rör sig fortfarande fort framåt och det ska bli spännande (skrämmande?) att se var vi hamnat om fem–tio år.