En rad ledande AI-forskare och experter, samt kända personer i teknikbranschen likt Elon Musk och Apple-grundaren Steve Wozniak, har i ett öppet brev uppmanat utvecklare att omedelbart pausa utvecklingen av artificiell intelligens i minst sex månader.

Uppmaningen gäller specifikt utvecklingen av system som är kraftfullare än nuvarande GPT-4 från OpenAI. I brevet påstås att artificiell intelligens kan utgöra en djup risk för samhället och mänskligheten, samt att den nödvändiga försiktigheten och planeringen kring AI saknas.

Öppna brevet menar att det nu pågår ett urspårat race för att utveckla och släppa allt mer kraftfulla ”digitala sinnen” som ingen kan ”förstå, förutse eller pålitligt kontrollera”. De som skrivit under vill att pausen i utvecklingen ska vara offentlig och verifierbar och inkludera samtliga centrala aktörer inom AI, fram till att gemensamma säkerhetsprotokoll implementerats med utomstående och oberoende granskning. Om utvecklarna inte går med på en sådan paus uppmanas regeringar att införa moratorium.

Hela det öppna brevet går att ta del av här.

Unfortunately, this level of planning and management is not happening, even though recent months have seen AI labs locked in an out-of-control race to develop and deploy ever more powerful digital minds that no one – not even their creators – can understand, predict, or reliably control.