Tips: Om AI - Max Tegmark, Sommar i P1

Jag vet inte hur många som lyssnar på P1 och Sommar i P1?

Men en väldigt aktuell sak sak AI talas det om här och på ett både lättbegripligt och som jag uppfattar det insatt sätt.

Max Tegmark - Sommar & Vinter i P1

Väl värt att lyssna på tycker jag.

 

Jag har inte lyssnat på Tegmark men läst en recension, det kändes som om han ägnade sig åt att skrämmas.

De tjänster som lanserats det senaste året som kallar sig AI är ingen riktig AI, de är däremot väldigt "duktiga" på att sammanställa information som finns på nätet (eller snarare fanns fram till det datum då informationen samlades in) och man kan ställa frågor om diverse och få för det mesta relevanta svar (jag använder Chat GPT lite då och då för att ställa frågor om lite olika saker och fått bra användbara svar, information som man själv kan googla fram men det går snabbare att låta Chat GPT att leta rätt på svaren).

Som läget är nu ska man vara medveten att den "AI" som finns nu hittat allt på internet vilket även du och jag kan göra.

Jag tror att det är många år kvar innan AI blir riktig AI och kan tänka själv och det är nog det som Tegmark varnar för, när AI tar egna beslut utifrån information som ingen människa har skapat (även om redan nu det finns information på internet som är direkt fientligt mot mänskliga rättigheter).

 

Jag är inte heller orolig. Tvärt om, jag ser fram emot den dagen AI tillsammans med robotar kan lösa 99% av alla yrken till nästintill ingen kostnad alls. Då kan AI beskattas och människor slipper jobba.

 

Även Tegmark och de flesta AI-experter som varnar för existentiella risker med AI ser en extremt positiv potentiell uppsida, problemet är att riskerna är så höga.

Se t.ex. expertprediktioner på metaculus, endast 50% chans att en supersmart AI kommer leda till positiva konsekvenser för mänskligheten.

AGI Transition Beneficial for Humanity | Metaculus

 

Alla har ju rätt att tycka saker och jag hade en åsikt innan jag lyssnade på programmet och en delvis annan efteråt, det mesta handlade om att jag förstod saker jag inte tidigare visste eller begrep.
Ett problem kan jag tycka idag i samhället i allmänhet är att man tycker saker och det uppfattas kanske av andra som fakta, man är ofta för okritisk och gör inga försök att bredda son information kunskap, man fastnar i sin egen informationsbubbla där man ofta "umgås" med likasinnade, DET är en stor risk.

Som det exemplet du tar att du läst en recension, du kanske redan gjort det men man behöver ju då försöka värdera dom olika åsikterna, för i detta fallet är det ju en Fysiker och Kosmolog och arbetar med detta, sedan får man ju bedöma den som har en annan åsikt vad det kan ha för värde.

Jag lägger ingen värdering i det ena eller andra direkt, jag bara påpekar det jag anser självklart om källkritik.

Så om Tegmark har rätt eller fel vet jag inte men det han säger är intressant och bör nog beaktas.

 

Håller med dig!
Det är ju just så att om ingen lyssnar på varningar om risker utan först när faktum något inträffar kan det vara för sent och DÅ är det så dax att agera.

Själv tycker jag AI är otroligt spännande och i grunden nog positiv, MEN jag kan också erkänna att jag inte tänkt så mycket på riskerna, därför tycker jag att detta är viktigt.

 

Nu har jag inte lyssnat på Tegmark (i alla fall inte i stasi-media, däremot har jag lyssnat hos Lex Fridman). Jag köper att det finns vissa reella risker, däremot ser jag det som omöjligt att vi kommer få ett gäng terminators som utplånar mänskligheten eller liknande. Även om vi rent hypotetiskt antar att AI blir självmedvetande och får en egen agenda att utplåna oss så ser jag inte hur det skulle vara möjligt. Visst, AIt kan säkert hitta ett gäng buggar i vår IT-infrastruktur och ta över en stor del av världens datorer, men vi kan alltid dra ur pluggen i allra värsta fall.

Det var precis samma diskussion om datorer på 50- och 60-talet, men det visade sig ju trots allt att datorer har ökat vår produktivitet och möjlighet att driva mänskligheten framåt mer än någon annan uppfinning genom historien.

 

Hur ska vi kunna dra ut pluggen om AI:n redan hunnit kopiera sig själv? Visst vi kan försöka stänga ner internet men det låter som ett rätt omöjligt projekt. Det skulle kräva en enorm global koordinering. Vidare, om vi utgår från att AI:n är supersmart kommer den naturligtvis hitta sätt att överleva som vi inte kan förutse. Det bästa vore förmodligen att sakta ner AI-utvecklingen och inse att vi leker med elden. Det är rätt talande att företagsledarna för de två ledande AI-företagen, OpenAI (ChatGPT) och Anthropic (Claude) är öppna med att det finns existentiella risker med supersmart AI.

 

Ja, det blir ett enormt arbete som alla behöver vara involverade i, jag hävdar inget annat. Det hade varit en enorm kris. Men det hade inte hotat vår existens. Och detta är det absoluta värsta scenariot i mitt tycke. AI kommer säkert bli ett tvåeggat svärd som med allt annat.

 

Kan verkligen rekommendera denna intervju med han som är CEO på Anthropic som nyligen släppt Claude 2.0 (huvudkonkurrent till ChatGPT 4). Vissa delar är lite tekniska men det går att hoppa mellan avsnitt. Kommande årens AI-utveckling blir verkligen fruktansvärt spännande att följa.


View: https://www.youtube.com/watch?v=Nlkk3glap_U&t=683s