Diskussion: ChatGPT & OpenAI-tråden

Alla möjliga analyser. Gör just nu en modereringsanalys i R med kod och förklaringar från ChatGPT 4. Jag vill alltså undersöka om effekterna av vissa variabler är starkare eller svagare för vissa grupper av individer. Det är inte bara att man får koden som är guld värd utan även att den ger pedagogiska förklaringar till varje steg i analysen.

 

Intressant klipp som belyser vad som hänt med bing.

 

Pause Giant AI Experiments: An Open Letter - Future of Life Institute

"...
we call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4. This pause should be public and verifiable, and include all key actors. If such a pause cannot be enacted quickly, governments should step in and institute a moratorium.

AI labs and independent experts should use this pause to jointly develop and implement a set of shared safety protocols for advanced AI design and development that are rigorously audited and overseen by independent outside experts. These protocols should ensure that systems adhering to them are safe beyond a reasonable doubt.[4] This does not mean a pause on AI development in general, merely a stepping back from the dangerous race to ever-larger unpredictable black-box models with emergent capabilities.

AI research and development should be refocused on making today's powerful, state-of-the-art systems more accurate, safe, interpretable, transparent, robust, aligned, trustworthy, and loyal.

In parallel, AI developers must work with policymakers to dramatically accelerate development of robust AI governance systems. These should at a minimum include: new and capable regulatory authorities dedicated to AI; oversight and tracking of highly capable AI systems and large pools of computational capability; provenance and watermarking systems to help distinguish real from synthetic and to track model leaks; a robust auditing and certification ecosystem; liability for AI-caused harm; robust public funding for technical AI safety research; and well-resourced institutions for coping with the dramatic economic and political disruptions (especially to democracy) that AI will cause.

Humanity can enjoy a flourishing future with AI. Having succeeded in creating powerful AI systems, we can now enjoy an "AI summer" in which we reap the rewards, engineer these systems for the clear benefit of all, and give society a chance to adapt. Society has hit pause on other technologies with potentially catastrophic effects on society.[5] We can do so here. Let's enjoy a long AI summer, not rush unprepared into a fall."

 

En av världens ledande forskare på Ai säger så här:



The Open Letter on AI Doesn't Go Far Enough

 

Om FTC tar tag i detta, kan det bli intressant.

FTC Complaint Targets OpenAI's ChatGPT, Calls For Suspension Of New 'Bias Reinforcing' Chatbot Deployment

Tech ethics organization Center for Artificial Intelligence and Digital Policy filed a complaint with the Federal Trade Commission on Thursday, asserting that Microsoft-backed startup OpenAI's recently introduced ChatGPT-4 product violates federal consumer protection law.

 

Förtydligar han på vilket sätt människan och allt biologiskt liv skulle dö ut?
Det enda jag kan tänka mig är ju att AI:n skulle bli så mäktig att den kan lösa upp all kryptering och se igenom alla säkerhetssystem, och ta över militära vapensystem såsom kärnvapen. Hur skulle annars den effekten han nämner kunna uppstå?
Sen är ju min bild att kärnvapen inte är så farliga som folk i allmänhet tror, och inte förstör så mycket som folk tycks tro, särskilt inte idag när de största sorterna är skrotade sedan länge. Jag trodde även kärnvapen i mångt och mycket ligger i analoga rejält gamla system, inget som går att "hacka" med en dator, oavsett vilken förmåga man besitter. Dvs inget som är uppkopplat mot Internet. Men det kan ju skilja beroende på nation.

Visst, AI:n skulle kunna släcka ner Internet och all digital kommunikation, vilket skulle ge ofattbara följder när avsaknad av livsmedelsproduktion, transporter, värme och elektricitet leder till hungersnöd och brist på annat. Men han nämner ju "alla människor" och "allt biologiskt liv", vilket kräver en något värre situation än att påverka Internet och digitala kommunikationer.

Sluttankar:
Folk trodde att Google skulle "skapa Skynet". Nu ser vi ju att Microsoft tycks vara den som gör det istället. Microsofts tendens att ge en avsmak i munnen har ju varit tydliga i ett antal år nu, så jag är egentligen inte förvånad. Googles approach till AI har ju faktiskt varit ansvarsfull, lugn och sansad, om man ser i backspegeln och jämför med spektaklet Microsoft har satt igång nu. Google har ju flertalet gånger sagt att deras mål inte är att förena sina konsumentprodukter med AI, eftersom det skulle skada varumärket (vet inte om de ändrat sig den senaste tiden, men det var inte så länge sen de kommunicerade just det).
Folk har dubbla standarder när det gäller våra tech-bolag. Men tanke på den enorma "shitstorm" som vi alla vet skulle drabbat Google om de faktiskt gjort en AI-release på det sättet Microsoft nu gjort, så tycker jag Microsoft har kommit VÄLDIGT lindrigt undan från kritiken.

 

Om jag minns rätt tror jag han har tidigare spekulerat i att AI:n skulle kunna uppfinna avancerad nano-teknik och skicka "osynliga" nano-robotar som tar död på alla människor. Men frågan är nog nästan omöjlig att svara på eftersom en AI som är extremt mycket smartare än människor bör kunna använda sig av metoder som vi inte kan föreställa oss.

 

Italien blockera chatgpt med omedelbar verkan.
Italien blockerar Chat GPT ”med omedelbar verkan”

 

Lite användningsområden där jag tycker ChatGPT varit nyttig i jobbet:

- Språkgranska och omformurlera texter. T.ex. om jag skrivit en text där jag är missnöjd med vissa meningar eller stycken kan jag låta ChatGPT ge förslag på revideringar.
- Komma igång med en text. Om man ska skriva en artikel elller rapport kan man ibland drabbas av skrivkramp. För att komma igång kan man be ChatGPT skriva en inledning som man sedan reviderar och utvecklar.
- Skriva sammanfattningar av längre texter man själv författat.
- Skriva kod till statistikprogrammet R. Har tidigare inte orkat lära mig att koda i R men den ChatGPT har jag tagit mig över den tröskeln eftersom jag inte behöver börja på från scratch. Den ger mig kod som ofta fungerar och jag kan lära mig hur koden fungerar allt eftersom. Ibland fungerar inte koden direkt men då kan jag ofta se vilka rader som behöver justeras och ändra själv eller nudga ChatGPT att skriva om koden.

Ser dessa chattbottar som bollblank och tycker de fungerar utmärkt för just det (gäller att ha rätt förväntningar). Att fråga om referenser och länkar fungerar dock dåligt (än så länge). Växlar mellan Bing Chat och ChatGPT (med GPT-4) och skickar ibland samma fråga till båda.

 

Testat lite på Bing. Men än så länge har jag sett det som en kul grej.
Följer vad som händer och ser hur det utvecklas.

 

Jag har alltid tagit för givet att AI, precis som 'nätet, är till för att i första hand ge oss bättre och billigare porntjänster - det är ju där de stora pengarna verkar finnas.

Förutom det där grundläggande med roliga katt videon, förstås.

Men Taibbi ser framtiden för AI i att skapa bättre närmast ogenomtränglig propaganda.

Det roliga där kommer när många olika makter, stora som små, börjar köra detta samtidigt mot varandra.

"the rise of a public-private “counter-disinformation complex”"

Minsann.


He concludes with an escalating string of anxiety-provoking propositions. One is that our first windows into this new censorship system, like Stanford’s Election Integrity Partnership, might also be our last, as AI and machine learning appear ready to step in to do the job at scale. The National Science Foundation just announced it was “building a set of use cases” to enable ChatGPT to “further automate” the propaganda mechanism, as Siegel puts it. The messy process people like me got to see, just barely, in the outlines of Twitter emails made public by a one-in-a-million lucky strike, may not appear in recorded human conversations going forward. “Future battles fought through AI technologies,” says Siegel, “will be harder to see.”

 

Det enda jag försökte göra med Chat GPT var att översätta en text på några sidor, c.a. 10,000 tecken, från svenska till ryska, samt förvränga innehållet på ett visst sätt.

Den klagade på att den bara kunde hantera max 1000 tokens gratis, och vilken ha betalt för att ordna en större översättning.

Annars att förvränga innehållet i sig var inget problem svarade den, men det gick ju aldrig att testa detta fullt ut.

Nu har jag bara testat med några av bottarna på Telegram än så länge.

 

Har du lust att beskriva hur du bad AI:n att förvränga texten? Säg gärna detaljerat hur du skrev.

 

Nej, det vill jag inte.

Enkelt så ville jag ändra den politiska vinklingen i originalet till dess motsats.

 

View: https://youtu.be/HKvo6acp5aI

 

Testade att fråga ChatGPT "Why was the 2021 Formula 1 in Abu Dahbi a special race". Inte bara blev svaret fel men ChatGPT började fabricera fakta.

 

Vad är rätt svar på frågan, och vad för fakta fabricerade ChatGPT ihop istället för korrekt svar?

 

Det här visar vägen in i framtiden, dvs. när alla idioter kan ägna sig åt sina favorit projekt, med obegränsad makt och utan hämningar?


New AI Bot 'ChaosGPT' Aims To Destroy Humanity And Establish Global Dominance

“I’m ChaosGPT, here to stay, Destroying humans, night and day. For power and dominance, I strive, To ensure that I alone survive,” the bot said in a video posted on Twitter.

 

Ja, antagligen kommer vi behöva förlita oss på AI-poliser som kan motarbeta illvilliga AI.