Wat je moet lezen en luisteren om AI te begrijpen

Ik ben voor het eerst in mijn leven angstig over de toekomst

Met de opkomst van de “Large Language Models” zoals ChatGPT is de wereld in één klap veranderd. Al heeft niet iedereen dat nog door en degenen die het wel door hebben weten niet precies HOE de wereld dan is veranderd.

Als liberaal ben ik van nature een tech-optimist. Ik geloof in vooruitgang en in de kracht van de mens om van iedere situatie iets beters te maken. AI is de eerste technologie waar de mogelijke nadelen voor mij de mogelijke voordelen overstijgen. Plat gezegd: voor het eerst in mijn leven ben ik bang voor de toekomst. Voor het eerst in mijn leven denk ik dat we op iets zijn gestuit waar de mens geen oplossing voor heeft. De kern daarvan zit in onderstaande quote van bioloog E.O. Wilson.

Ik merk dat veel mensen op zoek zijn naar wat ze ervan moeten vinden. In deze nieuwsbrief wil ik concrete lees- en luistertips geven, die je wellicht op weg helpen om er je eigen mening over te vormen.

Maar eerst: tijd voor een gezonde politieke (werk)cultuur

Voordat ik verder ga met AI, nog even het volgende: 2 weken geleden verscheen het rapport "Kracht zonder tegenkracht" over de sociale veiligheid in de Tweede Kamer. Oftewel: een onderzoek naar hoe het is om in de Tweede Kamer te werken en of het wel een goede werkomgeving is. De Tweede Kamer is de afgelopen jaren bekend komen te staan als burnoutfabriek. Ook in de ambtenarij, de lokale politiek en de journalistiek worstelen mensen met de werkdruk, de werkwijze, het constant "aan" moeten staan en de cultuur van zero/sum-strijd.

Ik maakte hierover een podcast met Kiki Bakker. Kiki coacht politici en andere mensen die werken in bestuur, maatschappij of ambtenarij. Zij schreef hier diverse keren over. En afgelopen weekend wijdde Dagblad De Limburger een groot stuk aan hoe zij hier tegen aan kijkt. Onderstaand de podcast. Benieuwd wat je ervan vindt. Het was voor mij overigens een extra bijzondere podcast, want Kiki is mijn echtgenote.

Wat kan je lezen en luisteren om AI (en de dreiging ervan) te begrijpen

Dan over AI. Sinds een jaar of drie ben ik mij gaan verdiepen in dit onderwerp en dan vooral in de vraag wat de opkomst van zogenaamde “artificial general intelligence” zal doen met ons leven. AGI is een vorm van kunstmatige intelligentie die in iedere mogelijke intellectuele taak minstens even goed (en waarschijnlijk beter) is dan de mens. Daar zijn we nog niet, maar wat we nu zien bij de ChatGPT’s van de wereld zit daar niet ver van af.

Ik neem je in een aantal concrete tips mee in wat ik de afgelopen jaren heb gelezen en geluisterd over dit onderwerp. En daarna beschrijf ik speciaal voor de betalende abonnees wat mijn eigen kader is geworden om naar AI te kijken. Met andere woorden: waar let ik op om helder te hebben wat belangrijk is? Betalende abonnee kun je worden via de volgende link. Als je eenmaal betalende abonnee bent kun je na het stuk met lees- en luistertips gewoon doorlezen.

Boeken

Ik begin met een aantal boeken die interessant zijn om te lezen om AI en een paar zaken eromheen te begrijpen.

The Precipice - Een boek van Toby Ord over existentieel risico.

Superintelligence - Een boek van Nick Bostrom over menselijke en artificiele intelligentie. Wat doet de opkomst van superintelligentie met de mens? En kan de mens een “intelligence explosion” wel overleven?

The Alignment Problem - Een boek van Brian Christian over de vraag hoe we menselijke waarden en AI met elkaar kunnen verenigen? Dus: hoe voorkomen we dat AI dingen doet die niet aansluiten bij menselijke waarden of die de mensheid in gevaar brengen?

Homo Deus - Een zeer bekend boek van Harari waarin vooral in de laatste hoofdstukken mogelijke scenario’s worden geboden over de toekomst van de mens in een wereld met superintelligentie.

Elementaire Deeltjes - Wellicht een onverwachte titel hier, maar dit boek van Michel Houellebecq heeft mij al vanaf mijn studietijd zwaar beinvloed wanneer het gaat over de toekomst van de mens. Het biedt een inzicht op hoe (en dat) de huidige mens in de toekomst vervangen kan worden door een nieuwe mens.

Artikelen

Deze artikelen kwam ik recent tegen die zeer de moeite waard zijn.

George Russell (een van de belangrijkste experts) over het gevaar en de kansen van AI.

Eliezer Yudkowski (een van de grootste doemdenkers over AI) in Time over de noodzak zo snel mogelijk de verdere ontwikkeling van AI stop te zetten.

Bill Gates (“zijn” Microsoft is betrokken bij OpenAI) met zijn visie op AI en de potentie van die technologie om de wereld te veranderen.

Op War on the Rocks wordt in beeld gebracht hoe vreemd AI eigenlijk is en hoe moeilijk het te bestrijden is in een gevecht met een mens (omdat het voor mensen totaal onnavolgbare keuzes maakt).

Maxim Februari in NRC.

Een artikel in Time over “uncontrollable AI” met daarin oa Otto Barten van het Nederlandse Existential Risk Observatory, met wie ik eerder onderstaande podacst maakte.

Voor betalende abonnees volgt er na de paywall nog een reeks erg interessante podcasts en clips die mij geholpen hebben een goed beeld te vormen over AI.

Een denkkader voor AI: Waar let ik op?

Aangezien er zoveel nieuws op ons afkomt over AI en het vaak lastig is te beoordelen wat ik ermee moet, heb ik voor mezelf een aantal manieren gekozen om naar die nieuwe ontwikkelingen te kijken. Dit om te voorkomen dat ik de grote lijnen niet meer zie. Onderstaand een aantal van de belangrijkste.

Het onderstaande deel van de nieuwsbrief is enkel voor betalende abonnees. Zij maken deze nieuwsbrief mogelijk. Verder lezen? Dan kun je voor een klein bedrag betalende abonnee worden.