Op 19 oktober 1939 schreef Albert Einstein een brief aan Franklin D. Roosevelt. Einstein was een meesterbrein, Roosevelt een politicus. Albert schreef, samen met nog een tweetal fysici, dat er iets bestond dat te splitsen was, een atoom. En hij schreef: “… it is conceivable —though much less certain—that extremely powerful bombs of a new type may thus be constructed.” Hij war er nogal lyrisch over.
Ik schreef het al eerder: wanneer iets wordt ontdekt, is het eerste wat de mensheid onderzoekt of je er een wapen van kunt vervaardigen. U kent ongetwijfeld het vervolg nog. En u weet vast ook dat de geschiedenis zich herhaalt…
Roosevelt kreeg ook te horen van de geleerden dat Nazi-Duitsland doende was met de ontwikkeling van zo’n massavernietigingswapen. Eerst wilde de president er niet van weten, maar na december 1941, Pearl Harbour, sloeg die desinteresse volledig door naar de andere kant.
Onder leiding van de natuurkundige Robert Oppenheimer werd ‘Project Manhattan’ gestart. Honderden geleerden werkten middenin een enorme woestijn aan ‘de moeder aller bommen’, zoals Saddam Hoessein het ding ongetwijfeld zou hebben genoemd. Een man die overigens géén massavernietigingswapens had…
Toen de ontwikkeling vrijwel gereed was en de overleden Rooseveldt was opgevolgd door Harry S. Truman, probeerde
de bij het project betrokken fysicus Szilard de president te waarschuwen voor de gevolgen. De mensen rondom Truman hielden de geleerde buiten de deur. Het moest en het zou.
Boem! Hiroshima en de wereld maakten kennis met het opperste menselijk vernuft op 6 augustus 1945. En op 9 augustus was het weer boem. En op 15 augustus gaf Japan zich over.
De bom zorgde voor vrede, aldus de publieke opinie. U weet waar we momenteel staan? Je hebt maar één gek nodig…
De krant kopte het vandaag. ‘Alarm uit de techwereld.: computers gevaarlijk slim.’
Mensen als Elon Musk, uitvinder, en Steve Wozniak, ook uitvinder, hebben de alarmbel geluid. De ontwikkeling van kunstmatige intelligentie baart ernstige zorgen. Het gaat te hard, het gaat te ver, de vraag is of de mens ‘het’ nog onder controle kan houden.
We hadden het kunnen, moeten weten zelfs. Onze kinderen, kleinkinderen, onze studenten hebben al enige tijd geleden ontdekt dat ze zelf niet meer veel hoeven te leren. Het Wifi-wachtwoord is eigenlijk zo’n beetje wel het belangrijkste. Ze laten een computerprogramma gewoon hun scripties schrijven.
We zijn zelf niet veel beter, trouwens. Knippen en plakken van Wikipedia is al jaren gemeengoed.
En ook mijn generatie doet inmiddels vrolijk mee, want het is zo leuk. En handig ook. Dat deed me onlangs besluiten om eens een testje te doen met ChatGPT.
Ik vroeg, zo ben ik nou eenmaal, of het programma een stuk kon schrijven over Annemarie Jorritsma, u kent haar wel. In maximaal honderdvijftig woorden.
Nou, ik kreeg me toch een lofzang, mensen. Een en al opsomming van haar functies, verdiensten en meer van dat moois. Ik zou het haar kunnen toezenden om in de kast te leggen wanneer het tijd is voor een necrologie.
Maar het verhaal was zo eenzijdig, er is ook weleens wat kritiek op haar geweest, dat me dat zorgen baarde en daarom vroeg ik ChatGPT om dan ook maar een zelfde formaat tekst te maken ‘waarin ook plaats is voor kritiek op mevrouw Jorritsma’.
Nou… het programma leverde me een zwartboek aan waarvan ik de inhoud niet met u ga delen, maar er deugde werkelijk nauwelijks nog iets aan de senator.
Wat ons brengt tot de conclusie dat dit programma door elke politicus omarmt gaat worden, want zo hun wind staat zo zal het geleverde verhaal luiden.
Ik raad u aan, lezer, om in mijn kielzog eens hetzelfde te doen. Vertel het programma dat u Wopke Hoekstra heet (u moet dus wel een drempel over) en vraag ChatGPT een toespraak te schrijven over de vermindering van stikstofreductie per 2030.
En beweer, nadat u dat hebt ontvangen, dat u Sigrid Kaag heet (ik weet dat er grenzen zijn maar zolang u Kaag bent, blijven die gewoon open) en dat u een toespraak wilt over stikstofreductie per 2030.
Vraag daarna eens aan ‘het’ om een tekst te schrijven over stikstofreductie per 2030.
Ik heb dat nog niet gedaan, dus ik weet niet wat de uitkomst gaat zijn. Ja meneer P. te A., een heus soort van wetenschappelijk onderzoek.
Mensen als Musk en Wozniak kennen de uitkomst ongetwijfeld al wel en trekken inmiddels aan de bel.
Het gaat fout, vrezen ze. We houden het niet meer in de hand. En dat zou ons enorme zorgen moeten baren. Kunstmatige intelligentie verzamelt domweg data, gegevens. Feiten, fictie, vermoedens, propaganda, leugens, vervalsingen. En zet dat in modellen.
De gevolgen zijn dramatisch. De bewoners van het platteland weten dat al decennia. Onze Mark, de enige boer met kiespijn die er maar niet van af kan komen, weet het inmiddels ook. ‘De modellen kloppen niet,’ zei hij deze week alsof hij het zojuist geconstateerd had. Maar het kan natuurlijk ook zo zijn dat hij al sinds jaar en dag de verkeerde voorgeschoteld heeft gekregen. Of alleen de gewenste.
Het werkelijke drama moet echter nog komen. Dat is wanneer onze bestuurders het gemak van kunstmatige intelligentie écht doorkrijgen. En ze ‘het systeem’ toestemming gaan geven om te bepalen wat het échte verhaal, wat ‘de waarheid’ is.
Musk en Wozniak vrezen dat moment en terecht. Ze vragen zich openlijk af of het nog wel in de hand te houden is. Kunnen we die kunstmatige, gevoelsarme, manipuleerbare en technocratische computer nog stoppen? Het antwoord is: ja!
Natuurlijk kan dat. Nu nog wel in elk geval. Hoe?
Door de stekker eruit te trekken.
En doe dat dan tegelijk ook even bij dit kabinet.
Ton verzorgt een aantal keren per week een column voor Omroep Almere. Ton is fractie assistent bij APOPA
