Ted Chiang is niet alleen een bekende sciencefictionschrijver, auteur van werken zoals 'The Story of Your Life' (dat later werd verfilmd onder de titel 'Arrival') en de bloemlezing 'Exhalation'; Hij is ook een van de meest inzichtelijke visionairs over de evolutie van kunstmatige intelligentie en de implementatie ervan in de huidige samenleving. Als visionaire auteur hadden we de eer en het genoegen om uitgebreid met hem te praten tijdens Celsius 232 in een interview, waarvan je de volledige versie hier kunt lezen.
Van alle onderwerpen die we met Chiang bespraken, is misschien wel het belangrijkste en meest onthullende of het pad dat we vandaag de dag hebben bewandeld in de evolutie van kunstmatige intelligentie hetzelfde is als het pad dat hij jaren geleden in zijn werk uiteenzette. Zijn antwoord was even onthullend als veroordelend:
"Gedurende een groot deel van de geschiedenis van sciencefiction is het idee van denkende machines of kunstmatige intelligentie heel gebruikelijk geweest, en mensen hebben het vaak opnieuw bekeken. Ik denk dat er altijd veel interessante filosofische vragen rondom dit onderwerp zijn geweest. Maar wat we de afgelopen vijf jaar hebben gezien, met de opkomst van generatieve AI, lijkt in niets op wat er in sciencefiction werd onderzocht. De vragen die sciencefiction interesseerden, zijn eigenlijk niet van toepassing op de situatie waarin we nu staan.
"Laat me een manier voorstellen om ernaar te kijken.
"Eerder vroeg sciencefiction: 'Moet je een machine je beslissingen laten nemen?' Ik vind dit een interessante filosofische vraag, omdat het idee van een machine die beslissingen neemt beter dan mensen (of simpelweg op een andere manier dan mensen) geldige argumenten oproept, zowel voor als tegen het vertrouwen ervan. Tegenwoordig is de vraag echter meer als: 'Moet je Amazon je beslissingen laten nemen?'
"Ik denk niet dat dat een interessante filosofische vraag is. Ik denk dat het antwoord duidelijk is: 'nee, dat moet je niet'. Ik denk niet dat er een goed filosofisch argument is om Amazon jouw beslissingen te laten nemen.
"Wat ik bedoel is dat generatieve AI (de software die momenteel als AI wordt beschreven) geen denkende machine is. In wezen is het een instrument van bedrijfsmacht. Ik denk niet dat er een goed filosofisch argument is om simpelweg toe te geven aan de macht van bedrijven. Het is in het belang van bedrijven om deze vragen over denkende machines te stellen en te suggereren dat zij misschien beter denken dan jij.
"Maar dat is niet wat we nu hebben. Dat is niet de situatie waar we mee te maken hebben. Elke keer dat ze over deze ideeën praten, is het niets meer dan een rookgordijn, omdat ze vooral hun macht over mensen willen vergroten.
"Dus ik denk dat het heel belangrijk is om duidelijk te zijn over de situatie waarin we ons daadwerkelijk bevinden. De situatie waarin we ons nu bevinden is niet meer de situatie waarin sciencefiction vroeger geïnteresseerd was. De situatie waarin we zitten draait om het weerstaan van de macht van bedrijven."