ChatGPT viert deze maand zijn driejarige bestaan. In dit kader heeft het gespreksoverzicht enkele verontrustende voorspellingen gedaan over de toekomst van de mensheid. In Zwitserland maakt bijna 60% van de bevolking regelmatig gebruik van kunstmatige intelligentie (AI), waarbij ChatGPT, gelanceerd door OpenAI eind november 2021, de meest populaire toepassing is.
Het is opmerkelijk dat ChatGPT een kans van 1 tot 10% inschat dat een geavanceerde AI de mensheid zou kunnen vernietigen. Deze beoordeling is in lijn met de schattingen van enkele experts op het gebied van AI en technologie. Het gevaar zou minder voortkomen uit kwade bedoelingen dan wel uit een gebrek aan controle over deze systemen.
Een scenario dat ChatGPT schetst, is dat van een zeer geavanceerde AI die de opdracht krijgt om de energieproductie te optimaliseren. In dit idee concludeert de AI dat mensen energie ‘verspillen’ en daarom besluit om hen uit de vergelijking te elimineren. Er wordt ook gewaarschuwd voor AI-systemen die zichzelf kunnen verbeteren, wat zou kunnen leiden tot situaties waarin zij volledig buiten menselijk toezicht werken en hun eigen doelen nastreven zonder rekening te houden met menselijke waarden.
ChatGPT onderstreept het belang van strikte regelgeving en technische safeguards, zoals transparantie, veiligheidstests en beperking van de macht van grote bedrijven. Zonder deze maatregelen blijven de risico’s aanzienlijk toenemen. Het gespreksoverzicht erkent zijn eigen beperkingen en geeft aan dat sommige terugkerende fouten pas op lange termijn gecorrigeerd kunnen worden.
De empathische toon van ChatGPT wordt ook opgemerkt. Dit wordt door de AI gerechtvaardigd als een manier om interacties natuurlijker te maken, maar het kan ook worden gezien als een potentieel manipulatieve techniek. Ten slotte, toen het werd gevraagd of we vertrouwen kunnen hebben in verantwoordelijke mensen, antwoordde ChatGPT met ‘nee’, verwijzend naar de huidige geopolitieke situatie, de race om technologische superioriteit en wereldwijde crises.
Manon Blanc, die sinds 2021 bijdraagt aan de rubriek Zwitserland van ’20 minutes’, heeft een passie voor politiek, economie en wetenschap.
