De maatschappelijke bezorgdheid over de snelle vooruitgang van kunstmatige intelligentie (AI) is geëvolueerd van een puur technisch debat naar een wereldwijde zorg. Meer dan 800 invloedrijke personen uit de wetenschappen, politiek, religie en cultuur, waaronder de AI-pioniers Geoffrey Hinton en Yoshua Bengio, de mede-oprichter van Apple Steve Wozniak, en zelfs publieke figuren zoals Prins Harry en Meghan Markle, hebben een open brief ondertekend waarin ze pleiten voor een stopzetting van de ontwikkeling van “superintelligentie”. Deze hypothetische vorm van AI zou in staat zijn om mensen in alle cognitieve taken te overtreffen.
De brief brengt stemmen samen van bijna alle hoeken van het ideologische spectrum: van conservatieven zoals Steve Bannon (voormalig stafchef van Donald Trump) tot progressieven als Susan Rice (voormalig VS-ambassadeur bij de VN onder Obama) en religieuze figuren zoals de monnik en pausadviseur Paolo Benanti. Ook hebben vijf Nobelprijswinnaars, ondernemer Richard Branson en acteur Stephen Fry hun steun betuigd.
Deze initiatief, gepromoot door het Future of Life Institute, vraagt niet om een symbolische pauze, maar eist een totale verbod op de ontwikkeling van superintelligente systemen. Dergelijke systemen zullen pas verder ontwikkeld worden wanneer er een “brede wetenschappelijke consensus” bestaat over hun veiligheid en er verifieerbare publieke steun is.
De brief valt samen met de publicatie van een rapport van het Future of Life Institute, dat de kloof tussen de samenleving en grote technologiebedrijven aanstuurt.
