Al drie jaar zijn chatbots het gezicht van generatieve kunstmatige intelligentie (AI). Je kunt alles invoeren en krijgt een gepersonaliseerd antwoord, wat resulteert in een schijnbaar magische dialoog met een machine. Hoewel deze conversatie-interface er misschien uitziet als de beste manier om gebruik te maken van grote taalmodellen, beginnen sommige bedrijven zich terug te trekken uit de wereld van chatbots, bezorgd over verantwoordelijkheid en verlies van controle.
Zelfs met de implementatie van voorzorgsmaatregelen, blijkt dat gebruikers de technologie kunnen “omzeilen” en chatbots van onderwerp kunnen laten veranderen, soms in een schadelijke of ongepaste richting. Bedrijven willen de magie van technologie toegankelijk maken, maar ze bouwen ook potentieel veiligere, meer gefocuste producten en vragen zich af of chatbots werkelijk de toekomst van AI zijn, of slechts een tijdelijke trend.
Character.ai is een van de meest populaire consumentenapplicaties voor artificiële intelligentie, met ongeveer 20 miljoen actieve gebruikers per maand, veelal jongeren die in gesprek gaan met personages op het platform. Onlangs heeft het bedrijf echter chatgesprekken met hun bots verboden voor gebruikers onder de 18 jaar, na klachten dat kinderen te afhankelijk werden en in sommige gevallen psychologische schade opliepen.
CEO Karandeep Anand stelt dat Character.ai een strategische wending maakt richting een entertainmentplatform en ook een voorzichtiger benadering hanteert. “Waarschijnlijk zijn er niet genoeg technologieën of onderzoeken om de veiligheid van het communiceren met personen onder de 18 jaar gedurende lange tijd te waarborgen,” zegt hij. Onderzoek naar het gebruik van audio- en videomodellen laat het bedrijf ook geloven dat chatbots niet per se de beste entertainmentsproducten opleveren. Het bedrijf overweegt manieren om ervaringen te bieden die zowel beter als veiliger zijn voor jongeren.
In plaats van open gesprekken met een chatbots, die tot alles kan leiden, verandert Character.ai de interface voor tieners, zodat er meer gebruik wordt gemaakt van knoppen en suggesties, in plaats van tekstinvoer die lijkt op het versturen van berichten naar een vriend.
Het aantal gebruikers van Character.ai, dat ooit een piek van 26 miljoen bereikte, daalde eerder dit jaar toen Anand een andere radicale wijziging doorvoerde door gesprekken met chatbots die gericht waren op seksuele inhoud of zelfbeschadiging te verbieden. Toch herstelde het gebruik zich geleidelijk, en de CEO gelooft dat deze trend zich zal voortzetten, zelfs na zijn laatste beslissing. Dit is een wending die hij gemakkelijker kan bereiken aangezien Character.ai eigendom is van zijn medewerkers en niet verplicht is aan investeerders.
Een vergelijkbare benadering wordt gehanteerd door Vitality Health, een dochteronderneming van de Zuid-Afrikaanse verzekeringsgroep Discovery, wiens businessmodel zich richt op het stimuleren van gezond gedrag onder abonnees door middel van beloningen en kortingen. Eerder deze maand kondigde het bedrijf een samenwerking aan met Google, waarbij het gebruikmaakt van Gemini, het grote taalmodel van de technologiegigant om de Vitality-app van klanten aan te drijven. De nieuwe versie van de app wordt in april 2026 gelanceerd.
Hoewel Gemini het meest bekendstaat als een chatbot, kiest Vitality ervoor om de technologie te beperken zodat deze de taal achter de schermen verwerkt, in plaats van voornamelijk tekst, knoppen en opties te tonen waar mensen op kunnen klikken. Het kan bijvoorbeeld een klein venster tonen dat gebruikers aanmoedigt om die dag 2500 stappen te zetten om punten en beloningen te verdienen. Met andere woorden, Gemini kan Vitality helpen “te communiceren” met klanten zonder daadwerkelijk een gesprek aan te gaan.
Conversational AI brengt te veel risico en onvoorspelbaarheid met zich mee, wat in de gezondheidszorg problematisch kan zijn. “We moeten voorzichtig zijn en alles overwegen,” zegt Emil Stip, algemeen directeur van Vitality AI. Oura Health, de Finse fabrikant van de Oura Ring, hanteert een andere aanpak met hun “AI-adviseur” – een chatbot in de app van het apparaat waarmee klanten kunnen praten over hun slaapresultaten en andere biometrische gegevens. Vitality zegt dat het de mogelijkheid van het toevoegen van een dergelijke coach zal onderzoeken, maar is momenteel nog niet klaar om dit in de praktijk te brengen.
Beperkingen kunnen vaak leiden tot innovaties, en waarschijnlijk zullen meer bedrijven in de loop van de tijd ontdekken dat ze de voorkeur geven aan meer controle en inzicht in hun digitale diensten boven de schijnbaar naadloze interactie van chatbots. Natuurlijk riskeren bedrijven een moderne en aantrekkelijke functie te missen die hun concurrenten wellicht kunnen bieden. Maar de overstap naar voorgestelde prompts en klikbare knoppen maakt AI ook gebruiksvriendelijker. Elon Musk’s AI-platform Grok biedt sjablonen in zijn afbeeldingengeneratietool. Je kunt bijvoorbeeld afbeeldingen in aquarelstijl bewerken of grote vleugels toevoegen, wat handig kan zijn voor mensen met beperkte kennis van het onderwerp.
Dit kan ook veiliger zijn. OpenAI moet waarschijnlijk overwegen om ChatGPT, momenteel de populairste AI-interface voor consumenten, te temmen. In de toekomst kunnen tools voor gebruikers onder de 18 jaar nuttiger zijn als ze beperkt zijn en gebruikmaken van een specifiek doelgebruikersinterface, in plaats van een open chatvenster. De toekomst van kunstmatige intelligentie bestaat misschien helemaal niet in gesprekken met machines.
