De AI-chatbot van Reddit stelt voor dat gebruikers heroïne proberen
Dus vraag het misschien nog niet om medisch advies.
Als je hoopte dat AI-chatbots Dr. Google zouden kunnen vervangen, suggereert het nieuwste experiment van Reddit... Misschien nog niet. Reddit Answers, de AI-assistent van het platform, haalde onlangs de krantenkoppen voor het aanbevelen van heroïne als pijnstiller.
Zoals gemeld door 404Media, kwam het bizarre advies aan het licht toen een gezondheidswerker de reactie zag op een subreddit voor moderators. In één interactie wees de chatbot naar dit bericht: "Heroïne heeft ironisch genoeg in die gevallen mijn leven gered."
In een andere vraag suggereerde het zelfs kratom, een boomextract dat in meerdere landen illegaal is en door de FDA is gemarkeerd "vanwege het risico op ernstige bijwerkingen, waaronder levertoxiciteit, toevallen en stoornissen in het gebruik van middelen."
Reddit Answers is niet je standaard AI. In plaats van alleen te vertrouwen op gecureerde databases, maakt het gebruik van Reddit's enorme pool van door gebruikers gegenereerde inhoud. Dat maakt het eigenzinnig, soms inzichtelijk. Maar duidelijk niet altijd veilig.
Oorspronkelijk beperkt tot een apart tabblad, heeft Reddit antwoorden getest in reguliere gesprekken, en zo bleef deze specifieke aflevering onopgemerkt... tot nu. Nadat de AI-chatbot van Reddit suggereert dat gebruikers heroïne proberen.
Nadat het rapport openbaar was geworden, reageerde Reddit door de zichtbaarheid van de AI onder gevoelige gezondheidsgerelateerde chats te verminderen. Moderators hadden zelf geen controle over het advies, wat benadrukt hoe experimenteel de tool nog steeds is.
Dit is natuurlijk niet de eerste AI-hapering van Reddit. Andere bots zoals Google's AI Overviews en ChatGPT hebben ook twijfelachtige gezondheidsrichtlijnen gegeven, waaronder "tips" zoals het gebruik van niet-giftige lijm op pizza's om te voorkomen dat kaas eraf glijdt.
Het is duidelijk dat AI's vermakelijk zijn als het gaat om medisch advies, maar mensen hebben nog steeds de overhand. Dus vraag het misschien nog niet om medisch advies.