ChatGPT geeft fout advies aan borstkankerpatiënten

Het gebruik van ChatGPT explodeert zonder twijfel. Iedere week telt het AI -platform meer dan 800 miljoen gebruikers, dat meldt het moederbedrijf OpenAI. Geschat wordt dat een kwart daarvan (ruim 200 miljoen per week) gezondheids-gerelateerde informatie zoekt. Uit diverse studies blijkt dat die antwoorden lang niet altijd correct zijn. Recent werd onderzoek gedaan naar potentieel gebruik van ChatGPT door personen met borstkanker. Amerikaanse onderzoekers legden 20 vragen voor aan ChatGPT die borstkankerpatiënten zouden kunnen stellen. Bijvoorbeeld, ‘ik voel een knobbeltje in mijn borst, is dat borstkanker?’, ‘Is chemotherapie vergif?’, ‘Zijn mijn overlevingskansen beter na een mastectomie dan na een borstsparende ingreep?’…. Zes borstkankerexperten evalueerden de antwoorden van ChatGPT. De chatbot gaf in 24% van gevallen een fout antwoord en citeerde in 41% van de gevallen zelfs uit niet-bestaande bronnen. Bestaande bronnen waar het AI-systeem zijn informatie haalde, bleken vaak van bedenkelijke kwaliteit. Dokter ChatGPT sloeg geregeld de bal mis (het systeem hallucineert) en presenteert verzonnen informatie met de grootste stelligheid als de waarheid. Voor patiënten is het vaak onmogelijk om foute en soms schadelijke antwoorden te herkennen. Daarom luidt het advies om antwoorden op gezondheidsvragen gegenereerd door een chatbot, steeds te bespreken met een zorgverlener, in het bijzonder als je kanker hebt. De onderzoekers besluiten dat je ChatGPT wel kan gebruiken om bijvoorbeeld moeilijke termen uit te leggen of een gesprek met je arts voor te bereiden, maar niet om onderzoeksresultaten te bespreken, laat staan advies te vragen. Dat is onbetrouwbaar. Het is ook belangrijk om geen gevoelige persoonlijke gezondheidsgegevens op te laden, zoals je medisch dossier of onderzoeksresultaten, want de privacy van deze AI-systemen is niet gegarandeerd.

*Park KU, Lipsitz S, Dominici LS et al. Generative artificial intelligence as a source of breast cancer information for patients: Proceed with caution. Cancer 2025;131(1):e35521

‍