Een medisch tijdschrift in de VS adviseert tegen het gebruik van ChatGPT voor gezondheidsinformatie. De waarschuwing komt nadat een man een zeldzame aandoening had ontwikkeld na een interactie met de AI-chatbot over het schrappen van keukenzout uit zijn dieet.
In een artikel in de Annals of Internal Medicine wordt melding gemaakt van een 60-jarige man die âbromismeâ of broomvergiftiging had ontwikkeld na het raadplegen van ChatGPT. Het tijdschrift omschrijft âbromismeâ als een âgoed herkenbaarâ syndroom dat begin 20ste eeuw werd gelinkt aan bijna Ă©Ă©n op de tien psychiatrische opnames.
De patiĂ«nt vertelde zijn artsen dat hij had gelezen over de negatieve effecten van natriumchloride, ofwel keukenzout, en dat hij ChatGPT had gevraagd hoe hij het uit zijn dieet kon schrappen en hij vervolgens drie maanden lang natriumbromide was gaan slikken. ChatGPT had namelijk gezegd dat âchloride vervangen kon worden door bromideâ, al stelde de AI-chatbot er wel bij dat dat âwaarschijnlijk voor andere doeleinden zoals schoonmakenâ was. Natriumbromide werd begin 20ste eeuw als kalmeringsmiddel gebruikt.
Volgens de auteurs van het artikel, verbonden aan de Universiteit van Washington, benadrukt de zaak âhoe het gebruik van kunstmatige intelligentie kan bijdragen aan de ontwikkeling van vermijdbare negatieve gezondheidsresultatenâ.
Ze waarschuwden dat ChatGPT en andere AI-apps âwetenschappelijke onnauwkeurigheden kunnen genereren, niet in staat zijn om resultaten kritisch te bespreken en uiteindelijk de verspreiding van desinformatie kunnen aanwakkerenâ.