Att låta AI ge medicinska råd är förenat med stora risker, visar en ny studie där man låtit AI svara på ett antal vanliga frågor om läkemedel. I mer än en femtedel av fallen lämnade AI-drivna chatbots fel information om läkemedel. Studien visade att fyra av tio AI-svar till och med kunde leda till skador
– och i vissa fall även död. Förutom rena felaktigheter var svaren också mycket svåra att förstå. Idag använder en av fem brittiska allmänläkare program som ChatGPT och Bing AI på jobbet. Experter har varnat för att det kan leda till feldiagnoser i vården.
Källa: British Medical Journal