At lade AI give medicinske råd er forbundet med store risici, viser en ny undersøgelse, hvor AI fik lov at besvare en række almindelige spørgsmål om lægemidler. I mere end en femtedel af tilfældene gav AI-drevne chatbots forkerte oplysninger om lægemidler. Undersøgelsen viste, at fire ud af ti AI-svar endda kunne føre til skader.
– og i visse tilfælde endda død. Ud over rene fejl var svarene også meget svære at forstå. I dag bruger hver femte britiske praktiserende læge programmer som ChatGPT og Bing AI på arbejdet. Eksperter har advaret om, at det kan føre til fejldiagnoser i sundhedsvæsenet.
Kilde: British Medical Journal