Australische artsen gewaarschuwd voor gebruik van AI in medische notities

FFrits 27 juli 2023 09:48

De Australian Medical Association roept op tot strengere regulering van kunstmatige intelligentie in de gezondheidszorg, na waarschuwingen aan artsen om medische notities niet meer via ChatGPT te schrijven. Er zijn zorgen over vertrouwelijkheid van patiëntengegevens en ethische toezicht.

Richtlijnen voor AI in de gezondheidszorg

De Australian Medical Association heeft in zijn bijdrage aan een discussienota van de federale overheid aangegeven dat Australië achterloopt op andere vergelijkbare landen als het gaat om het reguleren van AI. Er worden sterkere regels en meer transparantie geëist rondom het gebruik van kunstmatige intelligentie in de gezondheidssector. Dit na een waarschuwing aan artsen in ziekenhuizen in Perth om geen medische notities te schrijven met behulp van ChatGPT.

Het werd ontdekt dat personeel in vijf ziekenhuizen in de South Metropolitan Health Service in Perth de grote taalmodel ChatGPT gebruikte om medische dossiers te schrijven. De CEO van de dienst, Paul Forden, stelde in een e-mail aan het personeel dat er geen garantie is voor patiëntvertrouwelijkheid bij het gebruik van dergelijke systemen en dat het gebruik ervan moest stoppen.

Bescherming van patiëntgegevens en ethisch toezicht

Volgens de AMA moet er bij het gebruik van AI in de gezondheidszorg voldoende bescherming zijn voor patiëntgegevens en moet er passend ethisch toezicht zijn. Dit is nodig om ervoor te zorgen dat het systeem niet leidt tot grotere gezondheidsverschillen. Bovendien zou elke behandeling of diagnose die met behulp van AI wordt ondernomen, altijd de geïnformeerde goedkeuring van de patiënt moeten vereisen.

Overweging voor EU en Canadese AI-regulaties

De AMA stelde voor om de voorgestelde EU Artificial Intelligence Act, die de risico's van verschillende AI technologieën zou categoriseren en een toezichthoudend orgaan zou instellen, te overwegen voor Australië. Ook de Canadese eis voor menselijke tussenkomst in besluitvorming zou overwogen moeten worden. De uiteindelijke beslissing zou altijd door een mens genomen moeten worden, en deze beslissing moet zinvol zijn en niet slechts een formaliteit.

Google's chief health officer, Dr. Karen DeSalvo, benadrukte het belang van het juist krijgen van de systemen en gaf aan dat AI uiteindelijk de gezondheidsresultaten voor patiënten zal verbeteren. Maar voordat dit realiteit wordt, moeten er veel dingen uitgewerkt worden om ervoor te zorgen dat de modellen op de juiste manier beperkt zijn, dat ze feitelijk, consistent zijn en dat ze de ethische en gelijkheid benaderingen volgen die we willen nemen.

Meer artikelen

Lees ook

Hier zijn een aantal interessante artikelen op andere sites uit ons netwerk.