Mag je zomaar AI inzetten in de hulpverlening?
Een organisatie mag niet zomaar eender welke AI-chatbot gebruiken voor zorg of hulpverlening. Zeker als AI wordt ingezet voor medische toepassingen, diagnoses, behandelingen of het inschatten van risico’s gelden strenge regels.
Zo legt de Europese AI Act regels op voor AI-systemen die risico’s kunnen inhouden voor onze gezondheid, veiligheid of grondrechten. Onder meer kwaliteitscontroles, transparantie en menselijk toezicht zijn dan vereist. Daarnaast gelden er ook andere regels, bijvoorbeeld rond privacy, beroepsgeheim en medische hulpmiddelen.
Als gebruiker hoef je al die wetgeving natuurlijk niet uit het hoofd te kennen. Let vooral hierop:
- een betrouwbare chatbot vermeldt dat je met AI praat
- het is duidelijk waarvoor de tool bedoeld is
- de tool geeft aan wat hij niet kan en wanneer je beter menselijke hulp zoekt