HUME Risico Analyse
Inleiding
De HUME is een digitaal platform voor het detecteren van stress via kunstmatige intelligentie, gebaseerd op veranderingen in fysiologische signalen die verband houden met stress. De HUME geeft inzicht in stresservaringen om zorgverleners te helpen bij het verlenen van dagelijkse zorg en ondersteuning aan mensen.
Het gebruik van het stressdetectiesysteem HUME brengt potentiële risico's met zich mee. Een gedegen risicoanalyse richt zich op het identificeren van deze risico's en het ontwikkelen van maatregelen om ze te beheren of te minimaliseren.
In dit document worden de mogelijke risico’s op basis van FMEA en DPIA (Data Protection Impact Assessment) analyses en de beheersmaatregelen beschreven.
Risico’s en beheersmaatregelen
De HUME bestaat uit sensoren en een data-dashboard. De sensoren meten fysiologische data zoals de huidgeleiding en hartslag van een cliënt. Op het dashboard is vervolgens het spanningsniveau te zien.
Risico’s
De belangrijkste risico's en overwegingen omvatten:
Privacy, veiligheid en ethiek: Het verzamelen van gegevens om stress te detecteren kan gevoelige informatie bevatten. Er bestaat een risico dat persoonlijke gegevens worden verzameld zonder toereikende toestemming of dat deze informatie wordt misbruikt.
Nauwkeurigheid en betrouwbaarheid: Stressniveaus zijn complex en kunnen variëren van persoon tot persoon. De nauwkeurigheid van stressdetectiesystemen kan variëren en het is belangrijk om rekening te houden met mogelijke fouten of onnauwkeurigheden in de resultaten. Sensoren die stress meten, zoals hartslagmeters of huidgeleidingssensoren, kunnen gevoelig zijn voor externe factoren, beweging of omgevingscondities, waardoor ze mogelijk onnauwkeurige metingen geven
Stigmatisering en verkeerde interpretatie: Onjuiste interpretatie van stressindicatoren kan leiden tot stigmatisering of verkeerde behandeling van individuen. Het is belangrijk om te erkennen dat stress niet altijd negatief is en dat het op de juiste manier moet worden begrepen en aangepakt
Afhankelijkheid van technologie: Overmatig vertrouwen op technologie om stress te detecteren kan leiden tot het negeren van belangrijke menselijke signalen en intuïtie, en kan mogelijk de menselijke interactie en ondersteuning verminderen die nodig is voor het omgaan met stress
Invasiviteit en comfort: Sommige sensoren kunnen als opdringerig worden ervaren, vooral als ze constant fysiologische gegevens verzamelen. Ook kan de sensor allergische reacties veroorzaken. Dit kan het comfort van de gebruiker verminderen en leiden tot weerstand tegen het dragen of gebruiken van dergelijke sensoren.
Beheersmaatregelen
Privacy, veiligheid en ethiek
De volgende maatregelen zijn binnen Mentech geimplementeed om het risico ‘Privacy en ethiek’ te beheersen:
Gebruik van informed consent, met een transparante en duidelijke toestemmingsprocedure. Gebruikers stemmen (vaak via de wettelijk vertegenwoordiger) expliciet in voordat hun gegevens worden verzameld. Dit staat beschreven in ons AVG handboek en privacy beleid (https://support.mentech-hume.nl/hume/privacy-beleid )
We slaan de gegeven tijdens HUME trajecten gecodeerd zodat individuen niet direct geïdentificeerd kunnen worden via de verzamelde informatie. Na afronden van een HUME traject wordt de informatie anoniem opgeslagen en na 1 jaar verwijderd. Dit staat beschreven in ons AVG handboek en privacy beleid (https://support.mentech-hume.nl/hume/privacy-beleid )
We werken volgens het principe data minimalisatie, waarbij alleen de noodzakelijke gegevens die relevant zijn voor het doel van stressdetectie worden verzameld. We voorkomen hiermee de onnodige verzameling van gevoelige informatie die niet direct gerelateerd is aan het doel.
We hebben sterke beveiligingsmaatregelen geimplementeerd. Robuuste beveiligingsprotocollen beschermen tegen ongeautoriseerde toegang, datalekken en hacking. We gebruiken versleuteling, beperkte toegangsrechten en veilige opslagmethoden. Dit is beschreven in ons beveiligingsbeleid (https://support.mentech-hume.nl/hume/beveiligingsbeleid )
We geven heldere instructie over de impact van het gebruik met HUME, zoals hoe het stressdetectiesysteem werkt, welke gegevens worden verzameld en hoe deze worden gebruikt. We geven ook aan hoe ze hun toestemming kunnen intrekken.
We werken volgens de geldende normen, ethiek en wetgeving. We houden ons aan de ethische richtlijnen voor gegevensverzameling en -gebruik.
We voeren regelmatig audits (pen testen) uit om ervoor te zorgen dat de verzamelde gegevens op een ethische en wettelijke manier worden verwerkt en gebruikt.
We betrekken gebruikers (zoals wettelijk vertegenwoordgers en zorgverleners), bij het proces door feedback te verzamelen en hen te laten deelnemen aan besluitvorming met betrekking tot het gebruik van hun gegevens.
Voor vragen of opmerkingen hebben we een privacy team ingericht: privacy@mentechinnovation.eu
Nauwkeurigheid en betrouwbaarheid
Om het risico met betrekking tot de nauwkeurigheid en betrouwbaarheid van stressdetectiesystemen te beheersen, zijn de volgende maatregelen geimplementeerd:
Stressdetectiesystemen zijn niet perfect en kunnen vals-positieve of vals-negatieve resultaten opleveren. Voor aanvang van een HUME traject geven we uitleg over de nauwkeurigheid en tolerantiegrenzen ten aanzien van vals-negatieven en vals-positieven. Een vals positief kan leiden tot onnodige ingrepen, terwijl een vals negatief kan betekenen dat iemand die stress ervaart onopgemerkt blijft. We gebruiken tijdens de intake een checklist waarin ook de gevolgen van een mogelijk verkeerde indicatie en bijbehorende interpretatie van stress worden besproken en gedefinieerd. Daarnaast verzamelen we tijdens elk HUME traject de feedback van gebruikers over de nauwkeurigheid van de HUME. Voor aanvang van een traject bepalen we het meetbeeld. Tijdens de modelafstelling beoordelen we of de gepercipieerde stressniveaus overeenkomen met de gedetecteerde stressniveaus, waardoor het systeem kan worden aangepast en verbeterd. Ook tijdens gebruik ontvangen we regelmatig feedback over de nauwkeurigheid van de stressvoorspelling.
We hebben een kwaliteitscontrole ingevoerd om de kwaliteit van de sensor en de wearables te bewaken. De kwaliteit van de sok wordt bijvoorbeeld voor de start van een sessie gemeten en beoordeeld.
We werken typisch met 2 verschillende sensoren, namelijk hartslag en huidgeleiding, waardoor we enerzijds een betrouwbaarder gecombineerd signaal en anderzijds een back-up hebben ingebouwd (als de ene sensor onvoldoende nauwkeurig is), valt de HUME terug op de andere sensor.
We hebben in een klinische studie de HUME uitkomstmaten gevalideerd. We doen regelmatig onderzoek samen met academische partners zoals LUMC, Tranzo en TU/e. De resultaten van deze onderzoeken staan in wetenschappelijke papers beschreven.
We gebruiken machine learning en AI-algoritmen om het systeem te trainen en te verbeteren op basis van verzamelde gegevens. Door continu van nieuwe data te leren, kan het systeem nauwkeuriger worden in het herkennen van stresssignalen. Ook gebruiken we lab data om nieuwe modellen te ontwikkelen.
We investeren om nieuwe sensortechnologieën te verkennen en bestaande technologieën te verbeteren. Dit vergroot de nauwkeurigheid en betrouwbaarheid van de HUME.
We werken met multidisciplinaire teams, waarbij technische experts, gebruikers en professionals uit de gezondheidszorg samenwerken om de nauwkeurigheid en betrouwbaarheid van stressdetectiesystemen te waarborgen en voortdurend te verbeteren.
Gedtailleerde informatie over deze beheersmaatregelen is in de technische documentatie van HUME te vinden.
Stigmatisering en het vermijden van verkeerde interpretatie
Om het risico met betrekking tot stigmatisering en het vermijden van verkeerde interpretatie te beheersen, zijn de volgende maatregelen geimplementeerd:
Stress is complex en kan verschillende oorzaken hebben. Het is van cruciaal belang om de context van stressniveaus te begrijpen en niet alleen te vertrouwen op gegevens van sensoren. Het implementeren van een contextuele benadering helpt om stressniveaus nauwkeuriger te interpreteren.
We geven de gebruikers van HUME een uitgebreide instructie en intensieve training voordat ze met HUME aan de slag gaan. Goede voorlichting helpt bij het voorkomen van vooroordelen en verkeerde interpretaties van stressindicatoren.
We benadrukken tijdens de intake en training dat de stressreacties verschillen van persoon tot persoon en dat niet alle signalen hetzelfde betekenen voor iedereen.
We combineren sensorgegevens vaak met andere informatiebronnen, zoals zelfrapportage van de gebruiker, incidentmeldingen of contextuele gegevens zoals de omgeving of sociale situatie.
We benadrukken dat HUME stress detectie een ondersteunende tool is voor het bieden van ondersteuning aan mensen met een hulpvraag. We stellen de kwaliteit van leven van zowel de client als begeleider centraal.
Middels het MyHume dashboard en rapportages communiceren wij consistent over de interpretatie van stressuitkomstmaten en mogelijke passende interventies.
Het is van groot belang om een mensgerichte benadering te hanteren bij het gebruik van HUME. Het vermijden van stigmatisering begint bij het begrijpen en respecteren van individuele verschillen en ervaringen. Tijdens de intake en instructie worden deze risico’s met het zorgteam besproken.
Afhankelijkheid van technologie
Om het risico met betrekking tot afhankelijkheid van technologie te beheersen, zijn de volgende maatregelen geimplementeerd:
Tijdens de intake en instructie, maar ook tijdens het gebruik van HUME, bespreken wij de rol van technologie bij het detecteren en interpreteren van stress. We hebben een uitgebreide instructie en training ontwikkeld waarin we de gebruikers van HUME (zorgverleners, zorgprofessionals en verwanten) ook wijzen op de beperkingen van de technologie. We leren ze tijdens de training hoe ze de data uit de HUME app en dashboard moeten interpreteren en combineren met menselijke observaties.
De zorgmedewerker kan de menselijke beoordeling middels labels in de app noteren. Deze labels kunnen worden gebruikt om het model te finetunen op de gebruiker en ook worden gebruikt om duiding aan de stressuitkomstmaten te geven.
We voeren regelmatig evaluaties uit om te controleren hoe de technologie wordt gebruikt en hoe mensen erop reageren. We verzamelen deze feedback van gebruikers en nemen de adviezen mee in de verdere ontwikkeling van HUME.
De accountmanagers van Mentech hebben ervaring in de langdurige zorg voor mensen met onbegrepen gedrag, Ze weten als geen ander gedrag te interpreterem en kunnen daardoor wijzen op het belang van menselijke interactie en ondersteuning bij het omgaan met stress. Zij moedigen persoonlijke gesprekken, therapie en sociaal contact aan als aanvulling op de inzet van HUME.
Tijdens de voorbereiding, instructie, training, gebruik en evaluatie blijven we benadrukken dat HUME een ondersteunende technologie is voor het herkennen van stressopbouw. Door technologie te gebruiken als ondersteuning in plaats van als vervanging, kan de afhankelijkheid ervan worden verminderd terwijl de menselijke connectie behouden blijft.
Invasiviteit en comfort
Om de invasiviteit te verminderen en het comfort te verbeteren bij het gebruik van stressdetectiesystemen met sensoren, zijn de volgende beheersmaatregelen genomen:
We ontwerpen in co-creatie met de zorg, o.a. door gebruik te maken van focusgroepen en iteratief design, slimme wearables die zo min mogelijk invasief zijn en comfort bieden aan de gebruiker. De slimme sok integreert bijvoorbeeld eenvoudig in het primaire proces van de client. Ook de enkelhartslag sensor is ontworpen op comfort voor de client. We hebben daarbij veel oog gehad voor het gebruikersgemak tijdens dragen.
We voeren tijdens het meetbeeld een comforttest en een acceptatietest uit. We kijken daarmee enerzijds naar de acceptatie van de sensor en anderzijds naar het comfort (leidt de sensor bijvoorbeeld tot een allergische reactie). Ook tijdens het gebruik blijft aandacht voor comfort en acceptatie door regelmatig met de zorgteams dit onderwerp te bespreken.
We schatten bij de start van een HUME traject het risico van inslikken in. Ook proberen we in te schatten of er kans op ergens achter blijven haken aanwezig is
We hanteren verschillende maten sensoren (sokken) en verschillende soorten sensoren om een gepersonaliseerde en op-maat oplossing aan te kunnen bieden.
Door te focussen op het verbeteren van het comfort en het verminderen van de invasiviteit van sensoren, kan de acceptatie en het gebruik van stressdetectiesystemen worden vergroot zonder dat gebruikers zich ongemakkelijk voelen tijdens het dragen ervan.