Manipulerende design: Eksperter frykter at brukere kan bli trukket inn i psykisk helse-apper som henter ut personvernopplysninger og kan gjøre brukerne avhengige i stedet for at de oppsøker hjelp som virker. Illustrasjonsfoto: Forbrukerrådet

Psykisk helse-apper: Hjelp eller hekta?

Apper for mental helse er blitt et milliardmarked. Eksperter frykter at slike apper kan ta i bruk manipulativt design for å trekke til seg og holde på brukere – i stedet for at de søker hjelp.

Hva vil appene?

Hjelpe deg – eller få deg til å bli, skrolle, trykke, bruke penger, dele data?

– Problemet med manipulativt design er jo at dersom det fungerer, skjønner du ikke at du har blitt manipulert, sier Finn Myrstad, direktør for Forbrukerrådet.

Som når du plutselig har sittet to timer og skrollet enda du bare skulle sjekke en melding.

Eller abonnementet du startet – helt gratis og så enkelt – ved å trykke på et par knapper, men nå ikke helt skjønner hvordan du skal få avsluttet.

Eller når “aksepter”-knappen lyser stort og fristende mot deg på skjermen, mens alternativene er vanskelig tilgjengelig.

Eller når du får beskjeder som har som hensikt å påføre deg skam eller usikkerhet for valget du tar: «Nei, takk, jeg tar sjansen uten» møtes med et nytt spørsmål: «Vil du VIRKELIG ikke ha en ekstra forsikring?»

Manipulativt design blir vanligere

Manipulativt design er når selskaper bruker design og ubalansert og feilaktig informasjon til å dytte, manipulere og lure forbrukere til å ta valg som først og fremst er i selskapets interesse, ifølge Forbrukerrådets nettsider.

Har det blitt mer av dette de siste årene?

–  Ja. Ja er det enkle svaret, sier Myrstad.

Forbrukerrådet har hatt problemstillingen på radaren i over 10 år, og jobbet aktivt med å kartlegge det siden 2018.

– Slikt design brukes for at du skal bli på tjenesten mest mulig, for å tjene penger – enten gjennom å betale eller se annonser, og for at du skal gi fra deg mest mulig personopplysninger.

Selv om Forbrukerrådet ikke jobber spesifikt med apper for mental helse, mener Myrstad det er en viktig problemstilling.

– En ting er at det kan være ekstra sensitive data du deler. Det er veldig vanskelig å vite akkurat hva som samles inn og hvordan.  Selv om jeg har jobbet med dette feltet i ti år sliter jeg fortsatt med å forstå hva selskapene vet om meg – det digitale økosystemet er komplekst.

Det andre er at brukere av apper for psykisk helse ikke er bare forbrukere.

– Når du er i en sårbar situasjon, er det lett at alle andre hensyn blir sekundære, og hvis du søker hjelp innen mental helse er du kanskje i en sårbar situasjon. Hvis du tror du kan få hjelp, vil du kunne nedprioritere sikkerhet og personvern. Det er heller ikke mulig for en enkeltperson å vurdere dette på en god måte.

Dark pattern manipulerende design so lurer forbrukeren
Vi blir påvirket av design. Her er det mye lettere å gi en tillatelse enn ikke. Kanskje tror du også at du MÅ trykke på tillatelsen for å gå videre. Men det er ikke sikkert du trenger eller ønsker at appen skal samle inn disse opplysningene om deg. Kilde og illustrasjonsfoto: Forbrukerrådet

«Privatliv ikke inkludert»

Innen 2030 anslås markedet for apper i kategorien mental helse å være verdt 17,5 milliarder dollar, ifølge i den britiske avisen Guardian. Tilbud og etterspørsel eksploderte under pandemien.

Men nå begynner de kritiske spørsmålene å boble opp til overflaten – for selv om det er mye «hype» rundt appene, finnes det lite bevis på at de fungerer. Appene retter seg mot en særlig sårbar gruppe, og stadig flere eksperter etterlyser mer regulering.

Mozilla Foundation – en verdensomspennende, non-profit organisasjon og forsøksvis vaktbikkje for hele internett – har undersøkt hvordan apper for mental helse behandler personvern og sensitive data. Det store flertallet er altfor dårlige: Hele 19 av 32 undersøkte apper var ikke gode nok på sikkerhet og personvern. De ble tildelt advarselen «privatliv ikke inkludert» i undersøkelsen, en merkelapp som bare synes i undersøkelsen og som ikke dukker opp når du og jeg vil laste dem ned fra kommersielle app-salgssteder.

– Vi fant at altfor ofte blir dine personlige, private psykisk-helse-kamper utnyttet for å tjene penger, sier Jen Caltrider, ansvarlig for prosjektet i Mozilla Foundation, til The Guardian.

Hun sier at det er trist at flere av selskapene virker å bry seg mindre om hvordan de kan hjelpe og mer om å profittere på gullrushet i psykisk helse-problemer.

I desember kom en rapport fra Universitetet i Melbourne som fant utstrakt bruk av manipulativt design og Dark Design Patterns i mange av de mest populære appene.

Også tyske forskere har nylig sett på fenomenet, og finner at bruk av manipulative design-strategier brukes for å påvirke brukere til å ta spesifikke valg i kommersielle apper, altså de som ikke er godkjent av helsemyndighetene.

I verste fall kan slike designvalg gjøre at brukerne blir på appene – i stedet for å søke hjelp som fungerer.

Hjelp til gode valg eller manipulering?

Manipulativt design er når selskaper bruker design og ubalansert og feilaktig informasjon til å dytte, manipulere og lure forbrukere til å ta valg som først og fremst er i selskapets interesse. Dulting, kaller atferdsekspertene det.

Men man kan også bruke teknikkene for å «dulte» forbrukere og brukere i riktig retning.

Høres vel greit ut? Alle vil vel ta gode valg?

Men så enkelt er det kanskje ikke.

– Nudging og manipulativt design – uttrykkene er flytende og det kan være vanskelig å vite om et designprodukt er positivt eller negativt for en bruker, sier Faltin Karlsen, professor ved Kristiania.

Han forsker på digital detox, dating-apper og hvordan design påvirker brukerens opplevelse.

Persuasive design (design for å påvirke valg journ.anm) har vært populært siden nittitallet. Gamification, altså bruk av spill-elementer for å holde brukere engasjert, har vært stort siden rundt 2010. Dette er designfilosofier som har fått stor innflytelse i utvikling av teknologi, men vi vet lite om hvordan det påvirker brukerne, sier professoren.

Gambling er regulert, gamification ikke

Gamification handler om å gi små belønninger som gjør at handlingen oppleves som litt bedre eller mer engasjerende enn aktiviteten i seg selv er, forklarer han.

Man kan dermed få en større opplevelse av å nå små mål, som å gå et visst antall skritt om dagen.

– Det er i utgangspunktet et godt mål å bevege seg mer, og det å telle skritt kan oppmuntre til det. Men det kan også bli litt tvangsmessig, at man blir for opptatt av akkurat 10 000 skritt og at måloppnåelsen blir viktigere enn selve aktiviteten.

Han peker på et paradoks: Gambling er strengt regulert i Norge, men mange av teknikkene innenfor gamification trykker på akkurat de samme knappene.

Mange av disse teknikkene har vokst ut av en industri som har et overordnet ønske om at brukerne skal bli i appene. Og selv om det er mye potensial i nye løsninger for helse, minner Karlsen om sunn fornuft og litt skepsis:

– Vi må i hvert være åpne for mulighetene om at slike apper ikke alltid har brukernes beste interesser som mål.

I tillegg er kanskje ikke mye bruk av apper og mobil det beste for vår mentale helse sånn generelt?

– Vi vet at den totale summen av slike apper er overveldende for mange. Vi vet at de fleste har en løype på mobilen man sjekker, altså at når du sjekker en ting, går du videre gjennom løypa og sjekker de andre appene du bruker. Dersom en app innen mental helse, som egentlig fungerer godt, gjør at du i sum bruker mye mer tid på alle de andre appene, kan det også være et problem, sier Karlsen.

–  Alle vil jo at du skal bli på akkurat deres app, skrolle endeløst eller spille av neste episode – og trykket er enormt.

Professor Faltin Karlsen Kristiania
Professor Karlsen peker på et paradoks: Gambling er strengt regulert i Norge, men mange av teknikkene innenfor gamification i apper trykker på akkurat de samme knappene hos oss. Mange av disse teknikkene har vokst ut av en industri som har et overordnet ønske om at brukerne skal bli i appene. – Vi må i hvert være åpne for mulighetene om at slike apper ikke alltid har brukernes beste interesser som mål. Foto: Kristiania

Nødvendig å bruke design

– Vi har for så vidt hørt om dette, men det er ikke noe vi jobber aktivt mot eller for per i dag, sier avdelingsdirektør Jakob Linhave i Helsedirektoratet.

De peker på at nudging eller bruk av design, spillelementer eller andre virkemidler er viktig og nødvendig for å sikre en god brukeropplevelse og at de appen er ment for faktiske tar den i bruk.

– Vi er ganske bortskjemte forbrukere med liten tålmodighet – da må også denne typen apper/tjenester gi en god opplevelse. Det går jo en grense et sted, men vi kan ikke si at vi så langt har sett eksempler på det i apper vi har vurdert fra vår side, sier Linhave.

– Vi tenker at det er nødvendig å bruke design for å holde på interessen tilstrekkelig lenge til at appen eller tjenesten gir mening. Men det verken er eller bør være et mål at man blir for opptatt av eller «avhengig» av appen over tid – eller utover en periode som gir mening, sier Linhave.

Etterlyser forbud

Forbrukerrådets Finn Myrstad ser også at mange av appene vi bruker er nyttige.

– Det er jo et av de store problemene vi ser – det som for oss er manipulasjon, er regnet som god markedsføring fra selskapenes side. Å bruke teknikker for få brukerne til å ikke si opp abonnementet for eksempel – og det er noe mange selskaper ønsker.

Forbrukerrådet mener mye av datadelingen som skjer er ulovlig, og etterlyser forbud mot overvåkningsbasert reklame fra politikerne.

– Manipulativt design brukes for at du skal bli på tjenesten mest mulig, for å tjene penger – enten gjennom å betale eller se annonser, og for at du skal gi fra deg mest mulig personopplysninger, sier Finn Myrstad fra Forbrukerrådet. Foto: Forbrukerrådet


Her er de vanligste fellene:

Lurt inn
Du må huke av hvis du IKKE vil motta nyhetsbrevet eller et fast abonnement. Dette kalles «opt out» på fagspråket – altså at du aktivt må melde deg av, i istedenfor på. En kjapp måte å få mange abonnenter på, irriterende for deg som ikke egentlig ville si ja:

LURESPØRSMÅL: Her må du aktivt huke av for å IKKE motta nyhetsbrev. Vanligvis er det omvendt. Slike lurespørsmål utnytter vanene våre og kan få oss til å godta vilkår eller innsamling av personopplysninger ved en feil. Kilde og illustrasjonsfoto: Forbrukerrådet

Fordeler og ulemper er klumpet sammen
«Huk av her hvis du ikke vil motta daglige oppdateringer. Du vil samtidig si opp medlemsskapet ditt som gir deg de gode rabattene» – her har du egentlig ikke noe godt valg dersom årsaken til at du er medlem er rabattene.

Vanskelig å slette profil
Noen apper mottar bare avmelding på epost og ikke i appen. Noen apper gjør det nesten umulig å finne ut hvordan du sletter profilen din. Å fjerne appen fra mobilen er ikke det samme som å slette profilen din.

Vanskelig å si nei
Språket og knappene kan være designet for å få deg til å få dårlig samvittighet eller føle deg sur og kjip hvis du ikke velger det appen vil at du skal velge, satt på spissen av typen: «Ønsker du egen barneforsikring? Hvorfor ikke? Er du ikke glad i barna dine?»

Vanskelig å klage
Hvor er egentlig kundeservice? Du finner ingen epostadresse eller telefonnummer å kontakte, og chatboten sender deg inn i en evig loop.

Gratis prøveperiode blir betalt abonnement
Uten at du får beskjed, går den gratis prøveperioden din over i et automatisk og betalt abonnement og det er ikke nødvendigvis lett å finne stopp-knappen.

Kilde: Forbrukerrådet og Wikipedia


– Det skulle vært forbudt

I en undersøkelse fra Forbrukerrådet oppgir åtte av ti at de har opplevd én eller flere negative konsekvenser av manipulerende design.

1 av 4 sier de har følt seg manipulert eller lurt. Det er omtrent like mange som har meldt seg på nyhetsbrev, abonnement, eller varsler ved en feil, eller har opprettet en konto de ikke ønsket.

1 av 5 opplever også å ha delt mer personlig informasjon enn de ønsket som en følge av manipulerende design.

Flere av de som svarte på undersøkelsen var frustrerte over disse lureteknikkene. «Lett å oppgi for mye personlig informajson om seg selv,» mente andre, mens påfallende mange, i følge Forbrukerrådet, uttalte at det skulle vært forbudt med manipulerende design.

Hvor kan brukere henvende seg dersom de vil klage på psykisk helse-apper?

– Noen få apper omfattes av regelverket for medisinsk utstyr. Da er Direktoratet for medisinske produkter klageinstans. Om det gjelder apper man selv finner fram til i appstore eller google play, kan man ta kontakt med Forbrukertilsynet, sier Jakob Linhave fra Helsedirektoratet.

Gjelder det personvern, er Datatilsynet rett sted å henvende seg.


Under denne artikkelen ser du påmeldingen til Mentalt Perspektivs nyhetsbrev. Den er av typen opt-in, som betyr at du aktivt må velge å motta nyhetsbrevet for å få det. Det koster ingenting og du trenger heller ikke opprette en profil. Har du ikke lyst til å abonnere på nyhetsbrevet, er det også helt greit (red.anm.).


Nyheter og lesestoff fra MentaltPerspektiv.no rett i innboksen? Meld deg på nyhetsbrevet her: