A.I dagens uppmärksamhetsbaserade ekonomi använder vissa teknikföretag design och systemfunktioner för att utnyttja användarnas och konsumenternas sårbarheter för att fånga deras uppmärksamhet och öka den tid de tillbringar på digitala plattformar. Många digitala tjänster, såsom onlinespel, sociala medier, strömningstjänster för filmer, serier eller musik, internetbaserade marknadsplatser och webbutiker, kan vara utformade för att hålla kvar användarna på plattformen så länge som möjligt i syfte att maximera insamlade data samt den tid och de pengar som användarna lägger på plattformen, liksom deras aktivitet, engagemang, innehållsskapande, nätverkande och datadelning. Detta gäller i synnerhet tjänster för monetarisering av data. Många onlinetjänster är därför utformade för att tjäna flera syften samtidigt, nämligen att optimera användarupplevelsen och hålla kvar användarnas uppmärksamhet och därmed vara så beroendeframkallande som möjligt. Alla digitala tjänster bygger inte på samma affärsmodell. Det finns vissa digitala tjänster som arbetar med monetarisering av data och tid som tillbringas på appen för att samla in data och använda dem för reklamändamål, men andra digitala tjänster fungerar helt eller delvis med abonnemangsbaserade modeller som kan inbegripa beroendeframkallande designfunktioner eller inte. Vissa tjänster är inte beroende av design som förlänger den tid som tillbringas på plattformen men är ändå framgångsrika. Kommersiell framgång och etisk utveckling av appar utesluter inte varandra. ”Manipulativ design”, ”beroendeframkallande design” och ”beteendeinriktad design” av onlinetjänster är termer som beskriver funktioner som leder till beteenderelaterade risker och skador, inbegripet digitala beroenden som ”överdriven eller skadlig internetanvändning”, ”smarttelefonberoende”, ”teknik- eller internetberoende” och ”beroende av sociala medier”. Allt fler forskare anser att det finns fenomen som ”beroende av sociala medier”. Vi måste undersöka de funktioner som håller kvar uppmärksamheten eller framkallar beroende och uppmuntrar till sådant beteende, inte medierna eller de elektroniska enheterna som sådana. Det behövs mer forskning för att bättre förstå de underliggande problemen, onlinetjänsternas påverkan och potentiella lösningar.

B.Digitala tjänster, däribland sociala medier, förändrar samhället radikalt och ger positiva effekter som ökad effektivitet, sammankoppling, tillgänglighet och rekreation. De gör det möjligt för barn och unga att knyta an till, lära sig om och uppskatta olika perspektiv och världsbilder och att bygga upp kunskap och utforska intresseområden. Appar kan hjälpa oss att bli mer produktiva eller att röra på oss mer, eller lösa specifika problem, vilket illustreras av trafik-, bank- och översättningsappar. Digitalisering och sociala medier utgör också nya utmaningar för samhället och kräver politisk uppmärksamhet på både fysiska och psykiska hälsorisker förknippade med användningen av onlinetjänster. Tekniken har gjort människors liv bättre på många sätt, men en sofistikerad användning av beroendeframkallande, beteendeinriktad, bedräglig eller övertygande design kan få skadliga konsekvenser som påverkar konsumenternas onlinebeteende, så det är nödvändigt att ge lagstiftare och forskare de verktyg de behöver för att analysera effekterna av att använda dessa plattformar.

C.Personer mellan 16 och 24 år tillbringar i genomsnitt mer än sju timmar om dagen på internet Genomsnittlig tid per dag på internet bland användare i hela världen fjärde kvartalet 2022, uppdelat efter ålder och kön, Statista, 22 maj 2023, https://www.statista.com/statistics/1378510/daily-time-spent-online-worldwide-by-age-and-gender/. En fjärdedel av alla barn och unga uppvisar en ”problematisk” eller ”dysfunktionell” smarttelefonsanvändning där beteendemönstren påminner om beroende Lopez-Fernandez, O. and Kuss, D., Harmful Internet Use Part I: Internet addiction and problematic use, EPRS, STOA, s. 51, https://www.europarl.europa.eu/RegData/etudes/STUD/2019/624249/EPRS_STU(2019)624249_EN.pdf.. Forskningen tyder på att problematisk smarttelefonsanvändning blir allt vanligare och att många barn sällan loggar ut från sociala medier utan i stället använder dem konstant under dagen och känner sig otrygga utan sin mobiltelefon. Forskningen tyder också på att den ökande psykiska ohälsan hos ungdomar kan vara kopplad till överdriven användning av sociala medier och att pressen från sociala medier har konstaterats vara en av de fem främsta orsakerna till psykisk ohälsa hos barn. Yngre grupper i samhället är mer sårbara för psykopatologisk utveckling, och skadliga beteenden och psykisk ohälsa som uppstått i barndomen kan sätta sin prägel på hela livet. Spelberoende erkänns som en psykisk sjukdom av Världshälsoorganisationen.

D.Beroende relaterat till internetanvändning kan ge biverkningar som liknar dem från substansrelaterade beroenden, inklusive tecken på tillvänjning och återfall Lopez-Fernandez, O. and Kuss, D., Harmful Internet Use Part I: Internet addiction and problematic use, EPRS, STOA, s. 51, https://www.europarl.europa.eu/RegData/etudes/STUD/2019/624249/EPRS_STU(2019)624249_EN.pdf.. Det finns en strikt reglering av andra beroendeframkallande produkter och tjänster för att förhindra beroende och skydda konsumenterna från skada. Problematisk smarttelefons- eller internetanvändning har kopplats till sämre livskvalitet och psykisk ohälsa, såsom depression, låg självkänsla, störd kroppsuppfattning, ätstörningar, ångest, förhöjda nivåer av upplevd stress, försummelse av familj och vänner, brist på självkontroll, sömnbrist och tvångssyndrom, till exempel tvångsmässig shopping bland unga vuxna Se bland annat: Sohn, S., Rees, P., Wildridge, B., Kalk, N. J., and Carter, B. R. (2019). Prevalence of problematic smartphone usage and associated mental health outcomes amongst children and young people: a systematic review, meta-analysis and GRADE of the evidence. BMC Psychiatry, 19, 2019. Peterka-Bonetta, J., Sindermann, C., Elhai, J.D., Montag, C., Personality associations with smartphone and internet use disorder: a comparison study including links to impulsivity and social anxiety. Front Public Health 7:127, 2019; Samra, A., Warburton, W. A., and Collins, A. M., Social comparisons: A potential mechanism linking problematic social media use with depression. Journal of Behavioral Addictions, 2022; Laconi, S. et al. Cross-cultural study of Problematic Internet Use in nine European countries, i: Computers in Human Behavior, 84, s. 430–440, 2018; Lopez-Fernandez, O. and Kuss, D. Harmful Internet Use Part I: Internet addiction and problematic use, EPRS, STOA, s. 51; Cesarina Mason, M., Zamparo, G., Marini, A., and Ameen, N. Glued to your phone? Generation Z's smartphone addiction and online compulsive buying, i: Computers in Human Behaviour, vol. 136, november 2022; Learning to deal with Problematic Usage of the Internet, Revised Edition / COST Action 2023; Boer, M. #ConnectedTeens Social media use and adolescent wellbeing, 2022; Neophytou, E. Manwell, L.A. and Eikelboom, R. Effects of excessive screen time on neurodevelopment, learning, memory, mental health, and neurodegeneration: a scoping review, Int J Ment Health Addiction, 19, 2019, s. 724–744.. Storanvändare av digitala medier löper dubbelt så hög risk att drabbas av psykisk ohälsa, inklusive riskfaktorer för självmord och självskadebeteende. Barn och unga är mer sårbara för dessa symtom. Psykisk ohälsa som uppstår i barndomen kan prägla hela livet för individen. Överdriven internetanvändning är förknippat med svårigheter att klara av dagliga uppgifter, försämrade betyg samt dåliga skol- och studieresultat eller dåliga arbetsprestationer. Digitala beroenden och deras samband med symtom på vanliga psykiska sjukdomar är ett växande folkhälsoproblem och bör som sådant vara en angelägenhet för beslutsfattarna. Det behövs mer forskning för att få fram ett bättre underlag för utvecklingen av de lämpligaste diagnoskriterierna och fastställa riskfaktorer för olika digitala beroenden. Vissa tjänster, produkter eller funktioner som kanske inte påverkar vuxna kan i stället vara mycket riskfyllda, beroendeframkallande eller på annat sätt skadliga för barn, bland annat på grund av den kumulativa effekten av en kombination av flera funktioner eller långvarig påverkan över tid.

E.Alla onlinetjänster och onlineprodukter som sannolikt kommer att användas av barn bör utformas med barnets bästa för ögonen. Vissa onlinetjänster och onlineprodukter kan vara väldigt riskfyllda, beroendeframkallande eller på annat sätt skadliga för barn, till exempel på grund av den kombinerade effekten av flera funktioner eller av deras kumulativa effekt över tid.

F.Enligt viss forskning kan överdriven skärmtid eller problematisk användning påverka hjärnans utveckling. Ökningen av problem relaterade till användning av sociala medier är kopplad till bristande uppmärksamhet, sämre koncentrationsförmåga, impulsivitet och symtom på hyperaktivitetssyndrom med uppmärksamhetsstörning (ADHD) Boer, M. #ConnectedTeens Social media use and adolescent wellbeing, 2022; Boer, M., Stevens, G. Finkenauer, C., van den Eijnden, R., Attention Deficit Hyperactivity Disorder-Symptoms, Social Media Use Intensity, and Social Media Use Problems, i: Adolescents: Investigating Directionality, Child Development, 91, 4, 2020.. Intensiv användning av sociala medier är förknippad med en lägre mängd grå substans i vissa delar av hjärnan, på samma sätt som vid användning av andra beroendeframkallande substanser. Överdriven skärmtid har visats ha potentiella effekter på den neuropsykologiska utvecklingen, inlärningen och minnet, och den stillasittande livsstil som användningen av elektroniska medier är förknippad med medför en potentiellt ökad risk för neurodegenerativa sjukdomar på ett tidigt stadium Neophytou, E. Manwell, L.A. and Eikelboom, R. Effects of excessive screen time on neurodevelopment, learning, memory, mental health, and neurodegeneration: a scoping review, Int J Ment Health Addiction, 19, 2019, s. 724–744..

G.Beroendeframkallande design kan anses ha en negativ inverkan på alla, inte bara individer med problematiska användningsmönster. Beroendeframkallande design gör det svårt att fokusera på den aktuella uppgiften på grund av distraktioner som meddelanden och aviseringar som ständigt stör människors koncentration. Onlinetjänsternas beroendeframkallande design leder till ökade prestationskrav och får oss att känna att vi alltid måste vara online och uppkopplade, vilket ökar risken för stress och utbrändhet. Konsumenterna utsätts för en konstant informationsöverbelastning online och en enorm sinnesstimulans hela dagen, vilket kan leda till begränsad kognitiv förmåga, och användargränssnitten erbjuder bara begränsad kontroll över deras data. Ju mer tid vi tillbringar bakom skärmar, desto mindre tid lägger vi på utomhus- eller avslappningsaktiviteter och att röra på oss – allt det som hänger samman med fysiskt och psykiskt välbefinnande och är avgörande för barns utveckling. De ungdomar som ägnar liten tid åt elektronisk kommunikation är oftast lyckligast. Personer som slutar använda sociala medier under en vecka mår avsevärt bättre.

H.Tonårsflickor ägnar i genomsnitt mer tid åt internet, smarttelefoner, sociala medier och meddelandetjänster än vad pojkar gör. Tonårspojkar ägnar däremot mer tid åt spel och elektroniska enheter överlag. Kopplingen mellan skärmtid och psykisk ohälsa är tydligare hos flickor, och de löper också dubbelt så stor risk att uppvisa kliniska nivåer av symtom på depression som pojkar. Beroendeframkallande onlinetjänster riktar sig ofta till minderåriga eller är tillgängliga för barn i alla åldrar. Alla tjänster och produkter som sannolikt kommer att användas av barn måste vara säkra för dem och beakta barnets bästa.

I.Användargränssnitten i vissa digitala tjänster utnyttjar psykologiska sårbarheter som liknar dem som är inblandade i spelberoende. Beroendeframkallande design utnyttjar avsiktligen konsumenternas sårbarheter så att de tillbringar mycket mer tid på apparna och konsumerar mer än planerat. På plattformarna tillämpas specificering i form av beteendeinriktad design med spelelement där slutförande av uppgifter belönas, vilket ger användarna en falsk känsla av att ha valmöjligheter och kontroll när de egentligen utsätts för en noga uträknad tidslinje.

J.Beroendeframkallande design är ofta kopplad till psykosociala mönster som spelar på konsumenternas psykologiska behov, sårbarheter och begär, såsom känslan av samhörighet, social ångest, rädslan för att ”missa något” (som uppmuntras genom information som bara visas tillfälligt, såsom ”stories” eller ”skriver...”), nätverkseffekter, tvånget att slutföra uppgifter i ett flöde, även vid avbrott, till exempel genom att man tar bort alla signaler om att det är dags att sluta, även kallade ”stopping cues” (ändlös skrollning, innehåll med hög relevans som flimrar förbi och omedelbart döljs när nyhetsflödet laddar om), automatisk uppspelning genom att mål sätts upp för användarna, såsom ”streaks”, och genom att man utnyttjar bristen på självkontroll. Designfunktionerna kan vara beroendeframkallande på olika sätt, till exempel en intermittent varierande belöning som höjer dopaminet på samma sätt som spelautomater, såsom push-aviseringar, eller socialt samspel som leder till kemiska reaktioner i hjärnan, där gilla-markeringarna ger oss social tillfredsställelse, medan faktorer som läskvitton för meddelanden gör att vi känner oss skyldiga att svara andra. De ovan beskrivna funktionerna kombineras med en detaljerad personanpassning för att påverka användarna på individuell nivå, vilket förstärker de beteendemönster och beteenderisker som identifierats. Barn är mer sårbara för dessa funktioner, särskilt i tidigare utvecklingsstadier.

K.Dagens datadrivna tjänster försätter konsumenten i en svagare position, vilket skapar maktobalanser och digital asymmetri och leder till ett allmänt tillstånd av digital sårbarhet som beror på interna och externa faktorer bortom konsumentens kontroll. Konsumenterna möter hela tiden AI som enkelt kan upptäcka och utnyttja deras sårbarheter, och tjänsternas valarkitektur ändras regelbundet för att maximera konverteringskvoterna och engagemanget. Detta visar att begreppet sårbarhet inte får begränsas till ”traditionellt skyddade” grupper utan måste omfatta alla konsumenter.

L.De beroendeframkallande metoderna har studerats empiriskt och omfattar funktioner som ”ändlös skrollning”, ”pull-to-refresh” för omladdning av sidan, automatisk uppspelning av videoklipp utan slut, personliga rekommendationer, aviseringar för att få användarna att komma tillbaka till en tjänst eller app de lämnat (”recapture notifications”), metoder för att få användarna att spela vid specifika tider under dagen (”playing by appointment”), design som leder till en suddig tidsuppfattning samt falska sociala aviseringar som skapar en illusion av uppdateringar inom användarnas sociala krets online. Sådana här funktioner kombineras ofta med individanpassade inslag. Syftet är att locka konsumenterna att tillbringa mer tid på plattformarna. Andra metoder för att hålla kvar användaren kan vara funktioner som ”gilla”-knappar och läskvitton och funktioner som talar om att någon ”skriver...”, men även antalet följare som en användare har samlat på en plattform, de färger som används på plattformarna, push-aviseringar och tidsbegränsat innehåll, såsom tillfälliga ”stories”. Den extremt snabba utvecklingen av sociala medier kräver kontinuerlig forskning, särskilt när det gäller psykisk hälsa och minderåriga.

M.Vissa rekommendationssystem, som bygger både på individanpassning och interaktioner som klick och gillningar, inbegriper potentiellt en betydande övertygande, beroendeframkallande eller beteendeinriktad design. Samtidigt kan rekommendationssystem bidra till plattformarnas funktionalitet för att förbättra den sociala interaktionen, men de syftar ofta också till att hålla kvar användarna på plattformen. Genom rättsakten om digitala tjänster har ett antal transparenskrav för rekommendationssystem införts.

N.Många teknikföretag använder experimentella instrumentpaneler som grund för sina designbeslut. Sådana verkliga experiment görs direkt på konsumenterna utan deras vetskap eller samtycke. Det är oklart i vilken utsträckning sådana experiment omfattas av säkerhetsåtgärder, på grund av bristen på insyn i användningen av dem.

O.De beroendeframkallande designfunktioner som beskrivs ovan går inte att motverka genom att bara tillämpa tidsgränser på onlinetjänster. Det innebär bara att ansvaret läggs på individen i stället för att man går till botten med kärnfrågan: att vinstdrivna onlinetjänster utformas för att vara beroendeframkallande. Ingen av de ”lösningar” som implementerats på plattformarna har lett till verkliga förändringar eller reducerad användning av onlinetjänster. Tonåringar har svårt att acceptera att deras föräldrar styr deras användning av sociala medier och kan ofta kringgå tekniska begränsningar som pådyvlas dem. Åtgärder som föräldrakontroll och digital kompetens kompletterar leverantörernas ansvar att skydda och främja barns rättigheter i den digitala miljön, särskilt genom åtgärder för inbyggd säkerhet för att säkerställa att utformningen av deras produkter och tjänster inte skadar barn. Forskning har visat att tydliga regler och konstruktiv kommunikation med barn kan bidra till att förebygga beroende av sociala medier. Digitala tjänster bör tillhandahålla en plattform som föräldrar och lärare kan konsultera för att få information om farorna med överdriven internetanvändning och hur man talar om problemet med barn och unga. Diskussioner äger rum inom ramen för pågående initiativ som inte avser lagstiftning, såsom EU:s uppförandekod om åldersanpassad utformning (som en del av 2022 års europeiska strategi för ett bättre internet för barn [BIK+]), kommissionens strategi för psykisk hälsa och handlingsplanen för digital utbildning 2021–2027.

P.I artiklarna 25, 27, 28 och 38 i rättsakten om digitala tjänster föreskrivs ett förbud mot bedrägliga eller manipulativa inslag, krav på transparens och valfrihet för rekommendationssystem och profilering samt åtgärder för att skydda minderåriga. Rättsakten om digitala tjänster innehåller redan bestämmelser mot användning av ”mörka mönster”, men de är begränsade till valarkitektur och påverkar valmöjligheter, och tar inte i sig upp beteendeinriktad design som är beroendeframkallande. De har också begränsad räckvidd eftersom de inte gäller alla onlinetjänster utan enbart onlineplattformar, vilket utesluter problematiska tjänster som onlinespel. Den horisontella rättsakten om artificiell intelligens Koning, I.M., et al., Bidirectional effects of internet-specific parenting practices and compulsive social media and internet game rules, Journal of Behavioral Addictions 2018, 624-632., som snart kommer att antas, syftar till att förbjuda AI-system som använder subliminala funktioner, men den är begränsad till system som är avsiktligt manipulerande eller använder vilseledande teknik.