3w ago

Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task

arxiv.org Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task

This study explores the neural and behavioral consequences of LLM-assisted essay writing. Participants were divided into three groups: LLM, Search Engine, and Brain-only (no tools). Each completed three sessions under the same condition. In a fourth session, LLM users were reassigned to Brain-only g...

Technology @lemmy.world

arxiv.org /abs/2506.08872

101 4

Fuck AI @lemmy.world

Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task

arxiv.org /abs/2506.08872

67 9

Hacker News @lemmy.bestiver.se

Accumulation of Cognitive Debt When Using an AI Assistant for Essay Writing Task

arxiv.org /abs/2506.08872

3 1

You're viewing a single thread.

14 comments

Mere end 85% af LLM-brugerne kunne ikke citere en eneste ting fra deres essay. Det samme gør sig kun gældende for omkring 10% af dem der skrev essayet selv eller havde adgang til en søgemaskine.
Studiet kan læses i sin helhed her.
- Det bliver vel bare den næste måde vores hjerner ændrer sig.
  Er der ikke noget med at man før internettet kunne huske flere ting. I dag husker man nærmere hvor man kan finde svar eller metoderne til at finde svar.
  
  Det går vidst langt tilbage.
  "Denne opfindelse vil give glemsel i sjælene på dem, der lærer den; de vil ikke længere øve deres hukommelse, men vil stole på ydre tegn. Du har ikke givet dem hukommelse, men en påmindelse."
  Sokrates' fortælling om [skrift] (kilde)
  
  De kan ikke citere dem fordi de ikke har skrevet dem, de har ikke gjort arbejdet, og derfor kan de naturligvis ikke huske hvad der står.
  
  Jamen jeg siger ikke at vi ikke bliver "dummere."
  Men hvis opgaven er løst så kan du vel egentlig være ret ligeglad med hvordan, du ved hvordan du får resultatet. (Sådan lidt sat på spidsen)
  Det er bekvemt og hurtigt. Det bliver en ny måde at "tænke"
  Det er vel i bund og grund ikke så meget anderledes end matematik, mine forældre er langt bedre til hovedregning end jeg er, jeg skal bruge en lommeregner til nærmest at regne 2+2 ud. Bad du mig udregne 33992/974,4 skal jeg ærligt sige at det ville tage mig ret så lang tid at gøre i hånden. Timer måske.
  Der hvor jeg virkeligt ser problemet er at kildekritkken ved de her ting, for mig at se, bliver tæt på umuligt.
  
  Men hvis opgaven er løst så kan du vel egentlig være ret ligeglad med hvordan, du ved hvordan du får resultatet
  Det synes jeg ikke man kan være ligeglad med - i matematik med lommeregner svarer det jo til at skrive facit uden at vise mellemregninger. Ja det er rigtigt, men man skal jo kunne forklare hvorfor det er rigtigt. Nu er teknologien nået så langt at vi har "lommeregnere for sprog", altså AI, men derfor skal man altså stadig vise mellemregninger. Faktisk er det endnu vigtigere at vise mellemregninger end før.
  Hvordan "mellemregninger" ser ud i et essay i danskundervisningen dog... det er jeg ikke helt sikker på. Men det er vel noget med kildehenvisninger og kildekritik - hvor ved du det fra, det du har skrevet?
  
  Men hvis opgaven er løst så kan du vel egentlig være ret ligeglad med hvordan, du ved hvordan du får resultatet.
  Helt bestemt ikke, specielt ikke i undervisningssammenhænge. Vi uddanner som udgangspunkt kritiske tænkere i DK, og her erstatter vi kilde, kildekritik, og kritisk tænkning med en blackbox der er en blanding af RNG + predictive text. Som du jo også selv skriver.
  En lommeregner er en anden ting - den leverer som udgangspunkt korrekte svar hvis du kan betjene den, det gør en LLM ikke. Der er altså tæt på ingen risiko ved at gå fra hovedregning eller kugleramme til at bruge en lommeregner. Der er enorme risici ved at forlade sig på en semi-pålidelig tekstgenerator med falsk "logik" under motorhjelmen.
  
  Omend en vigtig pointe, tegner du det lidt sort/hvidt op. Ja, forkert brug af teknologien kan fordumme - f.eks.: "Skriv mit essay for mig, Grok". Det er alt for nemt og et reelt problem.
  "What counts is whether there are good models trained on reliable data so this technology outputs useful answers."
  Anders Puck Nielsen, Bluesky
  Og så må vi skabe nogle gennemtænkte rammer herom (f.eks. med tiltag som SkoleGPT)
  
  Nu siger jeg også sat på spidsen.
  Jeg er fra generationen hvor mathcad begyndte sit indtog. Der var også ret stor diskussion på htx omkring det dengang.
  Jeg tog det hele i hånden og det samme til installatør-eksamen. Jeg er måske gammeldags, men jeg var enig med mig selv om at jeg ikke ville forstå hvad jeg lavede selv om jeg fik de rette resultater i mathcad, det er jeg ikke klog nok til 🙂 Og jeg lærer bedre når jeg skriver ting ned på papir.
  Med hensyn til llm skal vi lære at håndtere det i skolen. For som studiet lidt peger på har de studerende næppe fattet noget som helst af det de har "skrevet" om.
  Om vi så skal tilbage til håndskrevne afleveringer og eksamen uden hjælpemidler ved jeg ikke.
- Tak for linket.

14 comments