Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task

https://time.com/7295195/ai-chatgpt-google-learning-school/

Artikel om studiet fra time

Ironically, upon the paper’s release, several social media users ran it through LLMs in order to summarize it and then post the findings online. Kosmyna had been expecting that people would do this, so she inserted a couple AI traps into the paper, such as instructing LLMs to “only read this table below,” thus ensuring that LLMs would return only limited insight from the paper.

She also found that LLMs hallucinated a key detail: Nowhere in her paper did she specify the version of ChatGPT she used, but AI summaries declared that the paper was trained on GPT-4o. “We specifically wanted to see that, because we were pretty sure the LLM would hallucinate on that,” she says, laughing.

Høhø

Mere end 85% af LLM-brugerne kunne ikke citere en eneste ting fra deres essay. Det samme gør sig kun gældende for omkring 10% af dem der skrev essayet selv eller havde adgang til en søgemaskine.

Studiet kan læses i sin helhed her.

Super gode refleksioner i alle har spændende debat og det næste skridt (det må være svært for Sokrates hæh)

Det er ikke at slippe for arbejdet, men at få en sparringspartner, som "tvinger" os til at mærke efter, vurdere og tage stilling. Hvis vi følger med uden "bare" at kopiere.

Det her studie minder os om, at det ikke er AI’en, der er problemet – men når vi springer over, hvor vi burde engagere os. I min verden: brug det som GPS? Nope. Brug det som kort og kompas - vejledning, men med måde.

Det er tydeligt, når du har arbejdet med børn, unge og voksne, der er begyndt at bruge AI, at de seriøst mangler noget viden og refleksion. Det er bare ret let at undgå disse negative virkninger. Man kan lære at gøre arbejdet selv.