MIT Media Lab (2025): 'hutang kognitif'
Protokol. Nataliya Kosmyna dan rakan-rakannya menjejaki 54 peserta selama empat bulan, dibahagikan kepada tiga kumpulan untuk menulis esei: dengan ChatGPT, dengan enjin carian, atau tanpa alat. Aktiviti otak diukur menggunakan elektroensefalografi. Semasa sesi keempat, sebahagian peserta menukar keadaan.
Hasilnya. Kumpulan tanpa alat menunjukkan rangkaian otak yang paling kuat dan meluas, manakala kumpulan ChatGPT yang paling lemah. Pengguna ChatGPT sukar memetik teks mereka sendiri dan menyatakan perasaan pemilikan yang paling lemah. Mereka yang beralih dari ChatGPT kepada menulis sendiri menunjukkan penglibatan yang berkurangan; sebaliknya, mereka yang menulis sendiri dahulu kemudian menggunakan ChatGPT menunjukkan daya ingatan yang lebih baik.
Batasan. Ini adalah pracetak pada sampel kecil, yang telah menerima ulasan kritis. Mustapha Benkalfate memetiknya kerana penemuan kerja lain adalah selari, dan kerana pengajaran praktikalnya adalah mantap: mulakan sendiri, kemudian gunakan AI untuk menambah baik, bukan sebaliknya.
The Lancet Gastroenterology & Hepatology (2025): penyahkemahiran doktor
Satu kajian pemerhatian multisentrik membandingkan kolonoskopi yang dilakukan tanpa AI sebelum dan selepas pengenalan alat bantuan pengesanan. Kadar pengesanan adenoma oleh endoskopis, tanpa bantuan, menurun dari 28.4% kepada 22.4%. Ini adalah contoh apa yang Mustapha Benkalfate panggil sebagai karat: kemahiran yang diperoleh merosot apabila didelegasikan.
Microsoft Research dan Carnegie Mellon (CHI 2025): keyakinan berbanding pemikiran kritis
Satu tinjauan terhadap 319 pekerja berpengetahuan, meliputi 936 contoh penggunaan sebenar, menunjukkan bahawa semakin tinggi keyakinan terhadap AI, semakin kurang usaha pemikiran kritis yang dilaporkan; sebaliknya, keyakinan terhadap kemahiran sendiri disertai dengan lebih banyak pemikiran kritis. Kerja beralih dari pelaksanaan kepada penyeliaan. Inilah 'gabungan terburuk' yang diterangkan oleh Mustapha Benkalfate: keyakinan yang meningkat manakala kemahiran merosot.
British Journal of Educational Technology: kemalasan metakognitif
Yizhou Fan dan rakan-rakannya membandingkan beberapa bentuk bantuan pembelajaran, termasuk ChatGPT. AI meningkatkan prestasi pada tugas serta-merta, tanpa peningkatan pengetahuan atau pemindahan yang setara. Penulis merujuknya sebagai 'kemalasan metakognitif': mendelegasikan peraturan pembelajaran sendiri. Oleh itu, Mustapha Benkalfate menekankan kepentingan metakognisi.
Ironi automasi, dari 1983 hingga AI generatif
Pada tahun 1983, Lisanne Bainbridge menunjukkan dalam Automatica bahawa automasi menyerahkan tugas-tugas yang paling sukar kepada manusia, sambil menghakis kemahiran yang mereka perlukan untuk melaksanakannya. Pada tahun 2024, Auste Simkute, Lev Tankelevitch, Abigail Sellen dan rakan-rakan mereka dari Microsoft Research dan University College London telah mengaplikasikan kerangka ini kepada AI generatif: kerja beralih dari pengeluaran kepada penilaian, aliran kerja diatur semula, gangguan bertambah, dan tugas-tugas mudah menjadi lebih mudah manakala yang sukar menjadi lebih sukar.
Apa yang Mustapha Benkalfate simpulkan untuk organisasi
- Bahayanya bukan pada alat, tetapi pada penggantian. Menggunakan AI untuk menambah baik kerja sendiri membawa kemajuan; menggunakannya untuk menggantikan kerja membawa kemunduran.
- Penyahkemahiran sukar untuk dipulihkan. Setelah kemahiran hilang, usaha yang sengaja diperlukan untuk mendapatkannya kembali.
- Perlu ada 'gimnasium kognitif'. Selepas kereta dan makanan industri, kita mencipta gimnasium; selepas media sosial dan penggunaan AI yang malas, kita perlu mengatur geseran yang disengajakan pada tugas-tugas bernilai tinggi.
- Risiko manusia mesti dimasukkan ke dalam tadbir urus. Kerana sukar untuk dikuantifikasi, para pemimpin sering mengabaikannya demi keuntungan yang boleh diukur. Beliau mencadangkan untuk memetakannya mengikut profesion dan menjejakinya dari semasa ke semasa.
Definisi setiap konsep, daripada hutang kognitif hingga bias automasi, terdapat dalam glosari risiko kognitif AI kami.