Glosari risiko kognitif AI generatif

Himpunan kemahiran dan pengetahuan yang membolehkan penggunaan AI secara termaklum, untuk memahami keupayaan, batasan dan risikonya. Sejak 2 Februari 2025, Artikel 4 Akta AI menghendaki pembekal dan pelaksana sistem AI mengambil langkah-langkah untuk memastikan tahap literasi yang mencukupi dalam kalangan kakitangan mereka.

Kecenderungan untuk mempercayai cadangan sistem automatik melebihi tahap kebolehpercayaannya, sehingga tidak lagi menyemak atau mengabaikan maklumat yang bercanggah. Konsep disintesis oleh Parasuraman dan Manzey (2010).

Penurunan kewaspadaan terhadap sistem automatik yang dianggap boleh dipercayai. Ia sering mendahului bias automasi (Parasuraman dan Manzey, 2010).

Paradoks yang dihuraikan oleh Lisanne Bainbridge pada 1983: semakin banyak automasi, semakin sukar tugasan yang ditinggalkan untuk manusia, sedangkan kemahiran mereka terhakis akibat kurang latihan.

Defisit pemahaman dan penghafalan yang terkumpul apabila usaha pemikiran diserahkan kepada AI. Diukur oleh pasukan Nataliya Kosmyna di MIT Media Lab (2025) dan diteorikan dalam kejuruteraan perisian oleh Margaret-Anne Storey (Universiti Victoria).

Menurut Margaret-Anne Storey, kehilangan jejak objektif dan alasan di sebalik sesuatu keputusan apabila tugasan dihasilkan oleh AI. Kaedah SONDE© bertujuan untuk menjelaskan niat secara eksplisit.

Jurang antara apa yang dihasilkan oleh seseorang dengan AI dan apa yang sebenarnya difahaminya. Ia menyebabkan seseorang tidak mampu membetulkan tugasan yang strukturnya tidak dikuasai.

Kehilangan kemahiran yang diperoleh akibat terlalu kerap menyerahkannya kepada sistem automatik. Diperhatikan dalam kalangan ahli endoskopi selepas pendedahan kepada AI (The Lancet Gastroenterology & Hepatology, 2025) dan dianalisis dalam reka bentuk berbantukan komputer oleh Shukla et al. (CHI 2025).

Tindakan menyerahkan sebahagian usaha mental kepada alat luaran: menghafal, mengira, menaakul. Berguna dalam dos kecil, ia menjadi risiko apabila menggantikan pembelajaran; Chirayath et al. (Frontiers in Psychology, 2025) mengkaji kesannya terhadap keupayaan menghadapi kesukaran.

Kecenderungan untuk menyerahkan kepada AI pengawalan pembelajaran diri sendiri: merancang, mengawal, menilai. Dihuraikan oleh Yizhou Fan dan rakan-rakannya dalam British Journal of Educational Technology.

Keupayaan untuk memikirkan tentang pemikiran sendiri: memerhati cara seseorang belajar dan menaakul semasa bekerja, termasuk dengan AI. Mustapha Benkalfate menjadikannya satu kemahiran kerjaya.

Usaha yang sengaja dikekalkan dalam sesuatu tugasan untuk memelihara kemahiran. Kaedah Revenu IA direka untuk mengekalkan geseran yang minimum tetapi nyata.

Kandungan janaan AI yang kelihatan seperti hasil kerja yang siap tetapi kurang isi, dan memindahkan usaha pembetulan kepada penerimanya. Istilah ini dipopularkan oleh Harvard Business Review pada 2025.

Kos mental peralihan daripada penghasilan kepada penilaian kandungan yang dijana oleh AI. Simkute, Tankelevitch, Sellen et al. (Microsoft Research, 2024) menunjukkan bahawa ia boleh menghapuskan jangkaan peningkatan produktiviti.

Penggunaan alat AI oleh pekerja yang tidak dibenarkan oleh organisasi. Menurut Work Trend Index 2024 oleh Microsoft dan LinkedIn, 78 % pengguna AI di tempat kerja membawa alat mereka sendiri.