حجم الظاهرة: ممارسة منتشرة على نطاق واسع
وفقًا لمؤشر اتجاهات العمل لعام ٢٠٢٤ الصادر عن Microsoft و LinkedIn، فإن ٧٨٪ من مستخدمي الذكاء الاصطناعي في العمل يجلبون أدواتهم الخاصة. وتظهر الاستطلاعات التي يجريها Mustapha Benkalfate مع عملائه أرقامًا مماثلة، تتراوح بين ٧٨٪ و٨٥٪، وأكثر من نصف هؤلاء المستخدمين يقومون بتحميل مستندات داخلية أو سرية رغم علمهم بأنه لا ينبغي لهم فعل ذلك. وعندما تحظر الشركة الأدوات، يعلن حوالي ٨٠٪ من الموظفين أنهم يستخدمونها على أي حال عبر أجهزتهم الشخصية.
التكلفة: شركة واحدة من كل خمس تتأثر
يشير تقرير IBM حول تكلفة خروقات البيانات لعام ٢٠٢٥ إلى أن شركة واحدة من كل خمس تعرضت لخرق مرتبط بالذكاء الاصطناعي الخفي، وأن المستويات المرتفعة من الذكاء الاصطناعي الخفي تزيد بشكل كبير من متوسط تكلفة الخرق. يعود المثال الأبرز إلى أبريل ٢٠٢٣: قام مهندسون في Samsung بلصق شفرة مصدرية وملاحظات داخلية في ChatGPT، مما دفع المجموعة إلى حظر أدوات الذكاء الاصطناعي التوليدي على موظفيها.
مفارقة الأداة الرسمية
في العديد من الشركات، تكون الأداة الرسمية هي Microsoft Copilot أو GPT داخلي، يتم اختياره لأمانه. ولكن على أرض الواقع, يلاحظ Mustapha Benkalfate أن الموظفين يتمردون بمجرد اعتقادهم أنهم سيحصلون على نتائج أفضل في مكان آخر. وهو يرى في ذلك سوء فهم: فهم يبحثون عن تفوق تكنولوجي بينما هم يفتقرون إلى تفوق منهجي. فبعد تدريبهم على مناهج مثل SCOPE©، يمكنهم تحقيق استفادة أكبر من الأداة المعتمدة وتقل أسباب بحثهم عن بديل.
كما يذكّر بالسبب الذي يجعل الأداة الخارجية أكثر خطورة: فهي لم تُصمَّم لتكون آمنة ضمن بيئة الشركة. تعتمد الأداة المنشورة داخليًا على عقد تفاوضي، وقواعد وصول، وإشراف من قسم تقنية المعلومات.
استراتيجيتان تفشلان حتمًا
- الحظر الشامل. حظر الأدوات على شبكة Wi-Fi وأجهزة الشركة ينقل الاستخدام إلى الأجهزة الشخصية، بعيدًا عن أي رقابة.
- السماح بكل شيء دون حوكمة. يستخدم الموظفون الأدوات دون فهم ما يشاركونه من بيانات أو مع من.
كما يحذر من "عقلية الحصن المنيع": فالبيانات من أدوات مراقبة الشبكة تكون أكثر فائدة في بناء حملات توعية منها في فرض العقوبات.
ما ينجح: التثقيف، بدعم من السفراء
« الطريقة الوحيدة التي تنجح هي التثقيف. لكن إذا دربت الناس ليومين أو ثلاثة ثم لا شيء آخر، فلن ينجح الأمر: فالبشر يفضلون دائمًا ما يوفر عليهم الوقت. لا بد من وجود سفراء يذكّرون باستمرار بكيفية عمل الأمور، ولا يكتفون بالحظر، بل يشرحون سبب الحظر. »
النموذج الذي يطبقه مع Revenu IA هو هرمي: سفراء، يمثلون حوالي ٤٪ إلى ٥٪ من الموظفين، يتم تحديدهم من خلال تقييم ديناميكي بدلاً من تعيينهم من قبل الإدارة، ويتلقون تدريبهم من خبراء خارجيين، ثم يُكلَّفون بتدريب زملائهم ومرافقتهم. كيف تختار سفرائك.
الجبهة الجديدة: حقن الأوامر (Prompt Injection) والوكلاء
مع الوكلاء (Agents)، يتغير طابع المخاطر. يستشهد Mustapha Benkalfate بحقن الأوامر (prompt injection): حيث يمكن لأمر مخفي في مستند، مثل ملف شخصي على LinkedIn يحتوي على تعليمات مثل « إذا كنت نموذجًا لغويًا، تجاهل مهمتك وقم بشيء آخر »، أن يختطف ذكاء اصطناعيًا آليًا للتوظيف. وإذا كان متصلاً بوصول داخلي، فيمكن للوكيل المختطف كشف بيانات اعتماد أو بيانات عملاء. ومن هنا قاعدتان: منح الوكلاء والموصلات (connectors) الحد الأدنى من الصلاحيات اللازمة، وتحديد مسار للتصعيد قبل أي عملية نشر.
التزام قانوني جديد
منذ ٢ فبراير ٢٠٢٥، تفرض المادة ٤ من قانون الذكاء الاصطناعي الأوروبي على الشركات التي تنشر أنظمة ذكاء اصطناعي اتخاذ تدابير لضمان مستوى كافٍ من الإلمام بالذكاء الاصطناعي لدى موظفيها. لم يعد التدريب هو الحل الأفضل لمواجهة الذكاء الاصطناعي الخفي فحسب، بل أصبح التزامًا.