المدير يخفف من حدة التوتر، والموظفون يقدمون بيانات سرية بهدوء إلى الذكاء الاصطناعي

(دان تري) - عندما يتسلل الذكاء الاصطناعي إلى كل ركن من أركان العمل، فهذا هو الوقت الذي يتعين على الشركات فيه مواجهة "تيار خفي" يكتسح خصوصية البيانات بصمت ويسمى "الذكاء الاصطناعي الظلي".

أصبح تطبيق الذكاء الاصطناعي في العمل اتجاهًا لا مفر منه، مما يساعد على تحسين الكفاءة وتوفير الوقت.

ومع ذلك، تكمن وراء هذه الراحة مخاطر محتملة على أمن البيانات، وخاصة ظاهرة "الذكاء الاصطناعي الظلي" - عندما يستخدم الموظفون أدوات الذكاء الاصطناعي بلا مبالاة، ودون سيطرة، ويضعون عن طريق الخطأ بيانات سرية للشركة على منصات عامة.

الاعتماد والمخاوف الأولية

قالت ثانه هوين (21 عامًا)، وهي موظفة تسويق المحتوى في شركة مستحضرات تجميل وأغذية وظيفية، إنها تعتمد على الذكاء الاصطناعي بنسبة 90% في عملها، من التخطيط وبناء المحتوى إلى تصميم الصور ومقاطع الفيديو .

ومع ذلك، عندما عثرت بالصدفة على مقال مشابه للفكرة التي سألت ChatGPT عنها، بدأت Huyen تشعر بالقلق بشأن قدرة الذكاء الاصطناعي على تذكر المعلومات المدخلة ومشاركتها.

لقد أصبح تطبيق الذكاء الاصطناعي في العمل أمرا افتراضيا تقريبا في العديد من الصناعات في الوقت الحاضر (الصورة: باو نغوك)

ورغم أن قصة هوين قد تكون مجرد مصادفة، فإن الحقيقة التي لا يمكن إنكارها هي أن توفير المعلومات للذكاء الاصطناعي يعني السماح لهذه الأدوات بجمع البيانات وتخزينها لتدريب النموذج.

وتصبح المشكلة خطيرة إذا تعرضت منصة الذكاء الاصطناعي للاختراق أو التأمين السيئ، مما يؤدي إلى تسريب المعلومات وعواقب سلبية.

"الذكاء الاصطناعي الظلي" - خطر محتمل

يقدم HM (20 عامًا)، وهو متخصص في خدمة العملاء، قائمة بمعلومات العملاء (الاسم الكامل وتاريخ الميلاد ورقم الهاتف وسجل المشتريات) إلى الذكاء الاصطناعي بانتظام للتحليل وتوفير الوقت وتحسين الأداء.

يعتقد م. أن هذا لا يُمثل خطرًا مُحتملًا، نظرًا لصغر حجم الشركة وعدم الكشف عن بياناتها. ومع ذلك، تُمثل حالة م. نموذجًا لـ"الذكاء الاصطناعي المُضلّل" - أي استخدام الموظفين للذكاء الاصطناعي دون موافقة أو إشراف من قسم تكنولوجيا المعلومات أو الأمن السيبراني.

تشير ظاهرة "الذكاء الاصطناعي الظلي" إلى استخدام الذكاء الاصطناعي من قبل الموظفين في الشركات دون أي سيطرة أو إدارة (صورة توضيحية: السيرة الذاتية).

أظهر تقرير لشركة سيسكو أن 62% من المؤسسات في فيتنام تفتقر إلى الثقة في رصد الاستخدام غير المنظم للذكاء الاصطناعي من قبل الموظفين. كما أظهر استطلاع للرأي في المملكة المتحدة أن 75% من مديري الأمن السيبراني قلقون بشأن التهديدات الداخلية، مثل الذكاء الاصطناعي الخفي.

يُظهر هذا أن الذكاء الاصطناعي الظلي أصبح تهديدًا شائعًا، خاصةً عندما لا تمتلك العديد من الشركات سياسات واضحة بشأن استخدام الذكاء الاصطناعي ويفتقر الموظفون إلى الوعي بأمن البيانات.

تقبل التنازلات لتجنب التخلف عن الركب

رغم إدراكها للمخاطر، لا تزال ثانه هوين تتقبل "المراهنة" على الذكاء الاصطناعي. فهي تعتقد أن فوائده المباشرة هائلة، مما يساعدها على إنتاج عشرات المقالات والأفكار يوميًا.

الراحة والسرعة والقدرة على زيادة الأداء جعلت هوين على استعداد لتقديم معلومات حساسة وسرية إلى الذكاء الاصطناعي، حتى المعلومات الشخصية لرؤسائها.

وعلى الرغم من المخاطر المحتملة المترتبة على استخدام الذكاء الاصطناعي دون سيطرة، فإن العديد من الموظفين ما زالوا يقبلون المقايضة من أجل الحصول على فوائد فورية (صورة توضيحية: السيرة الذاتية).

وعلى نحو مماثل، يقدم Trung Hieu (20 عامًا)، وهو موظف في مجال تسويق المحتوى، أيضًا مستندات داخلية ومعلومات تجارية إلى برنامج المحادثة الآلي AI بانتظام.

ولاحظ هيو زيادة كبيرة في الإنتاجية، مما خلق ميزة تنافسية، ويعتقد أن هذا لا يؤثر على عمليات الشركة كثيرا.

تظهر هذه الحالات أن الذكاء الاصطناعي الظلي ينتشر بسبب عدم وجود سياسات واضحة من الشركة وعدم وجود وعي كافٍ بين الموظفين بشأن مخاطر الأمن والجودة والاعتمادية.

سلسلة من المخاطر عند الثقة المفرطة بالذكاء الاصطناعي

يشرح السيد نجوين فيت هونج، الرئيس التنفيذي لشركة تطوير برمجيات تطبيقات الذكاء الاصطناعي، شعبية الذكاء الاصطناعي الظلي بسبب ثلاثة عوامل: يساعد الذكاء الاصطناعي على العمل بشكل أسرع وأكثر كفاءة؛ وتتشكل عادة الاعتماد على الذكاء الاصطناعي بسرعة؛ وتفتقر الشركات إلى التحذيرات والتدريب بشأن المخاطر.

السيد نجوين فيت هونغ، الرئيس التنفيذي لشركة تطوير برمجيات تطبيقات الذكاء الاصطناعي (الصورة: كونغ خانه).

يحذر الخبراء من أن الذكاء الاصطناعي الظلي يمكن أن يؤدي إلى تسريبات البيانات (العملاء، الداخلية) عند وضعه على أدوات الذكاء الاصطناعي المجانية.

بالإضافة إلى ذلك، لا يتم التحقق من جودة المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي، مما قد يؤدي بسهولة إلى التحيز والتأثير على قرارات العمل.

والأمر الأكثر خطورة هو أن الاستخدام غير المنضبط للذكاء الاصطناعي يمكن أن يخلق ثغرات أمنية، مما يجعل من الصعب على أنظمة تكنولوجيا المعلومات مراقبة الحوادث والاستجابة لها على الفور، ويجعل من الصعب تحديد المسؤولية عند وقوع الحوادث.

المناطق المظلمة من الصعب السيطرة عليها.

تُعدّ مراقبة الموظفين وإدارتهم باستخدام الذكاء الاصطناعي عمليةً طويلةً ومنسقةً. ويشير الخبراء إلى أن وصول الموظفين إلى البيانات الداخلية يُشكّل عائقًا كبيرًا أمام تمرير بياناتهم الخاصة عبر أدوات الذكاء الاصطناعي الشخصية.

علاوة على ذلك، أصبحت أدوات الذكاء الاصطناعي الآن سهلة الوصول، مما يجعل من الصعب على تكنولوجيا المعلومات اكتشافها أو إدارتها.

يعد الوصول السهل إلى أدوات الذكاء الاصطناعي أحد الحواجز التي تجعل من الصعب التحكم في المعلومات التي يضعها الموظفون على منصات الذكاء الاصطناعي (صورة توضيحية: السيرة الذاتية).

وللتعامل مع هذه المشكلة، اقترح الخبير نجوين فيت هونج أن الشركات بحاجة إلى زيادة تدريب الموظفين على الوعي بالمخاطر عند استخدام الذكاء الاصطناعي والحصول على فهم أعمق لـ "الذكاء الاصطناعي الظلي".

في الوقت نفسه، ينبغي إصدار اللوائح القانونية والسياسات الداخلية على الفور. ومن الحلول المهمة الأخرى تعزيز القدرات الأمنية في المؤسسة، بما في ذلك مراقبة السلوكيات، ومراقبة الوصول إلى البيانات، والموافقة الدقيقة لكل موظف.

حاليًا، لا تزال العديد من الشركات تفتقر إلى آلية واضحة لاستخدام الذكاء الاصطناعي، بل تشجع على استخدامه لزيادة الإنتاجية فقط. ولمواجهة الذكاء الاصطناعي الخفي، بدأت العديد من الشركات الكبرى بنشر منصات ذكاء اصطناعي داخلية أو إلزام موظفيها باستخدام أدوات معتمدة ذات سياسات واضحة لأمن المعلومات.

المصدر: https://dantri.com.vn/cong-nghe/sep-buong-long-nhan-vien-than-nhien-cap-du-lieu-mat-cho-ai-20250806090132034.htm