الذكاء الاصطناعي يشكل المستقبل - الجزء الثاني: التحديات المصاحبة له

الإمكانات تأتي مع المخاطر

لا شك أن الذكاء الاصطناعي يُثبت بشكل متزايد أنه أداة فعّالة لدعم العمال وتسهيل حياة البشر. ومع ذلك، تُصبح هذه المنتجات التكنولوجية بمثابة "سلاح ذي حدين" عندما يستغلها المجرمون لارتكاب الاحتيال والهجمات الإلكترونية.

في النشرات التحذيرية الصادرة عن إدارة أمن المعلومات ( وزارة المعلومات والاتصالات ) أو جمعية الأمن السيبراني، وردت العديد من حالات الاحتيال المسجلة باستخدام تقنيات الذكاء الاصطناعي. على سبيل المثال، أثناء محادثة السيدة نجوين ثانه ت، وهي موظفة في هانوي، مع صديقة عبر فيسبوك ماسنجر، ودعتها الصديقة وأغلقت المحادثة، لكنها عادت فجأةً إلى الرسائل النصية، طالبةً اقتراض المال واقترحت تحويله إلى حساب مصرفي. على الرغم من تطابق اسم الحساب مع اسم صديقتها، شكّت السيدة ت، فطلبت مكالمة فيديو للتحقق. وافقت الصديقة على الفور، لكن المكالمة لم تستمر سوى بضع ثوانٍ بسبب "انقطاع الشبكة".

عندما رأت السيدة ت. وجه صديقتها في مكالمة الفيديو وكان الصوت صحيحًا، حوّلت الأموال. لكن بعد نجاح التحويل، أدركت أنها وقعت في فخّ القراصنة.

لم تتعرض السيدة "ت" وحدها للاحتيال، بل تعرض العديد من الضحايا الآخرين، من أصدقاء وأقارب، للاحتيال بنفس الطريقة. وقد بلغت قيمة الأموال التي نهبها المجرمون من انتحال شخصياتهم باستخدام أداة التزييف العميق وصوتهم عشرات الملايين من الدونغات.

مثال آخر شائع على استخدام الذكاء الاصطناعي للاستيلاء على الأصول هو حالة السيد NTH، فعند استخدام هاتف أندرويد، نصب المحتالون فخًا بتعليمات لتثبيت رابط خبيث. ومن هناك، سيطروا على الهاتف والحسابات المصرفية لتحويل الأموال إلى طرف ثالث. بالإضافة إلى ذلك، اتصلت البرمجية الخبيثة تلقائيًا بمعلومات الاتصال المتاحة وأرسلت رسائل تطلب تحويل الأموال.

قال السيد NTH إن المحتال ادّعى أنه "ضابط شرطة "، واتصل برقم هاتفه، وطلب منه التحقق من معلوماته الشخصية. ولأنه كبير السن، وغير ملم بالتكنولوجيا، وسهل الخداع، نقل الضحية هاتفه إلى شخص ثالث ليطلب منه اتباع تعليمات المحتال، فقام بتنزيل وتثبيت التطبيق الخبيث "DichVuCong.apk" على هاتفه.

قال السيد تران نجوين تشونغ، رئيس قسم أمن نظم المعلومات: مع تطور تقنية الذكاء الاصطناعي، سيصبح الكشف عن المحتوى الحقيقي والمزيف على الإنترنت والتمييز بينهما أكثر صعوبة، وقد يصبح أي شخص هدفًا وضحيةً لهجمات إلكترونية من قِبل مجرمين يستخدمون تقنية الذكاء الاصطناعي. ومع ذلك، فإن الوقوع ضحيةً من عدمه يعتمد على امتلاك كل شخص للمعارف والمعلومات اللازمة.

لا يقتصر هذا النوع من الاحتيال في تكنولوجيا الذكاء الاصطناعي على فيتنام فحسب، بل يمتد إلى العديد من دول العالم. حاليًا، تتعاون الوكالات والمنظمات وشركات التكنولوجيا الكبرى لإيجاد تدابير وحلول تقنية للكشف عنه ومنعه من جذوره.

في الوقت الحالي، من المهم تعزيز الدعاية، وتوعية الناس بأساليب وحيل وطرق كشف هذا النوع المعقد من التزوير والتعامل معه، للمساعدة في الحد من تأثير التزييف العميق على الأنشطة في الفضاء الإلكتروني. كما يجب إصدار تحذيرات استباقية وواسعة النطاق عبر وسائل الإعلام عند ظهور أي تطورات أو أشكال جديدة من الاحتيال.

وقال السيد تران نجوين ترونج: "في حالة تلقي مكالمات تهديدية تحتوي على صور أو مقاطع فيديو حساسة، يتعين على الأشخاص التزام الهدوء والتحقق والبحث بعناية عن مصدر الصور ومقاطع الفيديو".

وفقًا لتقرير بحثي بعنوان "تحديد المخاطر التي تهدد الاقتصاد العالمي في عام ٢٠٢٤" أصدرته جامعة الاقتصاد (UEB) التابعة لجامعة فيتنام الوطنية في هانوي، فإن أحد المخاطر التي تؤثر على الاقتصاد العالمي هو المخاطر في قطاع التكنولوجيا. وأوضح التقرير أنه في ظل الظهور السريع للذكاء الاصطناعي، لم تتمكن سياسات الإدارة من مواكبة تطوره. إن المعلومات المضللة التي يوفرها الذكاء الاصطناعي، وخاصةً في عام يشهد العديد من الانتخابات في العالم كهذا العام، كانت ولا تزال تُثير العديد من القضايا المتعلقة بالأمن والسياسة والدفاع والسلام على الصعيد العالمي.

وفي حديثه لمراسلي صحيفة Tin Tuc، قال نائب وزير العلوم والتكنولوجيا نجوين هوانج جيانج: "أصدر رئيس الوزراء القرار رقم 127/2021 بشأن الاستراتيجية الوطنية للبحث والتطوير وتطبيق الذكاء الاصطناعي حتى عام 2030. وللتنفيذ، نفذت وزارة العلوم والتكنولوجيا وكذلك الوزارات والفروع الأخرى بشكل جذري ومتزامن مثل وزارة العدل التي تبحث في الجانب القانوني. ووزارة المعلومات والاتصالات التي تبحث في التكنولوجيا الرقمية. كما دعمت وزارة العلوم والتكنولوجيا وبحثت وطورت الصناعة 4.0؛ وبحثت وطبقت تطوير تكنولوجيا المعلومات، مما يخدم تطوير المدن الرقمية والذكية. ومع ذلك، مع التطور السريع والقوي، ظهرت أيضًا الجوانب السلبية ومخاطر الذكاء الاصطناعي عندما يتم إساءة استخدامه ليصبح أداة لمجرمي الإنترنت لغرض الاحتيال وانتحال الهوية والتهديدات والاستيلاء على الممتلكات وما إلى ذلك.

حتى الآن، إلى جانب البحث، تعمل وزارة العلوم والتكنولوجيا والحكومة أيضًا بشكل نشط على بناء إطار قانوني، والاستفادة من تجارب البلدان المتقدمة الأخرى حتى يتمكن مجال الذكاء الاصطناعي في فيتنام من تعزيز إمكاناته، وتعزيز التنمية، فضلاً عن الرقابة الصارمة، وضمان الأخلاق والإنسانية في مجال الذكاء الاصطناعي.

أثار التطور السريع لأدوات الذكاء الاصطناعي العديد من التساؤلات المتعلقة بحقوق الإنسان والأخلاقيات والخصوصية وأمن المعلومات والمسؤولية القانونية. بالمقارنة مع العالم، لا تزال فيتنام في مراحلها الأولى في تطوير الذكاء الاصطناعي. لذلك، ثمة حاجة إلى لوائح وسياسات خاصة بالذكاء الاصطناعي تناسب جميع جوانب الحياة والاقتصاد والمجتمع في فيتنام.

إصدار الإطار القانوني بشكل عاجل

تُعدّ إدارة الجانب المظلم للذكاء الاصطناعي موضوعًا مُناقشًا في بعض الدول. وقد أقرّ البرلمان الأوروبي أول مجموعة قواعد أساسية في العالم لتنظيم الذكاء الاصطناعي. ويعتقد العديد من خبراء التكنولوجيا أن هذه القواعد ستساعد الاتحاد الأوروبي على تحقيق هدفيه: الحد من التأثير السلبي للتطور التكنولوجي على المستخدمين، ومواكبة هيمنة المنافسين الرئيسيين في السوق.

وبعد فترة وجيزة، اعتمدت الجمعية العامة للأمم المتحدة قرارًا بشأن الذكاء الاصطناعي، مما يوفر الدعم العالمي للجهود الدولية الرامية إلى ضمان أن هذه التكنولوجيا الجديدة تعود بالنفع على جميع البلدان، وتحترم حقوق الإنسان، وتكون "آمنة ومأمونة وجديرة بالثقة".

قال السيد فو نغوك سون، المدير الفني لشركة تكنولوجيا الأمن السيبراني الوطنية المساهمة: "الذكاء الاصطناعي تقنية تخدم مصالح الإنسان، وتدعم أتمتة العديد من مراحل التشغيل المختلفة. إنها أداة فعّالة تُستخدم لأغراض متعددة، مثل تقديم خدمات الأسئلة والأجوبة، وإنتاج البرمجيات، وغيرها. ومع ذلك، فإن للذكاء الاصطناعي جانبًا سلبيًا أيضًا عندما يقع في أيدي جهات فاعلة بهدف إنشاء محتوى احتيالي وأكواد خبيثة لمهاجمة المستخدمين. وبناءً على ذلك، فإن الذكاء الاصطناعي ليس أداةً مخصصةً لإنشاء المنتجات أو ارتكاب الجرائم، ولكن المسألة المهمة هي "كيفية استخدامه".

أعتقد أن العقوبات والممرات القانونية لم تواكب سرعة تطور الذكاء الاصطناعي. سنحتاج إلى وقت لوضع وتطبيق سياسات للحد من مخاطر الذكاء الاصطناعي عند استخدامه لأغراض سيئة، مما يؤثر على حقوق الإنسان، بالإضافة إلى قضايا الأمن والنظام والسلامة الاجتماعية، كما قال السيد فو نغوك سون.

قال الدكتور دانج مينه توان، مدير معهد CMC ATI: "من ناحية، لا يزال يتعين علينا مواصلة البحث والتطوير في تقنيات جديدة، وتحديث ودراسة أساليب استخدام الذكاء الاصطناعي لأغراض سيئة. ومن ناحية أخرى، علينا أيضًا تعزيز النزاهة في العلوم والعمل. وبناءً على ذلك، يجب إجراء تعديلات واستثمارات في المحتوى ووضع سياسات محددة لهذه الأداة في فيتنام. وعلى وجه الخصوص، يمكننا أيضًا استخدام أدوات الذكاء الاصطناعي للكشف عن المحتوى والبرمجيات الخبيثة. فالذكاء الاصطناعي سلاح ذو حدين، إذ يُنشئ عملية مستمرة ومتواصلة للتحسين المستمر بهدف خدمة المصالح الإنسانية".

ويقول الخبراء إن المطلوب هو التحكم في تطوير المنتجات التكنولوجية المتقدمة بشكل مسؤول، لأن عدم القدرة على تنظيم وإتقان التكنولوجيا سيؤدي إلى عواقب لا يمكن التنبؤ بها، مما يسبب خسائر للاقتصاد ويؤثر على كل فرد وكذلك المجتمع بأكمله.

إن إصدار لوائح محددة وشفافة لن يساعد فقط في منع وتقليل المخاطر التي قد تسببها الذكاء الاصطناعي، بل سيساعد أيضًا فيتنام على جذب انتباه واستثمارات شركات التكنولوجيا الرائدة في العالم، مما يعزز تطوير تكنولوجيا المعلومات المحلية وصناعة الذكاء الاصطناعي.

المقال الأخير: التطوير المتوازي والتحكم في الذكاء الاصطناعي

المصدر: https://doanhnghiepvn.vn/cong-nghe/ai-dang-dinh-hinh-tuong-lai-bai-2-nhung-thach-thuc-di-kem/20240614100957238