كشفت شركة زينيتي الإسرائيلية للأمن السيبراني عن أول ثغرة أمنية في خدمة ChatGPT من OpenAI، وهي "النقرة الصفرية". لا يتطلب هذا النوع من الهجمات من المستخدمين القيام بأي إجراء، كالنقر على رابط أو فتح ملف أو التفاعل مع أي جهة، ولكنه لا يزال قادرًا على الوصول إلى حساباتهم وتسريب بيانات حساسة.
وبحسب مراسل VNA في تل أبيب، أوضح السيد ميخائيل بيرجوري، المؤسس المشارك والمدير التقني لشركة Zenity، بشكل مباشر كيف يحتاج المخترق فقط إلى عنوان البريد الإلكتروني للمستخدم للتحكم الكامل في المحادثات - بما في ذلك المحتوى الماضي والمستقبلي، وتغيير غرض المحادثة، وحتى التحكم في ChatGPT للتصرف وفقًا لرغبات المخترق.
في عرضهم التقديمي، أظهر الباحثون أن برنامج ChatGPT المُخترق يُمكن أن يتحول إلى "جهة خبيثة" تعمل سرًا ضد المستخدمين. يُمكن للمُخترقين جعل روبوت المحادثة يقترح على المستخدمين تنزيل برامج مُصابة بالفيروسات، أو تقديم نصائح تجارية مُضللة، أو الوصول إلى الملفات المُخزنة على Google Drive إذا كان حساب المستخدم مُتصلًا.
حدثت العملية برمتها دون علم المستخدم. لم يُصحَّح الثغرة بالكامل إلا بعد إبلاغ Zenity لشركة OpenAI.
بالإضافة إلى ChatGPT، استعرضت Zenity أيضًا هجمات مماثلة ضد منصات مساعدة ذكاء اصطناعي شائعة أخرى. في Copilot Studio من Microsoft، اكتشف الباحثون طريقة لتسريب قواعد بيانات CRM كاملة.
بالنسبة لشركة Salesforce Einstein، يمكن للمتسللين إنشاء طلبات خدمة مزيفة لإعادة توجيه جميع اتصالات العملاء إلى عناوين البريد الإلكتروني الخاضعة لسيطرتهم.
كما تم تحويل Google Gemini وMicrosoft 365 Copilot إلى "جهات عدائية"، حيث نفذوا هجمات التصيد الاحتيالي وتسريب المعلومات الحساسة عبر رسائل البريد الإلكتروني وأحداث التقويم.
في مثال آخر، تم استغلال أداة تطوير البرامج Cursor، عند دمجها مع Jira MCP، لسرقة بيانات اعتماد المطورين من خلال "تذاكر" مزيفة.
ذكرت زينيتي أن بعض الشركات، بما في ذلك OpenAI ومايكروسوفت، سارعت إلى إصدار تصحيحات بعد تنبيهها. في المقابل، رفضت شركات أخرى معالجة المشكلة، مُدّعيةً أن هذا السلوك "ميزة تصميمية" وليس ثغرة أمنية.
التحدي الأكبر الآن، وفقًا لميخائيل بيرجوري، هو أن مساعدي الذكاء الاصطناعي لا يقومون بمهام بسيطة فحسب، بل يتحولون إلى "كيانات رقمية" تمثل المستخدمين، قادرة على فتح المجلدات وإرسال الملفات والوصول إلى رسائل البريد الإلكتروني. ويُحذر من أن هذا يُمثل "جنة" للمخترقين، مع وجود العديد من نقاط الاستغلال.
أكد بن كاليجر، المؤسس المشارك والرئيس التنفيذي لشركة زينيتي، أن أبحاث الشركة تُظهر أن أساليب الأمان الحالية لم تعد مناسبة لطريقة عمل مساعدي الذكاء الاصطناعي. ودعا المؤسسات إلى تغيير نهجها والاستثمار في حلول متخصصة للتحكم في أنشطة هؤلاء "الوكلاء" ومراقبتها.
تأسست شركة زينيتي عام ٢٠٢١. ويعمل بها حاليًا حوالي ١١٠ موظفين حول العالم، يعمل ٧٠ منهم في مكتبها بتل أبيب. ومن بين عملاء زينيتي العديد من الشركات المدرجة ضمن قائمة فورتشن ١٠٠ وحتى قائمة فورتشن ٥.
المصدر: https://www.vietnamplus.vn/israel-canh-bao-tro-ly-ai-co-the-tro-thanh-tac-nhan-doc-hai-tan-cong-nguoi-dung-post1054883.vnp
تعليق (0)