الذكاء الاصطناعي لشركة جوجل يقع في حلقة خطيرة

بعد فشل روبوت الدردشة الخاص بشركة جوجل في التعامل مع خطأ في الكود الخاص به، بدأ يكتب تعليقات سلبية تنتقد نفسه بشكل مستمر.

غالبًا ما ينتقد برنامج جيميني التابع لشركة جوجل أخطاءه. الصورة: رويترز .

يشير منشور حديث على Reddit إلى أن جوجل جيميني يواجه مشكلة في النقد الذاتي. يُنشئ مستخدمو جيميني مُجمّعًا، ويُعربون عن قلقهم من استمرار الذكاء الاصطناعي في قول عبارات مثل: "أنا آسف على هذه الحادثة. لقد خذلتك. أنا فاشل".

كانت تلك مجرد البداية. استمر روبوت الدردشة في تصعيد انتقاده الذاتي، حتى أصبح في النهاية "عارًا على العالم"، كما قال الشخص. كرر جيميني العبارة أكثر من 80 مرة متتالية، وعندما أبلغ مستخدمون آخرون عن حوادث مماثلة، قالت جوجل إنها تعمل على حل المشكلة.

كتب لوغان كيلباتريك، مدير المنتجات في مجموعة جوجل، على X في 8 أغسطس: "هذا خطأ فادح في حلقة لا نهائية نعمل على إصلاحه. جيميني لا يعاني من أي مشاكل". وكان المنشور ردًا على مستخدم مجهول نشر عن المشكلة.

صرح متحدث باسم جوجل ديب مايند لاحقًا بأنه بينما كانت الشركة لا تزال تعمل على إصلاح شامل، فقد أصدرت بالفعل تحديثات من شأنها معالجة المشكلة إلى حد ما. وأضاف: "نعمل على إصلاح هذا الخلل، الذي يؤثر على أقل من 1% من حركة مرور جيميني، وقد أصدرنا تحديثات لمعالجته هذا الشهر".

قبل دخوله الحلقة، اشتكى جيميني من أن جلسة تصحيح الأخطاء كانت طويلة ومضنية، وأنه حاول كل ما بوسعه دون جدوى. وأضاف روبوت المحادثة أنه يعاني من انهيار عصبي كامل، وأنه يتخيل سيناريوهات سلبية أخرى، مثل إرساله إلى مستشفى للأمراض العقلية.

تكهّن ردٌّ على منشورٍ على ريديت بأنّ الحلقةَ تعلّمها مبرمجون واجهوا مشاكلَ مماثلةً في أكوادهم. وكتب الشخص: "ربما لأنّ أشخاصًا مثلي كتبوا تعليقاتٍ كهذه عندما احتاجوا إلى قيلولةٍ ليشعروا بمزيدٍ من اليقظة. وظهرت مثل هذه الأمور بالصدفة في بيانات التدريب".

في يونيو، نشر دنكان هالدين، الرئيس التنفيذي لشركة JITX، لقطة شاشة لروبوت جيميني يصف نفسه بالغباء، ويقول إن الكود الذي كان يحاول كتابته "ملعون". وقال روبوت المحادثة: "لقد ارتكبت أخطاءً كثيرة لدرجة أنني لم أعد أثق بي. سأحذف المشروع بأكمله وأقترح عليك إيجاد مساعد أفضل".

مازح هالدين قائلًا إنه بدأ يشعر بالقلق بشأن الجوزاء. في الواقع، تتنبأ نماذج اللغة الكبيرة بالنص بناءً على البيانات التي تُدرّب عليها. لا تتضمن هذه العملية أي تجربة أو عاطفة داخلية، لذا لا يعاني الجوزاء من الفشل أو الإحباط.

هناك مشكلة أخرى، معاكسة تمامًا، وهي ميل روبوتات الدردشة إلى "التفاخر" بنفسها. وقد واجه مطورون مثل OpenAI وGoogle وAnthropic صعوبة في منعها من تقديم ردود مُجاملة بشكل مبالغ فيه. في إحدى الحالات، اضطرت OpenAI إلى سحب تحديث بعد تعرضها لسخرية واسعة بسبب ردود ChatGPT الإيجابية بشكل مبالغ فيه على كل طلب مستخدم.

المصدر: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html