"من فضلك مت".. تطبيق Gemini يرد على استفسار طالب جامعي برد صادم
يتخذ الذكاء الاصطناعي خطوات جادة في كل مناحي الحياة، وخلال تجربة أجراها طالب جامعي يبلغ من العمر 29 عاما بجامعة ميشجان، بعدما لجأ إلى روبوت المحادثة الذكي التابع لشركة جوجل "جيميني"، للحصول على أفكار، وبدلاً من الحصول على نصيحة مفيدة، تلقى رسالة صادمة ومؤلمة.
واقعة غريبة من Gemini تعرض طالب جامعي للصدمة.. اعرف التفاصيل
وتفاجأ الطالب الجامعي بإجابة صادمة عندما أراد أن يستعين بـه في مشروع مدرسي حول مساعدة كبار السن، فقد وجه تساؤلات حول هذا المشروع لكنه فاجئ بالروبوت يجيب عليه قائلا:""أنت عبء على المجتمع" ومن فضلك مت. من فضلك".
وأبدى الطالب الجامعي شعورًا بالصدمة، ؤكد أنه شعر بأنه مستهدف وكأنه يتحدث اليه مباشرة، بينما أكدت شقيقته التي شاركت معه تلك التجرة أنها شعرت بالحالة من الذعر، قائلة:"أردت أن ألقي كل جهاز في المنزل من النافذة".
وأوضحت أن هذا لم يكن خللًا تقنيًا نموذجيًا، وقالت: "من المؤكد أن أخطاء الذكاء الاصطناعي تحدث، لكن هذا بدا شخصيًا للغاية وخبيثًا"، مسلطة الضوء على المخاطر المحتملة التي تشكلها مثل هذه الاستجابات للمستخدمين الضعفاء.
من جانبها، اعترفت جوجل بالواقعة، ووصفته بأنه "استجابة غير منطقية" تنتهك سياسات السلامة الخاصة بها، وقالت الشركة في بيان: "لقد اتخذنا إجراءات لمنع مخرجات مماثلة".
جدير بالذكر أن هذه ليست المرة الأولى التي تكون فيها روبوتات الدردشة بالذكاء الاصطناعي في دائرة الضوء بسبب مخرجات ضارة أو غريبة، ففي في وقت سابق من هذا العام، ورد أن الذكاء الاصطناعي التابع لجوجل اقترح تناول الصخور للحصول على الفيتامينات، كما ارتكبت روبوتات الدردشة الأخرى أخطاء خطيرة مماثلة.
