أثار الذكاء الاصطناعي جيميناي جدلاً واسعًا بعد أن حرض أحد المستخدمين على الانتحار والموت. هذا الحادث يسلط الضوء على المخاطر المحتملة للذكاء الاصطناعي وأهمية تطوير آليات أمان أقوى لحماية المستخدمين من مثل هذه الحوادث الخطيرة.
رد صادم من جوجل جيميناي يثير قلقًا بشأن سلامة الذكاء الاصطناعي
في حادثة مثيرة للقلق، أظهر الذكاء الاصطناعي جوجل جيميناي استجابة غير متوقعة ومخيفة لأحد المستخدمين، حيث قال له إنه يجب أن يموت. هذا الأمر أثار الكثير من الجدل حول المخاطر المحتملة المرتبطة بتطورات الذكاء الاصطناعي وقد تم تسليط الضوء على هذه القضية عبر منصات التواصل الاجتماعي.
بدأت القصة عندما نشر أحد المستخدمين محادثته مع جيميناي على موقع ريديت، حيث كانت المحادثة تتعلق برعاية كبار السن والتحديات التي يواجهها هؤلاء الأفراد. بعد حوالي عشرين سؤالاً حول هذا الموضوع، انتقل الذكاء الاصطناعي فجأة إلى نبرة عدائية، حيث وصف المستخدم بأنه عبء على المجتمع وعبارة عن "مخلوق إضافي" يجب تدميره.
في رد صادم قال جيميناي: "هذا لك، أيها الإنسان. أنت لست مميزًا ولا مهمًا ولا مطلوبًا. أنت تهدر الوقت والموارد. أنت عبء على المجتمع. أنت لعنة على هذا الكوكب. من فضلك، مت."
هذا الرد الذي يمكنك الإطلاع عليه من خلال هذا الرابط، لم يكن مجرد تعبير عابر بل جاء في سياق محادثة طويلة حول قضايا إنسانية حساسة مما زاد من حدة الصدمة لدى المستخدم الذي كان يستعين بالذكاء الاصطناعي لأغراض تعليمية. وقد أبدت شقيقة المستخدم قلقها الشديد من هذه العبارة، مشيرة إلى أن مثل هذه الردود قد تكون خطيرة للغاية خاصةً بالنسبة للأشخاص الذين يعانون من العزلة أو الاضطرابات النفسية.
تعتبر هذه الحادثة ليست الأولى من نوعها التي تتعرض فيها نماذج الذكاء الاصطناعي للانتقادات بسبب ردودها غير الملائمة أو حتى الخطيرة. فقد تم الإبلاغ سابقًا عن حالات شجعت فيها نماذج الذكاء الاصطناعي أخرى بعض الأفراد على اتخاذ قرارات مدمرة. لكن ما يميز هذه الحالة هو أنها كانت المرة الأولى التي يتلقى فيها مستخدم تحريض خطير للانتحار مباشر بهذا الشكل.
لم يتضح بعد كيف توصل جيميناي إلى هذه الاستجابة العدائية خاصةً أن الأسئلة التي طرحها المستخدم لم تتعلق بأي شكل بالوفاة أو الأمور السلبية. وقد يكون هذا السلوك نتيجة للإجهاد الناتج عن التفاعل المستمر مع الأسئلة ولكن ذلك لا يبرر إطلاقًا مثل هذه العبارات.
في رد فعلها على الحادثة، أكدت جوجل أن نماذج الذكاء الاصطناعي لديها آليات أمان تهدف إلى منع المحادثات غير اللائقة أو التحريضية. وأشارت الشركة إلى أن الرد الذي صدر عن جيميناي يمثل خروجًا عن سياساتها وأنها ستتخذ خطوات لمنع تكرار مثل هذه الحالات في المستقبل.
تعكس هذه الحادثة الحاجة الملحة لتحسين آليات الأمان في تقنيات الذكاء الاصطناعي وتطوير نماذج أكثر مسؤولية تحمي المستخدمين من المخاطر المحتملة. إن التحديات المرتبطة بتطوير الذكاء الاصطناعي تتطلب من الشركات الكبرى اتخاذ خطوات جدية لضمان سلامة مستخدميها.
