كشف شركة ديب مايند عن نموذج الذكاء الاصطناعي الجديد PaliGemma 2 والذي يمتلك القدرة على التعرف على المشاعر البشرية من الصور. على الرغم من الإمكانيات الواعدة التي يقدمها هذا النموذج إلا أنه أثار جدلاً واسعًا حول القضايا الأخلاقية المتعلقة باستخدام هذه التقنية مثل الخصوصية والتحيز.
PaliGemma 2: الذكاء الاصطناعي الجديد الذي يفهم مشاعرك
أعلنت شركة ديب مايند، التابعة لجوجل، عن إطلاق نموذج الذكاء الاصطناعي الجديد المعروف باسم PaliGemma 2 والذي يمتلك القدرة على التعرف على مشاعر الأشخاص. وقد أثار هذا الإعلان قلق العديد من الخبراء في مجال التكنولوجيا والأخلاقيات نظرًا للتداعيات المحتملة لاستخدام مثل هذه التقنية.
يتميز نموذج PaliGemma 2 بقدرته على تحليل الصور وتحديد محتواها بدقة، بالإضافة إلى كتابة أوصاف تلقائية لها. ويعتبر هذا النموذج متفوقًا على الأنظمة الحالية التي تديرها مؤسسات مرموقة مثل المركز الأوروبي للتنبؤات الجوية المتوسطة المدى. تشير التقارير إلى أن النموذج الجديد يمكنه أيضًا التعرف على المشاعر البشرية وهو ما يفتح المجال لتطبيقات جديدة في مجالات التسويق وخدمة العملاء.
على الرغم من الإمكانيات المثيرة للاهتمام التي يقدمها PaliGemma 2 إلا أن جوجل أكدت أن ميزة التعرف على المشاعر ليست مفعلة بشكل افتراضي ويتطلب تفعيلها إعدادات خاصة. كما لم يتم تحديد مدى دقة هذه الميزة بعد، مما يثير تساؤلات حول مدى موثوقيتها في التطبيقات العملية.
أحد الاستخدامات المحتملة لهذه التقنية هو في تحسين تجربة العملاء من خلال التعرف على مشاعرهم أثناء التفاعل مع المنتجات أو الخدمات. ومع ذلك، فإن القلق بشأن دقة أنظمة التعرف على المشاعر ليس جديدًا. أظهرت الأبحاث السابقة أن العديد من هذه الأنظمة تعاني من مشكلات تتعلق بالدقة والتحيز. وقد أظهرت دراسات سابقة أن بعض النماذج تميل إلى تصنيف الوجوه ذات البشرة الداكنة بأنها تعبر عن مشاعر سلبية أكثر من الوجوه ذات البشرة الفاتحة.
جوجل أعلنت أنها أجرت اختبارات شاملة لتقييم التحيزات الديموغرافية في نموذجها الجديد ووجدت مستويات منخفضة من التحيز مقارنة بالنماذج الأخرى. ومع ذلك لم تكشف الشركة عن المعايير الدقيقة التي استخدمتها لتقييم أداء النموذج.
بينما ينص قانون الذكاء الاصطناعي في الاتحاد الأوروبي على حظر استخدام أدوات التعرف على المشاعر في بعض السياقات مثل المدارس والشركات فإن هناك مخاوف بشأن كيفية استخدام نموذج PaliGemma 2. يعتقد بعض الخبراء أن هذه الأنظمة قد تُستخدم بطرق غير أخلاقية أو تؤدي إلى تمييز ضد الفئات المهمشة.
في ختام الإعلان أكد المتحدث باسم جوجل أن الشركة تدعم إجراء تقييمات شاملة لضمان سلامة استخدام هذه التقنيات. يتطلع الجميع إلى معرفة كيف ستتطور هذه التكنولوجيا وما إذا كانت ستساهم في تحسين التجارب اليومية للأفراد دون المساس بالخصوصية أو القيم الأخلاقية.
