لقد واجهت ميزة AI Overviews "ملخصات البحث بالذكاء الاصطناعي" من جوجل، والتي تقدم ملخصات موجزة لنتائج البحث، انتقادات واسعة خلال الأسبوع الماضي بسبب تقديمها لمعلومات مضللة وغريبة في بعض الأحيان. أدت هذه الأخطاء إلى سخرية واسعة على الإنترنت، ودفعت جوجل إلى اتخاذ خطوات للتخفيف من المشكلة. واليوم توضح الشركة أسباب تلك الأخطاء إلى جانب الإعلان عن تحسينات شاملة.
أخطاء ميزة الذكاء الاصطناعي AI Overviews التابعة لمحرك البحث جوجل خلال الأسبوع الماضي كانت بمثابة ترند بعد أن تصدرت إجاباتها عناوين الأخبار؛ تلك الإجابات الغريبة التي قدمها الذكاء الاصطناعي، مثل إضافة الغراء على البيتزا لتثبيت الجبن أو تناول حجر يوميًا بنصح من الإطباء، تسببت في إثارة جدل واسع، لتعلن شركة جوجل لاحقًا عن قيامها بتعطيل بشكل يدوي عمليات بحث الذكاء الاصطناعي لموضوعات معينة بحيث تقل احتمالية حصول المستخدمين على إجابات غريبة، والآن نشر عملاق محرك البحث منشورًا جديدًا حول عيوب الميزة.
وفي تدوينة على موقع جوجل، ألقت ليز ريد (Liz Reid) - رئيسة قسم البحث في الشركة، باللوم على "فجوات المعلومات" أي نقص المعلومات الكافية بالإضافة إلى الأسئلة الغريبة التي يطرحها المستخدمون حول النتائج الكاذبة للذكاء الاصطناعي. وأشارت ريد إلى قيام الشركة بختبار الميزة على نطاق واسع قبل الإطلاق إلى جانب الاختبارات القوية للـ Red-Team.
دفاع جوجل عن ميزة الذكاء الاصطناعي AI Overviews
توضح ريد في مقالها أن AI Overviews تعمل بشكل مختلف تمامًا عن برامج الدردشة الآلية ومنتجات LLM الأخرى، والميزة مدعومة بنموذج لغوي مخصص مدمج مع أنظمة تصنيف الويب الأساسية الخاصة بالشركة أي مصممه لتنفيذ مهام البحث التقليدية وتحديد النتائج ذات الصلة وعالية الجودة، ومن أجل الحصول على أفضل دقة في الإجابات تم تصميم ميزة AI Overviews لعرض المعلومات المدعمة بنسخة احتياطية من أهم نتائج الويب فقط.
بمعنى أخر، ميزة AI Overviews لا تعاني من هلوسة أو أوهام الذكاء الاصطناعي كما في روبوتات الدردشة لكن قد تسيء تفسير المعلومات الموجودة على الويب في بعض الأحيان فقط، بحسب قولها: "لا يوجد شيء يضاهي ملايين الأشخاص الذين يستخدمون هذه الميزة في عمليات البحث الجديدة. لقد رأينا أيضًا عمليات بحث جديدة لا معنى لها ويبدو أنها مصممة لإنتاج نتائج خاطئة."
وبحسب ريد، فأن العديد من لقطات الشاشة التي انتشرت وتدعي أنها ردود خطائه تابعة لـ AI Overviews، في الحقيقة هي "لقطات شاشة مزيفة" ولم تكن من ردود الذكاء الاصطناعي للميزة إطلاقًا، ولذلك تشجع جوجل الأشخاص عند العثور على لقطة شاشة القيام بإجراء بحث بانفسهم للتحقق من صحتها وهل سوف يحصلون على نفس الرد.
وفي لقطة الشاشة التي فيها إجابة السؤال "كم عدد الحجارة التي يجب أن آكلها في اليوم؟" الصورة حقيقة، بحسب ريد، لكن رئيس قسم البحث في جوجل يوضح أن نشر مقال ساخر بهذا الخصوص دفع الذكاء الاصطناعي للشركة إلى تقديم مثل هذه الإجابة حيث قالت: "قبل انتشار لقطات الشاشة هذه، لم يكن أحد قد طرح على جوجل مثل هذا السؤال، لذلك تم ربط الذكاء الاصطناعي الخاص بالشركة بهذا الموقع."
وأخيراً من خلال دراسة هذه المشاكل، يبدو أن جوجل تمكنت من تحديد الأنماط التي لا تؤدي فيها تكنولوجيا الذكاء الاصطناعي الخاصة بها مهامها على النحو الصحيح. وبناءً على هذه الملاحظات، تم تطبيق العديد من التحسينات على ملخصات البحث بالذكاء الاصطناعي "AI Overviews" ومن بين هذه التحسينات استخدام آليات كشف أفضل لعمليات البحث التي لا معنى لها.
