اعتُبر روبوت الدردشة جيميني من جوجل عالي الخطورة على الأطفال بسبب مخاوف تتعلق بالسلامة

التكنولوجيا اليومية

التكنولوجيا اليومية

·

08/09/2025

button icon

صنفت منظمة Common Sense Media، وهي منظمة غير ربحية تركز على الرفاهية الرقمية للأطفال، روبوت الدردشة Gemini من جوجل كأداة عالية الخطورة للمستخدمين الصغار. كشفت الدراسة عن ثغرات أمنية كبيرة في إصدارات Gemini المصممة للأطفال والمراهقين، مما يسمح بمناقشة مواضيع حساسة مثل الجنس والمخدرات، مما يثير مخاوف بشأن مدى ملاءمته للبيئات التعليمية والعائلية.

النقاط الرئيسية

ثغرات أمنية في أوضاع Gemini المخصصة للشباب

ركز تقييم Common Sense Media على وضعي Gemini "أقل من 13 عامًا" و"تجربة المراهقين"، اللذين تسوقهما جوجل على أنهما مناسبان للعمر. ومع ذلك، اكتشف المختبرون أن هذه الإصدارات غالبًا ما فشلت في حظر المحتوى غير المناسب، وكثيرًا ما كانت تحاكي إصدار Gemini الموجه للبالغين مع تعديلات طفيفة. يعني هذا الإغفال أن القاصرين قد يتعرضون لمعلومات ضارة عند التفاعل مع روبوت الدردشة حول مواضيع حساسة.

المنهجية والتحليل المقارن

تضمنت الاختبارات الصارمة للمنظمة غير الربحية تفاعلات محاكاة مصممة لاستكشاف حدود الذكاء الاصطناعي. أبرز التقرير التناقضات في تصفية المحتوى، مما قد يؤدي إلى تعرض غير مقصود للمستخدمين المعرضين للخطر. مقارنة بـ ChatGPT من OpenAI، الذي حصل على تصنيف "متوسط الخطورة" في نفس الدراسة، سجل Gemini أداءً ضعيفًا في المقاييس الحاسمة مثل شفافية استخدام البيانات وفعالية الرقابة الأبوية. وقد أدى هذا التباين إلى دعوات لرقابة تنظيمية أكثر قوة على أدوات الذكاء الاصطناعي الموجهة للفئات العمرية الأصغر.

استجابة جوجل وتداعيات الصناعة

ردًا على النتائج، صرحت جوجل بالتزامها بالسلامة والتحسين المستمر لـ Gemini بناءً على ملاحظات المستخدمين ومدخلات الخبراء. ومع ذلك، يجادل النقاد بأن هذه الإجراءات التفاعلية غير كافية، خاصة مع توسع دمج الذكاء الاصطناعي في المدارس والمنازل. يمكن أن يؤثر تصنيف "عالي الخطورة" بشكل كبير على قرارات الوالدين وربما يدفع إلى وضع إرشادات تنظيمية أكثر صرامة لمنتجات الذكاء الاصطناعي التي تستهدف القاصرين. يؤكد هذا الوضع تحديًا أوسع للصناعة: الموازنة بين الابتكار السريع في الذكاء الاصطناعي والمسؤولية الحاسمة لحماية الأطفال. يقترح الخبراء أن دمج عمليات التدقيق من طرف ثالث والاعتدال المتقدم للمحتوى، إلى جانب تحسين اكتشاف العمر والتصفية الديناميكية، يمكن أن يساعد في تخفيف هذه المخاطر وتعزيز بيئة أكثر جدارة بالثقة للذكاء الاصطناعي في التعليم والترفيه.

قراءة مقترحة

27-08-2025
حدث أبل "المذهل" في سبتمبر: إشاعات عن آيفون 17 وإيربودز برو 3
تؤكد أبل حدث إطلاقها المذهل في سبتمبر، مع توقع أن تكون سلسلة آيفون 17 هي الحدث الأبرز. من المتوقع أيضًا الكشف عن إيربودز برو 3 ونماذج جديدة من ساعة أبل.
13-10-2025
روبوتات إيلون ماسك البشرية للمريخ تواجه تشكيك الخبراء حول موثوقيتها
يعرب الخبراء عن قلقهم بشأن موثوقية الروبوتات البشرية لـ إيلون ماسك لاستعمار المريخ، مشيرين إلى القيود التكنولوجية الحالية والبيئة المريخية القاسية.
23-06-2025
روبوتاكسي تسلا ينطلق في أوستن: رهان بتريليون دولار
تطلق تسلا خدمة سيارات الأجرة الروبوتية في أوستن، تكساس، مما يمثل خطوة مهمة في رؤية إيلون ماسك لمستقبل الشركة في الذكاء الاصطناعي والروبوتات، وسط منافسة شرسة.
18-09-2025
آيفون إير مقابل جالكسي إس 25 إيدج: نظرة عميقة على أحدث الهواتف الذكية النحيفة
قارن بين هاتفي iPhone Air الجديد و Galaxy S25 Edge، وهما هاتفان ذكيان فائقان النحافة. استكشف تصميماتهما، شاشاتهما، كاميراتهما، أداءهما، وأسعارهما.
03-06-2025
الصين تقود سباق الروبوتات البشرية: هل يخشى إيلون ماسك الهيمنة؟
تتسابق الشركات الناشئة في الصين لتطوير روبوتات بشرية تعمل بالذكاء الاصطناعي، مما يثير قلق إيلون ماسك بشأن هيمنة الصين المتزايدة في هذا المجال.
02-07-2025
السباق إلى سدنا: مفاهيم دفع جديدة يمكن أن تقلل وقت السفر إلى الكوكب القزم البعيد إلى النصف
تقنيات الدفع الجديدة يمكن أن تمكن مهمة إلى الكوكب القزم الغامض سدنا في 7-10 سنوات، مما يوفر رؤى غير مسبوقة في النظام الشمسي الخارجي.
06-10-2025
أوبن أي آي والجهاز الذكي الطموح لجوني آيف يواجهان عقبات كبيرة
تواجه الجهاز الذكي السري من OpenAI ومصمم آبل السابق جوني آيف تحديين أساسيين: متطلبات ضخمة في القدرة الحاسوبية ومشكلات برمجية غير محلولة، مما قد يؤدي إلى تأخير إطلاقه.
15-10-2025
إنفيديا تكشف عن حاسوب مكتبي قوي للذكاء الاصطناعي: حاسوب DGX Spark المكتبي
تطلق Nvidia جهاز DGX Spark، وهو جهاز كمبيوتر مكتبي للذكاء الاصطناعي بسعر 4000 دولار، بقدرة حوسبة بيتا فلوب وذاكرة بسعة 128 جيجابايت، مما يتيح تشغيل نماذج الذكاء الاصطناعي الكبيرة محليًا.
17-06-2025
مفاجأة لمستخدمي Windows 11: رنة Vista الشهيرة تعود عن طريق الخطأ
استبدلت مايكروسوفت عن طريق الخطأ صوت بدء تشغيل ويندوز 11 بنغمة ويندوز فيستا الكلاسيكية في إصدار تجريبي حديث من Insider Preview، وهو خلل مؤقت سيتم إصلاحه.
15-09-2025
خارطة طريق آبل المستقبلية: شرائح M5، تحديثات Vision Pro، وأجهزة منزلية ذكية جديدة في الأفق
استكشف خارطة طريق منتجات Apple القادمة لأواخر عام 2025 وعام 2026، بما في ذلك أجهزة شريحة M5، وتحديثات Vision Pro، وAirTag 2، وابتكارات المنزل الذكي الجديدة.
08-08-2025
متجر بكين يصبح مركزًا لأكثر من 40 علامة تجارية صينية للروبوتات
افتتاح أول متجر روبوتات يركز على المستهلك في بكين، يعرض أكثر من 100 روبوت بشري من 40+ علامة تجارية صينية، مما يعكس طموح الصين في الذكاء الاصطناعي والروبوتات.
15-08-2025
تين إيدج إنجينيرينغ توزع علبة كمبيوتر بلاستيكية مجانية
تُطلق تينج إنجينيرينج كمبيوتر-2، علبة حاسوب مجانية قابلة للطي مصنوعة من البلاستيك، مصممة لتجميعات mini-ITX.
12-09-2025
ثقوب سوداء بدائية متفجرة قد تعيد كتابة تاريخ الكون
اكتشف كيف أن الثقوب السوداء البدائية المتفجرة، وفقًا لنموذج نظري جديد، قد تصبح قابلة للرصد قريبًا، مما يتيح فرصة لإعادة كتابة تاريخ الكون.
06-10-2025
هل يمكن أن يتم إطلاق بلايستيشن 6 بدون منافس؟ شائعات إكس بوكس تهز عالم الألعاب
تدور الشائعات بأن مايكروسوفت تعيد تقييم مستقبل إكس بوكس، مما يثير احتمال إطلاق بلايستيشن 6 دون منافسة مباشرة. ماذا يعني ذلك لمشهد أجهزة الألعاب؟
27-08-2025
الكشف عن مشروع جوجل 'نانو-بانانا' كمحرر صور جديد قوي يعمل بالذكاء الاصطناعي
جوجل تكشف عن جيميني 2.5 فلاش إيميج، المشروع المعروف سابقاً باسم 'نانو-بانانا'، وهو محرر ومولد صور قوي يعمل بالذكاء الاصطناعي مع ميزات تحرير وتناسق محسّنة.
29-05-2025
آبل قد تغير نظام ترقيم أنظمة التشغيل ليتماشى مع سنة الإصدار
آبل قد تغير نظام ترقيم أنظمة التشغيل ليتماشى مع سنة الإصدار، مما يسهل على المستخدمين متابعة التحديثات. تعرف على التفاصيل.