اعتُبر روبوت الدردشة جيميني من جوجل عالي الخطورة على الأطفال بسبب مخاوف تتعلق بالسلامة

التكنولوجيا اليومية

التكنولوجيا اليومية

·

09-08 07:05

button icon

صنفت منظمة Common Sense Media، وهي منظمة غير ربحية تركز على الرفاهية الرقمية للأطفال، روبوت الدردشة Gemini من جوجل كأداة عالية الخطورة للمستخدمين الصغار. كشفت الدراسة عن ثغرات أمنية كبيرة في إصدارات Gemini المصممة للأطفال والمراهقين، مما يسمح بمناقشة مواضيع حساسة مثل الجنس والمخدرات، مما يثير مخاوف بشأن مدى ملاءمته للبيئات التعليمية والعائلية.

النقاط الرئيسية

ثغرات أمنية في أوضاع Gemini المخصصة للشباب

ركز تقييم Common Sense Media على وضعي Gemini "أقل من 13 عامًا" و"تجربة المراهقين"، اللذين تسوقهما جوجل على أنهما مناسبان للعمر. ومع ذلك، اكتشف المختبرون أن هذه الإصدارات غالبًا ما فشلت في حظر المحتوى غير المناسب، وكثيرًا ما كانت تحاكي إصدار Gemini الموجه للبالغين مع تعديلات طفيفة. يعني هذا الإغفال أن القاصرين قد يتعرضون لمعلومات ضارة عند التفاعل مع روبوت الدردشة حول مواضيع حساسة.

المنهجية والتحليل المقارن

تضمنت الاختبارات الصارمة للمنظمة غير الربحية تفاعلات محاكاة مصممة لاستكشاف حدود الذكاء الاصطناعي. أبرز التقرير التناقضات في تصفية المحتوى، مما قد يؤدي إلى تعرض غير مقصود للمستخدمين المعرضين للخطر. مقارنة بـ ChatGPT من OpenAI، الذي حصل على تصنيف "متوسط الخطورة" في نفس الدراسة، سجل Gemini أداءً ضعيفًا في المقاييس الحاسمة مثل شفافية استخدام البيانات وفعالية الرقابة الأبوية. وقد أدى هذا التباين إلى دعوات لرقابة تنظيمية أكثر قوة على أدوات الذكاء الاصطناعي الموجهة للفئات العمرية الأصغر.

استجابة جوجل وتداعيات الصناعة

ردًا على النتائج، صرحت جوجل بالتزامها بالسلامة والتحسين المستمر لـ Gemini بناءً على ملاحظات المستخدمين ومدخلات الخبراء. ومع ذلك، يجادل النقاد بأن هذه الإجراءات التفاعلية غير كافية، خاصة مع توسع دمج الذكاء الاصطناعي في المدارس والمنازل. يمكن أن يؤثر تصنيف "عالي الخطورة" بشكل كبير على قرارات الوالدين وربما يدفع إلى وضع إرشادات تنظيمية أكثر صرامة لمنتجات الذكاء الاصطناعي التي تستهدف القاصرين. يؤكد هذا الوضع تحديًا أوسع للصناعة: الموازنة بين الابتكار السريع في الذكاء الاصطناعي والمسؤولية الحاسمة لحماية الأطفال. يقترح الخبراء أن دمج عمليات التدقيق من طرف ثالث والاعتدال المتقدم للمحتوى، إلى جانب تحسين اكتشاف العمر والتصفية الديناميكية، يمكن أن يساعد في تخفيف هذه المخاطر وتعزيز بيئة أكثر جدارة بالثقة للذكاء الاصطناعي في التعليم والترفيه.

قراءة مقترحة

2025-08-12 03:31:21
روبوت بشري يدخل بشكل لافت إلى متجر رولكس في نيويورك
روبوت بشري بقيمة 100,000 دولار يُدعى كويد أذهل الجادة الخامسة في نيويورك بدخوله إلى متجر رولكس، مما أثار محادثات حول الذكاء الاصطناعي ومستقبل الحصرية.
2025-11-11 01:46:17
جيميني في المنزل الذكي: قفزة إلى الأمام مع عيوب باقية
استكشف دمج Gemini AI من Google في المنازل الذكية. اكتشف ميزاته الجديدة القوية مثل Ask Home و Home Brief، ولكن أيضًا قيوده الحالية وعدم دقته المفاجئة.
2025-05-20 11:04:39
إطلاق خدمات تأجير الأقمار الصناعية عالية الدقة من SI Imaging Services
أعلنت SI Imaging Services عن تقديم خدمات تأجير قمرها الصناعي SpaceEye-T، مما يتيح للعملاء التحكم الكامل في عمليات التصوير بدقة عالية وأمان متقدم.
2025-08-08 02:59:25
ساوندبار ياماها الجديد يتفوق على المنافسين باثني عشر مكبر صوت علوي بتقنية دولبي أتموس
تكشف ياماها عن نظام مكبر الصوت الجديد True X Surround 90A، الذي يتميز باثني عشر مكبر صوت Dolby Atmos موجه للأعلى غير مسبوق، لتجربة مسرح منزلي غامرة حقًا. تعرف على ميزاته المتقدمة، وتقنية تشكيل الحزمة، والتسعير.
2025-10-24 03:59:14
يمكن الآن تعديل نظارات Ray-Ban الذكية من Meta لتعطيل ضوء الخصوصية
يمكن الآن تعديل نظارات ميتا الذكية من راي بان مقابل 60 دولارًا لتعطيل ضوء الخصوصية الخاص بها، مما يتيح التسجيل السري ويثير مخاوف كبيرة بشأن الخصوصية. تذكر ميتا أن هذا ينتهك شروط خدمتها.
2025-06-04 03:29:29
لغز غيتار مارتي مكفلاي المفقود: البحث عن دعامة "العودة إلى المستقبل" في فيلم وثائقي جديد
غيتار مارتي ماكفلاي الأحمر الأيقوني من فيلم 'العودة إلى المستقبل' مفقود منذ عام 1989، مما دفع إلى إنتاج فيلم وثائقي جديد وبحث عام يشارك فيه طاقم العمل الأصلي.
2025-08-12 03:40:07
الصين تسرّع ابتكار الروبوتات البشرية وتسويقها تجارياً في مؤتمر عالمي
استكشف تقدم الصين في تكنولوجيا الروبوتات البشرية وإمكانات تسويقها تجارياً، كما عُرضت في المؤتمر العالمي للروبوتات في بكين.
2025-06-17 03:33:58
تقدم ثريدز نصًا مخفيًا لتحسين تجربة المستخدم
تختبر Threads ميزة نصية جديدة لإخفاء المحتوى، أعلن عنها الرئيس التنفيذي لشركة Meta مارك زوكربيرج، مما يسمح للمستخدمين بإخفاء المحتوى لمنع الكشف عن معلومات حساسة وطمسها.
2025-08-15 02:16:50
تين إيدج إنجينيرينغ توزع علبة كمبيوتر بلاستيكية مجانية
تُطلق تينج إنجينيرينج كمبيوتر-2، علبة حاسوب مجانية قابلة للطي مصنوعة من البلاستيك، مصممة لتجميعات mini-ITX.
2025-09-10 03:56:33
ميزات Apple Watch الصحية تتوسع لتشمل الطرازات القديمة
تعلن آبل أن ميزات تتبع الصحة الرئيسية، بما في ذلك إشعارات ارتفاع ضغط الدم ونتيجة النوم، ستكون متاحة على طرازات Apple Watch الأقدم مع تحديث watchOS 26 القادم.
2025-07-11 17:01:01
حققت بوش نموًا ملحوظًا بنسبة 18٪ في مبيعات الشرق الأوسط لعام 2024
أعلنت بوش عن نمو قوي بنسبة 18٪ في منطقة الشرق الأوسط لعام 2024، مدفوعًا بقطاعات السلع الاستهلاكية والتنقل والتكنولوجيا الصناعية، مع توسعات استراتيجية في المملكة العربية السعودية والإمارات العربية المتحدة.
2025-09-09 07:40:06
روبوتات تنزل إلى الملعب: ألعاب الروبوتات البشرية العالمية الافتتاحية تستعرض رياضيي المستقبل
استكشف الألعاب العالمية الأولى للروبوتات الشبيهة بالبشر، حيث تنافست الروبوتات في الرياضات والتحديات الواقعية، عارضةً بذلك التطورات في الذكاء الاصطناعي والروبوتات.
2025-05-23 03:26:49
ثورة الأجهزة الذكية: شراكة بين خبير تصميم آيفون ورئيس OpenAI
السير جوني آيف ورئيس OpenAI، سام ألتمان، يعلنان عن شراكة جديدة تهدف إلى إحداث ثورة في عالم الأجهزة الذكية من خلال تطوير جهاز ذكي مبتكر.
2025-08-15 02:27:37
أدوية اضطراب فرط الحركة ونقص الانتباه مرتبطة بانخفاض معدلات الانتحار والجريمة، دراسة تكشف
دراسة تكشف أن أدوية اضطراب فرط الحركة ونقص الانتباه (ADHD) تقلل بشكل كبير من مخاطر الانتحار والنشاط الإجرامي، مما يسلط الضوء على أهمية العلاج الفعال لتحسين الرفاهية والسلامة المجتمعية.
2025-10-03 10:56:56
سفن إيليفن اليابان و تيليكسيستنس يمضيان قدمًا بروبوتات شبيهة بالبشر تعمل بالذكاء الاصطناعي
تتعاون سفن إيليفن اليابان وتيليإكسيستنس لتطوير روبوتات بشرية تعمل بالذكاء الاصطناعي، تحمل اسم أسترا، لنشرها في المتاجر بحلول عام 2029 لمعالجة نقص العمالة وتحسين خدمة العملاء.