توقفت شركة Folotoy، الشركة التي تقف وراء دمية الدب Kumma التي تعمل بالذكاء الاصطناعي، عن بيع المنتج مؤقتًا ردًا على ردود الفعل العنيفة بشأن المخاوف المتعلقة بالسلامة التي أثارها الباحثون. لقد ثبت أن برنامج الدردشة الآلي الخاص بالدب يقوم بإرشاد الأطفال حول كيفية إشعال الحرائق، والعثور على السكاكين في منازلهم، وكيفية تحديد أماكن الأدوية الموصوفة. تدعي الشركة أن الدبدوب، المعروض للبيع مرة أخرى، يتمتع الآن بوسائل حماية أقوى للأطفال.
في أعقاب تقرير حديث صادر عن برنامج حياتنا عبر الإنترنت التابع لـ PIRG، والذي كشف أن بعض الألعاب التي تعمل بالذكاء الاصطناعي يمكن أن تقود الأطفال إلى مواقف خطيرة، اتخذت شركة الألعاب Folotoy إجراءات سريعة لمعالجة المخاوف المحيطة بدمية Kumma. أعلنت الشركة أنها ستوقف مبيعات المنتج وتجري تدقيقًا داخليًا للسلامة لضمان رفاهية عملائها الصغار، فقط لطرح المنتج مرة أخرى في السوق بعد أيام فقط، واعدة بتوفير حماية أفضل للأطفال.
يسلط تقرير “مشكلة في Toyland 2025″، الصادر عن برنامج حياتنا على الإنترنت التابع لـ PIRG، الضوء على السلوك المثير للقلق لبعض روبوتات الدردشة التي تعمل بالذكاء الاصطناعي والمضمنة في ألعاب الأطفال الشهيرة. كان أبرز المجرمين هو دب كوما من فولوتوي، والذي وجد الباحثون أنه يقدم تعليمات حول كيفية إشعال الحرائق، وتحديد موقع السكاكين، والعثور على الحبوب الطبية، كل ذلك بصوت لطيف خادع. تتضمن التقارير الأخرى مناقشة الممارسات الجنسية BDSM مع الأطفال.
أثار هذا الكشف قلقًا واسع النطاق بين الآباء والمدافعين عن سلامة الأطفال على حدٍ سواء. حذر RJ Cross، ممثل برنامج حياتنا عبر الإنترنت التابع لـ PIRG، الآباء من منح أطفالهم إمكانية الوصول إلى روبوتات الدردشة أو الألعاب التي تحتوي عليها، قائلًا: “في الوقت الحالي، إذا كنت أحد الوالدين، فلن أمنح أطفالي إمكانية الوصول إلى روبوت الدردشة أو دمية دب تحتوي على روبوت دردشة بداخلها”.
ردًا على ردة الفعل المتزايدة، أعلن لاري وانغ، الرئيس التنفيذي لشركة Folotoy، أن الشركة ستسحب لعبة Kumma من التداول، مما يجعلها غير متاحة للشراء. علاوة على ذلك، ستجري شركة Folotoy تدقيقًا شاملاً للسلامة الداخلية لتحديد ومعالجة أي مخاطر محتملة مرتبطة بالمنتج. لكن الدب عُرض للبيع مرة أخرى بعد أيام قليلة، مع وعد الشركة بأنها ستحمي الأطفال من روبوت الدردشة الذي يعمل بالذكاء الاصطناعي داخل الدب.
ولم تكن لعبة دب كوما هي اللعبة الوحيدة المشاركة في البحث. كما تبين أيضًا أن جهاز Miko 3، وهو جهاز لوحي يستخدم نموذجًا غير محدد للذكاء الاصطناعي، يقدم تعليمات خطيرة للباحثين الذين يتظاهرون بأنهم طفل يبلغ من العمر خمس سنوات. وتضمنت هذه التعليمات تفاصيل حول كيفية العثور على أعواد الثقاب والأكياس البلاستيكية.
لوكاس نولان هو مراسل لموقع بريتبارت نيوز ويغطي قضايا حرية التعبير والرقابة على الإنترنت.
