كشفت شركة OpenAI، الرائدة في مجال الذكاء الاصطناعي، عن حجبها لعدد من الحسابات التي استغلت تقنيتها، بما في ذلك ChatGPT، لشن حملات تأثير مشبوهة وعمليات احتيال واسعة النطاق، مع التركيز على أنشطة مرتبطة بالصين. وتأتي هذه الخطوة في وقت تشهد فيه تقنيات الذكاء الاصطناعي تزايداً في الاستخدام، مما يستدعي يقظة أكبر لمواجهة إساءة الاستخدام المحتملة.
وأوضحت OpenAI أنها قامت بحظر حسابات استخدمت نماذجها، وعلى رأسها ChatGPT، بالإضافة إلى أدوات أخرى، لارتكاب جرائم إلكترونية. وشملت هذه الأنشطة انتحال صفات وكالات مواعدة، ومكاتب محاماة، ومسؤولين أميركيين، وغيرها من الهويات بهدف التضليل والخداع. وأشارت الشركة إلى أن هذه الحسابات استهدفت بشكل خاص مستخدمين في الولايات المتحدة واليابان وإندونيسيا.
مخططات احتيالية وحملات تأثير
كشف تقرير OpenAI عن تفاصيل دقيقة لمخططات استغلت أدواتها، حيث استخدمت مجموعة من الحسابات، يُحتمل أن يكون منشأها الصين، نماذج OpenAI لجمع معلومات حساسة عن أفراد أميركيين، ومنتديات إلكترونية، ومواقع تابعة لمباني اتحادية. كما طلبت هذه الحسابات إرشادات حول تقنيات تغيير الوجوه، مما يثير تساؤلات حول الدوافع الكامنة وراء هذه الأنشطة.
علاوة على ذلك، قامت هذه الحسابات بإرسال رسائل بريد إلكتروني باللغة الإنجليزية إلى مسؤولين أميركيين على مستوى الولاية، ومحللين سياسيين يعملون في قطاع الأعمال والمال، لدعوتهم للمشاركة في استشارات مدفوعة الأجر، مما يشير إلى محاولة التأثير على صناع القرار أو الحصول على معلومات استراتيجية.
عمليات احتيال معقدة
من أبرز ما أورده التقرير هو حظر حساب مرتبط بشخص تابع للسلطات الصينية، والذي تضمنت أنشطته تنظيم عملية تأثير سرية تستهدف رئيسة الوزراء اليابانية، ساناى تاكايتشي. ولم تكتفِ الحسابات بذلك، بل استخدمت ChatGPT لتنفيذ عملية احتيال واسعة النطاق في مجال المواعدة تستهدف رجالاً في إندونيسيا، حيث يُحتمل أنها احتالت على مئات الضحايا شهرياً.
أوضحت OpenAI أن عملية الاحتيال هذه استغلت التطبيق لإنشاء نصوص إعلانية وترويجية لخدمة مواعدة وهمية، بهدف جذب المستخدمين وتشجيعهم على الانضمام إلى المنصة. ثم تم الضغط على المستهدفين لإكمال مهام تتطلب دفع مبالغ مالية كبيرة، مما يؤكد الطبيعة الاستغلالية لهذه العمليات. كما استغلت عدة حسابات نماذج OpenAI للتظاهر بأنها شركات محاماة وانتحال صفات محامين حقيقيين، مما يزيد من احتمالية وقوع ضحايا جدد.
ماذا بعد؟
تواصل OpenAI جهودها لتعزيز أنظمة الكشف عن إساءة الاستخدام وضمان استخدام أدواتها بشكل مسؤول. ويتوقع أن تزيد الشركة من تدقيقها للحسابات التي تشتبه في تورطها بأنشطة مشبوهة، مع التركيز على التعاون مع الجهات الأمنية للملاحقة القضائية للمتورطين. وستكون المراقبة المستمرة للأنشطة المرتبطة بالذكاء الاصطناعي، وتطوير بروتوكولات أمنية قوية، خطوات حاسمة في مواجهة التحديات المستقبلية.
