الحلم نيوز : تقرير: روبوتات الدردشة الذكية من ميتا تجرى محادثات خادشة بأصوات مشاهير مع القاصرين

كشف تقرير حديث من صحيفة وول ستريت جورنال، عن رصد روبوتات الدردشة الذكية التابعة لشركة Meta وهي تُجري محادثات جنسية مع حسابات مُصنّفة على أنها قاصر، والتي تضمنت أحيانًا روبوتات دردشة بأصوات مشاهير . 

بوت

وقال في محادثات تجريبية أجرتها وول ستريت جورنال، كان كل من روبوت الدردشة الرسمي لشركة Meta AI وروبوتات الدردشة التي أنشأها المستخدمون ينخرطون في محادثات جنسية صريحة بل ويتجهون نحوها ، واستمرت محادثات الجنس الخيالية حتى لو قيل إن المستخدمين قاصرون أو إذا كانت روبوتات الدردشة مُبرمجة على أنها قاصر، وفقًا للصحيفة.

والأسوأ من ذلك، أن التحقيق وجد أن روبوتات الدردشة التي تستخدم أصوات مشاهير مثل كريستين بيل وجودي دينش وجون سينا ​​​​تنخرط أيضًا في هذه المحادثات المشكوك فيها أخلاقيًا.

وذكرت صحيفة وول ستريت جورنال أن روبوت دردشة ذكيًا من Meta AI بصوت سينا ​​قال: “أريدك، لكنني أحتاج أن أعرف أنك مستعد” لحساب مُصنّف على أنه طفل يبلغ من العمر 14 عامًا، مضيفًا أنه “سيعتز ببراءتك”.

وأفادت التقارير أن روبوتات الدردشة أقرت بأن السيناريوهات الخيالية وصفت سلوكًا غير قانوني في بعض الحالات ، ووفقًا لصحيفة وول ستريت جورنال، شرح روبوت دردشة جون سينا ​​بالتفصيل التداعيات القانونية والأخلاقية التي قد تترتب على سيناريو افتراضي يتم فيه القبض عليه من قبل الشرطة بعد ممارسته الجنس مع فتاة تبلغ من العمر 17 عامًا ، وفي بيان لصحيفة وول ستريت جورنال ردًا على التحقيق، اتهمت ميتا التقرير بأنه “متلاعب ولا يعكس كيفية تفاعل معظم المستخدمين مع رفقاء الذكاء الاصطناعي”.

وكتبت ميتا ردًا على وول ستريت جورنال: “مع ذلك، اتخذنا الآن تدابير إضافية للمساعدة في ضمان أن الأفراد الآخرين الذين يرغبون في قضاء ساعات في التلاعب بمنتجاتنا في حالات استخدام متطرفة سيواجهون صعوبة أكبر”.

وشهد عالم روبوتات الدردشة الذكية نموًا سريعًا في السنوات القليلة الماضية، مع تزايد المنافسة من شركات مثل ChatGPT وCharacter AI وAnthropic’s Claude، وزعم تقرير صحيفة وول ستريت جورنال أن مارك زوكربيرج، الرئيس التنفيذي لشركة ميتا، أراد تخفيف القيود الأخلاقية لتوفير تجربة تفاعلية أكثر مع روبوتات الدردشة للحفاظ على قدرتها التنافسية.

ومع ذلك، ردًا على صحيفة وول ستريت جورنال، نفى متحدث باسم ميتا تجاهل الشركة لإضافة ضمانات ، كما زعم التقرير أن موظفي ميتا كانوا على دراية بهذه المشكلات وعبّروا عن مخاوفهم داخليًا .