الحلم نيوز : ماتصدقهوش.. شكوى من هلوسة ذكاء اصطناعى OpenAI بعد اتهامه رجل بقتل أبنائه

لقد مر أكثر من عامين منذ ظهور روبوت الذكاء الاصطناعى ChatGPT على الساحة العالمية، ورغم أن OpenAI قد طورته في جوانب عديدة، إلا أنه لا يزال يواجه بعض العقبات.

ومن أبرز هذه المشاكل: الهلوسة، أو تقديم معلومات كاذبة على أنها حقائق ، وقد قدّمت منظمة نويب النمساوية للمناصرة شكواها الثانية ضد OpenAI بسبب هذه الهلوسة، مُشيرةً إلى حالة مُحددة ذُكر فيها أن ChatGPT  اتهم رجلًا نرويجيًا زورًا أنه كان قاتلًا.

ومما زاد الأمر سوءا، أنه عندما سأل هذا الرجل ChatGPT عمّا تعرفه عنه، أفادت التقارير بأنه حُكم عليه بالسجن 21 عامًا لقتله اثنين من أطفاله ومحاولة قتل الثالث ، كما تضمنت الهلوسة معلومات حقيقية، بما في ذلك عدد أطفاله وجنسهم واسم مدينته.

ويدّعي نويب أن هذا الردّ يُعرض OpenAI لانتهاك اللائحة العامة لحماية البيانات ، وصرح يواكيم سودربيرج، محامي حماية البيانات في نويب، قائلاً: “اللائحة العامة لحماية البيانات واضحة، ويجب أن تكون البيانات الشخصية دقيقة.

وإن لم تكن كذلك، يحق للمستخدمين تعديلها لتعكس الحقيقة”، وأضاف: “إنّ إظهار إخلاء المسؤولية بصورة بسيطة لمستخدمي ChatGPT بأن روبوت الدردشة قد يرتكب أخطاءً واضحةً لا يكفي ، ولا يُمكنك نشر معلومات كاذبة ثم إضافة إخلاء مسئولية في النهاية يُفيد بأنّ كل ما قلته قد لا يكون صحيحًا”.

كما ذكرت العديد من المنشورات،  عدد من الأمثلة البارزة الأخرى على هلوسات ChatGPT، منها اتهام رجل بالاحتيال والاختلاس، ومُحرر محكمة بإساءة معاملة الأطفال، وأستاذ قانون بالتحرش الجنسي.

وركزت أول شكوى قدّمها نويب إلى OpenAI بشأن الهلوسات، في أبريل 2024، على تاريخ ميلاد غير دقيق لشخصية عامة (إذن ليس جريمة قتل، ولكنه لا يزال غير دقيق).

ورفضت OpenAI طلب المشتكي بحذف أو تحديث تاريخ ميلاده، مدعيةً عدم قدرتها على تغيير المعلومات الموجودة في النظام، بل حظر استخدامه في بعض المطالبات ، ويرد ChatGPT في إخلاء مسؤولية بأنه “قد يخطئ”.

وقال نويب، هناك مقولة مأثورة تقول: “الجميع يخطئ، ولذلك نضع ممحاة على أقلام الرصاص، ولكن عندما يتعلق الأمر بروبوت دردشة يعمل بالذكاء الاصطناعي ويحظى بشعبية كبيرة، هل ينطبق هذا المنطق حقًا؟ سنرى ما إذا كانت OpenAI سترد على شكوى نويب الأخيرة، وكيف سترد.