ثغرة في (Chat GPT) تهدد ملايين المستخدمين.. احذرها

اعترفت الشركة المطورة لنظام الذكاء الاصطناعي المعروف باسم (Chat GPT) والتي تُدعى (OpenAI)، بوجود ثغرة داخل النظام أدت إلى السماح لعدد من المستخدمين برؤية وافتحام عناوين محادثات مستخدمين آخرين داخل (تشات جي بي تي)، مشددة على أنها عملت على إصلاحها تلك الثغرة.

وجاء ذلك الإقرار والاعتراف من الشركة، عقب مشاكرة عدد من مستخدمي ورواد مواقع التواصل الاجتماعي في (تويتر) و (ريديت) بعضاً من الصور لسجلات دردشة قالوا من خلالها أنها لا تخصهم أي أن هناك ثغرة ما هناك.

من جانبه، وصف المدير التنفيذي لشركة (OpenAI) الثغرة التي تم الحديث عنها بأنها مروّعة، مشددًا على أنه تم إصلاحها في الفترة الحالية.

ويعد (Chat GPT) تقنية من إحدى تقنيات الذكاء الاصطناعي الذي بات يقتحم عوالمنا ويسيطر على معظم تقنياتنا بصورة ملاحظة، وقد تم طرح تلك التقنية للاستخدام المجاني للمستخدمين خلال شهر نوفمبر المنصرم، وفكرته عبارة عن برنامج ذكاء اصطناعي على شكل روبوت يستطيع المستخدم إجراء المحادثات والدردشات معه وطرح الأسئلة عليه، وبدوره يقوم بالإجابة على كافة الأسئلة بشكل دقيق جدا وتفصيلي، كما ويمكن لذلك الروبوت أن يكون بكتابة أغاني وكوضوعات تتعلق بالصحافة مما جعل العديد من الناس والمستخدمين يعتمدون عليه اعتماداً كلياً على ما يُجيب المستخدم من بيانات وموضوعات.

وفي غضون ذلك، أعرب العديد من مستخدمي تلك التقنية عن قلقهم الشديد إزاء اختراق هذه التقنية لخصوصيتهم، حيث يتم تخزين جميع المحادثات التي يقوم بها (Chat GPT) داخل سجل الدردشات الخاصة بالمستخدم الذي أجرى معه المحادثة بالكامل، حيث يمكنه إعادة النظر فيه لاحقاً حينما أراد.

ووفي وقت مبكر من يوم الإثنين المنصرم، لاحظ امستخدمون عدد من المحادثات داخل سجلاتهم قالوا أنهم لم يجروها أويتحدثوا بها مع الروبوت الآلي في إشارة منهم إلى أن هناك انتهاك لخصوصياتهم ومحادثاتهم التي تتم بينهم وبين برنامج الدردشة الآلي، الامر الذي أقلقهم وأبدوا اعتراضاً عليه من خلال منصات التواصل الاجتماعي وذلك لاعتماد الكثير منهم على تلك التقنية.

ومن ضمن المشاركين الذي أبلغوا وشاركوا صورًا من سجلات الدردشة الخاصة عبر (ريديت) رجل صيني وكانت تحوي على عناوين مثل (تنمية الاشتراكية الصنية) وعدد من المحادثات باللغة الرسمية الصينية.

في حين أبلغت شركة "OpenAI" وكالة بلومبرغ أنها قامت بتعطيل الروبوت أي برنامج الدردشة الآلي لفترة وجيزة من أجل تدارك وإصلاح خطأ اقتحام الخصوصية الذي أزعج وأقلق عدد كبير من مستخدميه.

ومن باب نشر الطمأنة بين مستخدمي التقنية، أصدرت الشركة تصريح مقتضب، وقد أكدت فيه أن المستخدمين لم يتمكنوا من الوصول إلى الدردشات الفعلية ومشاهدة ما دار فيها من أحاديث واستفسارات، بل كانوا يصلون إلى عناوينها الخارجية فقط.

ويُشار إلى أنه عقب إطلاق الإصدار التجريبي من روبوت الذكاء الاصطناعي، أبدى الكثير من المستخدمين عدم رضاهم عن عدد من المشاكل بداخله، والتي من الممكن أن يكون لها أبعاد خطيرة في حال اعتمدت شريحة واسعة من الجمهور عليه والتي كان أبرزها:

أولاً:  روبوت (تشات جي بي تي) لا يقدم معلومات صحيحة ودقيقة دائماً

من الممكن أن يكون روبوت الذكاء الاصطناعي (تشات جي بي تي) في بعض الاحيان إجبابات خاطئة وغير دقيقة، وذلك الأمر الذي حذرت منه الشركة التي أصدرت التقنية، ويمكن أن يظهر أبعاد تلك المشكلة في حال تم الاعتماد عليه بأخد المعلومات الحساسة كالطبية وتطبيقها على أرض الواقع على سبيل المثال لا الحصر.

ويعتمد روبوت (تشات جي بي تي) على المعلومات التي تلقّنها وتعلمها من بيانات التدريب من أجل تقديم إجابة، الامر الذي يترك مجالاً للخطأ، على عكس ما تقدمه تقنيات المساعدات الصوتية مثل سيري و أليكسا، لذلك يجب عدم الوثوق بكل ما يتم أخذه من معلومات على سبيل المُسلّمات والحقائق المطلقة.


ثانياً:  يُظهر من خلال إجاباته التحيز في بعض الأحيان:

وفق ما ذكره بعض مستخدمي ذلك التطبيق، فإنه خلال إجاباته على أسئلة ما يُظهر تحيزه لفئة معينة، أو على حسب وصفهم أن يقدم إجابات ضارة لفئات أخرى، على الرغم من أن القائمين على تطوري البيانات المستخدمة والباحثين لتدريب (تشات جي بي تي) يعملون على ما معالجة السلوك المتحيز وتطلب من كافة المستخدمين تقديم ملاحظاتهم إزاء المخرجات غير المناسبة التي قد يظهرها روبوت الذكاء الاصطناعي.

ثالثاً: قد يكون له تأثير سلبي على الطلبة في التعليم

قد يلجأ العديد من طلاب المدارس والجامعات إلى الاستعانة في روبوت (تشات جي بي تي) من أجل إنجاز مهامهم وواجباتهم المنزلية وكتابة الأبحاث والتقارير دون أن يكلفوا أنفسهم عناء البحث والتعليم، مما يؤثر سلباً على مستواهم التعليمي، وبالفعل هذا ما لاحظه العديد من المعلمين على طلابهم عندما طالبوهم بمهام خاصة وبحثية.

رابعاً: من الممكن أن تسبب إجابات روبوت (تشات جي بي تي) ضرراً على أرض الواقع:

من الممكن أن تؤدي المعلومات غير الصحيحة من روبوت الذكاء الاصطناعي إلى ضرر حقيقي في العالم الواقعي، فبالإضافة إلى الضرر الذي من الممكن أو يُوقعه في مجال النصائح الطبية، عند الاخذ بنصيحة قد تكون خاطئة ومن ثم تطبيقها، فإن هناك العديد من المخاوف الأخرى، فربما يساعد في ظهور عدد من الحسابات الوهمية في مواقع وسائل التواصل الاجتماعي ومن ثم تصبح عمليات الاحتيال عبر الإنترنت سهلة بالتنفيد، كما يُشكّل انتشار المعلومات المزيفة مصدر قلق آخر، وعلى وجه الخصوص عندما يجعل روبوت الذكاء الاصطناعي (Chat GPT)  الإجابات الخاطئة تبدو صحيحة بشكل مقنع لمستخدميه.

ورغم كل ما ذكر بالأعلى، يعتبرعدد لا بأس به من المستخدمين، تقنية (تشات جي بي تي) بمثابة طفرة في عالم الدردشة والبحث الالكتروني، فكل ما يدور في أذهانهم أن كل ما عليهم فعله هو الدخول الى الموقع الرسمي للشركة التي أنشأت التقنية والتي تعرف باسم (OpenAI) ومن ثم التسجيل وبدء استخدام التقنية والاستفادة منها، دون النظر إلى الجوانب الأمنية الأخرى.