هلوسة الذكاء الاصطناعي خطر يهدد المستخدمين

يشكل الذكاء الاصطناعي سلاحًا ذا حدين، فهو قادر على إنتاج محتوى يبدو حقيقيًا بنسبة 100%، لكنه في الواقع زائف تمامًا، ما يطلق عليه “هلوسة الذكاء الاصطناعي”، حيث يختلق إحصاءات، ويزيف معلومات، ويخترع شخصيات، الأمر الذي يهدد المستخدمين الذين يعتمدون عليه دون وعي.

وتحدث هذه الهلوسة نتيجة تدريب النماذج على بيانات ناقصة أو منحازة، وهيكلة ضعيفة تجعل النموذج يتنبأ بالكلمة التالية دون فهم المعنى، بالإضافة إلى الأسئلة المشوشة التي قد ينتج عنها سيناريوهات وهمية، وفرط التدريب على عينة معينة.

وتتنوع أشكال الهلوسة بين الأخطاء الواقعية، مثل التاريخ الخاطئ أو البلد غير الموجود، والمعلومات المختلقة، مثل المصادر الوهمية أو الشخصيات غير الحقيقية، وحتى التوصيات الساخرة التي تتحول إلى حقائق، وقد تسببت هذه الهلوسة في خسائر فادحة للشركات، حيث خسرت جوجل 100 مليار دولار بسبب إجابة وهمية، وألغى آلاف المستخدمين اشتراكاتهم، واستخدم قراصنة مكتبات برمجية وهمية اختلقها الذكاء الاصطناعي.

ولمواجهة هذه المشكلة، يجب الاستعانة بمصادر خارجية موثوقة، وطرح أسئلة واضحة للحصول على إجابات دقيقة، والإشراف البشري وتنظيف البيانات، ومنح النموذج حق قول “لا أعلم” بدلًا من تأليف معلومات خاطئة، ويمكن تدريب النموذج على تقارير رسمية بدلًا من التغريدات، وتخصيصه لمجال معين، واختباره في سيناريوهات حساسة قبل إطلاقه.

ويجب التعامل مع الذكاء الاصطناعي بحذر وذكاء وصرامة، فهو ليس ذكيًا بالمعنى الحقيقي، بل هو مقلد محترف، وفي بعض الأحيان كاذب خطير، وإذا لم يتم التعامل معه بوعي، فقد يصبح المستخدم ضحية له.

المصدر: https://www.okaz.com.sa/variety/na/2217232?ref=rss&format=simple&link=link