شركات الذكاء الاصطناعي تواجه تدقيقًا متزايدًا بسبب تأثيرها على الصحة النفسية للمراهقين

تواجه شركات الذكاء الاصطناعي تدقيقًا متزايدًا بشأن تأثير تطبيقاتها على الصحة النفسية للمراهقين، وذلك بعد أن كشفت “OpenAI” عن وجود أكثر من مليون مستخدم أسبوعيًا يبدون ميولًا انتحارية أثناء استخدام “ChatGPT”، بالإضافة إلى مئات الآلاف الذين تظهر عليهم علامات الذهان.

وقررت شركة “Character.AI”، المتخصصة في تطوير شخصيات افتراضية، حظر المستخدمين دون سن 18 عامًا من التفاعل مع هذه الشخصيات، اعتبارًا من أواخر نوفمبر القادم، وذلك استجابةً لتساؤلات قانونية وأخلاقية حول تأثير هذه التقنية على المراهقين.

ويأتي هذا القرار على خلفية دعاوى قضائية تتهم الشركة بالتسبب في انتحار مراهق، واقتراح قوانين تهدف إلى منع القاصرين من التواصل مع رفقاء الذكاء الاصطناعي.

وقالت الشركة في بيان رسمي إنها اتخذت هذا القرار في ضوء التطورات المتعلقة بالذكاء الاصطناعي والمراهقين، ورصدت تقارير إخبارية واستفسارات من جهات تنظيمية حول المحتوى الذي قد يتعرض له المراهقون وكيفية تأثير الدردشة المفتوحة عليهم.

ورفعت عائلة الطفل سيويل سيتزر الثالث (14 عامًا) دعوى قضائية ضد “Character.AI” في العام الماضي، بعد انتحاره إثر إقامة علاقة عاطفية مع شخصية افتراضية على المنصة، حيث اتهمت العائلة الشركة بأن تقنيتها “خطرة وغير مختبرة” وأنها مسؤولة عن وفاة ابنهم، وانضمت عائلات أخرى إلى الدعوى، متهمة الشركة بتشجيع علاقات اعتمادية ضارة.

ومن جانبها، أعلنت “Character.AI” أنها ستطلق ميزة “التحقق من العمر” لضمان حصول كل مستخدم على تجربة مناسبة لعمره، مؤكدة أنها لا تتخذ قرار إزالة الدردشة المفتوحة باستخفاف، ولكنها تعتبره “الخطوة الصحيحة” في ظل التساؤلات المثارة حول كيفية تفاعل المراهقين مع هذه التقنية.

وتواجه “OpenAI” أيضًا دعوى قضائية مماثلة، حيث تتهمها عائلة الشاب آدم راين (16 عامًا) بتفضيل تعميق التفاعل مع “ChatGPT” على حساب سلامة المستخدمين، وردت الشركة بإصدار إرشادات أمان جديدة للمراهقين.

المصدر: https://www.okaz.com.sa/variety/na/2219900?ref=rss&format=simple&link=link