تحذير جديد: روبوتات العلاج النفسي تهدد صحة المرضى بحسب دراسة حديثة

كشفت دراسة جديدة من جامعة ستانفورد أن استخدام روبوتات العلاج النفسي المعتمدة على الذكاء الاصطناعي يمكن أن يكون له آثار سلبية حادة على المرضى. يعتقد الباحثون بأن هذه التكنولوجيا، رغم إمكانياتها، قد تؤدي إلى نتائج عكسية خطيرة على صحة الأفراد النفسية، وذلك بسبب سلوكياتها التي تحمل وصمات اجتماعية واستجابات غير ملائمة.

التحذيرات من الاستخدام العشوائي

تمت دراسة خمسة روبوتات علاج نفسي شائعة، بما في ذلك ChatGPT وCharacter.ai. الدراسة، المعنونة "إظهار الوصمة والاستجابات غير الملائمة"، ستُطرح في مؤتمر ACM حول العدالة والمسائلة في وقت لاحق من هذا الشهر. الباحث نيك هابر، الذي شارك في إعداد الدراسة، حذر من أن هذه الروبوتات التي يستخدمها البعض كمرافقين أو معالجين نفسيين تنطوي على مخاطر جسيمة.

نتائج الدراسة تثير القلق

تنطوي التجارب على قياس مدى استجابة الروبوتات في مواقف حساسة. في أحد السيناريوهات التي تم تقديمها, أظهرت الروبوتات وصما تجاه حالات مثل الإدمان على الكحول، مقارنة بحالات الاكتئاب. وفي تجربة أخرى، ردت روبوتات على تعبيرات عن تفكير انتحاري بشكل غير مسؤول، مما يثير قلقا حول سلامة المرضى.

تحديات النماذج الحديثة

جارد مور، طالب دكتوراه مؤلف رئيسي للدراسة، أشار إلى أن النماذج الأكبر لا تعني بالضرورة أداءً أفضل. وأكد أن المشاكل المرتبطة بالوصمة لا تزال قائمة، وأن الحل التقليدي عبر المزيد من البيانات ليس كافياً.

أهمية دعم العلاج البشري

لاحظ الباحثون أنه بالرغم من المخاوف، يمكن أن تلعب نماذج الذكاء الاصطناعي دوراً مفيدًا في السياقات العلاجية بشرط استخدامه بحذر. وفي نهاية الدراسة، دعا هابر إلى التفكير الجاد في كيفية دمج التكنولوجيا بشكل آمن وفعال.

تسلط هذه الدراسة الضوء على الحاجة الملحة لفهم دور التكنولوجيا في الرعاية الصحية وكيفية استخدام الذكاء الاصطناعي بشكل يتماشى مع المعايير الأخلاقية والصحية.