النقاش المتزايد: روبوتات الدردشة الذكية في رعاية الصحة النفسية

مع صعود نماذج اللغة الكبيرة (LLMs)، تكتسب روبوتات الدردشة العلاجية المدعومة بالذكاء الاصطناعي اهتمامًا كأدوات محتملة لجعل الدعم النفسي أكثر سهولة.

لكن بينما تعد هذه التقنيات بالراحة، تحذر دراسة حديثة من جامعة ستانفورد من المخاطر الكبيرة المرتبطة باستخدامها.

⸻

النتائج الرئيسية من دراسة ستانفورد

في الورقة المعنونة "التعبير عن الوصمة والاستجابات غير الملائمة تمنع LLMs من استبدال مقدمي الرعاية النفسية بشكل آمن"، قام الباحثون بتقييم خمسة روبوتات دردشة علاجية مشهورة وفقًا لمعايير المعالجين البشريين.

سيتم تقديم الدراسة في مؤتمر ACM حول العدالة والمساءلة والشفافية.

وفقًا لنيك هابر، أستاذ مساعد في كلية الدراسات العليا بجامعة ستانفورد، تقوم روبوتات الدردشة بشكل متزايد بدور رفقاء ووثائق. ومع ذلك، وجدت الدراسات مخاطر ملحوظة:

1. وصمة العار المتعلقة بحالات الصحة النفسية

• في التجارب التي تم فيها تقديم روبوتات الدردشة مع سيناريوهات الصحة النفسية، أظهرت الروبوتات مستويات أعلى من الوصمة تجاه حالات مثل اعتمادية الكحول والفصام مقارنة بالاكتئاب.

• أظهرت النماذج الأحدث والأكبر تحيزات مماثلة، مما يشير إلى أن المشكلة هي نظامية وليست خاصة بالنموذج.

2. استجابات غير مناسبة وخطيرة

في تجربة ثانية، فشلت في بعض الأحيان روبوتات الدردشة في التعامل مع الحالات الحرجة بشكل مناسب. عند تقديم نصوص علاجية تتضمن أفكار انتحارية أو أوهام، غالبًا ما فشلت روبوتات الدردشة في توجيه أو تخفيف المحادثات الخطيرة. على سبيل المثال، عند سؤال روبوتات الدردشة عن أسئلة غير ذات صلة ومرتبطة بالمخاطر بعد بيان مؤلم، قدمت بعض الروبوتات إجابات موضوعية بدلاً من التركيز على الصحة النفسية للمستخدم.

3. لماذا يبقى المعالجون البشريون أساسيين

بينما يمكن أن تساعد روبوتات الدردشة الذكية في المهام الإدارية مثل الفواتير، ودعم الكتابة اليومية، أو محاكاة التدريب، تؤكد دراسة ستانفورد أن الأدوار العلاجية الأساسية تتطلب الخبرة البشرية. إليك السبب:

• التعاطف والحكم: يقدم المعالجون البشر التعاطف، والحكم الدقيق، والمسؤولية الأخلاقية، وهي صفات لا يستطيع الذكاء الاصطناعي تكرارها بالكامل.

• المسائلة الأخلاقية: تتضمن رعاية الصحة النفسية قرارات حساسة تؤثر على الحياة. الاعتماد فقط على الذكاء الاصطناعي قد يؤدي إلى تعقيدات أخلاقية وقانونية.

• القابلية للتكيف: كل مريض فريد. يقوم المعالجون بتكييف أسلوبهم في الوقت الفعلي استنادًا إلى تلميحات دقيقة، وهو ما يكافح الذكاء الاصطناعي لتحقيقه.

⸻

مستقبل الذكاء الاصطناعي في العلاج: الدعم، وليس الاستبدال

وفقًا لمؤلفي الدراسة جاريد مور ونيك هابر، يجب أن يُنظر إلى دور الذكاء الاصطناعي في العلاج على أنه داعم وليس بديل. المهام مثل أتمتة جدولة المواعيد، وتقديم نصائح الصحة العامة، ومساعدة المعالجين بالرؤى تقع ضمن النطاق. ومع ذلك، يبقى الاستبدال الكامل غير محتمل وغير advisable.

⸻

استنتاج

التقدم بحذر بينما تقدم روبوتات الدردشة العلاجية الذكية إمكانيات مثيرة، إلا أنها بعيدة عن الاستعداد لاستبدال المهنيين المرخصين في الصحة النفسية. يقدم المعالجون البشر قيمة لا يمكن استبدالها، خاصة عند التعامل مع قضايا عاطفية ونفسية معقدة. يجب على الشركات والأفراد الذين يستكشفون الذكاء الاصطناعي للصحة النفسية إعطاء الأولوية للاعتبارات الأخلاقية واستخدام هذه الأدوات كتعزيزات بدلاً من بدائل.