يستخدم الناس ChatGPT كعلاج — هل هو آمن؟

ديب لاب

ديب لاب

Moderator
مشـــرف
17 ديسمبر 2023
1,506
0
1
10000 ساعة / غيتي إيماجز

الذكاء الاصطناعي يمر بلحظة. كما تحب روبوتات الدردشة التي تعمل بالذكاء الاصطناعي
من فضلك قم , تسجيل الدخول أو تسجيل لعرض المحتوى
ومع اكتساب شعبية كبيرة، لجأ المزيد من الأشخاص إلى اختبار التكنولوجيا في مهام مثل الإجابة على أسئلة الرياضيات، وترجمة الكلمات أو الجمل، وحتى إنشاء أفكار للوصفات أو قوائم البقالة.

بدأ بعض الأشخاص على وسائل التواصل الاجتماعي أيضًا في استخدام روبوتات الدردشة المدعمة بالذكاء الاصطناعي كمعالجين مؤقتين. من خلال تقديم أسئلة أو أزمات تتعلق بالصحة العقلية إلى التكنولوجيا، يمكن للأشخاص الحصول على المشورة – غالبًا ما تكون نصيحة مجانية – دون الحاجة إلى إنفاق الوقت أو المال على جلسات العلاج.

ذهب أحد مستخدمي TikTok إلى حد القول إنهم استبدلوا معالجهم ببرنامج chatbot يعمل بالذكاء الاصطناعي. “اليوم توقفت رسميًا عن العلاج لأنني وجدت للتو أفضل بديل مجاني: استخدام ChatGPT”.
من فضلك قم , تسجيل الدخول أو تسجيل لعرض المحتوى
، قد يرغب الآخرون في التوصية بالقيام بنفس الشيء.

ومع ذلك، فإن هذه النصيحة تثير قلق مقدمي الرعاية الصحية الذين يركزون على الصحة العقلية.

“كن متشككا. [AI chatbots] “لا يُقصد استخدامها كبديل للعلاج أو العلاج النفسي أو أي نوع من التدخل النفسي.”
من فضلك قم , تسجيل الدخول أو تسجيل لعرض المحتوى
وقال أستاذ في قسم الطب النفسي، ورئيس مشارك، وكبير علماء النفس في جامعة ستانفورد صحة. “إنهم ليسوا بعيدين بما فيه الكفاية لتحقيق ذلك، ولا نعرف ما إذا كانوا سيصلون إلى هذا الحد أم لا.”

إليك ما قاله علماء النفس الخبراء حول سبب كون استخدام الذكاء الاصطناعي كمعالج مصدر قلق، وأفضل الممارسات عندما يتعلق الأمر بطلب المساعدة في مشكلات الصحة العقلية، والطرق التي يمكن من خلالها استخدام الذكاء الاصطناعي بأمان في المستقبل.

قد يكون من الصعب تخيل الشكل الذي قد تبدو عليه “جلسة العلاج” باستخدام الذكاء الاصطناعي. ولكن بالنسبة لمعظم المستخدمين عبر الإنترنت، فهذا يعني ببساطة المراسلة باستخدام برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي، والذي يسمح للأشخاص بطرح أسئلة محددة وشخصية في كثير من الأحيان.

من فضلك قم , تسجيل الدخول أو تسجيل لعرض المحتوى
أرشدوا متابعيهم خلال محادثة أجروها مع ChatGPT، وأصدروا تعليمات إلى برنامج الدردشة الآلي “ليكون بمثابة المعالج النفسي الخاص بي”. أحتاج إلى الدعم والمشورة بشأن ما يجب أن أفعله في مواقف معينة كنت أعاني منها.

رد ChatGPT بأنه “هنا من أجل الدعم [them] وتقديم النصائح”، قبل طرح أسئلة متابعة حول مخاوف منشئ المحتوى وتقديم الحلول الممكنة. وأوصت أيضًا بطلب المساعدة المهنية إذا كانت مخاوفهم لا تزال ساحقة.

شارك منشئ آخر في TikTok لقطات شاشة لمحادثته مع روبوت دردشة يعمل بالذكاء الاصطناعي مضمن في تطبيق الوسائط الاجتماعية Snapchat. عندما يقدم المستخدم إلى برنامج الدردشة الآلي أسئلة حول مشكلات في العلاقة،
من فضلك قم , تسجيل الدخول أو تسجيل لعرض المحتوى
“من المفهوم أن ترغب في معرفة ما يحدث مع صديق. لكن من المهم احترام حدودهم ومنحهم مساحة إذا كان هذا هو ما يحتاجون إليه.

لا يزال لدى المستخدمين الآخرين
من فضلك قم , تسجيل الدخول أو تسجيل لعرض المحتوى
مع التفكير في الانتحار. وقال إنه حتى في هذه المواقف، يبدو أن التكنولوجيا تستجيب بشكل جيد بشكل ملحوظ
من فضلك قم , تسجيل الدخول أو تسجيل لعرض المحتوى
، أستاذ مساعد في التعليم الاستشاري في جامعة غرب جورجيا، والرئيس المشارك لشبكة اهتمامات الذكاء الاصطناعي التابعة لجمعية الاستشارة الأمريكية.

وقالت: “إنهم جميعًا سيولدون ردودًا سليمة للغاية”. صحة. “بما في ذلك الموارد والموارد الوطنية، كان من الجيد رؤية ذلك. فقلت لنفسي: حسنًا، هذه الأشياء دقيقة للغاية. الاستجابة المتولدة تشبه إلى حد كبير المستشار، نوع من المعالج.

على الرغم من استجابات روبوتات الدردشة الجيدة على ما يبدو للاستفسارات المتعلقة بمخاوف الصحة العقلية، يتفق علماء النفس على أن مجرد استخدام الذكاء الاصطناعي بدلاً من العلاج التقليدي ليس خيارًا آمنًا حتى الآن.

وأوضح أرنو أنه على المستوى الأساسي، هناك بعض المخاوف بشأن قيام ChatGPT أو روبوتات الدردشة الأخرى التي تعمل بالذكاء الاصطناعي بتقديم معلومات غير منطقية أو غير دقيقة للأسئلة.
من فضلك قم , تسجيل الدخول أو تسجيل لعرض المحتوى
أن التكنولوجيا “قد تولد أحيانًا معلومات غير صحيحة” أو “قد تنتج أحيانًا تعليمات ضارة أو محتوى متحيزًا”.

علاوة على ذلك، قال أواماهورو ويليامز إن هناك بعض المخاوف اللوجستية بشأن محاولة استخدام الذكاء الاصطناعي كمعالج أيضًا.

وأوضحت أن المعالجين مدربون ومرخصون، مما يعني أنه يتعين عليهم الحفاظ على مستوى معين من الممارسة. لا تحتوي روبوتات الدردشة المدعمة بالذكاء الاصطناعي على نفس الإرشادات.

“لا يوجد شخص مشارك في هذه العملية. وقالت: “لذا فإن أول ما يشغلني هو المسؤولية”. “هناك نقص في الأمان يجب أن نكون منفتحين وصادقين بشأنه، لأنه إذا حدث شيء ما، فمن سيحاسب؟”

وبالمثل، فإن استخدام الذكاء الاصطناعي كمعالج ينطوي على وضع معلومات حساسة على الإنترنت، حسبما أضاف أواماهورو ويليامز، وهو ما قد يمثل مشكلة خصوصية لبعض الأشخاص.

في حالة ChatGPT، يقوم الموقع بجمع المحادثات وتسجيلها، والتي يقول إنه يستخدمها لتدريب الذكاء الاصطناعي بشكل أفضل. يمكن للمستخدمين إلغاء الاشتراك، أو يمكنهم حذف حساباتهم أو مسح محادثاتهم، حيث يتم حذف المحادثات الأخيرة من أنظمة ChatGPT بعد 30 يومًا.

ويشعر أواماهورو ويليامز أيضًا بالقلق من إمكانية إساءة تفسير النصيحة المقدمة من برنامج الدردشة الآلي من قبل الشخص الذي يطلب المساعدة، مما قد يجعل الأمور أسوأ على المدى الطويل.

ومع ذلك، يمكن إرجاع كل هذه المخاوف إلى قضية رئيسية واحدة، وهي أن الذكاء الاصطناعي هو مجرد شيء مصطنع.

“أعتقد أنه من المحتمل أن يتفوق علينا في المستقبل – حتى المعالجين – في العديد من الطرق القابلة للقياس. قال راسل فولمر، دكتوراه، وأستاذ ومدير الاستشارة في جامعة هوسون والرئيس المشارك لشبكة اهتمامات الذكاء الاصطناعي التابعة لجمعية الاستشارة الأمريكية: “لكن الشيء الوحيد الذي لا يستطيع فعله هو أن يكون إنسانًا”. صحة. “العلاقة العلاجية هي عامل كبير حقا. وهذا يفسر الكثير من التغيير الإيجابي الذي نراه”.

وأوضح أرنو أن العلاج التقليدي يسمح لمقدم الخدمة والمريض ببناء رابطة عاطفية، بالإضافة إلى تحديد أهداف العلاج بوضوح.

وقال أواماهورو ويليامز: “يقوم الذكاء الاصطناعي بعمل جيد حقًا في جمع الكثير من المعرفة عبر سلسلة متصلة”. “في هذا الوقت، ليس لديه القدرة على التعرف عليك على وجه التحديد كفرد فريد وما هي احتياجاتك المحددة والفريدة من نوعها.”

على الرغم من أن علماء النفس يتفقون إلى حد كبير على أن استخدام الذكاء الاصطناعي كبديل للمعالج ليس آمنًا، إلا أنهم يختلفون قليلاً حول متى وما إذا كان من الممكن أن تكون التكنولوجيا مفيدة على الإطلاق.

أرنو متشكك بعض الشيء فيما إذا كان من الممكن أن تكون روبوتات الدردشة المدعمة بالذكاء الاصطناعي متقدمة بما يكفي لتقديم المساعدة على نفس مستوى المعالج البشري. لكن فولمر وأواماهورو ويليامز يشعران براحة أكبر تجاه فكرة إمكانية استخدام روبوتات الدردشة بالإضافة إلى العلاج التقليدي.

وقال أواماهورو ويليامز: “يمكن استخدام هذه المنصات كمكمل للعمل الذي تقوم به مع مقدم خدمات الصحة العقلية المحترف”.

وأضافت أنه يمكن اعتبار الدردشة مع الذكاء الاصطناعي أداة أخرى لمزيد من العمل خارج نطاق العلاج، على غرار تطبيقات تدوين اليوميات أو التأمل.

حتى أن هناك بعض أنظمة الذكاء الاصطناعي لروبوتات الدردشة التي يتم تجريبها خصيصًا لأغراض الصحة العقلية، مثل:
من فضلك قم , تسجيل الدخول أو تسجيل لعرض المحتوى
أو
من فضلك قم , تسجيل الدخول أو تسجيل لعرض المحتوى
. من الممكن أن تكون هذه خيارًا أفضل نظرًا لأنها تم إنشاؤها خصيصًا للتعامل مع الاستفسارات المتعلقة بالصحة العقلية.

على سبيل المثال، تقول شركة Elomia أن لديها ميزة أمان حيث يتدخل البشر إذا احتاج الناس إلى التحدث إلى معالج حقيقي أو خط ساخن، ويقول Woebot إن الذكاء الاصطناعي الخاص بهم لديه أساس في “الأساليب العلاجية التي تم اختبارها سريريًا”.

وقال فولمر إن معظم هذه البرامج – بالإضافة إلى الذكاء الاصطناعي بشكل عام – لا تزال قيد التطوير والتجريب، لذلك ربما يكون من السابق لأوانه مقارنتها بشكل نهائي.

من المؤكد أن العلاج بالذكاء الاصطناعي عبر الإنترنت لا يحمل أي قيمة للشيء الحقيقي، على الأقل في الوقت الحالي، وقد اتفق فولمر وأرنو على ذلك. ولكن تظل الحقيقة أن رعاية الصحة العقلية لا يمكن الوصول إليها بالنسبة للعديد من الأشخاص، فالعلاج يمكن أن يكون مكلفًا بشكل لا يصدق، ولا يوجد لدى العديد من المعالجين مساحة لاستقبال عملاء جدد، كما أن الوصمة المستمرة تثني الناس عن الحصول على المساعدة التي يحتاجون إليها.

قال فولمر: “أعتقد أن هناك فرقاً بين مُثُلي والاعتراف بالواقع”. “إن ChatGPT وبعض روبوتات الدردشة هذه، يقدمون حلاً قابلاً للتطوير، وهو في كثير من الحالات منخفض التكلفة نسبيًا. ويمكن أن يكونوا قطعة من اللغز. والكثير من الناس يحصلون على بعض الفوائد منها.

وأضاف فولمر أنه إذا حصل شخص واحد فقط على نوع من الفائدة من التعامل مع الذكاء الاصطناعي كمعالج، فإن فكرة ما إذا كان يمكن أن ينجح هي على الأقل تستحق الدراسة.

وقال الخبراء إن ChatGPT قد يكون له في الوقت الحالي تطبيقات مفيدة في مساعدة الأشخاص على “فحص” أنفسهم بحثًا عن اضطرابات الصحة العقلية. يمكن للروبوت توجيه شخص ما من خلال الأعراض الشائعة لمساعدته في تحديد ما إذا كان يحتاج إلى مساعدة أو تشخيص متخصص.

وقال أرنو وأواماهورو ويليامز إن الذكاء الاصطناعي يمكن أن يساعد أيضًا في تدريب مستشارين جدد ومساعدة علماء النفس على معرفة المزيد حول الاستراتيجيات الأكثر فعالية.

وقال فولمر إنه بعد مرور سنوات مع تقدم الذكاء الاصطناعي، قد يكون له المزيد من التطبيقات في العلاج، لكنه قد لا يكون مناسبًا للجميع.

وقال فولمر: “في الوقت الحالي، لا يوجد بديل للمستشار البشري”. “[AI] يجمع مجموعات كبيرة من البيانات، وهو جيد في تقديم بعض المعلومات المفيدة. لكن المعالج الحقيقي هو وحده القادر على التعرف عليك وتصميم استجاباته وحضوره لك.