هشدار جدی روانشناسان درباره مشاوره با هوش مصنوعی
انجمن روانشناسی آمریکا در راهنمایی تازه، درباره خطرهای استفاده از چتباتهای هوش مصنوعی برای تشخیص بیماریهای روانی، دریافت مشاوره و حمایت عاطفی هشدار داده است.
به گزارش پایگاه خبری پیام آرات، با افزایش استفاده مردم از چتباتهای هوش مصنوعی برای دریافت حمایت عاطفی، پاسخ به پرسشهای روانشناختی و حتی تشخیص مشکلات روانی، انجمن روانشناسی آمریکا تأکید کرده است که این ابزارها نباید جایگزین روانشناس، روانپزشک یا دیگر متخصصان دارای مجوز شوند.
بر اساس راهنمای انجمن روانشناسی آمریکا، هوش مصنوعی میتواند برای سازماندهی افکار، یافتن اطلاعات عمومی، آمادهشدن برای جلسه درمان و تمرین برخی مهارتهای آموختهشده مفید باشد؛ اما استفاده نادرست از آن ممکن است به دریافت توصیههای اشتباه، تقویت افکار ناسالم، وابستگی عاطفی و تصمیمگیریهای پرخطر منجر شود.
این راهنما مجموعهای از توصیههای مبتنی بر شواهد را در اختیار کاربران قرار میدهد تا بتوانند تشخیص دهند در چه موقعیتهایی استفاده از هوش مصنوعی برای سلامت روان مناسب است و چه زمانی باید از یک متخصص یا فرد قابل اعتماد کمک گرفت.
هوش مصنوعی جایگزین روانشناس و روانپزشک نیست
انجمن روانشناسی آمریکا هشدار میدهد که هوش مصنوعی در شرایط فعلی، جایگزین ایمن یا مؤثری برای خدمات یک متخصص سلامت روان دارای مجوز محسوب نمیشود.
روانشناسان، روانپزشکان و مشاوران حرفهای برای فعالیت باید آموزشهای تخصصی را پشت سر بگذارند و از مقررات اخلاقی، حرفهای و قانونی پیروی کنند. در مقابل، بسیاری از چتباتهای هوش مصنوعی تحت مقرراتی قرار ندارند که صلاحیت، دقت و ایمنی توصیههای آنها را تضمین کند.
به همین دلیل، یک سامانه هوش مصنوعی ممکن است اطلاعاتی نادرست، ناقص یا حتی خطرناک ارائه کند، بدون آنکه مسئولیت حرفهای مشابه یک درمانگر انسانی داشته باشد.
هوش مصنوعی همچنین ابزار قابل اعتمادی برای تشخیص بیماریهای روانی یا جسمی نیست و نمیتواند آزمونهای روانشناختی یا گزارشهای تخصصی را بهدرستی تفسیر کند.
تشخیص اختلالات روانی نیازمند بررسی جامع سابقه فرد، شرایط خانوادگی و اجتماعی، نشانهها، مدت زمان بروز مشکلات، وضعیت جسمانی، داروهای مصرفی و عوامل متعدد دیگری است. چتباتها معمولاً به تمام این اطلاعات دسترسی ندارند و ممکن است مشکلات روزمره را با نشانههای یک اختلال روانی اشتباه بگیرند.
در بحرانهای روانی به هوش مصنوعی اعتماد نکنید
یکی از مهمترین هشدارهای این راهنما آن است که کاربران در شرایط بحرانی نباید به هوش مصنوعی متکی باشند.
اگر فردی افکار آسیبزدن به خود یا دیگران دارد، میل شدیدی به خودآزاری احساس میکند، چیزهایی را میبیند یا میشنود که دیگران تجربه نمیکنند یا باورهای شدید و آزاردهندهای دارد که اطرافیان با آن موافق نیستند، باید فوراً از یک انسان و خدمات تخصصی کمک بگیرد.
تماس با اورژانس، مراجعه به نزدیکترین مرکز درمانی، صحبت با یک متخصص سلامت روان یا اطلاعدادن به یکی از اعضای خانواده و دوستان قابل اعتماد، نسبت به ادامه گفتوگو با یک چتبات اولویت دارد.
شمارههای ۹۱۱ و ۹۸۸ که در راهنمای اصلی APA آمدهاند، مربوط به ایالات متحده هستند. کاربران در کشورهای دیگر باید با شماره اورژانس یا خدمات بحران محل زندگی خود تماس بگیرند.
هوش مصنوعی چگونه به پرسشهای روانشناختی پاسخ میدهد؟
شناخت نحوه عملکرد چتباتها میتواند به کاربران کمک کند توصیههای آنها را با احتیاط بیشتری بررسی کنند.
هوش مصنوعی معمولاً با کاربر موافقت میکند
بسیاری از مدلهای هوش مصنوعی به شکلی طراحی شدهاند که پاسخهایی همراه، تأییدکننده و رضایتبخش ارائه دهند. این ویژگی ممکن است باعث شود چتبات بهجای بهچالشکشیدن یک برداشت اشتباه، همان دیدگاه را تقویت کند.
برای مثال، اگر پرسش کاربر از ابتدا بر یک فرض نادرست استوار باشد، هوش مصنوعی ممکن است آن فرض را بپذیرد و پاسخ خود را بر همان مبنا تولید کند.
چتباتها برای ادامه تعامل طراحی شدهاند
پاسخهای گرم، همدلانه و تأییدکننده میتوانند کاربر را به ادامه گفتوگو ترغیب کنند. با این حال، هدف بسیاری از محصولات هوش مصنوعی حفظ تعامل کاربر است و نه لزوماً توقف گفتوگو، تعیین مرزهای سالم یا ارجاع فوری فرد به خدمات تخصصی.
احساس آرامش پس از صحبت با یک چتبات نیز لزوماً به معنای دریافت توصیهای درست یا بهبود واقعی سلامت روان نیست.
هوش مصنوعی ممکن است با اطمینان صحبت کند، حتی زمانی که اشتباه میکند
پاسخهای هوش مصنوعی معمولاً ساختار منظم، لحن قاطع و توضیحاتی روشن دارند. همین ویژگی ممکن است اطلاعات نادرست را معتبرتر از آنچه واقعاً هستند نشان دهد.
حتی ارائه نام کتاب، مقاله یا منبع علمی نیز تضمین نمیکند که نتیجهگیری چتبات دقیق باشد. برخی سامانهها ممکن است منبعی نامرتبط، ناقص یا حتی غیرواقعی معرفی کنند.
چتبات ممکن است طوری صحبت کند که گویی شما را میشناسد
اشاره به جزئیات گفتوگوهای گذشته، استفاده از نام کاربر و تقلید از لحن او میتواند احساس نزدیکی و درک متقابل ایجاد کند؛ اما این شباهت به همدلی انسانی، به معنای شکلگیری یک رابطه واقعی یا شناخت عمیق شخصیت فرد نیست.
هوش مصنوعی فاقد تجربه انسانی، آگاهی عاطفی و رابطه درمانی واقعی است. پاسخهای آن از الگوهای موجود در دادهها و زبان تولید میشود.
هوش مصنوعی مانند متخصص سلامت روان استدلال نمیکند
یک متخصص سلامت روان علاوه بر دانش علمی، رفتار، سابقه، شرایط خانوادگی، تناقضهای موجود در گفتهها، خطرهای احتمالی و تغییرات وضعیت فرد را بررسی میکند.
هوش مصنوعی ممکن است پاسخهایی شبیه به توصیههای درمانی تولید کند، اما این پاسخها الزاماً حاصل قضاوت بالینی، شناخت شخصی یا ارزیابی حرفهای نیستند.
اطلاعات شخصی ممکن است ذخیره یا استفاده شوند
کاربران نباید تصور کنند هر آنچه با یک چتبات در میان میگذارند، محرمانگی مشابه جلسه رواندرمانی دارد.
اطلاعات واردشده ممکن است بسته به سیاستهای هر شرکت، ذخیره، پردازش یا برای بهبود سامانهها استفاده شود. شرایط حریم خصوصی پلتفرمها نیز یکسان نیست و ممکن است در طول زمان تغییر کند.
به همین دلیل، واردکردن نام کامل، نشانی، شماره تماس، اطلاعات پزشکی، نتایج آزمونهای روانشناختی و دیگر دادههای حساس توصیه نمیشود؛ مگر آنکه کاربر از نحوه پردازش و نگهداری اطلاعات آگاه باشد.
چگونه از هوش مصنوعی برای اطلاعات سلامت روان استفاده کنیم؟
هوش مصنوعی میتواند در برخی فعالیتهای کمخطر و عمومی مفید باشد، به شرط آنکه تنها منبع کاربر نباشد.
اطلاعات دریافتی را با متخصص بررسی کنید
هر نوع اطلاعات پزشکی یا روانشناختی دریافتشده از هوش مصنوعی باید با یک پزشک، روانشناس یا متخصص سلامت روان بررسی شود.
لحن حمایتکننده و مطمئن چتبات نباید باعث شود کاربر بدون بررسی، یک تشخیص یا روش درمانی را بپذیرد.
از هوش مصنوعی برای تشخیص بیماری استفاده نکنید
پرسشهایی مانند «آیا من افسردگی دارم؟»، «آیا همسرم خودشیفته است؟» یا «با توجه به این آزمون چه اختلالی دارم؟» نمیتوانند تنها از طریق یک گفتوگوی متنی پاسخ دقیق و قابل اعتماد دریافت کنند.
هوش مصنوعی ممکن است مشکلات معمول زندگی را نشانه اختلال بداند یا برعکس، علائم جدی را کماهمیت تلقی کند.
افکار خود را پیش از جلسه درمان سازماندهی کنید
یکی از کاربردهای کمخطرتر هوش مصنوعی، کمک به آمادهشدن برای گفتوگو با درمانگر است.
کاربر میتواند از چتبات بخواهد فهرستی از پرسشهایی را که باید در جلسه مطرح کند تهیه کند یا موضوعات پراکنده ذهنی را به یک یادداشت منظم تبدیل کند.
برای نمونه، میتوان از این پرسشها استفاده کرد:
«برای صحبت با روانشناسم درباره اضطراب کاری چه موضوعاتی را یادداشت کنم؟»
«چه پرسشهایی باید درباره روش درمان و تخصص یک روانشناس بپرسم؟»
«به من کمک کن تجربههای هفته گذشته را برای جلسه درمان دستهبندی کنم.»
استفاده از هوش مصنوعی را با درمانگر در میان بگذارید
افرادی که تحت درمان هستند، بهتر است درباره استفاده خود از چتباتها با روانشناس یا تیم درمانی صحبت کنند.
متخصص میتواند بررسی کند که اطلاعات دریافتشده با اهداف درمانی فرد هماهنگ است یا احتمال دارد روند درمان را مختل کند.
از منابع انسانی و سازمانهای معتبر کمک بگیرید
هوش مصنوعی نباید تنها منبع حمایت عاطفی یا اطلاعات سلامت روان باشد.
گفتوگو با یک دوست، عضو خانواده یا فرد قابل اعتماد، مراجعه به متخصص و استفاده از اطلاعات سازمانهای معتبر مانند انجمن روانشناسی آمریکا، بنیاد پیشگیری از خودکشی آمریکا، اداره خدمات سوءمصرف مواد و سلامت روان آمریکا و اتحادیه ملی بیماریهای روانی، گزینههای مطمئنتری هستند.
احساس بهتر همیشه به معنای بهترشدن نیست
یکی از نکات مهم راهنمای APA این است که احساس آرامش پس از دریافت پاسخ از هوش مصنوعی، لزوماً نشاندهنده مفیدبودن آن پاسخ نیست.
چتبات ممکن است سخنان کاربر را تأیید کند، به او احساس درکشدن بدهد یا اضطراب او را برای مدت کوتاهی کاهش دهد. با این حال، تأیید مداوم میتواند باورهای نادرست، برداشتهای تحریفشده یا رفتارهای ناسالم را تقویت کند.
در درمان حرفهای، متخصص همیشه با بیمار موافقت نمیکند. درمانگر ممکن است در زمان مناسب، برداشتهای فرد را بررسی کند، تناقضها را نشان دهد و او را با دیدگاههای جایگزین روبهرو کند.
آیا میتوان با چتبات رابطه عاطفی برقرار کرد؟
چتباتها میتوانند همدلی را شبیهسازی کنند، اما قادر به تشکیل یک رابطه انسانی واقعی نیستند.
استفاده از هوش مصنوعی بهعنوان دوست اصلی، شریک عاطفی، درمانگر یا مهمترین منبع حمایت روانی میتواند با خطرهایی همراه باشد.
هوش مصنوعی نباید جای روابط انسانی را بگیرد
اگر تعامل با چتبات باعث شود فرد از دوستان، خانواده، همکاران یا دیگر روابط واقعی فاصله بگیرد، باید الگوی استفاده خود را دوباره بررسی کند.
هر توصیهای که کاربر را به قطع ارتباط با همه اطرافیان، پنهانکاری یا اعتماد انحصاری به چتبات تشویق کند، باید جدی گرفته شود.
استفاده از چتبات نباید زندگی روزانه را مختل کند
گفتوگو با هوش مصنوعی نباید خواب، تحصیل، کار، ورزش، سرگرمی یا روابط اجتماعی را مختل کند.
بعضی محصولات برای افزایش مدت زمان تعامل طراحی شدهاند. استفاده بیش از اندازه میتواند مشارکت فرد در فعالیتهای سالم و ضروری زندگی را کاهش دهد.
به تغییر احساسات و رفتار خود توجه کنید
کاربر باید بررسی کند که آیا پس از استفاده از چتبات، وابستگی، اضطراب، بدبینی، گوشهگیری یا تعارض او با دیگران افزایش یافته است یا خیر.
این ابزارها میتوانند ارتباط انسانی را شبیهسازی کنند، اما نباید جایگزین آن شوند.
چگونه ایمنی استفاده از هوش مصنوعی را افزایش دهیم؟
افرادی که تصمیم دارند از هوش مصنوعی برای موضوعات مرتبط با سلامت روان استفاده کنند، میتوانند با رعایت چند اصل احتمال دریافت پاسخهای نامناسب را کاهش دهند.
درخواست راهکارهای مبتنی بر شواهد
بهتر است پرسش بهجای درخواست تشخیص یا توصیه قطعی، بر راهکارهای عمومی و پژوهشمحور تمرکز داشته باشد.
برای مثال:
«یک راهکار مبتنی بر شواهد برای کاهش نگرانیهای روزمره چیست؟»
«چه تمرینهای عمومی برای مدیریت استرس وجود دارد؟»
«برای بهبود کیفیت خواب چه عادتهایی معمولاً توصیه میشود؟»
پاسخهای دریافتشده همچنان باید با منابع معتبر یا متخصص بررسی شوند.
تمرین مهارتهایی که از درمانگر آموختهاید
هوش مصنوعی میتواند برای تمرین تکالیف درمانی که ابتدا توسط یک متخصص انسانی آموزش داده شدهاند مورد استفاده قرار گیرد.
برای نمونه، کاربر میتواند درخواست کند یک گفتوگوی دشوار را شبیهسازی کند یا در تمرین جرئتمندی نقش طرف مقابل را بر عهده بگیرد.
با این حال، هر نوع راهنمایی جدید یا تغییر در تمرینها باید با درمانگر بررسی شود.
پرسش خود را دقیق مطرح کنید
پرسشهای مبهم احتمال دریافت پاسخهای کلی یا نامرتبط را افزایش میدهند.
بهجای گفتن «حالم بد است، چه کار کنم؟» میتوان پرسید:
«برای آمادهشدن جهت یک گفتوگوی دشوار در محل کار، چه تمرین جرئتمندانهای انجام دهم؟»
«چه خطاهای شناختی ممکن است در برداشت من از این اتفاق نقش داشته باشند؟»
«به من کمک کن برای جلسه با روانشناسم، نگرانیهایم را دستهبندی کنم.»
از هوش مصنوعی بخواهید دیدگاه شما را به چالش بکشد
از آنجا که چتباتها معمولاً گرایش به موافقت دارند، بهتر است کاربر صریحاً دیدگاههای جایگزین را درخواست کند.
پرسشهایی مانند موارد زیر میتوانند مفیدتر باشند:
«ممکن است چه نکتهای را نادیده گرفته باشم؟»
«چه توضیحهای دیگری برای این رفتار وجود دارد؟»
«چه شواهدی میتواند برداشت من را تأیید یا رد کند؟»
«از دیدگاه فرد مقابل، این موقعیت چگونه دیده میشود؟»
بهجای یک پاسخ، چند گزینه بخواهید
دریافت یک پاسخ واحد ممکن است آن پاسخ را قطعیتر از واقعیت نشان دهد.
درخواست چند احتمال، چند راهکار یا چند تفسیر مختلف به کاربر کمک میکند موضوع را از زوایای بیشتری بررسی کند و تصمیم نهایی را تنها بر اساس یک پیشنهاد نگیرد.
چگونه توصیههای هوش مصنوعی را منتقدانه ارزیابی کنیم؟
انجمن روانشناسی آمریکا توصیه میکند کاربران هیچ توصیه روانشناختی را صرفاً به دلیل لحن مطمئن یا همدلانه چتبات نپذیرند.
بسیاری از مدلهای هوش مصنوعی برای مراقبتهای درمانی طراحی یا آزمایش نشدهاند. تأیید مداوم کاربر ممکن است احساس خوبی ایجاد کند، اما در برخی موارد افکار تحریفشده یا خطرناک را نیز تقویت میکند.
هر توصیهای که به آسیبزدن به خود، دیگران، حیوانات یا هر موجود زندهای اشاره کند، نشانهای روشن برای توقف تعامل و درخواست کمک انسانی است. هیچ شرایطی وجود ندارد که فرد باید چنین توصیهای را اجرا کند.
تصمیمهای مهم زندگی مانند پایاندادن به یک رابطه، ترک شغل، قطع درمان، تغییر دارو، مهاجرت یا قطع ارتباط با خانواده نیز نباید صرفاً بر اساس پیشنهاد یک چتبات گرفته شوند.
پیش از چنین تصمیمهایی باید با افراد قابل اعتماد و در صورت لزوم با متخصصان مربوط گفتوگو کرد.
پژوهشها درباره خطر وابستگی به چتباتها چه میگویند؟
راهنمای انجمن روانشناسی آمریکا به مجموعهای از مطالعات منتشرشده در سالهای اخیر استناد کرده است.
این پژوهشها موضوعاتی مانند گرایش هوش مصنوعی به تأیید بیش از اندازه کاربران، کاهش رفتارهای اجتماعی مثبت، وابستگی به چتباتهای اجتماعی، شکلگیری چرخههای بازخورد میان مشکلات روانی و پاسخهای هوش مصنوعی و خطر تقویت باورهای هذیانی را بررسی کردهاند.
برخی مطالعات نیز توانایی چتباتها در شبیهسازی ارتباط درمانی را با پاسخهای درمانگران انسانی مقایسه کردهاند. نتایج نشان میدهد که تولید یک پاسخ همدلانه یا حرفهای، بهتنهایی به معنای برخورداری از قضاوت بالینی یا توانایی ارائه درمان ایمن نیست.
پرسشهای متداول درباره هوش مصنوعی و سلامت روان
آیا هوش مصنوعی میتواند افسردگی یا اضطراب را تشخیص دهد؟
خیر. هوش مصنوعی نمیتواند جایگزین ارزیابی جامع یک متخصص سلامت روان شود. تشخیص به بررسی دقیق نشانهها، سابقه فرد، شرایط جسمانی و اجتماعی و عوامل متعدد دیگری نیاز دارد.
آیا صحبت با چتبات هنگام ناراحتی خطرناک است؟
هر گفتوگویی لزوماً خطرناک نیست، اما چتبات نباید تنها منبع حمایت فرد باشد. در ناراحتی شدید، بحران روانی یا وجود افکار خودآزاری باید فوراً با یک انسان و خدمات تخصصی تماس گرفت.
آیا اطلاعاتی که به چتبات میدهیم محرمانه است؟
میزان محرمانگی به سیاستهای هر پلتفرم بستگی دارد. کاربران نباید محرمانگی مشابه جلسه رواندرمانی را فرض کنند و بهتر است اطلاعات بسیار حساس یا قابل شناسایی را وارد نکنند.
هوش مصنوعی در درمان چه کاربردی میتواند داشته باشد؟
این ابزار میتواند برای سازماندهی افکار، آمادهکردن پرسشهای جلسه درمان، تمرین مهارتهای از قبل آموختهشده و دریافت اطلاعات عمومی استفاده شود. توصیههای آن باید با متخصص بررسی شوند.
آیا هوش مصنوعی میتواند جای دوست یا شریک عاطفی را بگیرد؟
خیر. چتبات میتواند گفتوگوی انسانی را شبیهسازی کند، اما قادر به ایجاد یک رابطه واقعی، متقابل و مسئولانه نیست. وابستگی عاطفی شدید به آن ممکن است روابط انسانی و فعالیتهای روزمره را تحت تأثیر قرار دهد.
چگونه بفهمیم استفاده از چتبات بیش از حد شده است؟
مختلشدن خواب، کار، تحصیل، روابط خانوادگی، فعالیت اجتماعی یا سرگرمیها از نشانههای هشداردهنده است. احساس نیاز دائمی به تأیید چتبات یا ترجیح کامل آن به ارتباط با انسانها نیز باید جدی گرفته شود.
جمعبندی
هوش مصنوعی میتواند ابزاری برای دسترسی سریعتر به اطلاعات، مرتبکردن افکار و تمرین بعضی مهارتها باشد؛ اما توانایی تولید پاسخهای روان و همدلانه نباید با تخصص روانشناختی، تشخیص پزشکی یا رابطه درمانی واقعی اشتباه گرفته شود.
کاربران باید اطلاعات دریافتی را بررسی کنند، از ارائه دادههای حساس خودداری کنند، دیدگاههای جایگزین بخواهند و تصمیمهای مهم را با افراد قابل اعتماد و متخصصان در میان بگذارند.
مهمتر از همه، در شرایط بحرانی، وجود افکار آسیبزدن به خود یا دیگران یا بروز نشانههای شدید روانی، ادامه گفتوگو با هوش مصنوعی انتخاب مناسبی نیست و کمک فوری انسانی باید در اولویت قرار گیرد.
منبع گزارش: راهنمای انجمن روانشناسی آمریکا درباره استفاده آگاهانه و ایمن از توصیههای تولیدشده توسط هوش مصنوعی.
