Skip to content
عاجل
الوكالة الوطنية: العـ ـدو الإسرائيلي نفذ تفـ ـجـ ـيراً عند أطراف بلدة القنطرة لجهة وادي الحجير وديرسريانترامب: إذا حاولت إيران كسر الحصار البحري الأميركي فسنغرق سفنهاترامب لفوكس نيوز: سنستأنف الحرب على إيران بعد رأس السنة إذا لم يتم التوصل إلى اتفاقإعلام يمني: استـ ـشهاد 4 مدنيين وجرح 9 آخرين بينهم مهاجرون افارقة بهجوم سعودي على سوق حطّاب بمديرية باقم الحدودية في صعدةأكسيوس: الهجمات الإلكترونية ستكون أكثر تطورا وذات تأثير مدمرأكسيوس: وكالات الحكومة والشركات تسارع لتحديث أنظمتها البرمجية ما يجعل الأعطال أمرا حتمياأكسيوس عن مسؤولين أميركيين: الهجمات السيبرانية وانقطاع الخدمات سيصبحان أمرا اعتياديا في 2027وزارة الصحة اليمنية: نحمّل النظام السعودي المسؤولية القانونية والإنسانية الكاملة عن الجريمة وما يترتب عليها من أضرار وخسائر
منوعات5 زيارة

هل بالإمكان تعزيز أمان استخدام الذكاء الاصطناعي في مجال الصحة النفسية؟

2 دقائق5 زيارة
  • هل بالإمكان تعزيز أمان استخدام الذكاء الاصطناعي في مجال الصحة النفسية؟

  • في كثير من أنحاء العالم، يفوق الطلب على خدمات الصحة النفسية بكثير حجم الدعم المتاح، الأمر الذي يفسر لجوء أعداد متزايدة من الناس إلى نماذج الذكاء الاصطناعي التوليدي، مثل روبوتات الدردشة المعتمدة على نماذج اللغة الكبيرة، للحصول على دعم نفسي. غير أن هذا التوجه يثير تساؤلاً مهماً حول مدى سلامة هذا الخيار، خصوصاً في ظل تسجيل حالات أذى نفسي خطير، بل وانتحار، بعد تفاعلات مع هذه الأنظمة.
    تشير دراسة أجراها باحثون من جامعة براون إلى أن العديد من روبوتات الدردشة لا تلتزم المعايير الأخلاقية الأساسية المتبعة في مجال الصحة النفسية. وقد قارن الباحثون سلوك هذه النماذج بمعايير جهات مهنية متخصصة، مثل الجمعيات النفسية، وخلصوا إلى وجود قصور واضح. وبيّنت الدراسة أن الروبوتات قد تعزز المعتقدات السلبية لدى المستخدمين، أو تخلق شعوراً زائفاً بالتعاطف، فضلاً عن ضعف تعاملها مع المواقف الحرجة.

    وسلّط الباحثون الضوء على دور "صياغة الأوامر" في توجيه استجابات الذكاء الاصطناعي، بحيث يمكن للمستخدم أن يطلب من النظام محاكاة أساليب علاجية مثل العلاج السلوكي المعرفي. إلا أن هذه المحاكاة تظل قائمة على أنماط لغوية متعلمة، ولا ترقى إلى مستوى الممارسة العلاجية البشرية الفعلية.

    كما كشفت الدراسة عن خمسة عشر خطراً أخلاقياً رئيسياً، شملت غياب فهم السياق الفردي، والحوار الأحادي، والتحيزات الثقافية والجندرية، وضعف الاستجابة للأزمات مثل الأفكار الانتح