ساعدنیوز: کشفت شرکه OpenAI عن میزه جدیده فی «شات جی بی تی» تهدف إلى تعزیز سلامه المستخدمین، إذ تسمح بإشعار جهه اتصال یختارها المستخدم فی الحالات التی تشیر إلى وجود خطر یتعلق بإیذاء النفس، مع الحفاظ على خصوصیه المحادثه.
وفقا لساعدنیوز، أعلنت شرکه OpenAI عن خطوه جدیده لتعزیز أدوات السلامه فی «شات جی بی تی»، عبر إطلاق میزه تحمل اسم Trusted Contact أو «جهه الاتصال الموثوقه»، وهی خاصیه صُممت لمسانده المستخدمین فی المواقف الحساسه التی قد تتضمن مؤشرات على إیذاء النفس أو التفکیر فی الانتحار.
وتأتی هذه الخطوه فی وقت یشهد فیه العالم نقاشًا متزایدًا حول الدور الذی یمکن أن تلعبه تطبیقات الذکاء الاصطناعی فی دعم الصحه النفسیه، وکذلک حدود مسؤولیه هذه الأنظمه عندما تتعامل مع مستخدمین یمرون بأزمات شخصیه.
تمنح الخاصیه الجدیده المستخدمین البالغین إمکانیه اختیار شخص یثقون به، مثل أحد أفراد العائله أو صدیق مقرب، لیکون جهه اتصال للطوارئ داخل حسابهم.
وعندما ترصد أنظمه السلامه فی «شات جی بی تی» مؤشرات قد تدل على وجود خطر یتعلق بإیذاء النفس، فإن النظام یشجع المستخدم أولًا على طلب المساعده والتواصل مع الشخص الموثوق أو مع خدمات الدعم المتخصصه.
وفی بعض الحالات التی تُقیّم على أنها تنطوی على مخاطر جدیه، یمکن للنظام إرسال إشعار إلى جهه الاتصال التی اختارها المستخدم مسبقًا، یدعوها إلى التواصل معه والاطمئنان علیه.
أکدت OpenAI أن الرسائل المرسله إلى جهه الاتصال الموثوقه لن تتضمن تفاصیل المحادثه أو مضمون ما دار بین المستخدم و«شات جی بی تی».
ویهدف هذا النهج إلى تحقیق توازن بین تقدیم الدعم فی الأوقات الحرجه والحفاظ على خصوصیه المستخدم، بحیث یقتصر الإشعار على التنبیه إلى وجود حاجه للتواصل دون الکشف عن معلومات شخصیه أو محتوى الحوار.
کما أوضحت الشرکه أن هذه المیزه اختیاریه بالکامل، ولا یتم تفعیلها إلا إذا قام المستخدم بإعدادها بنفسه داخل حسابه.
یأتی الإعلان بعد فتره شهدت رفع دعاوى قضائیه من عائلات بعض المستخدمین الذین توفوا منتحرین، حیث تضمنت بعض الادعاءات اتهامات بأن روبوت الدردشه شجع على سلوکیات خطیره أو لم یتعامل معها بالشکل المناسب.
ورغم أن هذه القضایا لا تزال محل نقاش قانونی، فإنها سلطت الضوء على أهمیه تطویر أنظمه سلامه أکثر تطورًا للتعامل مع المحادثات الحساسه، خاصه مع تزاید اعتماد الملایین على أدوات الذکاء الاصطناعی فی حیاتهم الیومیه.
لا تعتمد OpenAI على الأنظمه الآلیه وحدها فی مثل هذه الحالات.
فبحسب الشرکه، تعمل أدوات الکشف الآلی على رصد بعض المؤشرات المرتبطه بإیذاء النفس، ثم تُحال الحالات التی تستدعی الانتباه إلى فریق متخصص من المراجعین البشر.
وأکدت الشرکه أن هذه البلاغات تخضع لمراجعه بشریه، مع السعی إلى التعامل معها خلال فتره زمنیه قصیره، لضمان اتخاذ الإجراءات المناسبه عندما یکون هناک احتمال لوجود خطر حقیقی.
المیزه الجدیده لیست أول خطوه فی هذا الاتجاه، إذ سبق للشرکه أن أطلقت أدوات سلامه أخرى، من بینها خیارات مخصصه لحسابات المراهقین تسمح بإرسال تنبیهات إلى أولیاء الأمور فی بعض الحالات المرتبطه بالسلامه.
کما أن «شات جی بی تی» أصبح منذ فتره یقدم للمستخدمین الذین یناقشون موضوعات تتعلق بإیذاء النفس أو الانتحار رسائل تشجعهم على التواصل مع مختصین أو مع خدمات الدعم المحلیه، بدلًا من الاکتفاء بمواصله المحادثه.
یرى مختصون أن هذه الخطوات تمثل تقدمًا مهمًا فی مجال السلامه الرقمیه، لکنها لا تجعل الذکاء الاصطناعی بدیلًا عن الأطباء النفسیین أو خدمات الطوارئ.
فالأنظمه الذکیه یمکن أن تسهم فی تشجیع الأشخاص على طلب المساعده، لکنها لا تستطیع تشخیص الحالات النفسیه أو تقدیم العلاج المتخصص.
ولهذا تؤکد OpenAI أنها تواصل التعاون مع أطباء وباحثین وخبراء فی السیاسات العامه لتطویر استجابات أکثر فعالیه وأمانًا عند تعامل أنظمه الذکاء الاصطناعی مع الأشخاص الذین یمرون بظروف نفسیه صعبه.
وفی النهایه، یعکس إطلاق میزه «جهه الاتصال الموثوقه» توجهًا متزایدًا نحو جعل الذکاء الاصطناعی أکثر مسؤولیه فی التعامل مع المستخدمین. ومع استمرار تطور هذه التقنیات، یبقى التحدی الأکبر هو تحقیق التوازن بین الابتکار، وحمایه الخصوصیه، وتقدیم الدعم فی اللحظات التی قد یکون فیها التدخل المبکر قادرًا على إحداث فرق حقیقی فی حیاه الإنسان.
