05

تیر

1405


خواندنی‌ها

19 اردیبهشت 1405 17:48 0 کامنت

به گزارش صبح ساحل، اوپن‌ای‌آی قابلیت جدیدی به‌نام Trusted Contact را معرفی کرده که برای افزایش ایمنی کاربران در گفت‌وگوهای مرتبط با خودآزاری طراحی شده است. این قابلیت به کاربران بزرگسال چت‌جی‌پی‌تی اجازه می‌دهد فردی قابل اعتماد، مثل دوست یا عضو خانواده را به حساب خود اضافه کنند تا در شرایط حساس به او هشدار داده شود.

اگر سیستم تشخیص دهد مکالمه به موضوع خودآزاری یا خودکشی رسیده، چت‌جی‌پی‌تی ابتدا کاربر را به تماس با فرد مورد اعتماد تشویق می‌کند. سپس در صورت تشخیص خطر جدی از سوی تیم ایمنی اوپن‌ای‌آی، پیامی کوتاه از طریق ایمیل، پیامک یا اعلان درون‌برنامه‌ای برای آن شخص ارسال می‌شود تا وضعیت کاربر را پیگیری کند. شرکت می‌گوید جزئیات مکالمه برای حفظ حریم خصوصی ارسال نخواهد شد.

قابلیت Trusted Contact در اپ چت‌جی‌پی‌تی

OpenAI

اوپن‌ای‌آی می‌گوید تشخیص این موارد با ترکیبی از سیستم خودکار و بررسی انسانی انجام می‌شود و تیم ایمنی تلاش می‌کند هشدارها را ظرف کمتر از یک ساعت بررسی کند.

معرفی «تراستد کانتکت» پس از موجی از شکایت‌ها علیه اوپن‌ای‌آی انجام می‌شود؛ پرونده‌هایی که خانواده‌ی برخی کاربران مدعی‌اند ChatGPT فرزندان یا نزدیکان‌شان را به خودکشی تشویق کرده یا در برنامه‌ریزی آن نقش داشته است.

قابلیت تراستد کانتکت اختیاری است و محدودیت‌هایی دارد؛ از جمله روی تعداد حساب‌ها. قابلیت‌های نظارتی والدین که سال گذشته معرفی شدند، به‌صورت پیش‌فرض فعال نیستند.

دیدگاه ها (0)
img
خـبر فوری:

۱۳ و ۱۴ تیر استان تهران و ۱۵ تیر کل کشور تعطیل است