توسط :
OpenAI قصد دارد تا با افزودن هشدارهای سلامت روانی و امکان پیوند حساب کاربران، تأثیرات احساسی هنگام استفاده از AI را برای خانوادهها مدیریت کند.
با پیشرفت سریع تکنولوژیهای هوش مصنوعی و استفاده گسترده از ابزارهایی مانند ChatGPT، نیاز به سیستمهای نظارتی و کنترلی برای حفظ امنیت نوجوانان بیش از پیش احساس میشود. OpenAI با ارائه کنترلهای والدین برای ChatGPT، گامی مؤثر در جهت تأمین امنیت و سلامت روانی کاربران نوجوان برداشته است. والدین اکنون میتوانند حسابهای خود را با حسابهای فرزندانشان مرتبط کرده، محدودیتهایی برای ویژگیها تعیین کنند و هشدارهایی در صورت مشاهده علائم ناراحتی احساسی دریافت کنند.
در برخی موارد، مکالمات حساس ChatGPT به مدلهای محتاطتر هدایت میشوند که برای پاسخ به افراد در حالات بحرانی آموزش دیدهاند. OpenAI با افزودن این ارتقاءها تلاش میکند تا از تعامل نوجوانان با AI در مواجهه با بحرانهای احساسی جلوگیری کند. طرحهای جدید این شرکت نشان میدهد که استفاده نوجوانان از ChatGPT را تصدیق کرده و با در نظر گرفتن مشکلات احتمالی، به دنبال راهحلهایی برای پیشگیری از وقوع بحرانهای شدید است.
ویژگیهای جدید کنترل والدین از ماه آینده به تدریج عرضه میشود. والدین میتوانند تصمیم بگیرند که آیا AI تاریخچه چت را ذخیره کند یا از ویژگی حافظه خود استفاده کند. علاوه بر این، راهنمای محتوای مناسب سن به طور پیشفرض فعال خواهد بود. در صورت وقوع مکالمهای که حاوی محتوای پرچمگذاریشده است، والدین اعلانی دریافت میکنند که نیاز به بررسی دقیقتر وجود دارد.
OpenAI همچنین از مدلهایی استفاده میکند که در مواقع مشاورههای مربوط به سلامت روان یا خطرات خودکشی، از روشی به نام تنظیم همسو با ملاحظه بهره میبرند تا با احتیاط بیشتر پاسخ دهند و به قوانین ایمنی پایبند بمانند. با ایجاد شورای تخصصی در زمینه رفاه و هوش مصنوعی و استفاده از شبکهای از پزشکان متخصص در زمینههای مختلف، OpenAI در راستای ارتقاء سیستمهای خود برای تشخیص بحرانها و چگونگی پاسخگویی به آنها گام برداشته است.
نتیجهگیری
با توجه به پیچیدگیها و حساسیتهایی که همراه با استفاده از AI در زندگی نوجوانان وجود دارد، ارتقاء امنیتی جدید OpenAI در کنترل والدین میتواند به خانوادهها اطمینان بیشتری در مدیریت استفاده فرزندانشان از ChatGPT بدهد. اقدامات پیشگیرانه و نظارتی که از نظر روانی و احساسی حساس هستند، میتوانند مشارکت والدین در تجربیات آنلاین نوجوانان را بهبود بخشیده و به کاهش خطرات کمک کنند.
پرسشهای متداول
برای مرتبط کردن حساب ChatGPT فرزندتان به حساب خود، از بخش تنظیمات والدین در حساب OpenAI استفاده کنید و مراحل پیوند حسابها را طی کنید.
مکالمات به صورت خودکار نظارت نمیشوند، اما در صورت مشاهده تعاملات حساس، والدین با هشدارهایی مطلع میشوند.
