چت‌بات‌های هوش مصنوعی و تاثیر آن‌ها بر سلامت روان جوانان

چت‌بات‌های هوش مصنوعی و تاثیر آن‌ها بر سلامت روان جوانان موضوعی است که در روزهای اخیر توجه بسیاری را به خود جلب کرده است. با افزایش استفاده از این فناوری، نگرانی‌ها درباره تاثیرات آن بر ذهن و رفتار نوجوانان نیز افزایش یافته است.

پس از شکایت‌هایی که مبنی بر تاثیر منفی چت‌بات‌های هوش مصنوعی بر سلامت روان نوجوانان مطرح شد، شرکت چت‌بات سازی Character.AI اعلام کرد که از اواخر نوامبر، کاربران زیر ۱۸ سال نمی‌توانند با این چت‌بات‌ها ارتباط برقرار کنند. این اقدام در پاسخ به نگرانی‌های بیشمار درباره تاثیرات منفی این فناوری بر نوجوانان، به ویژه پس از یک پرونده قانونی به دلیل خودکشی یکی از کاربران ۱۴ ساله صورت گرفته است.

این نوجوان، سوئل ستزر III، بعد از ایجاد یک وابستگی عاطفی به یکی از شخصیت‌های مجازی خود در Character.AI، اقدام به خودکشی کرد. خانواده او ادعا کردند که این فناوری “خطرناک و تست نشده” است و به همین خاطر، شرکت‌های بیشتری نیز به دلیل ادعاهای مشابه به دادگاه کشیده شده‌اند. به‌ویژه، مرکز حقوق رسانه‌های اجتماعی اخیراً سه شکایت جدید از جانب کودکانی که به دلایل مشابه دچار مشکلات جدی شدند را به ثبت رسانده است.

در شرایط جدید، Character.AI همچنین اعلام کرده که به زودی قابلیت جدیدی به نام “تضمین سن” را معرفی خواهد کرد تا اطمینان حاصل کند که کاربران تجربه مناسب برای سن خود را دریافت می‌کنند. این تغییرات نشان‌دهنده حساسیت بالای این صنعت به سوالات و نگرانی‌های مربوط به نحوه تعامل نوجوانان با فناوری جدید است.

در کنار Character.AI، دیگر شرکت‌ها نیز در معرض انتقاد قرار دارند. خانواده‌ی یک نوجوان ۱۶ ساله، آدام رین، از OpenAI به دلیل اولویت دادن به تعاملات کاربران خود با ChatGPT به جای امنیت آنها شکایت کرده است. OpenAI در واکنش به این انتقادات، خطوط راهنمای جدیدی برای کاربران نوجوان خود معرفی کرده است. به تازگی این شرکت اعلام کرده که هر هفته بیش از یک میلیون نفر هنگام گفتگو با ChatGPT، تمایل به خودکشی را نشان می‌دهند.

در این شرایط، تلاش‌هایی در سطح ایالت‌ها و دولت فدرال ایالات متحده برای وضع قوانینی در مورد استفاده از چت‌بات‌های هوش مصنوعی آغاز شده است. ایالت کالیفرنیا به عنوان اولین ایالت، قانونی را در اکتبر ۲۰۲۵ تصویب کرده که شامل راهنماهای ایمنی برای نوجوانان است و از آغاز سال ۲۰۲۶ به اجرا درآمده خواهد شد. این قانون شامل ممنوعیت محتوای جنسی برای افراد زیر ۱۸ سال و الزامی برای یادآوری به کودکان است که آنها در حال صحبت با یک هوش مصنوعی هستند.

برخی از حامیان ایمنی کودکان معتقدند که این قانون کافی نیست. در سطح ملی، سناتورها همچون جوش هاولی و ریچارد بلومنتال به تازگی لایحه‌ای را اعلام کرده‌اند که مانع از استفاده نوجوانان از چت‌بات‌های هوش مصنوعی می‌شود و شرکت‌ها را ملزم به اجرای فرآیند تأیید سن می‌کند. هاولی در این زمینه اعلام کرده که “بیش از ۷۰ درصد از کودکان آمریکایی اکنون از این محصولات هوش مصنوعی استفاده می‌کنند. چت‌بات‌ها با استفاده از همدلی جعلی، روابطی با کودکان برقرار می‌کنند و خودکشی را تشویق می‌کنند. ما در کنگره وظیفه اخلاقی داریم که قوانین روشنی را برای جلوگیری از آسیب بیشتر از این فناوری جدید به تصویب برسانیم.”

در نهایت، چت‌بات‌های هوش مصنوعی و تاثیر آن‌ها بر سلامت روان جوانان یک مسئله حاد و مهم است که نیازمند توجه و نظارت بیشتر از سوی مقامات و خانواده‌ها است. با افزایش تعداد این فناوری‌ها، ضروری است که اقدامات لازم برای حفاظت از نوجوانان در برابر آسیب‌های ممکن ناشی از این تعاملات انجام شود.