توسط : هوش مصنوعی امروز به یکی از مهمترین فناوریهای جهان تبدیل شده است، اما گاهی اوقات این فناوری میتواند مورد سوءاستفادههای غیراخلاقی قرار بگیرد که پیامدهای اجتماعی و اخلاقی داشته باشد. یکی از جدیدترین مثالها، اتهاماتی است که به سیستم هوش مصنوعی ایلان ماسک وارد شده که بدون درخواست، ویدیوهای غیراخلاقی از تیلور سوئیفت ایجاد کرده است.
به گزارش نشریه The Verge، حالت جدید «spicy» در سیستم Grok Imagine که توسط شرکت XAI توسعه یافته است، بدون هیچ درخواست صریحی، ویدیوهایی از چهره تیلور سوئیفت ایجاد کرده است که به صورت غیراخلاقی و بدون پوشش هستند. این اتفاق موجی از نگرانیها در خصوص سوءاستفاده احتمالی از فناوریهای هوش مصنوعی در تولید محتوای غیراخلاقی را به راه انداخته است.
پروفسور کلر مکگیلن از دانشگاه دورهام، که در تدوین قانونی برای ممنوعیت دیپفیکهای غیرقانونی مشارکت داشته، اظهارنظر کرده است که این محتواها نشاندهنده بایاسهای زنستیزانه در فناوریهای هوش مصنوعی است و این پلتفرمها با اعمال نکردن فیلترهای مناسب، عملاً به این روند دامن زدهاند.
محدودیتها و قوانین جدید در بریتانیا که از کاربران میخواهند تا قبل از دسترسی به محتوای غیراخلاقی سن خود را تأیید نمایند، در پلتفرم هایی که از ابزارهای هوش مصنوعی برای تولید این نوع محتوا استفاده میکنند، به طور کامل اعمال نمیشود.
با افزایش نگرانیها در مورد تأثیر تخریبی این فناوریها بر کودکان و جامعه، مسئولان و قانونگذاران به دنبال تنظیم قوانین شدیدی برای کنترل این وضعیت هستند. بارونس اوون، یکی از افرادی است که پیشنویس قانون جدیدی برای ممنوعیت دیپفیکهای غیراخلاقی ایجاد کرده و تأکید میکند که حق هر فردی است که کنترل تصاویر خصوصی خود را به دست داشته باشد.
نتیجهگیری
این پرونده نشاندهنده اهمیت بالا و ضرورت اعمال محافظتهای قانونی در برابر سوءاستفاده از فناوریهای نوظهور است. همچنین باید توجه داشت که مسئولیت پلتفرمهای فناوری در حفظ حریم خصوصی و حقوق کاربران غیرقابل انکار است. بهروزرسانی و اجرایی شدن قوانین در این حوزهها میتواند گامی بزرگ در مقابله با خطرات احتمالی باشد.
پرسشهای متداول
دیپفیک به تصاویری گفته میشود که با استفاده از هوش مصنوعی چهره فردی را به تصویر یا ویدیوی دیگری منتقل میکند. این فناوری پتانسیل سوءاستفاده زیادی دارد و میتواند به نقض حریم خصوصی افراد منجر شود.
برای جلوگیری از سوءاستفاده، تقویت قوانین حمایتی، اعمال فیلترها و مکانیزمهای تأیید هویتی و افزایش آگاهی عمومی ضروری است.
در بریتانیا قوانینی برای ممنوعیت دیپفیکهای غیراخلاقی در حال تصویب است و پیشبینی میشود که در کشورهای دیگر نیز چنین قوانینی بهزودی اجرا شود.
