توسط :
هوش مصنوعی و توانمندیها در حال تغییر الگوهای نشان دادن افراد معلول هستند. این موضوع نه تنها بر قابلیتهای فردی اثر میگذارد بلکه نمایشی از دنیای واقعی ماست. این مقاله، به بررسی اهمیت توانمندیها در هوش مصنوعی و چگونگی تحول آن میپردازد.
در تابستان گذشته، جس اسمیت، swimmer سابق پارالمپیک استرالیایی، تصویر خود را در یک تولیدکننده تصویر هوش مصنوعی بارگذاری کرد و انتظار داشت نتیجهای از کیفیت بالا و نمایندگی صحیح از خودش به دست آورد. او خواسته بود که تصویرش بدون دست چپ از آرنج به پایین نمایش داده شود. اما نتیجه در اکثر اوقات، تصاویری از یکی زن با دو دست یا با یک دستگاه فلزی به عنوان پروتز بود. این عدم توانایی در نمایاندن تصویر دلخواه او، نشاندهنده ضعفهای موجود در دادههایی است که وی به هوش مصنوعی ارائه داده است. اسمیت میگوید: “این یک واقعیت مهم برای من بود که هوش مصنوعی در واقع نمایی از جهان امروز ماست و سطح نابرابری و تبعیضی که در جامعه وجود دارد را نشان میدهد.”
خوشبختانه، به تازگی زمانی که او دوباره تلاش کرد تا تصویر این زن را در ChatGPT تولید کند، با شگفتی توانست تصویر دقیقی از زنی با یک دست را دریافت کند. “ای خدای من، کار کرد! این فوقالعاده است که بالاخره بهروزرسانی شده است،” او به بیبیسی گفت. “این یک قدم بزرگ به جلو است.”
اگرچه ممکن است این موضوع به نظر یک مأموریت نهچندان بزرگ بیاید، اما برای میلیونها نفر با معلولیت، این تغییر اهمیت بسیار زیادی دارد. جس میگوید: “نمایش در تکنولوژی به معنای دیده شدن نه به عنوان یک فکر فرعی، بلکه به عنوان بخشی از جهانی است که در حال ساخته شدن است. عملکرد هوش مصنوعی با توجه به شمولیت، به نفع همه ماست.”
سخنگوی OpenAI، شرکتی که ChatGPT را توسعه داده است، اعلام کرد که به تازگی “بهبودهای معناداری” در مدل تولید تصاویر خود اعمال کردهاند و کار بر روی چالشهای موجود به ویژه در زمینه نمایش منصفانه همچنان ادامه دارد. آنان همچنین اظهار داشتند که به تقویت روشهای پسآموزشی و افزودن مثالهای متنوعتر برای کمک به کاهش جانبداری ادامه خواهند داد.
ناومی باومن، زنی که تنها بینایی در یک چشم دارد، نیز با مشکلات مشابهی روبرو است. او به ChatGPT خواسته بود که پسزمینه عکسی را محو کند، اما این برنامه به جای آن، “چهرهی من را به کلی تغییر داد و چشمانم را یکسان کرد”. باومن میگوید که این مشکل نشاندهنده جانبداری ذاتی در هوش مصنوعی است و از این مسئله ابراز تاسف کرد. او خواستار ایجاد و آزمایش مدلهای هوش مصنوعی با دقت بیشتر برای کاهش جانبداری و اطمینان از این که دادهها به اندازه کافی متنوع هستند تا همه به درستی نمایندگی شوند، است.
انتقادات در مورد تاثیرات محیط زیستی هوش مصنوعی نیز مطرح شده است، به طوری که برخی از کارشناسان نگران مصرف بالای انرژی دادههای لازم برای انجام چنین کارهایی هستند. به عنوان مثال، پروفسور جینا نف از دانشگاه کین مری لندن گفت که ChatGPT “به شدت انرژی مصرف میکند” و مراکز دادهای که برای قدرتدهی به آن استفاده میشوند، در یک سال بیشتر از 117 کشور برق مصرف میکنند.
بسیاری از کارشناسان بر این باورند که جانبداری در هوش مصنوعی تنها بازتابی از نقاط کوری است که در جامعه گستردهتر وجود دارد و این موضوع تنها محدود به معلولیتها نمیشود. ابراهیم مالدونادو، مدیر اجرایی Create Labs، شرکتی در ایالات متحده که سیستمهای هوش مصنوعی با آگاهی فرهنگی میسازد، میگوید تنوع در هوش مصنوعی از افرادی آغاز میشود که در فرایند آموزش و علامتگذاری دادهها مشارکت دارند. “این بستگی به افرادی دارد که هنگام ساخت دادهها در اتاق حاضرند،” او توضیح میدهد. “شما نیاز به نمایندگی فرهنگی در مرحله ایجاد دارید.”
جس همچنین اشاره میکند که اگر طراحان در دنیای واقعی و دنیای هوش مصنوعی به تمامی افراد توجه نکنند، عواقب نادیدهگرفتن واقعیتهای کاربران شکل خواهد گرفت. او میگوید که وقتی او تجربهی اولیه خود را در لینکداین به اشتراک گذاشت، کسی پیام داد که اپلیکیشن هوش مصنوعی او میتواند تصویر یک زن با یک دست را بسازد. “من تلاش کردم که آن را ایجاد کنم و همان مشکل پیش آمد، نتوانستم تصویر را تولید کنم،” او گفت و این موضوع را متداولتدانه در مکالمات مرتبط با معلولیت میداند.
وقتی مجددا درباره این مسائل در جامعه صحبت نمیشود، ناکامی در مکالمات واقعی ادامه پیدا میکند تا زمانی که این مکالمات دوباره جرقه بخورند.
نتیجهگیری
هوش مصنوعی و توانمندیها نشاندهنده ضرورت بازنگری در نحوه نمایش معلولیتها و تنوع در تکنولوژی است. با در نظر گرفتن حقایق واقعی و شمولیت در فرایند توسعه هوش مصنوعی، میتوانیم دنیایی بسازیم که در آن همه افراد، بدون در نظر گرفتن تواناییهایشان، به خوبی نمایندگی شوند.
پرسشهای متداول
نمایش واقعیتها در هوش مصنوعی و توانمندیها اهمیت زیادی دارد زیرا این امر بر حقوق و حضور افراد معلول در جامعه تأثیر میگذارد.
برای کاهش جانبداری، باید دادهها و فرآیندهای آموزشی مدلهای هوش مصنوعی به گونهای طراحی شوند که تنوع و حضور از دیدگاهها و تجربیات مختلف را در نظر بگیرند.
بله، پیشرفتهای هوش مصنوعی میتواند به نمایندگی بهتر افراد معلول کمک کند و نشاندهنده اهمیت شمولیت در تکنولوژی باشد.
