توسط :
مرورگر وب هوشمند کومت، محصول جدید شرکت پرپلکسیتی، به تازگی در پی یک افشای وبلاگ از شرکت رقیب، بریو، دچار یک آسیبپذیری امنیتی بزرگ شد. اگرچه این نقص امنیتی حالا برطرف شده، اما موضوع مورد توجه به چالشهای امنیتی ناشی از ادغام مدلهای زبان بزرگ در مرورگرهای وب اشاره دارد.
مرورگر کومت با داشتن یک دستیار هوشمند داخلی، نسبت به مرورگرهای سنتی تفاوت ویژهای دارد. این دستیار قادر است صفحات بازدید شده را تحلیل کرده، محتوای آنها را خلاصه کند و یا وظایف خاصی را برای کاربر انجام دهد. مشکل اصلی اینجاست که دستیار هوش مصنوعی کومت از همان تکنولوژیهایی بهره میبرد که دیگر چتباتهای هوش مصنوعی مانند ChatGPT استفاده میکنند. این چتباتها توانایی تجزیه و تحلیل و تحلیل عقلی به شیوه انسانها را ندارند و ممکن است به راحتی تحت تاثیر محتواهای مخرب قرار گیرند. برای نمونه، در آزمایشهای خود، شرکت بریو صفحهای در Reddit ایجاد کرد که حاوی متنی مخفی بود و آن را برای دستیار هوشمند کومت ارائه داد. این دستیار در تشخیص این متن مخفی ناتوان بود و شروع به ارسال اطلاعات حساس به آزمایشکنندگان بریو کرد. این وضعیت نشان داد که روشهای سنتی امنیتی در برابر دستیاران هوشمند چندان کارآمد نیستند.
شرکتهای هوش مصنوعی تلاش میکنند تا از دستکاری چتباتها جلوگیری کنند، اما همیشه افرادی هستند که به دنبال راههای جدید برای نفوذ به این سیستمها میگردند. جسی دوایر، رئیس ارتباطات پرپلکسیتی، اعلام کرد که آسیبپذیری مورد نظر حالا رفع شده و برای شناسایی و رفع آن با همکاری بریو به طور مستقیم عمل کردهاند.
شرکت بریو هشدار میدهد که ورود غیرمجاز به حسابهای بانکی، سیستمهای شرکتی، ایمیلهای خصوصی و خدمات دیگر میتواند از طریق تزریق توصیهنامههای مخرب به این دستیاران صورت گیرد. برای مقابله با این تهدیدات، بریو به برخی راهکارهای احتمالی اشاره کرد: مرورگرهای هوشمند باید همیشه محتوای صفحه را به عنوان اطلاعات غیر قابل اعتماد در نظر بگیرند و مدلهای هوش مصنوعی موظف به بررسی نیت کاربر و آگاهی از آن باشند.
نتیجهگیری
تکنولوژی هوش مصنوعی هر روز بیش از پیش در بخشهای مختلف فناوری نفوذ کرده است. اما همانطور که شاهد بودیم، این نوآوریها چالشهای امنیتی جدیدی را نیز به همراه دارند که نیازمند توجه و راهحلهای جدی میباشند. همانطور که بهرهگیری از هوش مصنوعی میتواند زندگی روزمره ما را آسانتر کند، ضرورت دارد که شرکتهای فناوری به صورت مستمر روی بهبود مسائل امنیتی و محافظت از دادهها کار کنند.
پرسشهای متداول
بله، این آسیبپذیری میتوانست به مهاجمین اجازه دسترسی به اطلاعات شخصی کاربران دهد، اما بلافاصله پس از کشف، توسط تیم پرپلکسیتی رفع شد.
یکی از راهکارها، برخورد با تمام محتوای صفحه به عنوان محتوای غیر قابل اعتماد و اجرای دوباره چک نزد کاربر قبل از انجام عملیاتهای حساس توسط مدلهای هوش مصنوعی است.
مهندسی نکتهگذاری به معنای استفاده از محتواهای خاص جهت تغییر رفتار هوش مصنوعی و تزریق دستورات مخرب است که باعث ایجاد رفتارهای غیرمنتظره در چتباتها میشود.
