توسط :
در عصر ما، فناوری هوش مصنوعی با سرعتی باور نکردنی در حال تحول است، ولی آیا واقعاً همه چیز به همان خوبی که به نظر میرسد، کار میکند؟ این مقاله به بررسی بدهی فناوری هوش مصنوعی و چالشهای مرتبط با آن میپردازد.
مایکل آندرسون زمانی گفت: “نرمافزار در حال تصرف دنیاست”، اما چه کسی میتوانست تصور کند که این نرمافزار توسط هوش مصنوعی نوشته و بازنویسی شود؟ در سال ۲۰۲۴، توسعهدهندگان با استفاده از بهترین ابزارهای هوش مصنوعی بیش از ۲۵۶ میلیارد خط کد تولید کردند. تخمین زده میشود که این تعداد در سال جاری دو برابر شود. هوش مصنوعی تولیدی به یک بخش جداییناپذیر تبدیل شده است و شرکتهایی مانند مایکروسافت گزارش کردهاند که ۳۰٪ از کد آنها توسط هوش مصنوعی نوشته میشود و این مقدار در حال افزایش است.
وقتی در مورد تولید سریع کد صحبت میکنیم، واقعیت ناخوشایند اینجاست: هوش مصنوعی نه تنها بدهی فنی را حل نمیکند، بلکه در مقیاس وسیعی آن را ایجاد میکند. کدهایی که با سرعت تولید میشوند، نیازمند بررسی و ارزیابی دقیق هستند تا از موثر بودن و کارایی آنها اطمینان حاصل شود. این یعنی برگشت به اصول اصلی مهندسی، از جمله برنامهریزی معماری، ارزیابی عملکرد و آزمایشهای دقیق.
یکی از بزرگترین چالشها، تعامل با نسل جدیدی از کدنویسی است که به اصطلاح “کدنویسی با حس” نامیده میشود. توسعهدهندگان با دادن پیشنهاداتی به LLM، راهحلهایی قابل اجرا پیدا میکنند که غالباً بدون درک کامل از زیرساختهای آن راهاندازی میشوند. این روش سریع و بدون اصطحکاک است، اما خطرناکاً نامعلوم. کدی که به نظر میرسد کاربردی است، غالباً در مراحل عملیاتی شکست میخورد.
تناقض بدهی فناوری هوش مصنوعی در این واقعیت نهفته است که همانطور که این فناوری به حل مشکلات قدیمی کمک میکند، مشکلات جدیدی ایجاد میکند. بسیاری از مدلها فاقد زمینههای شرکتی هستند و نمیتوانند به عملکرد واقعی بپردازند یا خروجیها را مگر با آموزش تأیید کنند، و تعداد کمی از توسعهدهندگان زمان یا ابزارهایی برای اعمال این کار دارند.
نتیجهگیری
در نهایت، برای بهرهگیری کامل از هوش مصنوعی در توسعه نرمافزار، باید فراتر از تولید سریع حرکت کنیم و روی اعتبارسنجی و کارایی تمرکز کنیم. آینده متعلق به آن کسانی است که توانایی تولید سریع و اعتبارسنجی سریع را دارند، و تیمهایی که موفق میشوند، خروجیهای خود را با دقت مهندسیشده بررسی میکنند تا نه تنها ببینند که چه چیزی میتواند تولید شود، بلکه تصمیم بگیرند کدام خروجی برای کار مناسب است.
پرسشهای متداول
برای ارتقاء خروجیها، نیاز به سیستمهایی داریم که بتوانند خروجیهای هوش مصنوعی را در دنیای واقعی و در مقیاس بزرگ اعتبارسنجی کنند و این شامل استفاده از الگوریتمهای پیشرفته برای امتیازدهی، ارزیابی و بهبود پیوسته است.
برای جلوگیری از مشکلات بدهی فناوری، باید تمرکز بر روی استانداردهای مهندسی، ارزیابی عملکرد و آزمایش دقیق کدها داشته باشیم و از ابزارها و فرآیندهایی استفاده کنیم که به ما امکان میدهند کدها را با سرعت و دقت اعتبارسنجی کنیم.
