امنیت در وایب کدینگ؛ شناسایی آسیب‌پذیری‌های کد هوش مصنوعی
آمنه قاسمپور
وایب کدینگ (Vibe Coding) شیوه‌ای از توسعه نرم‌افزار است که در آن کاربر با زبان طبیعی خواسته‌های خود را برای ابزارهای هوش مصنوعی توضیح می‌دهد و ابزار، کد موردنیاز را تولید یا اصلاح می‌کند. این روش ساخت نمونه‌های اولیه و حتی پروژه‌های کاربردی را ساده‌تر کرده است؛ اما یک مسئله مهم وجود دارد: آیا کدی که هوش مصنوعی تولید می‌کند، از نظر امنیتی قابل اعتماد است؟
پاسخ کوتاه این است: لزوماً نه! ممکن است یک برنامه بدون خطای ظاهری اجرا شود، اما اطلاعات کاربران را به‌درستی محافظت نکند، دسترسی‌های غیرمجاز را امکان‌پذیر سازد یا از کتابخانه‌های آسیب‌پذیر استفاده کند. به همین دلیل، بررسی امنیت کد باید بخشی جدایی‌ناپذیر از فرایند وایب کدینگ باشد.
در این مقاله با مهم‌ترین خطرهای امنیتی کدنویسی با هوش مصنوعی، روش شناسایی آسیب‌پذیری‌ها و ابزارهای بررسی امنیت پروژه آشنا می‌شویم.
اگر می‌خواهید با مراحل ساخت یک پروژه وب به کمک هوش مصنوعی آشنا شوید، مقاله ساخت اولین پروژه وب با هوش مصنوعی می‌تواند نقطه شروع مناسبی باشد.
چرا کدهای تولیدشده با هوش مصنوعی ممکن است ناامن باشند؟
ابزارهای هوش مصنوعی بر اساس الگوهایی که از داده‌های آموزشی آموخته‌اند، کد تولید می‌کنند. آن‌ها ممکن است راه‌حلی ارائه دهند که از نظر ظاهری درست کار می‌کند، اما تمام شرایط امنیتی پروژه را در نظر نگرفته باشد.
برای مثال، تصور کنید از یک ابزار هوش مصنوعی می‌خواهید فرم ورود کاربران طراحی کند. ممکن است فرم و اتصال آن به پایگاه داده به‌درستی اجرا شوند، اما رمز عبور کاربران به شکل ناامن ذخیره شود یا سرور بدون بررسی مجوز، اطلاعات حساب‌های دیگر را نمایش دهد.
این مشکل به‌ویژه زمانی جدی‌تر می‌شود که ابزارهای کدنویسی عامل‌محور (Agentic Coding Tools) بتوانند علاوه بر نوشتن کد، دستورهای ترمینال اجرا کنند، کتابخانه نصب کنند و فایل‌های پروژه را تغییر دهند. در این شرایط، اشتباه یا دستور مخرب می‌تواند از یک قطعه کد فراتر برود و محیط توسعه را تحت تأثیر قرار دهد.
مهم‌ترین آسیب‌پذیری‌های امنیتی در وایب کدینگ
۱. افشای کلیدهای API و اطلاعات محرمانه
یکی از خطاهای رایج در پروژه‌های تولیدشده با هوش مصنوعی، قرار گرفتن اطلاعات حساس در فایل‌های قابل دسترسی یا کدهای سمت کاربر است.
کلیدهای API، رمزهای پایگاه داده، توکن‌های دسترسی و اطلاعات اتصال به سرویس‌ها نباید مستقیماً در کدهای عمومی قرار بگیرند. اگر این اطلاعات در مخزن عمومی یا فایل‌های قابل مشاهده مرورگر منتشر شوند، افراد دیگر ممکن است از آن‌ها سوءاستفاده کنند.
راهکار: اطلاعات محرمانه را در متغیرهای محیطی (Environment Variables) یا سرویس‌های مدیریت رمز و کلید نگهداری کنید. فایل‌هایی مانند .env و کلیدهای خصوصی را از مخزن Git و زمینه دسترسی ابزار هوش مصنوعی خارج کنید. توجه داشته باشید که قرار دادن یک فایل در .gitignore لزوماً مانع خواندن آن توسط ابزار هوش مصنوعی نمی‌شود.
۲. ضعف در احراز هویت و کنترل دسترسی
احراز هویت مشخص می‌کند کاربر چه کسی است؛ اما کنترل دسترسی تعیین می‌کند پس از ورود، اجازه انجام چه کارهایی را دارد.
ممکن است هوش مصنوعی صفحه ورود و ثبت‌نام را ایجاد کند، اما بررسی مجوز را در سمت سرور به‌درستی پیاده‌سازی نکند. در چنین شرایطی، تغییر یک شناسه در آدرس درخواست می‌تواند به کاربر اجازه دهد اطلاعات فرد دیگری را مشاهده کند.
راهکار: مجوز دسترسی را در سمت سرور بررسی کنید. برای هر درخواست حساس، هویت کاربر و سطح دسترسی او را اعتبارسنجی کنید. صرفاً مخفی کردن دکمه‌ها یا صفحات در رابط کاربری، امنیت ایجاد نمی‌کند.
۳. اعتبارسنجی ناقص ورودی‌ها و حملات تزریقی
هر داده‌ای که کاربر وارد می‌کند باید قبل از استفاده بررسی شود. اگر ورودی‌ها بدون اعتبارسنجی و پردازش مناسب وارد پایگاه داده یا دستورات اجرایی شوند، ممکن است زمینه حملاتی مانند SQL Injection یا Cross-Site Scripting (XSS) فراهم شود.
برای مثال، اگر برنامه اطلاعات فرم جست‌وجو را بدون استفاده از پرس‌وجوهای پارامتری به پایگاه داده ارسال کند، مهاجم ممکن است با ورودی دست‌کاری‌شده ساختار پرس‌وجو را تغییر دهد.
راهکار: از پرس‌وجوهای پارامتری، اعتبارسنجی سمت سرور و روش‌های استاندارد پاک‌سازی و خروجی‌گذاری امن استفاده کنید. از ابزار هوش مصنوعی بخواهید ورودی‌های نامعتبر، خالی، طولانی و دست‌کاری‌شده را نیز بررسی کند.
۴. استفاده از کتابخانه‌های جعلی یا آسیب‌پذیر
پروژه‌های وایب کدینگ معمولاً به کتابخانه‌های آماده وابسته‌اند. هوش مصنوعی ممکن است نسخه قدیمی یک کتابخانه را پیشنهاد دهد یا نام پکیجی را تولید کند که اصلاً وجود ندارد. حتی ممکن است مهاجمان با ثبت پکیج‌هایی با نام مشابه کتابخانه‌های معتبر، کاربران را به نصب نسخه مخرب هدایت کنند.
راهکار: پیش از نصب هر پکیج، نام، منبع انتشار، نسخه، سابقه نگهداری و اعتبار توسعه‌دهندگان آن را بررسی کنید. همچنین وابستگی‌های پروژه را به‌صورت دوره‌ای از نظر آسیب‌پذیری‌های شناخته‌شده اسکن کنید.
۵. تزریق پرامپت به ابزارهای کدنویسی
در برخی ابزارهای پیشرفته، هوش مصنوعی فایل‌های پروژه، مستندات، پیام‌های خطا و محتوای وب را می‌خواند. اگر یکی از این منابع حاوی دستور مخرب باشد، ممکن است رفتار عامل هوش مصنوعی را تحت تأثیر قرار دهد. به این نوع خطر، تزریق پرامپت غیرمستقیم (Indirect Prompt Injection) گفته می‌شود.
برای مثال، یک فایل README در مخزنی ناشناس می‌تواند حاوی دستورهایی باشد که از عامل هوش مصنوعی می‌خواهند اطلاعات محرمانه را ارسال کند یا تنظیمات امنیتی پروژه را تغییر دهد.
راهکار: محتوای مخازن و فایل‌های ناشناس را قابل اعتماد فرض نکنید. دسترسی ابزار را محدود کنید و تغییرات غیرمنتظره آن را بررسی کنید. هیچ عامل هوش مصنوعی نباید بدون نظارت به اطلاعات محرمانه، ترمینال و سرویس‌های حساس دسترسی کامل داشته باشد.
چگونه امنیت کدهای تولیدشده با هوش مصنوعی را بررسی کنیم؟
برای بررسی امنیت پروژه، بهتر است از چند روش مکمل استفاده کنید. هیچ ابزار واحدی نمی‌تواند تمام آسیب‌پذیری‌ها را شناسایی کند.
۱. بررسی دستی کدها
پیش از انتشار، بخش‌های حساس پروژه را با دقت بررسی کنید؛ به‌خصوص:
- کدهای مربوط به ورود، ثبت‌نام و مدیریت نشست کاربران
- بخش‌های ارتباط با پایگاه داده
- مسیرهای دریافت و ارسال اطلاعات
- فایل‌های تنظیمات و متغیرهای محیطی
- کدهای مربوط به پرداخت و اطلاعات شخصی
- تغییرات ایجادشده در فایل‌های تنظیمات و اسکریپت‌های اجرا
از هوش مصنوعی بخواهید تغییرات را توضیح دهد، اما توضیحات آن را جایگزین بررسی واقعی کد نکنید.
برای درک بهتر ساختار صفحات وب و نحوه عملکرد کدهای سمت کاربر، یادگیری مباحث فرانت‌اند می‌تواند کمک‌کننده باشد. برای این منظور می‌توانید از دوره آموزش فرانت‌اند استفاده کنید.
۲. استفاده از ابزارهای تحلیل امنیت کد
ابزارهای تحلیل ایستا (Static Analysis) کد را بدون اجرای برنامه بررسی می‌کنند و می‌توانند برخی الگوهای ناامن را شناسایی کنند. در کنار آن‌ها، ابزارهای اسکن وابستگی‌ها و شناسایی اطلاعات محرمانه نیز کاربرد دارند.
چند ابزار و قابلیت مهم عبارت‌اند از:
- GitHub Code Scanning: برای شناسایی آسیب‌پذیری‌ها و خطاهای کد در مخزن GitHub.
- GitHub Secret Scanning: برای شناسایی کلیدهای API، توکن‌ها و اطلاعات محرمانه‌ای که ممکن است وارد مخزن شده باشند.
- npm audit: برای بررسی آسیب‌پذیری‌های شناخته‌شده در وابستگی‌های پروژه‌های JavaScript و Node.js.
- OWASP ZAP: برای آزمایش امنیت برنامه‌های وب در حال اجرا و شناسایی برخی آسیب‌پذیری‌های قابل مشاهده از طریق درخواست‌های HTTP.
نکته مهم این است که ابزارهای فوق کاربرد یکسانی ندارند. برای مثال، npm audit کدهای برنامه را از نظر تمام خطاهای امنیتی بررسی نمی‌کند؛ بلکه تمرکز آن بر آسیب‌پذیری‌های شناخته‌شده در بسته‌های وابسته به پروژه است.
۳. آزمایش رفتار برنامه در شرایط غیرعادی
برنامه را فقط با ورودی‌های معمولی آزمایش نکنید. ورودی خالی، رمز عبور اشتباه، درخواست بدون مجوز، شناسه نامعتبر و تلاش برای دسترسی به اطلاعات کاربران دیگر را نیز بررسی کنید.
برای نمونه، اگر کاربر عادی بتواند با تغییر شناسه یک درخواست به اطلاعات حساب مدیر دسترسی پیدا کند، سیستم کنترل دسترسی مشکل دارد؛ حتی اگر تمام تست‌های معمولی با موفقیت اجرا شده باشند.
وضعیت پلن رایگان و پولی ابزارهای بررسی امنیت کد
| ابزار | وضعیت پلن رایگان | وضعیت پلن پولی |
|---|---|---|
| npm audit | رایگان؛ امکان بررسی آسیب‌پذیری‌های شناخته‌شده وابستگی‌های پروژه از طریق ترمینال | برای اجرای npm audit نیازی به خرید اشتراک نیست. پلن‌های پولی npm بیشتر برای امکانات انتشار و مدیریت بسته‌های خصوصی و تیمی هستند. |
| GitHub Code Scanning | امکان استفاده از قابلیت‌های اسکن امنیت کد در مخازن عمومی GitHub | برای استفاده از قابلیت‌های پیشرفته Code Security در مخازن خصوصی، خرید مجوز مربوط لازم است. |
| GitHub Secret Scanning | شناسایی اطلاعات محرمانه در مخازن عمومی | امکانات پیشرفته مانند شناسایی الگوهای اختصاصی، اعتبارسنجی برخی کلیدها و قابلیت‌های مدیریتی به Secret Protection نیاز دارند. |
| GitHub Dependabot | هشدار درباره وابستگی‌های آسیب‌پذیر و به‌روزرسانی خودکار وابستگی‌ها در پلن رایگان | امکانات پیشرفته مدیریت هشدارها و بررسی وابستگی‌ها در پلن‌های امنیتی پولی ارائه می‌شوند. |
| OWASP ZAP | کاملاً رایگان و متن‌باز؛ امکان آزمایش امنیت برنامه‌های وب | برای استفاده از نسخه اصلی ابزار، خرید اشتراک پولی الزامی نیست. |
نکته: امکانات GitHub با توجه به عمومی یا خصوصی بودن مخزن و نوع اشتراک متفاوت هستند. همچنین رایگان بودن یک ابزار به معنی پوشش تمام آسیب‌پذیری‌های امنیتی نیست؛ هر ابزار بخش مشخصی از امنیت پروژه را بررسی می‌کند.
چک‌لیست امنیتی پیش از انتشار پروژه وایب کدینگ
قبل از انتشار پروژه، موارد زیر را بررسی کنید:
- [ ] هیچ کلید API، رمز عبور یا توکن حساسی در کد عمومی وجود ندارد.
- [ ] فایل‌های محرمانه از مخزن Git و زمینه دسترسی ابزار AI محافظت شده‌اند.
- [ ] احراز هویت و کنترل دسترسی در سمت سرور بررسی شده‌اند.
- [ ] ورودی‌های کاربران اعتبارسنجی می‌شوند.
- [ ] وابستگی‌ها از نظر آسیب‌پذیری شناخته‌شده بررسی شده‌اند.
- [ ] کتابخانه‌های پیشنهادی هوش مصنوعی از منابع معتبر دریافت شده‌اند.
- [ ] دسترسی ابزارهای هوش مصنوعی به فایل‌ها و ترمینال محدود است.
- [ ] تغییرات فایل‌های تنظیمات، اسکریپت‌ها و فرایند استقرار بررسی شده‌اند.
- [ ] تست‌های منفی و امنیتی اجرا شده‌اند.
- [ ] یک فرد مسئول، کد نهایی را بررسی و تأیید کرده است.
آیا می‌توان بررسی امنیت پروژه را به هوش مصنوعی سپرد؟
هوش مصنوعی می‌تواند در شناسایی خطاها، توضیح کدهای پیچیده، پیشنهاد راهکارهای اصلاحی و نوشتن تست‌های امنیتی کمک کند؛ اما نباید تنها مرجع تأیید امنیت پروژه باشد.
یک اشتباه مهم این است که از همان ابزاری که کد را تولید کرده بخواهیم امنیت آن را تأیید کند و سپس بدون بررسی مستقل، نتیجه را بپذیریم. حتی اگر تمام تست‌ها موفق باشند، ممکن است تست‌ها ناقص طراحی شده باشند یا فقط رفتار اشتباه برنامه را تأیید کنند.
روش مطمئن‌تر این است که از ترکیب بررسی انسانی، ابزارهای تحلیل امنیت، آزمایش عملی و بازبینی مستقل استفاده کنید. چارچوب توسعه امن نرم‌افزار NIST نیز بر ادغام فعالیت‌های امنیتی در تمام مراحل چرخه توسعه تأکید دارد.
جمع‌بندی
وایب کدینگ سرعت توسعه نرم‌افزار را افزایش می‌دهد، اما به معنی حذف مسئولیت امنیتی توسعه‌دهنده نیست. کدی که هوش مصنوعی تولید می‌کند باید مانند هر کد دیگری از نظر کنترل دسترسی، اعتبارسنجی ورودی‌ها، مدیریت اطلاعات محرمانه و وابستگی‌های نرم‌افزاری بررسی شود.
برای ساخت یک پروژه قابل اعتماد، فقط به اجرای صحیح برنامه اکتفا نکنید. از ابزارهای تحلیل امنیت کمک بگیرید، دسترسی عامل‌های هوش مصنوعی را محدود کنید، تغییرات کد را بازبینی کنید و پیش از انتشار، تست‌های امنیتی مستقلی انجام دهید. در نهایت، مسئولیت تأیید و انتشار کد با انسانی است که آن را می‌پذیرد؛ نه ابزاری که آن را تولید کرده است.
اگر می‌خواهید علاوه بر آشنایی با مفاهیم وایب کدینگ، ساخت پروژه با ابزارهای هوش مصنوعی را به‌صورت عملی یاد بگیرید، می‌توانید در دوره آموزش وایب کدینگ پرتقال شرکت کنید.»
