وقتی AI کد می‌نویسد، چه کسی مسئول باگ است؟

مسئله

فرض کنید از یک AI Agent می‌خواهید سیستم احراز هویت بسازد.

Agent کد را می‌نویسد.

برنامه اجرا می‌شود.

همه‌چیز ظاهراً درست است.

اما دو هفته بعد یک کاربر می‌تواند از یک مسیر خاص بدون دسترسی مناسب وارد بخشی از سیستم شود.

چه کسی مقصر است؟

AI؟

توسعه‌دهنده؟

شرکت؟

پاسخ ساده است:

مسئولیت نرم‌افزار همچنان با انسان و تیم توسعه است.

چرا تست مهم‌تر شده؟

هرچه تولید کد سریع‌تر شود، امکان تولید کد اشتباه هم بیشتر می‌شود.

اگر AI بتواند در چند دقیقه صدها خط کد تولید کند، بررسی نکردن آن کد می‌تواند خطرناک باشد.

به همین دلیل تست باید بخشی از فرایند تولید باشد، نه مرحله‌ای که در پایان پروژه به آن فکر کنیم.

پژوهش‌های منتشرشده در سپتامبر ۲۰۲۶ نیز روی نقش تست در چرخه‌های توسعه مبتنی بر LLM و Agentها تمرکز کرده‌اند و تأکید می‌کنند صرفاً «سبز شدن تست‌ها» به معنی درست بودن کامل رفتار نرم‌افزار نیست.

یک Workflow بهتر

برای استفاده حرفه‌ای از AI می‌توان این چرخه را داشت:

Problem
↓
Specification
↓
AI Implementation
↓
Tests
↓
Run
↓
Review
↓
Security Check
↓
Deploy

نه اینکه:

Prompt → Copy → Deploy

تست فقط برای پیدا کردن Bug نیست

تست خوب یک قرارداد برای رفتار سیستم است.

مثلاً اگر Login قرار است:

• username معتبر قبول کند
• password اشتباه را رد کند
• کاربر بدون دسترسی را وارد پنل نکند

همه این رفتارها باید قابل آزمایش باشند.

AI را به جای Programmer قرار ندهید

بهتر است AI را مانند یک توسعه‌دهنده بسیار سریع اما نیازمند Review در نظر بگیریم.

AI می‌تواند:

• پیشنهاد بدهد
• کد بنویسد
• خطا را بررسی کند
• تست تولید کند
• توضیح بدهد

اما انسان باید:

• تصمیم بگیرد
• Review کند
• تست را اعتبارسنجی کند
• ریسک را بسنجد
• مسئولیت نتیجه را بپذیرد

نتیجه

هرچه ابزارهای AI قدرتمندتر می‌شوند، مهارت‌هایی مثل Testing، Debugging و Code Review کم‌اهمیت‌تر نمی‌شوند.

اتفاقاً مهم‌تر می‌شوند.