الذكاء الاصطناعي يكتب الكود، لكن من المسؤول عن النتيجة؟

يستطيع الذكاء الاصطناعي بالفعل إنشاء الدوال وإصلاح الأخطاء وكتابة الاختبارات وتعديل عدة ملفات في المشروع دفعة واحدة. لكن القدرة على إنشاء الكود بسرعة لا تعني أن هذا الكود يحل المهمة بصورة صحيحة، أو يتوافق مع البنية، أو أنه آمن للمستخدمين. تبقى مسؤولية النتيجة على المتخصص أو الفريق الذي قبل التغيير وأطلقه في المنتج.

يجب التعامل مع الكود الذي ينشئه الذكاء الاصطناعي باعتباره اقتراحاً من منفذ خارجي لم يتم التحقق منه. قد يبدو مقنعاً، وينجح في التجميع، ويجتاز اختباراً بسيطاً، لكنه قد يتضمن منطق عمل خاطئاً، أو فحصاً ضعيفاً للصلاحيات، أو ثغرة، أو طريقة قديمة، أو تبعية غير موجودة. لذلك يجب ألا يكون السؤال الأساسي «هل يعمل الكود الآن؟»، بل «هل نفهم سلوكه في جميع السيناريوهات المهمة؟».

يبدأ العمل الآمن قبل إنشاء الكود. يجب أن تتضمن المهمة السياق والقيود ومعايير القبول وقواعد البنية ومتطلبات الأمان. كلما وصف المطور بدقة الإجراءات المسموح بها، وتنسيقات البيانات، وأدوار المستخدمين، وسيناريوهات الخطأ، قلت احتمالية الحصول على حل جميل ظاهرياً لكنه خطير.

لا يجوز إرسال مفاتيح الوصول وكلمات المرور والبيانات الشخصية للعملاء والكود الخاص والوثائق الداخلية إلى الذكاء الاصطناعي من دون ضوابط. يجب أن تحدد الشركة الأدوات المسموح بها، والبيانات التي يمكن إرسالها إلى النموذج، وكيف تُحفظ، وهل تُستخدم للتدريب. ينبغي أن تبقى الأسرار في مخازن محمية وألا تدخل أبداً في المطالبات أو المستودع.

من الأفضل إنشاء التغييرات في أجزاء صغيرة. يسهل فهم وحدة محدودة واحدة وفحصها والتراجع عنها أكثر من مجموعة ضخمة من الملفات أعاد الذكاء الاصطناعي كتابتها بطلب واحد. يحتاج كل تغيير إلى diff واضح، وشرح للسبب، وارتباط بالمهمة، ومطور يتحمل مسؤولية قبول النتيجة.

بعد الإنشاء يجب أن يمر الكود بالرقابة الهندسية المعتادة: المراجعة اليدوية، وتشغيل أدوات الفحص، والتحقق من الأنواع، واختبارات الوحدات والتكامل، وفحص التبعيات، والبحث عن الأسرار، والتحليل الثابت للأمان. وتتطلب المصادقة والمدفوعات والبيانات الشخصية والوظائف الإدارية فحصاً إضافياً من متخصص يفهم مجال المخاطر المعني.

تحتاج التبعيات إلى اهتمام خاص. قد يقترح الذكاء الاصطناعي حزمة قديمة، أو مكتبة بترخيص غير مناسب، أو حتى اسماً مقنعاً لكنه غير موجود. قبل التثبيت يجب التحقق من المصدر الرسمي والسمعة وتاريخ التحديث والثغرات المعروفة والترخيص والحاجة الفعلية إلى التبعية. يكون العدد الأقل من المكونات الموثوقة أكثر أماناً عادة من مكتبات كثيرة أضيفت عشوائياً.

يجب ألا تحصل وكلاء الذكاء الاصطناعي القادرة على تشغيل الأوامر وتعديل الملفات فوراً على وصول كامل إلى بنية العمل. فهي تحتاج إلى بيئة معزولة، وأقل قدر من الصلاحيات، وقائمة بالأدوات المسموح بها، وتأكيد إلزامي للإجراءات غير القابلة للتراجع. يجب أن يتم العمل مع production وأنظمة الدفع وقواعد بيانات العملاء والأسرار عبر إجراءات منفصلة وخاضعة للرقابة.

لا تنتهي المسؤولية بعد دمج الكود. يجب إصدار التغيير عبر CI/CD، واختباره أولاً في بيئة تجريبية، ثم نشره تدريجياً مع مراقبة الأخطاء والأداء وسلوك المستخدمين. وينبغي أن يتمكن الفريق من تعطيل الوظيفة أو التراجع عن الإصدار بسرعة إذا ظهرت مشكلة في كود الذكاء الاصطناعي تحت الحمل الحقيقي.

الفريق القوي لا يحظر الذكاء الاصطناعي ولا يثق به من دون شروط. يستخدمه لتسريع العمل، لكنه يحافظ على إمكانية تتبع كل قرار: من وضع المهمة، وما الذي تم إنشاؤه، وما الاختبارات التي نُفذت، ومن أجرى المراجعة، ومن سمح بالإصدار. هذه العملية هي التي تحول الذكاء الاصطناعي من مصدر مخاطر جديدة إلى أداة هندسية يمكن التحكم بها.