مركز تعلّم الذكاء الاصطناعيEnglish
ترجمة عربية جديدة ✦ نراجعها باستمرار لتحسينها.

كود لا تستطيع قراءته، ومتى تتوقف

⁧بنيت شيئًا لا تستطيع فحصه بالكامل — فابنِ على هذا الأساس⁩⁧هذا وضع دائم لمن يبني بهذه الطريقة، لا مرحلة تتجاوزها⁩⁧إنه يعمل — وقد يحوي أخطاء وخيارات غريبة وثغرات لا تراها⁩⁧مراجعة الكود ليست من خياراتك — أمانك يجب أن يأتي من مكان آخر⁩⁧اجعله بحجم ما تستطيع الإشراف عليه⁩⁧مستخدمون قليلون، لا العامة⁩⁧بيانات قليلة القيمة، لا شيء حساس⁩⁧إجراءات يمكن التراجع عنها فقط⁩⁧لا شيء تلقائي يمسّ شخصًا⁩⁧نطاق ضرر صغير هو الاستراتيجية كلها⁩⁧توقف واستعن بمهندس عندما⁩⁧تمرّ عبره أموال⁩⁧يخزّن ما تكره أن تراه منشورًا⁩⁧يعتمد عليه أشخاص من الخارج⁩⁧يتصرف من تلقاء نفسه، أو يُذكر لك قانون⁩⁧المراجعة بضع ساعات — أرخص بكثير مما تمنعه⁩⁧الانجراف — لا أحد يقرر الاعتماد على نموذج أولي⁩⁧نموذج أولي يعمل⁩⁧يستخدمه أشخاص أكثر كل شهر⁩⁧العمل يعتمد عليه الآن⁩⁧عدم الإطلاق إجابة حقيقية — وغالبًا هي الاحترافية⁩⁧عطلة نهاية أسبوع أنفقتها أسوأ سبب لتعريض الناس للخطر — النموذج الأولي أجاب عن سؤالك بالفعل⁩⁧إن لم تستطع قراءته، فأبقِه صغيرًا وبطيئًا وتحت الإشراف⁩⁧الحدود والسقوف وقوائم الفحص واختبار الآخرين — هذه الضوابط تعمل، وهي كل ما لديك⁩
⁧لا يمكنك مراجعة كود لا تستطيع قراءته، فأبقِ نطاق ضرره صغيرًا — وحين تدخل الأموال أو الغرباء أو الإجراءات التلقائية، توقف واطلب المساعدة.⁩

الصورة الصريحة للخطر

هذا هو الجزء الذي يستحق قولًا واضحًا. لقد بنيت شيئًا يعمل لكنك لا تستطيع تقييمه بالكامل. وهذه حالة حقيقية ودائمة في البرمجة بالمحادثة (Vibe Coding)، لا فجوة مؤقتة تختفي مع الخبرة. قد يحتوي الكود على أخطاء لا تظهر إلا في ظروف لم تختبرها قط. وقد يحتوي على اختيارات لم تكن لتتخذها لو فهمتها، وثغرات لا تُرى من الخارج. أنت لا تستطيع مراجعته، لذا فأمانك يأتي من مكان آخر. يأتي من تقييد ما يُسمح للتطبيق بفعله، ومما اخترت ألّا تجمعه، ومن الحدود وقوائم الفحص واختبار الآخرين له. هذه الضوابط فعّالة حقًا. وهي أيضًا الوحيدة التي تملكها.

  • لا تستطيع تقييم ما بنيته — هذه حالة دائمة، لا مرحلة
  • قد توجد مشكلات لا تُرى من الخارج ولم تنكشف حتى الآن
  • أمانك يأتي من الحدود والعادات، لا من مراجعة الكود
  • هذه الضوابط تعمل، وهي الوحيدة التي تملكها

ماذا يعني هذا عمليًا

لا يعني ألّا تبني. بل يعني أن تجعل ما تبنيه على قدر ما تستطيع الإشراف عليه. نطاق ضرر صغير: مستخدمون قليلون، وبيانات منخفضة القيمة، وإجراءات قابلة للتراجع، ولا شيء تلقائي يؤثر في شخص. أبعد ما لا تستطيع قراءته عن الأشياء التي ستؤذي إن ساءت. ويعني أيضًا مقاومة انجراف محدد وشائع جدًا. نموذج أولي يعمل، ويستخدمه عدد أكبر من الناس كل شهر، ثم يصبح تدريجيًا ركيزة يقوم عليها عمل تجاري — دون أن يقرّر أحد ذلك أبدًا. لا أحد يختار هذا. إنه يحدث تلقائيًا، نجاحًا صغيرًا بعد آخر، ومن المفيد تسميته حتى تلاحظه حين يحدث لك.

  • اجعل ما تبنيه على قدر ما تستطيع الإشراف عليه
  • أبعد الكود الذي لا تقرؤه عن المال والصحة والسلامة والإجراءات التلقائية
  • الإخفاق الشائع هو الانجراف: نموذج أولي يصبح ركيزة أساسية بصمت
  • لا أحد يقرّر الاعتماد على نموذج أولي؛ هذا يحدث تلقائيًا

إشارات واضحة لاستدعاء مهندس

بعض الإشارات لا لبس فيها. اكتبها مسبقًا، وستتعرّف عليها تحت الضغط. تخزّن شيئًا تكره أن تراه منشورًا. تمرّ عبره أموال. يعتمد عليه أشخاص من خارج مؤسستك في أمر يهمّهم. ذُكرت لك لائحة تنظيمية بالاسم. يتعامل مع بيانات عن أطفال أو بيانات صحية. يتصرف من تلقاء نفسه دون موافقة شخص. أصبح شيئًا سيعاني عملك فعلًا من دونه. أي واحدة من هذه تعني: توقّف واطلب من متخصص أن ينظر فيه. ليس بالضرورة ليعيد بناءه — بل غالبًا ليراجعه فقط ويخبرك بما يحتاج إلى اهتمام. وتلك المراجعة رخيصة مقارنةً بما تمنعه.

  • بيانات حساسة، أو حركة أموال، أو أشخاص من الخارج يعتمدون عليه
  • لائحة تنظيمية مذكورة بالاسم، أو بيانات أطفال، أو معلومات صحية
  • أي شيء يتصرف تلقائيًا دون موافقة شخص
  • المراجعة تستغرق عادةً ساعات قليلة، وهي أرخص بكثير مما تمنعه

متى لا تطلقه

لنختم بالقرار الذي يجده الناس الأصعب. لا تطلقه إذا لم تستطع أن تقول ماذا يخزّن ومن يستطيع رؤيته. لا تطلقه إذا كانت المفاتيح لا تزال في الكود. لا تطلقه إذا لم تضع حدودًا للإنفاق. لا تطلقه إذا لم تمرّ على قائمة الفحص كأنك غريب. لا تطلقه إذا كنت لن تستطيع إيقافه، أو إبلاغ المتضررين، حين يحدث خطأ. ولا تطلقه لمجرد أنك قضيت عطلة نهاية أسبوع عليه. الجهد الذي بذلته أسوأ سبب ممكن لتعريض الآخرين للخطر. عدم الإطلاق نتيجة مشروعة، وغالبًا هي النتيجة الاحترافية. والنموذج الأولي أدّى مهمته رغم ذلك: أجاب عن السؤال. وهذا ما كان الغرض منه دائمًا.

  • عدم الإطلاق قرار حقيقي، لا ضعف في الشجاعة
  • لا حدود للإنفاق، مفاتيح في الكود، تدفّق بيانات مجهول، لم يُختبر كغريب: كلها إشارات توقّف
  • الجهد المبذول سلفًا أسوأ سبب لتعريض الآخرين للخطر
  • النموذج الأولي أجاب عن سؤالك — وكانت هذه وظيفته الحقيقية دائمًا

كيف ينطبق هذا عليّ؟

إن كنت أنت من يبني

أنت الشخص الوحيد الذي سيقوم بأي من هذا، فاجعله قائمة قصيرة تمرّ عليها قبل المشاركة، لا فلسفة. خمس دقائق من الفحوص قبل خروج الرابط هي الممارسة كلها.

  • قبل المشاركة: الحدود مضبوطة، والمفاتيح خارج الكود، وقائمة الفحص مجرّبة على هاتف
  • اكتب ما تخزّنه ومن يستطيع رؤيته، وإلا فلا تشاركه
  • اعرف كيف توقفه عن العمل قبل أن تحتاج إلى ذلك
الحفاظ على الأمان

في النموذج الأولي، أفضل الضوابط هي الضوابط الهيكلية المملّة. اجمع أقل. اكشف أقل. ضع حدودًا لكل شيء. ولا تسمح له أبدًا بالتصرف تجاه شخص دون رقابة.

  • احذف الحقول المجموعة أولًا — إنها الحماية الوحيدة التي لا يمكن أن تفشل
  • تحقّق من أن مستخدمًا مسجّل الدخول لا يستطيع الوصول إلى سجلات مستخدم آخر
  • افترض أن كل عنوان عام سيُكتشف وستستهدفه البرامج الآلية
إن كانت لديك بعض المهارة التقنية

تستطيع إضافة ضوابط الحماية التي لا يكاد النموذج الأولي المولَّد يتضمنها أبدًا. كل واحدة منها مهمة صغيرة ومحصورة. ولا واحدة منها تتطلب إعادة كتابة.

  • تحقّق من خلوّ سجل المستودع من الأسرار، لا الملفات الحالية فقط
  • أضف حدودًا لمعدّل الطلبات وفحوصًا للمدخلات على كل ما يمكن الوصول إليه علنًا
  • تأكد من وجود نسخ احتياطية، ومن أنك استعدت واحدة منها مرة على الأقل
إن كنت تقدّم المشورة أو توظّف

النماذج الأولية تنجرف إلى التشغيل الفعلي دون أن يقرّر أحد ذلك. وهذا اليوم من أكثر المخاطر التي ستصادفها شيوعًا. اجعل الانتقال لحظة صريحة، لا حادثًا عرضيًا.

  • اسأل: ماذا يخزّن، ومن يستطيع الوصول إليه، وكم يكلّف شهريًا
  • حدّد كتابيًا النقطة التي يجب عندها أن يراجعه مهندس
  • حدّد نطاق مراجعة قبل إعادة البناء — فهي أرخص وغالبًا كافية