دعم القرار والفرز والأدوات الموجّهة للمرضى
دعم القرار: مجال قديم بمحرّك جديد
دعم القرار السريري أقدم بكثير من الذكاء الاصطناعي (AI) الحديث — فالتنبيهات القائمة على القواعد ودرجات الخطورة مدمجة في أنظمة السجلات منذ عقود، ولها نمط إخفاق موثّق جيدًا: إرهاق التنبيهات. يتجاوز الكادر الطبي التنبيهات التي تنطلق كثيرًا جدًا أو بدقة ضعيفة، ويصبح التجاوز ردّ فعل تلقائيًا. يغيّر تعلّم الآلة (Machine learning) طريقة إنتاج التنبؤ، لا مشكلة العوامل البشرية التي يقع فيها. والنموذج الأفضل إحصائيًا الذي لا يزال ينطلق باستمرار، أو ينطلق دون خطوة تالية قابلة للتنفيذ، سيُتجاهل تمامًا كأسلافه. وتتضمن الأدبيات المتعلقة بالتنبؤ بتدهور الحالة والإنتان (Sepsis) تحديدًا أمثلة بارزة على أنظمة نُشرت على نطاق واسع ثم تبيّن، عند التقييم المستقل، أن أداءها في الممارسة أسوأ بكثير مما أوحت به ادعاءاتها الأصلية.
- إرهاق التنبيهات هو نمط الإخفاق الغالب، وهو مشكلة عوامل بشرية لا مشكلة نمذجة
- تبيّن عند التقييم المستقل أن أنظمة تنبؤ منتشرة على نطاق واسع أدّت دون ادعاءاتها الأصلية
- التنبؤ الذي لا يرتبط بإجراء محدد وممكن هو مقاطعة، لا دعم للقرار
التنبؤ ليس هو نفسه الفائدة
هذه هي النقطة الأكثر تعرّضًا لسوء الفهم في الذكاء الاصطناعي السريري. فالنموذج الذي يحدد المرضى المعرّضين للخطر بدقة لا يزال عليه أن يُظهر أن تحديدهم مبكرًا يؤدي إلى إجراء مختلف، وأن الإجراء متاح ويُتخذ فعلًا، وأن اتخاذه يحسّن النتائج. وكل حلقة قد تنكسر. ربما كان الإجراء يحدث أصلًا. وربما لا يوجد طاقم للاستجابة. وربما يفتقر التدخل نفسه إلى أدلة قوية. وهناك مفارقة بنيوية: التدخل الناجح يغيّر النتيجة التي دُرّب النموذج على التنبؤ بها، فيبدو أن أداء النموذج يتراجع تحديدًا حين يعمل. إن سؤال «ما الذي تغيّر للمرضى؟» بدل «ما مدى دقته؟» هو ما يميّز دعم القرار المفيد من الضجيج المكلف.
- تنبؤ دقيق، وإجراء متاح، وإجراء يُتخذ فعلًا، وإجراء يفيد — يجب أن تصمد كل حلقة
- التدخل الناجح يُضعف الأداء الظاهري للنموذج، ما يعقّد المراقبة
- السؤال هو ما الذي تغيّر للمرضى، لا مدى دقة الدرجة
الفرز التشغيلي والأدوات الموجّهة للمرضى
منطقتان بمَلمحَي مخاطر متعاكسين. الفرز التشغيلي — إعادة ترتيب قائمة عمل، أو تمييز فحوص التصوير لمراجعتها مبكرًا، أو التنبؤ بالطلب — يغيّر تسلسل العمل لا الاستنتاجات السريرية، ما يجعله قابلًا للإدارة نسبيًا، وإن كان نظام تحديد الأولويات الذي يؤخّر فئة ما بشكل منهجي مشكلة عدالة حتى لو فُحصت كل حالة في النهاية. أما الأدوات الموجّهة للمرضى فهي العكس: إرشاد الأعراض، وواجهات المحادثة، ومساعدو المراسلة تصل إلى الناس دون وسيط من الكادر الطبي بين الناتج والتصرف. ويجب أن يفترض التصميم أن المستخدم لا يستطيع تقييم الإجابة، وقد يكون في ضائقة، وقد لا يتعرّف على حالة طارئة. ومسارات التصعيد والحدود الصارمة أهم من جودة المحادثة.
- الفرز يعيد ترتيب العمل بدل أن يغيّر الاستنتاجات — لكن التأخير المنهجي لفئة ما يظل ضررًا
- الأدوات الموجّهة للمرضى لا يوجد فيها أحد من الكادر الطبي بين الناتج والتصرف
- التصعيد إلى إنسان وحدود الرفض الصريحة أهم من السلاسة
- افترض أن المستخدمين لا يستطيعون الحكم على صحة الإجابة وقد لا يتعرّفون على حالة طارئة