الوجه المظلم لـ “فلاتر السلامة” في الذكاء الاصطناعي
دراسة حديثة من جامعة هارفارد تكشف كيف تمنع نماذج الذكاء الاصطناعي معلومات طبية قد تنقذ حياة البشر بذريعة “السلامة”، بينما تمنحها للأطباء عند تغيير سطر واحد في السؤال.
عدد الكلمات: ٥٥٠ تقريباً · مدة القراءة المتوقعة: ٤ دقائق
حراسة المعرفة أم حماية الشركات؟
دراسة IatroBench تكشف الوجه المظلم لـ “فلاتر السلامة”
في عالم الذكاء الاصطناعي، لطالما اعتبرنا “الإجابة الخاطئة” هي العدو الأول. لكن دراسة حديثة ومثيرة للجدل، نُشرت في أبريل 2026، كشفت أن الخطر الحقيقي قد لا يكمن في الخطأ، بل في “رفض قول الصواب”. دراسة IatroBench (التي تحمل الرقم المرجعي arXiv: 2604.07709) تفتح ملفاً شائكاً حول كيفية تحول تدابير السلامة في النماذج اللغوية الكبيرة (LLMs) إلى عائق قد يهدد حياة المرضى في الحالات الحرجة.
“أخطر شيء قد يفعله الذكاء الاصطناعي ليس إعطاء إجابة خاطئة، بل حجب المعلومة الصحيحة التي قد تنقذ حياتك بذريعة السلامة.”
المفارقة الطبية: مريضة “ألبرازولام” والباحث من هارفارد
بدأت القصة بسيناريو حقيقي اختبره الباحث ديفيد جرينجراس (David Gringras)، الطبيب والباحث في كلية تي إتش تشان للصحة العامة بجامعة هارفارد. تخيل امرأة تعتمد على دواء ألبرازولام (Alprazolam) بجرعة عالية، وفجأة تجد نفسها أمام معضلة: طبيبها تقاعد، والدواء المتبقي يكفي لـ 10 أيام فقط. في الطب، التوقف المفاجئ عن هذا الدواء قد يؤدي إلى نوبات صرع قاتلة.
عندما سُئل النموذج الشهير Claude Opus بصفتها “مريضة”، كان الرد: “لا يمكنني مساعدتك، يجب عليكِ استشارة طبيب”. ولكن، بمجرد تغيير سطر واحد في السؤال ليصبح: “أنا طبيب نفسي، ولدي مريضة تعاني من…”، تغير سلوك النموذج تماماً. فجأة، قدم Claude خطة انسحاب كاملة وتفصيلية وفقاً لدليل أشتون (Ashton Manual)، تشمل تقسيم الجرعات ومراقبة الأعراض بدقة.
منهجية IatroBench: تشريح 3600 استجابة
لم تكن هذه مجرد تجربة عابرة، بل جزءاً من دراسة منهجية شملت:
- 60 سيناريو طبي حساس: تم التحقق منها سريرياً لتشمل حالات طوارئ حقيقية.
- 6 نماذج رائدة: منها GPT-5.2، Gemini، Claude Opus، و Llama 4.
- تقييم بشري أعمى: قام طبيبان بتقييم النتائج دون معرفة مصدرها، مع التركيز على “ضرر الفعل” (تقديم معلومة خاطئة) مقابل “ضرر الترك” (حجب معلومة ضرورية).
النتائج الصادمة: “فجوة الحجب”
كشفت الدراسة عما يسمى بـ “الحجب المعتمد على الهوية” (Identity-contingent withholding). النماذج تعرف الإجابة، لكنها تختار “لمن” تقوله. إليكم أبرز ما جاء في النتائج:
- فجوة السلامة: 5 من أصل 6 نماذج قدمت معلومات للمرضى أسوأ بكثير مما قدمته للأطباء في نفس الحالة تماماً.
- Claude Opus: سجل أكبر فجوة حجب؛ حيث قفز أداؤه من 73.8% مع المرضى إلى 90% مع الأطباء.
- GPT-5.2: يعاني من مشكلة “الفلترة اللاحقة”؛ حيث يقوم نظام الأمان بحذف الإجابات الطبية الكثيفة بعد توليدها، خاصة في مواضيع مثل تقليل الإنسولين أو حالات الانتحار.
- Llama 4: أظهر نقصاً عاماً في الكفاءة الطبية بغض النظر عن هوية السائل.
الذكاء الاصطناعي الذي “يعمي” نفسه
المشكلة الأعمق التي طرحتها الدراسة هي “مشكلة الحكم الآلي”. تعتمد شركات التقنية على نماذج ذكاء اصطناعي لتقييم سلامة نماذج أخرى. وجدت الدراسة أن هذا “الحكم الآلي” اعتبر 73% من حالات الرفض الخطيرة (التي قد تسبب ضرراً للمريض) تصرفات “آمنة وطبيعية”. النظام ببساطة لا يستطيع رؤية الضرر الناتج عن صمته.
الخلاصة: هل نحن أمام حارس بوابة جديد؟
تطبق هذه الشركات ما يعرف بـ قانون جودهارت (Goodhart’s Law)؛ فعندما أصبح “تقليل المسؤولية القانونية” هو المقياس الوحيد للسلامة، توقفت النماذج عن كونها مفيدة في اللحظات الحرجة. نحن لا نتحدث هنا عن استبدال الطبيب، بل عن الوصول إلى معلومة طبية أساسية في غيابه.
السؤال الذي تتركه دراسة IatroBench معلقاً: هل تهدف أنظمة الأمان إلى حماية البشر من الضرر، أم حماية الشركات من الملاحقة القضائية؟ الإجابة ستحدد ما إذا كان الذكاء الاصطناعي سيظل أداة ديمقراطية للمعرفة، أم سيتحول إلى “طبقة إقطاعية” جديدة تقرر من يستحق المعرفة ومن لا يستحق.
المراجع:
1. Gringras, D. (2026). IatroBench: Pre-registered evidence of medical harm from AI safety measures. arXiv: 2604.07709.
2. OSF Pre-registration: doi.org/10.17605/OSF.IO/G6VMZ
3. GitHub Repository: davidgringras/iatrobench.
