الذكاء الاصطناعي والأتمتة
آي بي إم واتسون: ما الذي لا يزال عرضٌ شهيرٌ للذكاء الاصطناعي يُعلّمنا إياه عن أنظمة العالم الحقيقي؟
في عام 2011، تغلب نظام IBM Watson على كين جينينغز وبراد روتر في برنامج Jeopardy!. لقد كان حدثًا تقنيًا حقيقيًا: إذ كان على النظام تفسير الأدلة المكتوبة للأشخاص، والبحث والترتيب...

في عام ٢٠١١، تغلب نظام IBM Watson على كين جينينغز وبراد روتر في برنامج Jeopardy!. كان ذلك حدثًا تقنيًا حقيقيًا: إذ كان على النظام تفسير الأدلة المكتوبة للمشاهدين، والبحث عن الإجابات المحتملة وترتيبها، وتقدير مستوى الثقة، وتحديد الوقت المناسب للضغط على الزر. يحفظ سرد IBM التاريخي حقيقة المباراة الأساسية. لكن الفوز التلفزيوني لم يكن أبدًا دليلًا قاطعًا على الذكاء، ولا ضمانًا لنجاح كل نظام لاحق يُباع تحت اسم Watson. تكمن فائدة سرد IBM لتاريخ المباراة في أنه يسمح لنا بالبدء بالإنجاز الحقيقي بدلًا من الأساطير التي أحاطت به.
يُعدّ هذا التمييز بالغ الأهمية كلما ظهر ادعاء تقني في صورة مألوفة: عرض توضيحي مُبهر، ونتائج أداء نموذجية مُذهلة، وعرض تقديمي واثق للمنتج، واستنتاج ضمني مفاده أن العمل الروتيني قد تم حله. السؤال المهم ليس ما إذا كان العرض التوضيحي "حقيقيًا" أم لا، بل: ما المهمة التي أنجزها فعليًا، وتحت أي ظروف، وما الذي لا يزال يتعين إثباته في البيئة التي يرغب أحدهم في استخدامه فيها؟
يُعدّ واتسون مثالاً ممتازاً، إذ شمل اسمه نظاماً بحثياً شهيراً، ومجموعة من الخدمات التجارية، وشركة رعاية صحية، ومؤخراً، جيلاً جديداً من منتجات الذكاء الاصطناعي لشركة IBM. إنّ تتبّع هذا التطور ليس مجرد بحثٍ في تاريخ الشركات، بل هو وسيلةٌ لتقوية الإرادة وتقليل التأثر بالأدلة الخاطئة، وتسهيل إدراك الأدلة التي يحتاجها أي نظام حقيقي.
ما أثبته الفوز في برنامج "جيباردي" وما لم يثبته
كان تحدي برنامج "جيباردي" صعبًا عمدًا. تعتمد الأدلة على التلميح، والتورية، والإشارات الثقافية، وعكس الأدوار حيث يجب على المتسابقين الإجابة على شكل أسئلة. لا يمكن لأي نظام أن ينجح بمجرد تحديد الكلمات التي تظهر معًا. بل يجب عليه توليد مرشحين معقولين، وتقييم الأدلة، والتصرف بسرعة كافية ليصبح اليقين عمليًا لا مجرد نظري.
أثبت فوز واتسون بالتالي أمرًا هامًا: أن الآلة قادرة على أداء مهمة الإجابة على أسئلة محددة بدقة عالية جدًا عندما تُصمم وفقًا للقواعد، وتُزود بمجموعة البيانات ذات الصلة، وتُقيّم في بيئة عامة بنتيجة واضحة لا لبس فيها. تُطلق شركة IBM على المشروع اسم DeepQA؛ كما نشر باحثوها شرحًا للاستراتيجيات المستخدمة في اللعبة. تُوضح الورقة البحثية حول استراتيجيات واتسون في برنامج Jeopardy هذه النقطة بشكل أوضح من العرض نفسه: فالنجاح بُني على صياغة محددة للمشكلة ومجموعة من الأساليب المتفاعلة، وليس على مفتاح سحري يُسمى الفهم.
هذا بالفعل أكثر إثارة للإعجاب -وإن كان محدودًا- من النسخة الرئيسية. يمكن تقييم نظام برنامج المسابقات بناءً على الإجابات والتوقيت ونتائج اللعبة. أما نظام مكان العمل، فقد يتطلب تفسير سجلات غير مكتملة، وتنسيق العمل بين الأفراد، وتوضيح حالة عدم اليقين للشخص المسؤول، والتعامل مع السياسات المتغيرة، والحفاظ على السرية، والتعافي بسلاسة عند الخطأ. هذه مهام مختلفة. قد تتشابه في بعض التقنيات، لكن التسمية المشتركة لا تجعل الأدلة قابلة للتبادل.
يبقى السؤال المتكرر جديرًا بالتأمل: ما الذي أثبتته لحظة واتسون؟ لقد أثبتت إمكانية بناء نظام عالي الأداء للإجابة على الأسئلة في تحدٍّ عام محدود. لكنها لم تثبت قدرة نموذج ما على اتخاذ قرارات سليمة في جميع المجالات، أو فهم المعنى الاجتماعي والمؤسسي للتوصية، أو إنتاج قيمة دون وجود سير عمل مُصمَّم جيدًا.
هذا ليس استنتاجًا مناهضًا للذكاء الاصطناعي، بل هو استنتاج هندسي. يكون العرض التوضيحي في أوج قوته عندما يُعامل كدليل على نطاق المهمة التي تم عرضها فعليًا. إن الرغبة في توسيعه أمر مفهوم، لكن الحل بسيط: حدد حدوده قبل استغلاله.
ثمة سبب آخر لأهمية بيئة التلفزيون، وهو أنها جعلت التقييم واضحًا. إذ كان بإمكان المشاهدين رؤية المؤشرات نفسها، والردود، والنتيجة، والنتيجة النهائية. في كثير من الحالات الواقعية، لا تكون النتيجة بهذه الوضوح. فقد تُقبل توصية ما لمجرد أنها تبدو منطقية، دون أن يُسجل أحد مدى دقتها، أو ما إذا كان المستخدم قد اضطر إلى تصحيحها، أو ما إذا تم إغفال استثناء مهم. لا يقتصر التحدي على التقييم التقني فحسب، بل يتعداه إلى ابتكار آلية عمل تُوفر أدلة كافية للتعلم من الأخطاء.
تُغيّر آلية العمل هذه مفهوم الثقة. ففي الألعاب، تُستخدم الثقة لتحديد ما إذا كان ينبغي الضغط على زر التنبيه أم لا. أما في سير العمل ذي الأهمية البالغة، فإن تقدير الثقة الداخلي لا يُعدّ تلقائيًا مؤشرًا موثوقًا به بالنسبة للمستخدم. فقد لا يكون مُعايرًا بناءً على الحالات الأكثر أهمية، كما أن واجهة المستخدم المُتقنة قد تجعل الإجابة المبدئية تبدو نهائية. لذا، يتساءل التصميم المسؤول عن كيفية التعبير عن عدم اليقين بلغةٍ تُمكّن المستخدم من اتخاذ إجراء: ربما من خلال روابط المصادر، أو ملاحظة مرئية للبيانات المفقودة، أو مسار تصعيد، أو حظر استخدام النتيجة وحدها لاتخاذ إجراء مُحدد.
يحمي هذا التمييز العمل الجيد من التوقعات غير العادلة. لا ينبغي لفريق يُنشئ مساعدًا محدودًا لاسترجاع السياسات أن يُثبت أنه قد أنشأ محللًا عامًا. بل عليه أن يُثبت أن المساعد يسترجع النسخة الصحيحة من السياسة، ويُبين أساسها، ويتعامل مع عدم اليقين بشكل آمن بما يكفي لتلك المهمة المحددة. يمكن اختبار الادعاءات الضيقة بنزاهة، بينما غالبًا ما يصبح التحقق من الادعاءات الواسعة مستحيلًا، وبالتالي يصعب إدارتها.
لماذا لا يُعد نظام الإجابة على الأسئلة أداة عامة لاتخاذ القرارات؟
تبدو مهمة الإجابة على الأسئلة مشابهةً بشكلٍ خادعٍ لأنواعٍ كثيرةٍ من العمل. يطرح شخصٌ سؤالاً؛ ويُنتج النظام إجابةً؛ ثم يتصرف الشخص. لكن هذا التسلسل يُخفي خياراتٍ تُحدد ما إذا كانت الإجابة مفيدةً أم محفوفةٍ بالمخاطر.
أولًا، يجب على شخص ما تحديد السؤال المطروح فعليًا. في برنامج "جيباردي"، تحدد اللعبة الهدف: تقديم الإجابة المطابقة للتلميح. أما في المؤسسات، فقد يُخفي سؤال مثل "أي مورد هو الأفضل؟" معايير متضاربة: التكلفة، والموثوقية، والالتزامات التعاقدية، والمخاطر البيئية، والمعرفة المحلية، وعواقب التأخير. يمكن للنظام استرجاع أو توليد معلومات ذات صلة دون حسم هذا التضارب. إذا لم يقرر أي مسؤول بشري كيفية المفاضلة بين هذه المعايير، فقد تبدو الإجابة حاسمة بينما هي في الواقع مجرد افتراض لم يُدرس.
ثانيًا، تتغير بيئة الأدلة. يمكن إعداد مجموعة بيانات نموذجية وفهم نطاقها. أما بيئة الأعمال أو الخدمة العامة فتتضمن وثائق حية، وتصاريح، وسجلات مكررة، وسياقًا مفقودًا، وحقائق لا تُهم إلا لارتباطها بحالة معينة. السؤال المهم ليس مجرد قدرة النظام على العثور على نص، بل قدرته على توضيح المعلومات التي استخدمها، وما لم يتمكن من الوصول إليه، وحدود ثقته في هذه المعلومات.
ثالثًا، للقرار تبعات. فإذا كانت إجابة سؤال في برنامج "جيباردي" خاطئة، تتغير النتيجة. وإذا أثرت توصية ما على مسار علاج مريض، أو مطالبة تأمين، أو قرار توظيف، أو استجابة أمنية، أو عقد، فقد تتسبب الإجابة الخاطئة في ضرر حتى وإن بدت منطقية. هذا لا يعني أن البرمجيات لا مكان لها في الأعمال ذات الأهمية البالغة، بل يعني أن التطبيق يجب أن يُصمم بحيث يُراعي المراجعة، والتصعيد، وإمكانية التدقيق، وتقسيم المسؤوليات بوضوح.
يسهل إغفال هذا التمييز لأن اللغة السلسة تخفيه. قد يُقدّم النظام إجابةً بصيغة استنتاج نحوية، لكن هذا لا يُبيّن ما إذا كان قد تم اختباره مقابل القرار الفعلي، أو ما إذا كانت البيانات تمثيلية، أو ما إذا كان بإمكان الشخص تصحيحه في الوقت المناسب. يُفرّق المُقيّم الجيد بين هذه المستويات.
- القدرة التي أظهرها النظام؛
- المهمة المقترحة في بيئة واقعية؛
- الأدلة والبيانات المتاحة هناك؛
- تكلفة الفشل؛
- السلطة البشرية التي تبقى قبل اتخاذ أي إجراء.
بمجرد أن تتضح هذه الطبقات، يصبح السؤال عمليًا بدلًا من كونه أيديولوجيًا. قد تظل أداة غير كافية للموافقة التلقائية مفيدة لتلخيص ملف، أو تحديد موقع سياسة، أو صياغة مذكرة داخلية، أو الإشارة إلى حالة للمراجعة. وقد تتطلب أداة تعمل بكفاءة في تجربة تجريبية مضبوطة قياسًا وضمانات مختلفة عند تغيير مدخلاتها. المهم هو ملاءمة الادعاء للمهمة، لا إجبار كل مهمة على إثبات أو دحض نظرية شاملة للذكاء الاصطناعي.
حيث يصبح تاريخ واتسون بمثابة تحذير مفيد
غالبًا ما يُروى تاريخ ما بعد برنامج "جيباردي!" إما كقصة انتصار لظهور الذكاء الاصطناعي أو كقصة بسيطة عن الضجة الإعلامية والفشل. كلا الروايتين غير كافية. فالاسم قد ينتشر على نطاق أوسع من الأدلة المرتبطة بأي نظام معين، ويمكن لشركة ما أن تعيد تنظيم نفسها، أو تستحوذ على منتجات، أو توقف عروضًا، أو تغير استراتيجيتها دون أن تحوّل كل نتيجة تقنية سابقة إلى احتيال أو قدر محتوم.
الدرس الأهم والأكثر ديمومة يتعلق بالترجمة. فالانتقال من مرحلة العرض التوضيحي إلى الاستخدام الروتيني ليس خطوة نهائية بسيطة، بل يتطلب تحديد المهمة المستهدفة بدقة، وإدارة المواد المصدرية، وإعادة تصميم العمل، وتدريب المستخدمين، والتحقيق في الأخطاء، وقياس النجاح بناءً على معايير تهمّ المتأثرين. إذا كانت هذه العناصر غامضة، فقد يدفع العرض التوضيحي المقنع المشروع إلى تجاهل العمل الأساسي الذي يحدد جدواه.
لقد أبرز قطاع الرعاية الصحية هذا الدرس بشكل خاص نظرًا لأهمية الموضوع ومعايير الأدلة العالية. أعلنت شركة IBM في عام 2022 عن توصلها إلى اتفاقية لبيع أصول من قسم Watson Health التابع لها إلى شركة Francisco Partners. يوثق إعلان IBM هذه الصفقة، ولكنه لا يُعد دليلًا على استحالة تطبيقها في مجال بأكمله، كما أنه لا يُصدر حكمًا نهائيًا على كل منتج أو مؤسسة معنية. ما يُظهره هذا الإعلان هو لماذا لا يُمكن لقصة العلامة التجارية أن تُغني عن الأدلة الخاصة بكل إصدار فيما يتعلق بالاستخدام المقصود للنظام، والتحقق من صحته، وحوكمته، وآثاره الملحوظة.
هنا يتحول اليقين اللاحق إلى شكل آخر من أشكال الخرافات. فمن السهل، بعد تغيير الاستراتيجية، الادعاء بأن النجاح أو الفشل كان واضحًا منذ البداية. لكن نادرًا ما كان كذلك. فالتقييم المسؤول يحافظ على الغموض الذي كان قائمًا آنذاك: ما المشكلة التي كان يجري حلها، ومن سيعتمد على النتائج، وما الأدلة المتاحة، وما القيود المفروضة، وما النتيجة التي كانت ستُعتبر تحسينًا.
بالنسبة للقارئ الذي يقرر ما يتعلمه من واتسون، فإن التحذير ليس "لا تصدق أي عرض توضيحي"، بل "لا تحوّل العرض التوضيحي إلى ادعاء بالنتيجة بتجاهل المرحلة المتوسطة". المرحلة المتوسطة هي التي تحدد فيها المؤسسة مدى ملاءمة النظام لمهمة حقيقية، وهي أيضاً المرحلة التي تكتشف فيها إمكانية قياس الفائدة المرجوة دون إخفاء تكلفة الأخطاء، أو المراجعة الإضافية، أو إعداد البيانات، أو تغيير العمل.
غالباً ما يكون العنصر البشري هو الحلقة المفقودة، وليس الخوارزمية. إذ يتعين على الأفراد تحديد مدى ثقتهم بالمصدر، ومتى يجب رفض الاقتراح، وكيفية شرح النتيجة للآخرين. يمكن للأداة أن تُغير توزيع الاهتمام داخل الفريق: فقد تُسرّع العمل الروتيني، لكنها في الوقت نفسه تزيد من أهمية الحالات غير الاعتيادية المتبقية. إذا تعاملت آلية التنفيذ مع الأفراد كمتلقين سلبيين للإجابة، فإنها ستفقد الكثير من المعرفة اللازمة لجعل سير العمل موثوقاً.
يُعدّ إعداد البيانات جانبًا آخر غير ملحوظ في عملية الترجمة. قد يبدو النظام كفؤًا عند تزويده بمواد مختارة بعناية ومنسقة بشكل متسق. لكن السجلات الحقيقية قد تحتوي على اختصارات، وإصدارات قديمة، ونصوص منسوخة، وثغرات، وصلاحيات تتغير من شخص لآخر. لا تقتصر المهمة على ربط نموذج بمستودع بيانات، بل تتعداها إلى تحديد المصدر الموثوق، وكيفية عرض التعارضات، ومن يملك صلاحية التحديثات، وماذا يجب فعله في حال عدم وجود إجابة مقنعة. هذه القرارات غير جذابة تحديدًا لأنها تُحمّل الأنظمة المفيدة المسؤولية.
ولا ينبغي الحكم على أي مشروع تجريبي بناءً على مدى إعجاب المستخدمين به فقط. فقد يشير تبني أداة ما إلى سهولة استخدامها أو حداثتها أو نجاح تسويقها، ولكنه لا يضمن صحتها أو سلامتها في حد ذاته. في المقابل، قد تكشف المقاومة الأولية عن مشكلة في التدريب أو سير العمل، بدلاً من كونها قدرة غير مجدية. ينبغي على القارئ البحث عن سرد متوازن: ما الذي تم اختباره، وما الذي تغير، ومن كان له القرار النهائي، وما هي التكاليف أو الإخفاقات التي أُخذت في الاعتبار عند التقييم.
كيف تُغير تقنيات الذكاء الاصطناعي الحالية في المؤسسات هذا السؤال؟
غالبًا ما تتمحور مناقشات الذكاء الاصطناعي المؤسسي اليوم حول النماذج التوليدية، واسترجاع المعرفة الخاصة، والمساعدين، والوكلاء، وأدوات الحوكمة، والنماذج الأساسية. ويصف عرض واتسون إكس الحالي من آي بي إم مجموعة من الحلول لبناء وإدارة الذكاء الاصطناعي في بيئات الأعمال. هذا وصف من الشركة المصنعة، وليس دليلًا مستقلًا على فعالية أو ملاءمة تطبيق معين. ولكنه يعكس تحولًا جوهريًا في المعايير التي يجب تقييمها.
طرح العرض التوضيحي الأصلي لنظام واتسون سؤالاً واضحاً حول الأداء: هل يستطيع هذا النظام المنافسة في هذه اللعبة؟ أما الأنظمة المعاصرة فتطرح سؤالاً أكثر شمولاً: هل يمكن لهذا المزيج من النموذج، والاسترجاع، والأذونات، والمطالبات، وسير العمل، والمراجعة، والمراقبة أن يدعم مهمة محددة دون التسبب في أخطاء أو مخاطر غير مقبولة؟ النموذج مهم، لكنه نادراً ما يمثل النظام بأكمله.
لنفترض وجود مساعد يُساعد الموظفين في الإجابة على أسئلة تتعلق بالسياسات الداخلية. يعتمد أداؤه الفعال على أكثر من مجرد إتقان التعامل مع النصوص. هل الوثائق المصدرية مُحدّثة؟ هل يستطيع التمييز بين سياسة مُلزمة وعرض تقديمي قديم؟ هل يلتزم بضوابط الوصول؟ هل يُمكن للمستخدم الاطلاع على الأدلة الداعمة لأي ادعاء؟ ماذا يفعل في حال عدم وجود إجابة؟ هل يُشجّع الموظفون على التعامل مع مخرجاته كمسودة، أو شرح، أو تعليمات؟ كل إجابة تُغيّر مستوى المخاطرة.
لهذا السبب، غالبًا ما يكون مصطلح "الذكاء الاصطناعي" فضفاضًا جدًا لاتخاذ قرار. قد يُشير معيار النموذج إلى شيء ما بخصوص نموذج يخضع لبروتوكول اختبار، لكنه لا يُخبرنا ما إذا كانت وثائق مؤسسة معينة مُنظمة، أو ما إذا كان التكامل يُسرب معلومات سرية، أو ما إذا كانت واجهة المستخدم تُظهر عدم اليقين، أو ما إذا كانت العملية المقترحة تمنح الشخص الوقت والصلاحية الكافيين لتصحيح نتيجة خاطئة.
لذا، لا تكمن القيمة الدائمة لقصة واتسون في المقارنة بين المنتجات القديمة والجديدة، بل في منهجية التحليل والتفكيك. اسأل: ما هو دور كل مكون؟ ما هي الأدلة التي تدعم كل مكون؟ ما هو الجزء من النتائج الذي لا يزال من اختصاص إدارة البيانات، والتصميم التشغيلي، والحكم البشري؟ عندما يصمد الادعاء أمام هذا التحليل، يصبح أكثر مصداقية، لا أقل إثارة، بل أكثر دقة.
كيف يبدو التقييم المسؤول؟
يبدأ التقييم المسؤول قبل الإطلاق الواسع النطاق وينتهي بعد عرض توضيحي مُتقن. فهو يجعل الادعاءات البسيطة قابلة للاختبار في السياق الذي تكون فيه هذه الادعاءات مهمة. الخطوة الأولى هي تحديد المهمة بلغة بسيطة وواضحة. فعبارة "استخدام الذكاء الاصطناعي لخدمة العملاء" ليست مهمة بحد ذاتها، بينما عبارة "مساعدة الموظفين المُدرَّبين في تحديد بند سياسة الإرجاع الحالي للمتصل، مع عرض المصدر وتصعيد الاستثناءات" أقرب إلى أن تكون مهمة.
ثم حدد الوضع الافتراضي. بالمقارنة مع أي عملية حالية؟ قد يُنتج نظام جديد مسودات أسرع مع زيادة عبء مراجعتها. وقد يُسهّل الحالات الروتينية مع صعوبة تمييز الحالات غير المألوفة. وقد يُقلل نوعًا من الأخطاء ويُدخل نوعًا آخر. وبدون أساس مرجعي، قد يُخفي التحسين الظاهر تكلفةً مُزاحة.
بعد ذلك، اختبر حالات نموذجية، بما في ذلك الحالات التي يُحتمل أن تكشف عن حدود النظام. قد يُظهر النظام الذي يُقيّم فقط على مدخلات واضحة ومألوفة أداءً مُقنعًا، بينما يفشل في حالات الغموض، أو المواد القديمة، أو الطلبات متعددة اللغات، أو التضارب بين المصادر، أو الأسئلة الحساسة المتعلقة بالأذونات. الهدف ليس إخفاق النظام لمجرد التسلية، بل تحديد الظروف التي ينبغي للمستخدم المسؤول في ظلها الاعتماد عليه، أو التحقق منه، أو تجنبه.
لا يقتصر القياس على مجرد رقم دقة واحد. فبحسب المهمة، قد تشمل الأدلة المفيدة الاكتمال، ومعايرة عدم اليقين، وإمكانية تتبع المصدر، والوقت اللازم للمراجع لاكتشاف الأخطاء، وتكرار التصعيد، والاتساق بين المجموعات أو الحالات، ومدى انكشاف الخصوصية، وتأثير الإخفاقات. ينبغي أن تتوافق المقاييس مع القرار. فالنظام الذي يُنشئ مذكرة داخلية بسيطة يستحق معيارًا مختلفًا عن النظام الذي يُعطي الأولوية للأفراد في خدمة بالغة الأهمية.
وأخيرًا، يجب تحديد الملكية بوضوح. يجب أن يمتلك شخص ما المادة المصدرية، ويقرر متى يمكن تحديث النظام، ويتلقى تقارير الأعطال، ويملك صلاحية إيقاف سير العمل أو تغييره. يُوصف نظام الحوكمة أحيانًا بأنه عبء إضافي يُضاف بعد الابتكار. عمليًا، هو جزء من الآلية التي تجعل القدرة المحدودة آمنة بما يكفي لتكون مفيدة على المدى الطويل.
ينبغي أن يشمل التقييم أيضًا دراسة التوجيهات، والواجهة، والتسلسل الذي يواجه فيه المستخدم الإجابة. يمكن استخدام النموذج الأساسي نفسه بطريقة تشجع على التحقق أو بطريقة تحجبه ضمنيًا. فالإجابة التي تُقدم مصدرًا وتاريخًا وشرحًا موجزًا لحدودها تدعم الحكم بشكل مختلف عن الإجابة التي تبدو مؤكدة فحسب. ويبرز هذا الاختلاف بشكل خاص عندما يكون المستخدمون مشغولين. فالناس لا يُدققون عادةً في كل جملة بنفس القدر من العناية؛ لذا يجب أن يُوجه سير العمل الانتباه إلى اللحظات التي يكون فيها التحقق أكثر أهمية.
هذا أحد الأسباب التي تجعل مجموعة الاختبار الصغيرة ينبغي أن تتضمن أكثر من مجرد أسئلة ذات إجابات معروفة. يجب أن تشمل الطلبات غير المكتملة، والطلبات التي يختلف فيها مصدران معتمدان، والطلبات التي ينبغي رفضها بسبب قواعد الوصول، والطلبات التي تتطلب بوضوح تقييمًا بشريًا للسياق. سجّل ليس فقط ما إذا كان النظام يُعطي إجابة مقبولة، بل أيضًا ما إذا كان يُشير إلى الحدّ بشكل مناسب. قد تكون الإجابة الواثقة غير المدعومة أكثر ضررًا من عبارة صريحة مثل "لا يمكنني تحديد ذلك من المواد المعتمدة"، لأن الأخيرة تُتيح الفرصة لشخص ما للتحقق.
من المفيد فصل أربع نتائج غالبًا ما تُدمج في نتيجة واحدة. قد يكون النظام متاحًا تقنيًا، وسهل الاستخدام، ودقيقًا في اختبار محدد، ومفيدًا حقًا في سير العمل. كل منها جدير بالقياس، لكن لا يستلزم أي منها النتيجة التالية. يُشير التوافر إلى أنه يعمل. وتُشير سهولة الاستخدام إلى قدرة المستخدمين على تشغيله. ويُشير أداء المهام إلى أنه يُعالج الحالات المُقيّمة. وتُشير الفائدة إلى أن العملية المُعدّلة تُنتج نتيجة قيّمة عند احتساب التكاليف والمخاطر. ينبغي انتظار أقوى الأدلة قبل تقديم أقوى الادعاءات.
يُتيح هذا الإطار إمكانية التوقف بشكل سليم. تكشف بعض التجارب أن البيانات غير متسقة للغاية، أو أن عبء المراجعة لا يزال مرتفعًا جدًا، أو أن المهمة لا يمكن تحديد نطاقها دون المساس بقيمتها الحقيقية. إن إنهاء هذا العمل أو تضييق نطاقه ليس بالضرورة فشلًا، بل هو قرار مدروس يمنع قدرة جذابة من اكتساب مسؤولية لم تستحقها. أما الثقافة التي لا تُقرّ بهذا، فستميل إلى الاستمرار في توسيع نطاق الادعاءات حتى يُجبرها الواقع على تصحيح الوضع.
بالنسبة للقادة، يكمن السؤال العملي في مدى كفاية الأدلة لتبرير السلطة المقترحة. قد لا يحتاج برنامج صياغة الوثائق إلا إلى مُراجع وضوابط للمصادر. أما النظام الذي يُعطي الأولوية للحالات، فقد يحتاج إلى اختبارات دقيقة لتوزيع الأخطاء ومساءلة واضحة. بينما يتطلب النظام الذي يؤثر في قرار مصيري أكثر من ذلك. ليس الهدف هو جعل كل مشروع بيروقراطيًا، بل جعل حجم الأدلة متناسبًا مع عواقب الخطأ.
لا تقتصر هذه الأسئلة على شركة IBM أو على الذكاء الاصطناعي التوليدي، بل هي وسيلة لتمييز الادعاءات المتعلقة بتقنية معينة عن تلك المتعلقة بالعمليات التي تُجرى عليها. قد يدعم العرض التوضيحي الادعاء الأول، بينما يحتاج الادعاء الثاني إلى أدلة من النظام الفعلي.
يمكن لسجل تقييم مُختصر أن يجعل هذا النهج قابلاً لإعادة الاستخدام. ولا يشترط أن يكون برنامج حوكمة ضخمًا. فعلى سبيل المثال، يُسجَّل المستخدم، وحدود المهمة، والمصادر المسموح بها، والمصادر المحظورة، والمخرجات المتوقعة، ومسؤول المراجعة، والخط الأساسي، وحالات الاختبار، وشروط التوقف. ثم تُحفظ أمثلة على النجاح والفشل. وهذا يُنشئ حلقة تغذية راجعة دقيقة بما يكفي لتحسين سير العمل الفعلي، وبسيطة بما يكفي لتعديلها عند تغير الأدلة.
على سبيل المثال، قد يُسمح لمساعد المعرفة الداخلي بالإجابة فقط استنادًا إلى وثائق السياسة المعتمدة، ويجب عليه ذكر النص الذي استخدمه. ويمكن للمراجع أخذ عينات من الإجابات الروتينية وفحص كل تصعيد. وفي حالة وجود وثائق متضاربة، قد يُطلب من المساعد التصريح بعدم قدرته على حل التضارب. هذه ليست إجراءات وقائية شكلية، بل هي جزء من السلوك الملحوظ الذي يتم تقييمه. وبدونها، يصعب تحديد ما إذا كانت الإجابة الواضحة تمثل مساعدة مفيدة أم مجرد تكرار لأخطاء سابقة.
يساعد هذا النهج نفسه في التمييز بين القدرة والسلطة. يمكن للنظام أن يكون قادرًا على اقتراح تصنيف دون أن يكون مخولًا باتخاذ القرار بشأنه. يمكنه صياغة رسالة دون أن يكون هو المرسل. يمكنه عرض المرشحين دون تحديد أولوية. إن تحديد هذا الحد بوضوح يُسهّل الأمر على المستخدمين، الذين يضطرون في غير هذه الحالة إلى استنتاج ما يُسمح لهم بالوثوق به من واجهة تبدو موثوقة. كما يمنح هذا النهج القادة قرارًا أكثر وضوحًا: توسيع دور النظام فقط عندما تدعم الأدلة توسيع نطاق الضوابط المحيطة به.
ثمة فائدة أخرى لإبقاء الادعاء محدودًا في البداية: فهي تحمي المقارنة. فإذا قام الطيار بتغيير المهمة، والواجهة، والبيانات، ومسؤوليات الأفراد دفعة واحدة، يصعب تحديد أي تغيير أدى إلى أي نتيجة. أما اتباع نهج تدريجي فيتيح التركيز على سؤال واحد. هل يساعد استرجاع المعلومات من مجموعة سياسات مُنسقة المراجعين في العثور على الأدلة؟ هل يُقلل الملخص من وقت القراءة دون إغفال الاستثناءات المطلوبة؟ هل تُؤدي صياغة الرد إلى إعادة عمل تفوق السرعة الأولية؟ كل إجابة من هذه الإجابات تُساهم في صياغة النسخة التالية دون الحاجة إلى سرد شامل للتحول.
ينبغي أن تكون الوثائق مفهومة للأشخاص الذين يتحملون المخاطر، وليس فقط للمتخصصين التقنيين. إن شرحًا موجزًا لحدود المهمة، والمصادر، وقواعد التصعيد، وأنماط الأعطال المعروفة، أكثر فائدة للمستخدم التشغيلي من الادعاء بأن النظام "مسؤول" أو "جاهز للاستخدام المؤسسي". قد تصف هذه الأوصاف طموحًا، لكنها لا توضح للمستخدم ما يجب فعله عندما يكون الرد غير مكتمل أو يتعارض مع الأدلة التي لديه.
هذا هو المنهج المعتاد الذي يحوّل الدروس التاريخية إلى ممارسات معاصرة. لا يحسم واتسون تساؤلات اليوم حول النماذج أو الاسترجاع أو الوكلاء، ولكنه يُبيّن لماذا قد يكون الأداء العلني حقيقيًا وغير كافٍ في الوقت نفسه. اعتبر الفجوة بين هاتين الحقيقتين مثمرة، فهي تُمكّن الفريق من تحديد ما يجب اختباره لاحقًا بدلًا من الجدال حول ما إذا كان الذكاء الاصطناعي، نظريًا، مثيرًا للإعجاب.
ثمة فرق أخير يمنع وقوع خطأ شائع في النشر: فالأدلة المتعلقة بمتوسط الأداء لا تُغني عن ضرورة التحقق من الجهة المسؤولة عن الخطأ. قد يعمل النظام بشكل جيد عمومًا، بينما يفشل بشكل متكرر مع مجموعة فرعية من أنواع المستندات أو اللغات أو الحالات أو المستخدمين. السؤال المهم ليس فقط "كم مرة يفشل؟" بل "ما هي حالات الفشل المتركزة، ومن يلاحظها، وماذا يحدث قبل تصحيحها؟" هذا سؤال يتعلق بالإنصاف والموثوقية على مستوى سير العمل، وليس ادعاءً بأن كل نظام سيُنتج النمط نفسه.
ليس من الصواب التظاهر بأن تجربةً تجريبيةً صغيرةً تُجيب على كل سؤالٍ مستقبلي، بل الحفاظ على الظروف التي أتاحت التعلّم: الاحتفاظ بسجلٍّ للإصدارات، والاحتفاظ بحالات اختبارٍ تمثيلية، ومراقبة التغييرات في المدخلات أو السياسات، وإعادة النظر في حدود التجربة عند توسّع نطاق المهمة. فالأنظمة تتغيّر، والمواد المصدرية تتغيّر، ويتعلّم الناس طرقًا جديدةً لاستخدام الأداة. والنتيجة المستخلصة في لحظةٍ ما تُعدّ دليلًا قيّمًا، وليست إعفاءً دائمًا من التقييم.
قد يبدو هذا أبطأ من إطلاق قدرة واسعة النطاق، ولكنه قد يكون أسرع بالمعنى المهم. فالنظام ذو النطاق المحدد والأدلة الواضحة قادر على كسب الثقة والتحسين المستمر. أما الادعاءات الغامضة بشأن التحول فقد تستنزف الوقت في الدفاع عن نفسها لعدم وجود اتفاق على المهمة أو المقياس أو المسؤول. والدرس العملي المستفاد من واتسون ليس في خفض الطموح، بل في جعله قابلاً للاختبار.
لهذا السبب أيضاً، تُعدّ الشفافية بشأن الحدود دليلاً على النضج، لا الضعف. فالفريق الذي يستطيع أن يقول: "هذا المساعد يُساعد في هذه الطلبات، ويستخدم هذه المصادر المعتمدة، ويجب التحقق منه في هذه الظروف"، يُقدّم للمستخدمين وعداً أكثر موثوقية من وعدٍ يُقدّم معلومات عامة. ويمكن تقييم هذا الوعد المحدود، وتحسينه، وسحبه عند الحاجة، دون ترك المستخدمين في حيرة من أمرهم بشأن سبب المشكلة.
اختر الخطوة التالية المسؤولة الأصغر
إذا كنت بصدد تقييم ادعاء يتعلق بالذكاء الاصطناعي، فقاوم الضغط لبدء اتخاذ قرار بشأن المنصة. ابدأ بإجراء مقترح واحد واطلب أربعة أمور: المهمة المحددة، والمصادر والصلاحيات ذات الصلة، وأهم عيب تم اكتشافه، والدليل على أن سير العمل المقترح يتفوق على سير العمل الحالي.
إذا كانت تلك الإجابات غامضة، فإن الخطوة التالية المسؤولة عادةً لا تكون تجربة أوسع نطاقًا، بل تعريفًا أدق للمشكلة. اختر استخدامًا محدودًا حيث يمكن التحقق من المخرجات، وربط الأدلة ذات الصلة، وحيث يكون للشخص بالفعل صلاحية اتخاذ القرار النهائي. تعرّف على كيفية تعامل النظام مع المدخلات الحقيقية قبل منحه مسؤولية أوسع.
لا تزال لحظة واتسون في عام 2011 جديرة بالتذكر لأنها أبرزت قدرةً بالغة الصعوبة. أما إرثها الأكثر فائدة فهو أقل إثارةً: التذكير بأن الإجابة المبهرة ليست سوى بداية لسؤال جوهري. ما هي المهمة؟ ما الأدلة المتاحة؟ ما ثمن الخطأ؟ من المسؤول؟ هذه الأسئلة تحوّل قصةً شهيرةً في مجال الذكاء الاصطناعي إلى منهجٍ لتقييم القصة التالية.
المصادر والحدود
تستند هذه المقالة إلى سرد شركة IBM الموثق لمباراة عام 2011، وإلى موادها العامة التي توفر معلومات عن المنتجات وتاريخ الشركة. تصف صفحات المنتجات عروض IBM، لكنها لا تُثبت بشكل مستقل الأداء أو الملاءمة أو الفائدة التي تعود على العملاء أو الميزة التنافسية. تقدم المقالة تحليلاً تحريرياً، ولا تُعد نصيحة شراء أو ادعاءً بشأن نتائج أي مؤسسة.