المناطق-متابعات
تغير الكثير منذ عام 1986، عندما نشر هاري فرانكفورت فيلسوف برينستون، مقالا في مجلة غامضة، “راريتان”، بعنوان “فيما يتعلق بالهراء”. مع ذلك، يظل المقال الذي أعيد نشره لاحقا باعتباره من أكثر الأوراق البحثية الصغيرة مبيعا، وثيق الصلة بالموضوع بشكل مثير.
كانت فكرة فرانكفورت البارعة هي أن الهراء يكمن خارج نطاق الحقيقة والأكاذيب. فالكاذب يهتم بالحقيقة ويرغب في طمسها. ومن يتفوه بالهراء لا يبالي بما إذا كانت أقواله صحيحة، “فهو يختارها فقط، أو يصنعها، بما يتناسب مع غرضه”. على نحو نموذجي بالنسبة إلى كاتب من القرن الـ20، استخدم فرانكفورت ضمير “هو” وليس “هي” أو “هم” لوصف صاحب الكلام الفارغ، لكن الآن في عام 2023 قد نضطر إلى الإشارة إلى صاحب هذه الصفة بكلمة “هو”، لأن جيلا جديدا من روبوتات المحادثة مهيأ لتوليد الهراء على نطاق لم نحلم به من قبل.
تأمل ما حدث عندما سأل ديفيد سميردون، وهو اقتصادي في جامعة كوينزلاند، روبوت الدردشة الرائد “شات جي بي تي”، “ما الورقة البحثية الاقتصادية الأكثر استشهادا بها على الإطلاق؟” قال “شات جي بي تي”، “إنها نظرية التاريخ الاقتصادي لدوجلاس نورث وروبرت توماس، نشرت في مجلة (التاريخ الاقتصادي) في عام 1969 وتم الاستشهاد بها أكثر من 30 ألف مرة منذ ذلك الحين”، وأضاف الروبوت “إن المقال يعد كلاسيكيا في مجال التاريخ الاقتصادي”. إجابة جيدة، من بعض النواحي. لكنها من نواح أخرى ليست إجابة جيدة، لأن الورقة لا وجود لها.
لماذا اخترع “شات جي بي تي” هذه المقالة؟ يتكهن سميردون بما يلي: غالبا ما تحتوي أوراق الاقتصاد الأكثر استشهادا بها على كلمتي “النظرية” و”الاقتصادي”، فإذا بدأ مقال بـ”نظرية اقتصادية” (…) فإن كلمة “تاريخ” هي استمرار محتمل. فدوجلاس نورث، الحائز جائزة نوبل، مؤرخ اقتصادي يستشهد به بكثرة، وقد ألف كتابا مع روبرت توماس. بعبارة أخرى، الاستشهاد معقول بشكل رائع. إن ما يتعامل به “شات جي بي تي” ليس الحقيقة، بل المعقول.
وكيف يمكن أن يكون خلاف ذلك؟ فـ”شات جي بي تي” لا يمتلك نموذج تجربة إنسانية شاملة، بدلا من ذلك لديه نموذج لأنواع الأشياء التي يميل الناس إلى كتابتها. وهذا يفسر سبب قابليته للتصديق بشكل مذهل، كما يشرح سبب أن روبوت الدردشة قد يجد صعوبة في تقديم إجابات صحيحة لبعض الأسئلة المباشرة إلى حد ما.
هذا ليس قصرا على “شات جي بي تي”. اكتسب روبوت شركة ميتا “جالاكتيكا” قصير العمر سمعة سيئة لاختراعه الاستشهادات. ولم يقتصر الأمر على الأوراق الاقتصادية فقط. سمعت أخيرا من الكاتبة جولي ليثكوت-هيمز، التي انتخبت أخيرا لعضوية مجلس مدينة بالو ألتو، أن “شات جي بي تي” ألف قصة عن فوزها، “كان كثير مما قاله صحيحا، وكان مصوغا بشكل جيد”. لكن ليثكوت-هيمز سوداء، وانطلق “شات جي بي تي” في الحديث حول كيفية أنها أول امرأة سوداء يتم انتخابها في مجلس المدينة. معقول تماما، لكنه غير صحيح على الإطلاق.
أوضح جاري ماركوس، مؤلف كتاب “إعادة تشغيل الذكاء الاصطناعي”، على بودكاست عزرا كلاين، أن “كل شيء ينتج عنه يبدو معقولا، لأنه مشتق من الأشياء التي قالها البشر. لكنه لا يعرف دائما الروابط بين الأشياء التي يضعها معا”. وهذا ما دفع كلاين إلى طرح سؤال، “ماذا يعني إيصال تكلفة الهراء إلى الصفر”؟
يختلف الخبراء حول مدى خطورة مشكلة الفبركة. فقد حقق “شات جي بي تي” تقدما ملحوظا في فترة زمنية قصيرة جدا. وربما الجيل القادم، في غضون عام أو عامين، لن يعاني هذه المشكلة. لكن ماركوس يعتقد خلاف ذلك. فهو يجادل بأن الحقائق الزائفة لن تختفي دون إعادة التفكير بشكل أساسي في الطريقة التي يتم بها بناء أنظمة الذكاء الاصطناعي هذه.
إنني لست مؤهلا للتكهن فيما يتعلق بهذا السؤال، لكن هناك أمرا واحدا واضحا بشكل كاف، هناك كثير من الطلب على الهراء في العالم، وإذا كان رخيصا بدرجة كافية، فسيتم توفيره بكميات هائلة. فكر في مدى حاجتنا الدؤوبة الآن إلى الدفاع عن أنفسنا ضد البريد الإلكتروني المخادع “سبام” والضجة وتفشي الأشياء الفارغة عبر الإنترنت. وفكر في مدى صعوبة الأمر عندما يمتلئ عالم الإنترنت بنصوص مثيرة للاهتمام لم يكتبها أحد من قبل، أو صور رائعة لأشخاص وأماكن لا وجود لها.
فكر في مشكلة “الأخبار المزيفة” الشهيرة، التي أشارت في الأصل إلى مجموعة من المراهقين المقدونيين الذين اختلقوا قصصا مثيرة للنقر عليها لقراءتها وبالتالي تزيد إيرادات الإعلانات. الخداع لم يكن هدفهم، كان هدفهم الاهتمام. ويظهر المراهقون المقدونيون و”شات جي بي تي” الهدف نفسه. فمن السهل كثيرا إنشاء قصص ممتعة إذا لم تكن مقيدا باحترام الحقيقة.
لقد كتبت عن مشكلة الهراء في أوائل عام 2016، قبل استفتاء بريكست وانتخاب دونالد ترمب. لقد كان ذلك سيئا وقتها. وهو أسوأ الآن. فبعد أن تم تحدي ترمب في قناة “فوكس نيوز” بشأن إعادة تغريد بعض الادعاءات الكاذبة، أجاب “مرحبا، بيل، بيل، هل سأفحص كل إحصائية”؟ قد يقول “شات جي بي تي” الشيء نفسه.
إذا كنت تهتم بأن تكون على حق، فعندئذ نعم، يتعين عليك التحقق. لكن إذا كنت تهتم بأن تتم ملاحظتك، أو الإعجاب بك، أو تصديقك، فإن الحقيقة تكون عرضية. يقول “شات جي بي تي” كثيرا من الأشياء الحقيقية، لكنه يقولها فقط كنتيجة ثانوية للتعلم لتبدو قابلة للتصديق.
لقد حققت روبوتات الدردشة قفزات هائلة إلى الأمام في العامين الماضيين، لكن حتى روبوتات الدردشة البدائية في القرن الـ20 كانت قادرة تماما على استيعاب انتباه الإنسان. فقد نجح برنامج الذكاء الاصطناعي، إم جونز، في اجتياز اختبار تورينج في عام 1989 بإطلاق سلسلة من الإهانات على إنسان غافل، رد بمجموعة من الإهانات. كان “إيليزا”، أشهر روبوتات المحادثة المبكرة، يبهر البشر من خلال الظهور وكأنه يستمع لمشكلاتهم. كان يقول “قل لي مزيدا. لماذا تشعر بهذه الطريقة”؟
لقد قامت روبوتات المحادثة البسيطة هذه بما يكفي لجذب البشر إلى مستوى محادثتهم. وينبغي أن يكون هذا تحذيرا بعدم السماح لروبوتات الدردشة باختيار قواعد الاشتباك. فقد حذر هاري فرانكفورت من أن هذا الهراء لا يعارض الحقيقة، لكنه “لا يوليها اهتماما على الإطلاق. واستنادا إلى هذا، فإن الهراء هو عدو أكبر للحقيقة من الأكاذيب”. كن حذرا، عندما يتعلق الأمر بالهراء، فإن الكمية لن ترضيك مطلقا.