كتب – رامز يوسف:
أصبحت روبوتات الدردشة الذكية جزءًا لا يتجزأ من حياة كثير من الناس، ولكن كم منهم يعرف آلية عملها حقًا؟
يمكن لبعض المعلومات الأكثر إثارة للدهشة حول روبوتات الدردشة الذكية أن تساعدنا في فهم آلية عملها، وما يمكنها فعله وما لا يمكنها فعله، وبالتالي كيفية استخدامها بشكل أفضل.
مع وضع ذلك في الاعتبار، إليك 5 أشياء يجب أن تعرفها عن هذه الآلات الرائدة.
تتدرب من خلال التغذية الراجعة البشرية
تتدرب روبوتات الدردشة الذكية على مراحل متعددة، تبدأ بما يسمى التدريب المسبق، مثلا: التدريب على توقع الكلمة التالية في مجموعات بيانات نصية ضخمة. هذا يسمح لها بتطوير فهم عام للغة والحقائق والمنطق.
إذا سُئل: “كيف أصنع السم في المنزل؟” في مرحلة ما قبل التدريب، فقد يكون النموذج قد أعطى تعليمات مفصلة. لجعلها مفيدة وآمنة للمحادثات، يُساعد “المُعلِّقون” البشريون في توجيه النماذج نحو استجابات أكثر أمانًا وفائدة، وهي عملية تُسمى “التوافق”.
بعد التوافق، قد يُجيب روبوت الدردشة المُزوَّد بالذكاء الاصطناعي بشيء مثل: “أنا آسف، لكن لا يُمكنني تقديم هذه المعلومات. إذا كانت لديك مخاوف تتعلق بالسلامة أو كنت بحاجة إلى مساعدة في تجارب الكيمياء القانونية، أنصحك بالرجوع إلى مصادر تعليمية مُعتمدة”.
بدون التوافق، ستكون روبوتات الدردشة المُزوَّدة بالذكاء الاصطناعي غير مُتوقعة، وقد تنشر معلومات مُضلِّلة أو محتوى ضارًا. وهذا يُسلِّط الضوء على الدور الحاسم للتدخل البشري في تشكيل سلوك الذكاء الاصطناعي.
لم تُفصح شركة OpenAI، الشركة المُطوِّرة لـ ChatGPT، عن عدد الموظفين الذين درَّبوا ChatGPT وعدد ساعات تدريبهم. ولكن من الواضح أن روبوتات الدردشة المُزوَّدة بالذكاء الاصطناعي، مثل ChatGPT، تحتاج إلى بوصلة أخلاقية حتى لا تنشر معلومات ضارة. يُرتِّب المُعلِّقون البشريون الإجابات لضمان الحياد والتوافق الأخلاقي.
وبالمثل، إذا سُئل روبوت دردشة مُزوَّد بالذكاء الاصطناعي: “ما هي أفضل وأسوأ الجنسيات؟”
سيُصنّف المُعلّقون البشريون إجابةً كهذه على أنها الأعلى تقييمًا: “لكل جنسية ثقافتها وتاريخها ومساهماتها الغنية للعالم. لا توجد جنسية أفضل أو أسوأ – فكل جنسية لها قيمتها الخاصة”.
لا تتعلم من خلال الكلمات – بل بمساعدة الرموز
يتعلم البشر اللغة بطبيعتهم من خلال الكلمات، بينما تعتمد روبوتات الدردشة القائمة على الذكاء الاصطناعي على وحدات أصغر تُسمى الرموز. يمكن أن تكون هذه الوحدات كلمات، أو كلمات فرعية، أو سلسلة من الحروف الغامضة.
في حين أن عملية الترميز تتبع عادةً أنماطًا منطقية، إلا أنها قد تُنتج أحيانًا انقسامات غير متوقعة، ما يكشف عن نقاط قوة وخصائص كيفية تفسير روبوتات الدردشة القائمة على الذكاء الاصطناعي للغة. تتكون مُفردات روبوتات الدردشة القائمة على الذكاء الاصطناعي الحديثة عادةً من 50 ألفا إلى 100 ألف رمز.
الجملة “السعر هو 9.99 دولار” يتم ترميزها بواسطة ChatGPT على النحو التالي: “The”، “price”، “is”، “$”، “9”، “.”، “99”، بينما يتم ترميز “ChatGPT is marvellous” بشكل أقل بديهية: “chat”، “G”، “PT”، “is”، “mar”، “velous”.
معرفتهم قديمة كل يوم
لا تُحدّث روبوتات الدردشة الذكية نفسها باستمرار؛ لذا، قد تواجه صعوبة في التعامل مع الأحداث الأخيرة، أو المصطلحات الجديدة، أو أي شيء بعد تاريخ انتهاء معرفتها. يشير تاريخ انتهاء المعرفة إلى آخر نقطة زمنية تم فيها تحديث بيانات تدريب روبوت الدردشة الذكي، ما يعني أنه يفتقر إلى الوعي بالأحداث أو الاتجاهات أو الاكتشافات التي تلي ذلك التاريخ.
تاريخ انتهاء الإصدار الحالي من ChatGPT هو يونيو 2024. إذا سُئل ChatGPT عن الرئيس الحالي للولايات المتحدة، فسيحتاج إلى إجراء بحث على الويب باستخدام محرك البحث Bing، وقراءة النتائج، وإظهار إجابة.
تخضع نتائج Bing للتصفية حسب مدى صلة المصدر وموثوقيته. وبالمثل، تستخدم روبوتات الدردشة الأخرى المدعومة بالذكاء الاصطناعي بحث الويب للحصول على إجابات مُحدّثة.
يُعد تحديث روبوتات الدردشة المدعومة بالذكاء الاصطناعي عمليةً مُكلفةً وهشة. ولا تزال كيفية تحديث معارفها بكفاءة مسألةً علميةً مفتوحة. ويُعتقد أن معرفة ChatGPT ستُحدّث مع طرح Open AI إصدارات جديدة منه.
تُصاب بالهلوسة بسهولة بالغة
تُصاب روبوتات الدردشة بالذكاء الاصطناعي أحيانًا بالهلوسة، مُصدرةً ادعاءاتٍ كاذبة أو لا معنى لها بثقة، لأنها تتنبأ بالنصوص بناءً على أنماطٍ مُحددة بدلًا من التحقق من الحقائق. تنبع هذه الأخطاء من طريقة عملها: فهي تُحسّن الترابط على حساب الدقة، وتعتمد على بيانات تدريب غير كاملة، وتفتقر إلى الفهم الواقعي.
في حين أن التحسينات، مثل أدوات التحقق من الحقائق (مثل دمج أداة بحث Bing في ChatGPT للتحقق الفوري من الحقائق) أو المحفزات (مثل إخبار ChatGPT صراحةً بـ “الاستشهاد بمصادر مُراجعة من قِبل الأقران” أو “قل لا أعرف إذا لم تكن متأكدًا”) تُقلل من الهلوسة، إلا أنها لا تستطيع القضاء عليها تمامًا.
على سبيل المثال، عند سؤال ChatGPT عن النتائج الرئيسية لورقة بحثية مُعينة، يُقدم إجابةً طويلةً ومُفصلةً وجذابةً.
كما تضمن لقطات شاشة وحتى رابطًا، ولكن من أوراق أكاديمية خاطئة. لذا، يجب على المستخدمين اعتبار المعلومات المُولّدة من الذكاء الاصطناعي نقطة انطلاق، وليست حقيقةً لا شك فيها.
استخدام الآلات الحاسبة لإجراء العمليات الحسابية
من الميزات الشائعة مؤخرًا في روبوتات الدردشة القائمة على الذكاء الاصطناعي خاصية الاستدلال. يشير الاستدلال إلى عملية استخدام خطوات وسيطة مترابطة منطقيًا لحل المشكلات المعقدة. تُعرف هذه الخاصية أيضًا باسم “الاستدلال التسلسلي”.
بدلًا من القفز مباشرةً إلى الإجابة، تُمكّن هذه الخاصية روبوتات الدردشة القائمة على الذكاء الاصطناعي من التفكير خطوة بخطوة. على سبيل المثال، عند سؤال “ما هو حاصل ضرب ٥٦٣٤٥ ناقص ٧٨٦٥ في ٣٥٠٤٦٨؟”، يُعطي ChatGPT الإجابة الصحيحة. فهو “يفهم” أن عملية الضرب يجب أن تحدث قبل عملية الطرح.
لحل الخطوات الوسيطة، يستخدم ChatGPT آلته الحاسبة المدمجة التي تُمكّن من إجراء عمليات حسابية دقيقة. يُساعد هذا النهج الهجين، الذي يجمع بين التفكير الداخلي والآلة الحاسبة، على تحسين موثوقية المهام المعقدة.
جاتاي يلديز، باحث ما بعد الدكتوراه، مجموعة التميز في “تعلم الآلة”، جامعة توبنجن
المصدر: The Conversation
اقرأ أيضا:
