الهلوسة: كيف تتحقق مما يقوله لك الذكاء الاصطناعي

تخترع أدوات الذكاء الاصطناعي أحيانًا حقائق واقتباسات ومراجع، بل وقضايا قضائية، وتقدمها بثقة تامة. حين تتعلم كيف تكتشف هذه «الهلوسات» وتتحقق منها، تحمي درجاتك وسمعتك، وأحيانًا سلامتك.

شاهد ملخص الدقيقة الواحدة (بالإنجليزية)

شاهد الدليل المصوّر الكامل لهذه الوحدة (بالإنجليزية)

ما الهلوسة

• تعرّف IBM هلوسات الذكاء الاصطناعي بأنها مخرجات تبدو معقولة لكنها خاطئة في الواقع، أو لا صلة لها بالموضوع، أو مختلقة.
• قد تخترع النماذج اللغوية الكبيرة حقائق ودراسات وعناوين مواقع (URLs) أو تفاصيل عن أشخاص ومؤسسات حقيقية (IBM).
• السبب جزء من طبيعتها: النماذج التوليدية تتنبأ بمخرجات تبدو محتملة انطلاقًا من الأنماط، وغايتها أن تبدو معقولة لا أن تكون صحيحة (IBM).
• الثغرات والأخطاء والتحيزات في بيانات التدريب تصبح أيضًا جزءًا مما ينتجه النموذج (IBM).

قضية حقيقية: المحامون والأحكام المزيفة

• في قضية Mata v. Avianca أمام محكمة فيدرالية أمريكية في نيويورك، استخدم محامون ChatGPT في البحث القانوني، وقدموا مذكرة تستشهد بأحكام قضائية لا وجود لها، مع اقتباسات مخترعة أيضًا (LawSites).
• حين شككت المحكمة في وجود هذه القضايا، ظل المحامون متمسكين بها. وفي 22 يونيو 2023، فرض القاضي P. Kevin Castel غرامة قدرها 5,000 دولار أمريكي على المحامين ومكتبهم.
• وأُمروا أيضًا بإبلاغ موكّلهم، وكل قاضٍ حقيقي نُسبت إليه زورًا كتابة تلك الأحكام المزيفة.
• إذا كان المحترفون المدربون قد يقعون في هذا الخطأ، فمقال طالب فيه مراجع مخترعة قد يقع فيه كذلك.

علامات تحذير انتبه لها

• المراجع المحددة وأرقام الصفحات والاقتباسات والإحصاءات: هذه بالضبط ما تميل النماذج إلى اختراعه.
• روابط المواقع: اضغط عليها. الرابط الذي لا يؤدي إلى أي مكان أو يؤدي إلى صفحة لا علاقة لها بالموضوع علامة تحذير.
• الادعاءات عن أشخاص حقيقيين، خاصة الأفراد العاديين أو الأحداث الأخيرة.
• الأخبار الحديثة جدًا: لبيانات تدريب النموذج تاريخ توقف، فقد يصف وضعًا قديمًا على أنه الوضع الحالي.
• الإجابات التي تطابق تمامًا ما كنت تأمل سماعه. اطرح السؤال نفسه بطريقة أخرى وانظر هل تتغير الإجابة.

روتين تحقق في خمس دقائق

• اطلب من الأداة مصادرها، ثم ابحث عن كل مصدر بنفسك في قاعدة بيانات مكتبة أو موقع الناشر أو موقع رسمي. لا تثق بمرجع لمجرد أنه موجود في الإجابة (جامعة ريدينغ).
• تحقق من أي رقم أو تاريخ بالرجوع إلى المصدر الأصلي، لا إلى إجابة أخرى من الذكاء الاصطناعي.
• استخدم القراءة الجانبية: افتح علامات تبويب جديدة لترى ما تقوله المواقع الموثوقة عن الادعاء (يتناولها مقرر التفكير النقدي).
• قارن شرح الذكاء الاصطناعي بكتابك المدرسي أو ملاحظات الصف أو قائمة القراءات (جامعة أكسفورد).
• إن لم تستطع تأكيد ادعاء ما، فاحذفه أو اذكر بوضوح أنه غير متحقق منه.

حين تكون العواقب كبيرة

• في أسئلة الصحة أو القانون أو المال أو السلامة، اعتبر إجابات الذكاء الاصطناعي نقطة انطلاق لأسئلة تطرحها على شخص مؤهل، ولا تعتبرها الكلمة الأخيرة أبدًا.
• تقول IBM إن الإشراف البشري ضروري حيثما قد تسبب الهلوسات ضررًا كبيرًا.
• في حالة طوارئ في الإمارات، اتصل بخدمات الطوارئ بدل أن تسأل روبوت محادثة (انظر مقرري الإسعافات الأولية والسلامة الشخصية).
• تذكّر أن المسؤولية عليك: تذكّر جامعة ريدينغ طلابها بأن المسؤولية عن العمل تقع عليك أنت، لا على الأداة.