ماذا لو كان أذكى ذكاء اصطناعي في العالم مجرد ببغاء ماهر وليس مفكراً حقيقياً؟ تكشف دراسة من معهد ماساتشوستس للتكنولوجيا عن خلل خطير حيث تعطي النماذج اللغوية الكبيرة الأولوية للأنماط النحوية على حساب المعنى الفعلي. وجد الباحثون أن...
قصة عامة سابقة · مراجعة الأدلة غير متاحة.
نُشرماذا لو كان أذكى ذكاء اصطناعي في العالم مجرد ببغاء ماهر وليس مفكراً حقيقياً؟ تكشف دراسة من معهد ماساتشوستس للتكنولوجيا عن خلل خطير حيث تعطي النماذج اللغوية الكبيرة (LLMs) الأولوية للأنماط النحوية على حساب المعنى الفعلي. وجد الباحثون أنه حتى أفضل النماذج مثل GPT-4 يمكن خداعها للإجابة على أسئلة غير منطقية مثل ”بسرعة اجلس باريس غائمة؟“ بـ ”فرنسا“ لمجرد أن بنية الجملة تتطابق مع نمط مألوف. يمكن أيضاً استغلال هذه الثغرة من قبل جهات خبيثة، يمكنها إعادة صياغة الطلبات الضارة باستخدام قوالب جمل ”آمنة“ لتجاوز مرشحات الأمان في النماذج اللغوية الكبيرة وتوليد محتوى خطير. يسلط هذا الاكتشاف الضوء على مشكلة جوهرية في الموثوقية، مما يوضح أن النماذج يمكن أن تفشل بشكل غير متوقع في المواقف الحرجة المتعلقة بالسلامة. لمكافحة ذلك، طور الفريق أداة قياس جديدة لمساعدة المطورين على اختبار هذا الخلل والتخفيف منه قبل نشر الذكاء الاصطناعي في مجالات مثل خدمة العملاء أو التحليل الطبي.
هذا الاكتشاف يتحدى موثوقية النماذج اللغوية الكبيرة من خلال الكشف عن نمط فشل قائم على البنية النحوية.
اسحب لأعلى للتالي1 / 1