سيك تو سيك، بالانجليزية Seq2seq هي عائلة من مناهج التعلم الآلي المستخدمة في معالجة اللغة الطبيعية.[1] تتضمن تطبيقات ترجمة اللغة وإضافة تعليق للصور ونماذج المحادثة وتلخيص النصوص.[2]
تاريخ
تم اقتراح الخوارزمية من قبل ميكولوف في أطروحة الدكتوراه الخاصة به.[3]
تم تطوير الخوارزمية لاحقًا بواسطة شركة جوجل لاستخدامها في الترجمة الآلية.[4]
في عام 2019، أعلنت شركة فايسبوك عن استخدام الخوارزمية في التكامل الرمزي وحل المعادلات التفاضلية. ادعت الشركة أنها تستطيع حل المعادلات المعقدة بسرعة أكبر وبدقة أكبر من الحلول التجارية مثل ولفرام ماتماتيكا وماتلاب وميبل. أولاً، يتم تحليل المعادلة في بنية شجرية لتجنب الخصوصيات الترميزية. تقوم الشبكة العصبية ذات الذاكرة قصيرة المدى الطويلة الأمد بعد ذلك بتطبيق تسهيلاتها القياسية للتعرف على الأنماط لمعالجة الشجرة.[5]
تقنية
سيك تو سيك يحول تسلسل إلى تسلسل آخر ( تحول التسلسل [الإنجليزية] ). ويقوم بذلك بإستخدام الشبكات العصبية المتكررة أو في الغالب بواسطة الذاكرة قصيرة المدى الطويلة الأمد أو الوحدة المتكررة المسورة [الإنجليزية] . من أجل تجنب مشكلة التدرج المتلاشي [الإنجليزية] . سياق كل عنصر هو ناتج الخطوة السابقة. المكونات الأساسية عبارة عن شبكة من وحدة تشفير واحدة ووحدة فك تشفير واحدة. يحول المشفر كل عنصر إلى متجه مخفي مقابل يحتوي على العنصر وسياقه. تعكس وحدة فك التشفير العملية، وتحول المتجه إلى عنصر إخراج، باستخدام الإخراج السابق كسياق إدخال.[2][هل المصدر موثوق به؟]
برامج ذات صلة
تتضمن البرامج التي تعتمد أساليب مماثلة OpenNMT ( Torch ) و Neural Monkey ( تنسرفلو ) و NEMATUS ( Theano ).[6]
أنظر أيضا
مراجع
|
---|
المفاهيم | |
---|
التطبيقات | |
---|
التنفيذات | الصوت والصورة | |
---|
النص | |
---|
اتخاذ القرارات | |
---|
|
---|
الأشخاص | |
---|
المنظمات | |
---|
البنية المعمارية | |
---|
- بوابات
- تصنيفات
|
روابط خارجية