An enhanced approach for sentiment analysis based on meta-ensemble deep learning نهج معزز لتحليل المشاعر يعتمد على التعلم العميق الفائق الذكاء Une approche améliorée de l'analyse des sentiments basée sur le méta-ensemble de l'apprentissage profond Un enfoque mejorado para el análisis de sentimientos basado en el aprendizaje profundo metaensamblado

Abstract Sentiment analysis, commonly known as "opinion mining," aims to identify sentiment polarities in opinion texts. Recent years have seen a significant increase in the acceptance of sentiment analysis by academics, businesses, governments, and several other organizations. Numerous deep-learning efforts have been developed to effectively handle more challenging sentiment analysis problems. However, the main difficulty with deep learning approaches is that they require a lot of experience and hard work to tune the optimal hyperparameters, making it a tedious and time-consuming task. Several recent research efforts have attempted to solve this difficulty by combining the power of ensemble learning and deep learning. Many of these efforts have concentrated on simple ensemble techniques, which have some drawbacks. Therefore, this paper makes the following contributions: First, we propose a meta-ensemble deep learning approach to improve the performance of sentiment analysis. In this approach, we train and fuse baseline deep learning models using three levels of meta-learners. Second, we propose the benchmark dataset "Arabic-Egyptian Corpus 2" as an extension of a previous corpus. The corpus size has been increased by 10,000 annotated tweets written in colloquial Arabic on various topics. Third, we conduct several experiments on six benchmark datasets of sentiment analysis in different languages and dialects to evaluate the performance of the proposed meta-ensemble deep learning approach. The experimental results reveal that the meta-ensemble approach effectively outperforms the baseline deep learning models. Also, the experiments reveal that meta-learning improves performance further when the probability class distributions are used to train the meta-learners. يهدف تحليل المشاعر المجردة، المعروف باسم "استخراج الآراء"، إلى تحديد استقطاب المشاعر في نصوص الرأي. شهدت السنوات الأخيرة زيادة كبيرة في قبول تحليل المشاعر من قبل الأكاديميين والشركات والحكومات والعديد من المنظمات الأخرى. تم تطوير العديد من جهود التعلم العميق للتعامل بفعالية مع مشاكل تحليل المشاعر الأكثر تحديًا. ومع ذلك، فإن الصعوبة الرئيسية في مناهج التعلم العميق هي أنها تتطلب الكثير من الخبرة والعمل الجاد لضبط المعلمات المفرطة المثلى، مما يجعلها مهمة مملة وتستغرق وقتًا طويلاً. حاولت العديد من الجهود البحثية الحديثة حل هذه الصعوبة من خلال الجمع بين قوة التعلم الجماعي والتعلم العميق. وقد ركزت العديد من هذه الجهود على تقنيات تجميع بسيطة، والتي لها بعض العيوب. لذلك، تقدم هذه الورقة الإسهامات التالية: أولاً، نقترح نهج التعلم العميق الفوقي لتحسين أداء تحليل المشاعر. في هذا النهج، نقوم بتدريب ودمج نماذج التعلم العميق الأساسية باستخدام ثلاثة مستويات من المتعلمين الفوقيين. ثانيًا، نقترح مجموعة البيانات المعيارية "المجموعة العربية المصرية 2" كامتداد لمجموعة سابقة. تمت زيادة حجم المجموعة بمقدار 10000 تغريدة مشروحة مكتوبة باللغة العربية العامية حول مواضيع مختلفة. ثالثًا، نجري العديد من التجارب على ست مجموعات بيانات مرجعية لتحليل المشاعر بلغات ولهجات مختلفة لتقييم أداء نهج التعلم العميق الفوقي المقترح. تكشف النتائج التجريبية أن نهج الذكاء الفوقي يتفوق بشكل فعال على نماذج التعلم العميق الأساسية. كما تكشف التجارب أن التعلم التلوي يحسن الأداء بشكل أكبر عند استخدام توزيعات فئة الاحتمالات لتدريب المتعلمين التلويين. L'analyse abstraite des sentiments, communément appelée « sondage d'opinion », vise à identifier les polarités des sentiments dans les textes d'opinion. Ces dernières années ont vu une augmentation significative de l'acceptation de l'analyse des sentiments par les universitaires, les entreprises, les gouvernements et plusieurs autres organisations. De nombreux efforts d'apprentissage en profondeur ont été développés pour gérer efficacement les problèmes d'analyse des sentiments plus difficiles. Cependant, la principale difficulté des approches d'apprentissage en profondeur est qu'elles nécessitent beaucoup d'expérience et de travail acharné pour régler les hyperparamètres optimaux, ce qui en fait une tâche fastidieuse et fastidieuse. Plusieurs efforts de recherche récents ont tenté de résoudre cette difficulté en combinant le pouvoir de l'apprentissage d'ensemble et de l'apprentissage profond. Beaucoup de ces efforts se sont concentrés sur des techniques d'ensemble simples, qui présentent certains inconvénients. Par conséquent, cet article apporte les contributions suivantes : Tout d'abord, nous proposons une approche d'apprentissage profond méta-ensemble pour améliorer la performance de l'analyse des sentiments. Dans cette approche, nous formons et fusionnons des modèles d'apprentissage profond de base en utilisant trois niveaux de méta-apprenants. Deuxièmement, nous proposons l'ensemble de données de référence « Corpus arabo-égyptien 2 » comme une extension d'un corpus précédent. La taille du corpus a été augmentée de 10 000 tweets annotés écrits en arabe familier sur divers sujets. Troisièmement, nous menons plusieurs expériences sur six ensembles de données de référence d'analyse des sentiments dans différentes langues et dialectes pour évaluer la performance de l'approche d'apprentissage profond méta-ensemble proposée. Les résultats expérimentaux révèlent que l'approche de méta-ensemble surpasse efficacement les modèles d'apprentissage profond de base. En outre, les expériences révèlent que le méta-apprentissage améliore encore les performances lorsque les distributions de classes de probabilité sont utilisées pour former les méta-apprenants. El análisis de sentimientos abstractos, comúnmente conocido como "minería de opiniones", tiene como objetivo identificar las polaridades de los sentimientos en los textos de opinión. Los últimos años han visto un aumento significativo en la aceptación del análisis de sentimientos por parte de académicos, empresas, gobiernos y varias otras organizaciones. Se han desarrollado numerosos esfuerzos de aprendizaje profundo para manejar de manera efectiva los problemas de análisis de sentimientos más desafiantes. Sin embargo, la principal dificultad con los enfoques de aprendizaje profundo es que requieren mucha experiencia y trabajo duro para ajustar los hiperparámetros óptimos, por lo que es una tarea tediosa y que consume mucho tiempo. Varios esfuerzos de investigación recientes han intentado resolver esta dificultad combinando el poder del aprendizaje conjunto y el aprendizaje profundo. Muchos de estos esfuerzos se han concentrado en técnicas simples de ensamble, que tienen algunos inconvenientes. Por lo tanto, este artículo hace las siguientes contribuciones: En primer lugar, proponemos un enfoque de aprendizaje profundo de metaensamblaje para mejorar el rendimiento del análisis de sentimientos. En este enfoque, entrenamos y fusionamos modelos de aprendizaje profundo de referencia utilizando tres niveles de meta-learners. En segundo lugar, proponemos el conjunto de datos de referencia "Arabic-Egyptian Corpus 2" como una extensión de un corpus anterior. El tamaño del corpus se ha incrementado en 10.000 tweets anotados escritos en árabe coloquial sobre diversos temas. En tercer lugar, realizamos varios experimentos en seis conjuntos de datos de referencia de análisis de sentimientos en diferentes idiomas y dialectos para evaluar el rendimiento del enfoque de aprendizaje profundo de metaensamblaje propuesto. Los resultados experimentales revelan que el enfoque de metaensamblaje supera efectivamente los modelos de aprendizaje profundo de referencia. Además, los experimentos revelan que el metaaprendizaje mejora aún más el rendimiento cuando se utilizan las distribuciones de clase de probabilidad para entrenar a los metaaprendices.