Bidirectional GRU menggunakan Attention Mechanism pada analisis sentimen PLN Mobile

ABSTRAK

Analisis sentimen adalah teknik yang digunakan untuk menganalisis pendapat, sentimen, sikap dan emosi orang terhadap entitas seperti layanan, produk, organisasi, peristiwa dan lain-lain. Ada tiga poin utama pada analisis sentimen yaitu task, approach, dan level of analysis. Beberapa pendekatan analisis sentimen banyak diusulkan salah satunya menggunakan deep learning seperti CNN, RNN, LSTM, dan BiGRU. Penelitian ini bertujuan untuk mengusulkan arsitektur analisis sentimen untuk mengatasi ketidakmampuan algoritma deep learning seperti LSTM dan GRU dalam menangkap informasi penting. Arsitektur yang diusulkan yaitu mengkombinasikan Bidirectional GRU (BiGRU) dengan attention mechanism menggunakan word2vec sebagai word embedding. Attention mechanism digunakan untuk menangkap kata yang penting sehingga arsitektur tersebut dapat memahami informasi yang penting. Kemudian, arsitektur yang diusulkan dilakukan perbandingan dengan metode CNN, CNN-GRU, CNN-LSTM, CNN-BiGRU, CNN-BiLSTM dengan menggunakan data ulasan PLN Mobile. Hasil eksperimen menunjukkan bahwa arsitektur analisis sentimen yang diusulkan memiliki akurasi dan f1-score yang lebih tinggi.

ABSTRACT

Sentiment analysis is a technique used to analyze people's opinions, sentiments, attitudes, and emotions toward entities such as services, products, organizations, events, and others. There are three main points in sentiment analysis: task, approach, and level of analysis. Several sentiment analysis approaches are proposed, including deep learning, such as CNN, RNN, LSTM, and BiGRU. This research proposes a sentiment analysis architecture to overcome the inability of deep learning algorithms such as LSTM and GRU to capture critical information. The proposed architecture combines Bidirectional GRU (BiGRU) with an attention mechanism using word2vec as word embedding. Attention mechanisms are used to capture important words so that the architecture can understand important information. Then, the proposed architecture was compared with CNN, CNN-GRU, CNN-LSTM, CNN-BiGRU, and CNN-BiLSTM methods using PLN Mobile review data. The experimental results showed that the proposed sentiment analysis architecture had higher accuracy and f1-score.

مستخلص البحث

تحليل المشاعر هو تقنية تستخدم لتحليل آراء الناس ومشاعرهم ومواقفهم وعواطفهم تجاه كيانات مثل الخدمات والمنتجات والمنظمات والأحداث وغيرها. هناك ثلاث نقاط رئيسية في تحليل المشاعر ، وهي المهمة والنهج ومستوى التحليل. تم اقتراح العديد من مناهج تحليل المشاعر ، أحدها يستخدم التعلم العميق مثل CNN و RNN و LSTM و BiGRU. يهدف هذا البحث إلى اقتراح بنية تحليل المشاعر للتغلب على عدم قدرة خوارزميات التعلم العميق مثل LSTM و GRU على التقاط المعلومات الهامة. تجمع البنية المقترحة بين GRU ثنائي الاتجاه (BiGRU) وآلية الانتباه باستخدام word2vec كتضمين للكلمات. تستخدم آليات الانتباه لالتقاط الكلمات المهمة حتى تتمكن البنية من فهم المعلومات المهمة. بعد ذلك ، تمت مقارنة البنية المقترحة مع طرق CNN و CNN-GRU و CNN-LSTM و CNN-BiGRU و CNN-BiLSTM باستخدام بيانات مراجعة PLN Mobile. أظهرت النتائج التجريبية أن بنية تحليل المشاعر المقترحة كانت أعلى دقة ودرجة F1.