Evaluasi Kinerja Model BiLSTM dan Additive Attention pada Pemodelan Semantic Textual Similarity Berbasis Pre-trained BERT
DOI:
https://doi.org/10.55601/jsm.v27i2.2092Abstract
Pengukuran kesamaan semantik antarteks (Semantic Textual Similarity/STS) merupakan tantangan utama dalam Pemrosesan Bahasa Alami (NLP) akibat variasi leksikal dan struktur kalimat. Penelitian ini bertujuan untuk menganalisis dan mengevaluasi kinerja integrasi arsitektur Bidirectional Long Short-Term Memory (BiLSTM) dan mekanisme Additive Attention yang berbasis representasi fitur pre-trained BERT dengan pendekatan cross-encoder. Evaluasi model dilakukan menggunakan benchmark dataset Quora Question Pairs (QQP) pada tingkat kalimat. Hasil pengujian pada data uji menunjukkan bahwa model mencapai nilai loss sebesar 0,3237, akurasi 0,8545, AUC 0,9307, serta F1-score sebesar 0,8837 untuk kelas non-duplikat dan 0,8059 untuk kelas duplikat. Meskipun kombinasi BiLSTM dan Additive Attention terbukti efektif dalam menangkap konteks dua arah dan pembobotan fitur relevan pada pasangan teks pendek, pengujian berbasis kasus pada tingkat dokumen menghasilkan skor kemiripan yang relatif rendah. Hal ini menunjukkan adanya keterbatasan generalisasi model yang dipengaruhi oleh domain dan karakteristik dataset QQP yang didominasi oleh kalimat pendek berstruktur sederhana.
Downloads
Published
Issue
Section
License
Copyright (c) 2026 Chrisandy Wiranata, Muhammad Fahim Al - Mubarok, Sandy Agre Nicola, Ng Poi Wong, Sio Jurnalis Pipin

This work is licensed under a Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.








