Implementasi Explainable Machine Learning: Visualisasi Global Explainability and Local Interpretability pada Analisis Sentimen dengan SHAP dan LIME

Abstract

Analisis sentimen mengidentifikasi serta mengklasifikasikan sentimen yang diungkapkan dalam sumber teks. Tweet sering kali berguna dalam menghasilkan sejumlah besar data sentimen setelah dianalisis. Data ini berguna dalam memahami pendapat publik tentang berbagai topik. Model analisis sentimen telah berkembang dengan melibatkan Pembelajaran Mesin yang secara otomatis melakukan pekerjaan yang dibutukan untuk mengelola data teks dan menyediakan hasil analisis. Sementara itu perkembangan terkini dari pembelajaran mesin adalah pada peningkatan kemampuannya dalam menyediakan interpretasi dan penjelasan model, dalam hal ini dikenal dengan istilah explainable atau interpretable machine learning. Tulisan ini ingin membahas perkembangan explainability dari model pembelajaran mesin dan menyajikan penggunaannya pada data teks untuk menginterpretasi hasil klasifikasi pada analisis sentimen. Dua metode agnostik dipilih untuk memberikan penjelasan global pada model analisis sentimen secara menyeluruh dan interpretasi lokal untuk prediksi sentimen tertentu. LIME (Local Interpretable Model-agnostic Explanation) akan memberikan interpretasi secara lokal dan Shapley Additive Explanations (SHAP) akan memberikan baik penjelasan global maupun interpretasi lokal. Keduanya akan disajikan dalam suatu studi kasus tentang penggalian opini dari twitter tentang dua kasus berbeda. Studi kasus tentang penggalian opini tentang tax-amnesty pada tahun 2021. Tulisan ini akan berfokus pada penggunaan LIME dan SHAP pada analisis sentimen terlepas dari model klasifikasinya, dan secara tekstual akan mengilustrasi saling melengkapinya diantara keduanya untuk menyajikan informasi yang sangat berarti.