Wyniki wyszukiwania - BazTech

1

Classification Performance Comparison of BERT and IndoBERT on SelfReport of COVID-19 Status on Social Media

Budiman Irwan, Faisal Mohammad Reza, Faridhah Astina, Farmadi Andi, Mazdadi Muhammad Itqan, Saragih Triando Hamonangan, Abadi Friska

Journal of Computer Sciences Institute

|

2024

|

Vol. 30

61--67

EN

Messages shared on social media platforms like X are automatically categorized into two groups: those who self-report COVID-19 status and those who do not. However, it is essential to note that these messages cannot be a reliable monitoring tool for tracking the spread of the COVID-19 pandemic. The classification of social media messages can be achieved through the application of classification algorithms. Many deep learning-based algorithms, such as Convolutional Neural Networks (CNN) or Long Short-Term Memory (LSTM), have been used for text classification. However, CNN has limitations in understanding global context, while LSTM focuses more on understanding word-by-word sequences. Apart from that, both require a lot of data to learn. Currently, an algorithm is being developed for text classification that can cover the shortcomings of the previous algorithm, namely Bidirectional Encoder Representations from Transformers (BERT). Currently, there are many variants of BERT development. The primary objective of this study was to compare the effectiveness of two classification models, namely BERT and IndoBERT, in identifying self-report messages of COVID-19 status. Both BERT and IndoBERT models were evaluated using raw and preprocessed text data from X. The study's findings revealed that the IndoBERT model exhibited superior performance, achieving an accuracy rate of 94%, whereas the BERT model achieved a performance rate of 82%.

PL

Wiadomości udostępniane na platformach mediów społecznościowych, takich jak X, są automatycznie dzielone na dwie grupy: te, które samodzielnie zgłaszają swój status COVID-19, i te, które tego nie robią. Należy jednak pamiętać, że komunikaty te nie mogą stanowić wiarygodnego narzędzia monitorowania umożliwiającego śledzenie rozprzestrzenia-nia się pandemii Covid-19. Klasyfikację komunikatów w mediach społecznościowych można osiągnąć poprzez zastosowanie algorytmów klasyfikacyjnych. Do klasyfikacji tekstu wykorzystano wiele algorytmów opartych na głębokim uczeniu się, takich jak konwolucyjne sieci neuronowe (CNN) czy pamięć długoterminowa (LSTM). Jednak CNN ma ograniczenia w rozumieniu kontekstu globalnego, podczas gdy LSTM koncentruje się bardziej na zrozumieniu sekwencji słowo po słowie. Poza tym oba wymagają dużej ilości danych do nauki. Obecnie opracowywany jest algorytm klasyfikacji tekstu, który może pokryć wady poprzedniego algorytmu, a mianowicie dwukierunkowych reprezentacji enkoderów z transformatorów (BERT). Obecnie istnieje wiele wariantów rozwoju BERT. Podstawowym celem tego badania było porównanie skuteczności dwóch modeli klasyfikacji, a mianowicie BERT i IndoBERT, w identyfikowaniu komunikatów samoopisowych na temat statusu COVID-19. Zarówno modele BERT, jak i IndoBERT oceniano przy użyciu surowych i wstępnie przetworzonych danych tekstowych z X. Wyniki badania wykazały, że model IndoBERT wykazał się doskonałą wydajnością, osiągając współczynnik dokładności na poziomie 94%. Natomiast model BERT osiągnął wskaźnik wydajności na poziomie 82%.

2

Comparison of shallow and deep learning methods of ECG signals classification for arrhythmia detection

Nugrahadi Dodon Turianto, Herteno Rudy, Kartini Dwi, Haekal Muhammad, Faisal Mohammad Reza

Journal of Computer Sciences Institute

|

2023

|

Vol. 27

132--137

EN

The research aimed to compare the classification performance of arrhythmia classification from the ECG signal dataset from the Massachusetts Institute of Technology–Beth Israel Hospital (MIT-BIH) database. Shallow learning methods that were used in this study are Support Vector Machine, Naïve Bayes, and Random Forest. 1D Convolutional Neural Network (1D CNN), Long Short Term Memory (LSTM), and Gated Recurrent Unit (GRU) were deep learning methods that were used for the study. The models were tested on a dataset with 140 samples that were grouped into four class labels, and each sample has 2160 features. Those models were tested for classification performance. This research shows Random Forest and 1D CNN have the best performance.

PL

Badanie ma na celu porównanie wydajności klasyfikacji arytmii na podstawie zestawu danych sygnału EKG z bazy danych Massachusetts Institute of Technology – Beth Israel Hospital (MIT-BIH). W pracy zastosowano następujące metody: Support Vector Machine, Naïve Bayes i Random Forest. Ponadto wykorzystano następujące metody głębokiego uczenia: 1D Convolutional Neural Network (1D CNN), Long Short Term Memory (LSTM) oraz Gated Recurrent Unit (GRU). Modele zostały przetestowane na zbiorze danych zawierającym 140 próbek pogrupowanych w cztery etykiety klas. Każda próbka zawierała 2160 cech. Przeprowadzone testy wydajności klasyfikacji wskazały, że Random Forest i 1D CNN wykazują najwyższą wydajność.

3

Comparison of Machine Learning Algorithms on Classification of Covid-19 Cough Sounds Using MFCC Extraction

Faisal Mohammad Reza, Hidayat Muhammad Thoriq, Kartini Dwi, Indriani Fatma, Budiman Irwan, Saragih Triando Hamonangan

Journal of Computer Sciences Institute

|

2023

|

Vol. 29

399--404

EN

Early detection for COVID-19 has now been widely developed. One of the methods used is cough audio detection. This research aims to classify cough audio. Audio feature extraction is performed using MFCC to obtain numerical features. Feature classification is done using SVM, Random Forest, and Naive Bayes methods. Evaluation is done to find the best classification method. The evaluation results in this study show that SVM Kernel RBF produces the best evaluation value with an AUC value of 0.657715.

PL

Wczesne wykrywanie COVID-19 zostało obecnie szeroko opracowane. Jedną z zastosowanych method jest wykrywanie dźwięku kaszlu. Badania te mają na celu klasyfikację dźwięku kaszlu. Ekstrakcję próbek audio wykonano przy użyciu Mel Frequency Cepstral Coefficients (MFCC) w celu uzyskania cech numerycznych. Klasyfikacja cech odbywa się przy użyciu metod SVM, Random Forest i Naive Bayes. Wyniki oceny w tym badaniu pokazują, że SVM Kernel RBF daje najlepszą wartość oceny z wartością AUC wynoszącą 0.657715.

4

A comparison of word embedding-based extraction feature techniques and deep learning models of natural disaster messages classification

Faisal Mohammad Reza, Budiman Irwan, Abadi Friska, Haekal Muhammad, Nugrahadi Dodon Turianto

Journal of Computer Sciences Institute

|

2023

|

Vol. 27

145--153

EN

The research aims to compare the classification performance of natural disaster messages classification from Twitter. The research experiment covers the analysis of three-word embedding-based extraction feature techniques and five different models of deep learning. The word embedding techniques that are used in this experiment are Word2Vec, fastText, and Glove. The experiment uses five deep learning models, namely three models of different dimensions of Convolutional Neural Network (1D CNN, 2D CNN, 3D CNN), Long Short-Term Memory Network (LSTM), and Bidirectional Encoder Representations for Transformer (BERT). The models are tested on four natural disaster messages datasets: earthquakes, floods, forest fires, and hurricanes. Those models are tested for classification performance.

PL

Badanie ma na celu porównanie skuteczności klasyfikacji wiadomości o klęskach żywiołowych z Twittera. Eksperyment badawczy obejmuje analizę technik ekstrakcji cech opartych na osadzeniu trzech słów oraz pięciu różnych modeli głębokiego uczenia. Techniki osadzania słów używane w tym eksperymencie to Word2Vec, fastText i Glove. Eksperyment wykorzystuje pięć modeli głębokiego uczenia, a mianowicie trzy modele o różnych wymiarach konwolucyjnej sieci neuronowej (1D CNN, 2D CNN, 3D CNN), oraz dwie sieci: Long Short-Term Memory Network (LSTM) oraz Bidirectional Encoder Representations for Transformer (BERT). Modele zostały prztestowane na czterech zestawach danych dotyczących klęsk żywiołowych, a mianowicie trzęsień ziemi, powodzi, pożarów lasów i huraganów. Modele te przetestowano pod kątem wydajności klasyfikacji.