앙상블 사전학습 모델 기반의 SNS 문맥인지 이모티콘 추천

Abstract

이모티콘 추천은 수천 개의 이모티콘 중에서 사용자가 원하는 적절한 이모티콘을 용이하게 찾도록 도와주는 중요한 태스크이다. 기존의 이모티콘추천 방법들은 채팅 플랫폼을 대상으로 하며 사용자들이 많이 사용하는 감정 이모티콘 위주로 추천한다. 그러나 인스타그램 등 SNS 플랫폼에서는 감정 전달보다는 업로드한 짧은 게시글의 내용을 보완하거나 강조하는 용도로 이모티콘을 사용하는 경향이 있다. 이 연구에서는 SNS 플랫폼에서 한국어 게시글의 문맥을 파악하여 이모티콘을 추천하는 새로운 방법론을 제안한다. 이모티콘 추천 문제에 계층적 KoBERT를 도입하여 한국어 게시글의 문맥을 파악하고 이에 적합한 다양한 이모티콘을 추천한다. 314개 이모티콘 카테고리에 속하는 616개의 이모티콘 추천은 SNS 게시글의 함축적인 단문을 보다 정확하게 전달하는 데 유용하다. 인스타그램 게시글을 수집하여 실제 세계를 반영하는 데이터셋을 구성하고 각 텍스트에 삽입되어 있는 이모티콘의 계층적 카테고리를 학습하기 위해 계층적 KoBERT 모델을 구축한다. 실험 결과에서 DNN, LSTM,Bi-LSTM, GRU 모델과 비교하여 계층적 KoBERT 모델이 이모티콘 추천에서 높은 성능을 보이는 것을 검증하였다. 또한, 성능 향상을 위해 KoBART, KoGPT2, KoELECTRA,KcELECTRA 등의 한국어 전이학습 모델을 추가로 도입하여 모델 성능을 비교 분석하였고 스태킹 앙상블 기법을 적용하였다.|Emoticon recommendation is a critical task that assists users in easily finding the appropriate emoticon among thousands available. Traditional emoticon recommendation methods target chat platforms and primarily recommend emoticons that users frequently use to express emotions. However, on social media platforms like Instagram, emoticons are often used more to supplement or emphasize the content of short posts rather than to convey emotions. This study proposes a new methodology for recommending emoticons by understanding the context of Korean posts on social media platforms. We introduce hierarchical KoBERT into the emoticon recommendation problem to understand the context of Korean posts and recommend a variety of suitable emoticons. Recommending 616 emoticons from 314 categories proves useful in conveying the implicit meanings of short social media posts more accurately. We construct a dataset that reflects the real world by collecting Instagram posts and build a hierarchical KoBERT model to learn the hierarchical categories of emoticons inserted in each text. Experimental results have validated that the hierarchical KoBERT model outperforms DNN, LSTM, Bi-LSTM, and GRU models in emoticon recommendation. Additionally, for performance improvement, we introduce additional Korean transfer learning models such as KoBART, KoGPT2, KoELECTRA, KcELECTRA, and compare their performances and apply stacking ensemble techniques.