(KDBERT): Modelo baseado em transformadores para compreensão da língua Kikongo na região central de África

Counts differ because each database indexes a different set of publications. We treat OpenAlex as the canonical count; Google Scholar is not shown (no API, and crawling it violates its ToS).

Esta pesquisa apresenta o modelo de aprendizagem profunda pré-treinado KDBERT, desenvolvido no âmbito de um projeto de Processamento de Linguagem Natural (PLN) para o Kikongo. O estudo tem como objetivo desenvolver um modelo inteligente para a classificação de textos em Kikongo, contribuindo para a promoção da inclusão digital e a preservação do património linguístico angolano. O KDBERT é uma variante do Bidirectional Encoder Representations from Transformers (BERT), desenvolvida com recurso a técnicas de destilação de conhecimento, sendo 40% menor e 60% mais eficaz que o BERT original. O Kikongo é uma língua morfologicamente rica, falada por aproximadamente 11 milhões de pessoas na África Central, nomeadamente em Angola, República do Congo, República Democrática do Congo e Gabão. A reduzida produção de conteúdos digitais em línguas africanas, quando comparada com línguas como o inglês, contribui para a sua classificação como línguas de poucos recursos. A metodologia adotada compreendeu as etapas de pré-processamento dos dados, representação das palavras, treinamento, avaliação, testes do modelo e análise dos resultados. O desempenho foi avaliado por meio das métricas de precisão, acurácia, revocação e pontuação F1, complementadas pela matriz de confusão. Os resultados demonstraram que o modelo KDBERT alcançou uma acurácia de 98% nos experimentos e testes realizados, evidenciando um desempenho elevado na classificação de textos em Kikongo.