Funções de escolha social para elaboração de consenso em aprendizado de máquina descentralizado : um estudo em problemas de classificação multiclasse

Abstract

Em alguns cenários envolvendo aprendizado de máquina, os dados a serem analisados podem estar sendo adquiridos e analisados de forma distribuída, tal que o conjunto de atributos de cada instância pode não estar completamente disponível em uma localização central, seja por motivos de confidencialidade ou de custos computacionais envolvidos na comunicação de grandes volumes de dados. Neste contexto, surge o problema de como realizar a classificação de novas instâncias de forma descentralizada, utilizando informações contidas em diferentes sítios ou bases de dados a fim de viabilizar a tarefa de classificação sem o comprometimento do seu desempenho. O objetivo principal deste trabalho é analisar diferentes abordagens baseadas na Teoria da Escolha Social para extrair um consenso a partir de um conjunto de modelos de classificação treinados em sítios distintos, utilizando apenas o subconjunto de atributos disponível localmente, focando especificamente em problemas de classificação multiclasse. Seguindo esta direção, a classificação de dados descentralizados ocorre em duas etapas: primeiramente os modelos treinados localmente são aplicados aos novos dados apresentados para predizer as classes correspondentes, e em um segundo momento estas predições são centralizadas e agregadas através de funções de escolha social a fim de se obter um resultado global. Os resultados dos experimentos realizados demonstram bom desempenho do método para diversos casos de teste obtidos do UCI Machine Learning Repository, tendo como principal conclusão que as funções de escolha social são boas agregadoras para conjuntos de dados com classes balanceadas, e que para cenários caracterizados por desbalanceamento de classes o método da pluralidade é mais promissor.

In some scenarios involving machine learning, the data to be analyzed may be acquired and analyzed in a distributed fashion, such that the set of attributes of each instance may not be completely available in a central facility, either due to confidentiality reasons or computational costs involved in the communication of large volumes of data. In this context, the problem that arises is how to perform the classification of new instances in a decentralized way, using information contained in different sites or databases in order to enable the classification task without compromising its performance. The main goal of this work is to analyze different approaches based on the Social Choice Theory to extract a consensus from a set of classification models trained in distinct sites, using only the subset of features available locally, focusing specifically on multiclass classification problems. Following this direction, the classification of decentralized data takes place in two stages: locally trained models are applied to the new data presented, in order to predict their corresponding classes; and in a second moment these predictions are centralized and aggregated through social choice functions in order to obtain a global result. Our results demonstrate good performance of the proposed method for several test cases from the UCI Machine Learning Repository, and the main conclusion of this work is that the social choice functions are good aggregators for datasets with balanced classes, while plurality is the most promising aggregation method for datasets characterized by large class imbalance.