PicoAaron / TFM-Federated-Learning-and-ESN

Implementation of fully distributed Federated Learning through the use of network consensus processes. A subtype of Recurrent Neural Networks called Echo State Networks is trained, whose main characteristic is that its structure is randomly generated at the time of model creation.

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

TFM-Federated-Learning-and-ESN

Resumen del proyecto:

Este trabajo consiste en el desarrollo de una implementación de Federated Learning (Aprendizaje Federado) completamente distribuido mediante el uso de procesos de consenso en redes. Esta implementación, además de mantener las ventajas que ofrece el Federated Learning frente al Aprendizaje Automático tradicional en cuanto a la descentralización de la computación y los datos, también libera al mismo del uso de servidores centrales, haciendo al proceso completamente distribuido y otorgando a la red de más adaptabilidad y robustez.

Utilizamos dicho desarrollo de FL para entrenar un subtipo de Redes Neuronales Recurrentes denominado Echo State Networks. Una de las características principales de estas redes es que su estructura es generada aleatoriamente en el momento de creación del modelo.

Objetivos

  1. Implementación de Federated Learning distribuido mediante proceso de consenso en red.
  2. Solución el obstáculo que representa para el FL que cada máquina de la red comience con una estructura del modelo (ESN) diferente
  3. Exploración de los beneficios de disponer de una red de máquinas para el entrenamiento de las ESN (Búsqueda/Formación/Combinación de estructuras)

About

Implementation of fully distributed Federated Learning through the use of network consensus processes. A subtype of Recurrent Neural Networks called Echo State Networks is trained, whose main characteristic is that its structure is randomly generated at the time of model creation.


Languages

Language:Python 100.0%