Innovaciones en el aprendizaje federado descentralizado para inteligencia artificial

Comparta este Artículo en:

El aprendizaje federado representa un cambio significativo en el panorama del aprendizaje automático, ya que permite que muchos clientes o dispositivos entrenen modelos de manera colaborativa y, al mismo tiempo, mejoran sustancialmente la privacidad de los datos involucrados.

A diferencia de los enfoques de aprendizaje centralizado convencionales, donde es necesario compartir datos de entrenamiento sin procesar, el aprendizaje federado permite a los participantes mantener sus datos individuales localizados, intercambiando solo actualizaciones de modelos.

Este método protege la información confidencial y reduce los riesgos asociados con el almacenamiento central de datos.

En el modelo típico de aprendizaje federado, conocido como aprendizaje federado asistido por servidor, un servidor central desempeña un papel crucial.

Coordina el proceso de entrenamiento enviando el modelo global actual a los clientes e integrando sus modelos locales para mejorar iterativamente el modelo general.

Sin embargo, esta centralización presenta varios inconvenientes.

En primer lugar, la carga de comunicación es inmensa; el servidor debe manejar grandes cantidades de datos enviados de ida y vuelta desde potencialmente miles de clientes.

En segundo lugar, la dependencia de un solo servidor presenta una vulnerabilidad; Si el servidor falla debido a problemas de hardware o software, todo el proceso de entrenamiento se detiene.

Para mitigar estos problemas, se ha propuesto como alternativa el aprendizaje federado descentralizado.

En este marco, se elimina el servidor central y los clientes se comunican directamente entre sí, compartiendo modelos de igual a igual.

Esta arquitectura no solo reduce el punto único de falla, sino que también disminuye la sobrecarga de comunicación asociada con un servidor central.

Es particularmente beneficioso en entornos donde la confianza en una única entidad central es problemática, o donde entidades como hospitales o instituciones financieras son reacias a compartir datos debido a preocupaciones de privacidad o restricciones regulatorias.

La figura ilustra las distinciones entre el aprendizaje federado asistido por servidor y el aprendizaje federado descentralizado.

Sin embargo, el aprendizaje federado descentralizado presenta nuevos desafíos, en particular la vulnerabilidad a los ataques de envenenamiento.

En tales ataques, los clientes maliciosos inyectan datos falsos en el sistema, con el objetivo de corromper los modelos entrenados colectivamente.

Esto es particularmente problemático porque cada cliente en una red descentralizada tiene una visión limitada del sistema general, lo que dificulta la detección independiente de anomalías o actividades maliciosas.

Para abordar estas preocupaciones de seguridad, hemos desarrollado un nuevo mecanismo llamado BALANCE, una regla de agregación robusta al estilo bizantino diseñada específicamente para el entorno de aprendizaje federado descentralizado.

BALANCE es único en el sentido de que no requiere que la red de clientes esté completamente conectada, lo cual es una limitación común en muchas estrategias de defensa existentes.

En cambio, funciona según el principio de que cada cliente puede usar su modelo local como punto de referencia para evaluar la confiabilidad de los modelos recibidos de sus vecinos.

Según la regla BALANCE, cada cliente evalúa los modelos entrantes comparándolos con su propio modelo.

Si un modelo entrante se desvía significativamente del modelo del cliente de una manera que sugiere una posible manipulación o intención maliciosa, se rechaza automáticamente.

Esta estrategia de evaluación local permite que cada cliente se defienda de forma independiente contra posibles amenazas de seguridad, lo que mejora la solidez general de la red contra ataques coordinados.

La introducción de BALANCE en el aprendizaje federado descentralizado ofrece una solución prometedora a uno de los problemas de seguridad más urgentes que enfrenta este campo emergente.

Al permitir que cada cliente actúe como su propio guardián, BALANCE garantiza que se mantenga la integridad del proceso de capacitación, incluso en un entorno altamente distribuido y descentralizado.

Fuente: ACM