Regularizing and Aggregating Clients with Class Distribution for Personalized Federated Learning

사각의 cwFedAVG(Class-wise Federated Averaging) 기술은 모델 통합과정(FedAVG)을 클래스별로 수행하여 서버에서 각 클래스마다 여러 개의 특징 모델(글로벌 모델)을 생성합니다. 각 로컬 모델은 L2거리(L2-norms)을 기반으로 추정된 로컬 클래스 분포에 따라 가중된 글로벌 모델들을 통합하며, 이는 개인 정보 침해를 방지합니다. 이후 각 글로벌 모델은 동일한 방법을 사용하여 로컬 모델들과 같은 작업을 수행합니다. 또한, 로컬 클래스 분포를 추정하는 정확도를 더욱 향상시키기 위해 클래스 분포와 가중치의 분포 간 유클리드 거리(Euclidean distance)를 최소화하는 새로운 정규화 기법(Weight Distribution Regularizer, WDR)를 설계했습니다. cwFedAVG가 여러 기존의 개인화된 연합 학습(PFL) 방법들과 동등하거나 더 나은 성능을 보임을 보여줍니다. 특히, cwFedAVG는 개념적으로 간단하면서도 계산적으로 효율적이며, 공유된 글로벌 모델을 활용하여 클라이언트 간 협업을 위한 대규모 계산이 필요하지 않게 합니다. 

고객별 특화 된 AI 모델 구현을 위한 특징모델 종합 과정

고객별로 차별화된 개인화 AI 모델

Communication-Efficient Federated Learning for Model Heterogeneity Environment

실제 환경에서는 클라이언트의 로컬모델의 아키텍처가 서로 다른 경우가 일반적입니다. 이러한 상황을 Model heterogeneity 환경이라고 하며, 연합학습 기법을 적용하기 위한 또 하나의 큰 챌린지 입니다. 일반적으로 이러한 상황에서는 지식 증류(knowledge distillation) 기법을 이용하여 문제를 풀이하지만 통신 비효율성, 개인정보 유출 위험 그리고 개인화 모델 구현 제한에 한계를 가지고 있습니다. 우리의 알고리즘은 이러한 기존 방법의 한계를 해결하기 위해 제안되었습니다. 이 기법은 기존 방법과 대비하여 서버와 고객 디바이스간의 데이터 통신량을 4배 이상 감소시킬 뿐만 아니라 10배 이상의 성능향상을 보입니다.

Federated Learning Framework for the Mobility Data Analysis in a Distributed Environment

분산 모빌리티 환경에서의 연합학습 프레임워크는 차량과 오토바이 등 개별 이동수단에서 생성되는 방대한 데이터를 효과적으로 관리하고 분석하는 혁신적인 접근방식을 제시합니다. 본 기술의 핵심은 각 이동수단이 자체적으로 데이터를 보관하면서, 분석에 필요한 핵심 특성만을 중앙 시스템으로 전송하는 데 있습니다. 이러한 방식은 개인정보 보호와 데이터 분석의 효율성을 동시에 달성할 수 있게 합니다. 각 차량에서 수집된 데이터는 현지에서 처리되며, 프라이버시를 보호하면서도 전체 모빌리티 시스템의 성능 향상에 기여할 수 있는 핵심 정보만이 공유됩니다. 이를 통해 개인정보 보호 규정을 준수하면서도, 전체 교통 시스템의 최적화를 위한 정확한 분석이 가능해집니다. 또한, 이 기술은 다양한 이동수단과 지역에서 수집된 데이터를 통합적으로 활용할 수 있어, 보다 포괄적이고 정확한 모빌리티 서비스 개선이 가능해집니다.