AI/ML architecture/framework에 대해 고려되는 Deployment 시나리오

  • 1.1
    Non-RT RIC : Continuous Operation, Model Management, Data Preparation, Training, Inference

  • 1.2
    Non-RT RIC : Continuous Operation, Data Preparation(for training), Training
    Non-RT RIC 밖 : Model Management
    Near-RT RIC : Data Collection, Preparation(for inference),Inference

  • 1.3
    Non-RT RIC : Continuous Operation, Inference
    Non-RT RIC 밖 : Model Management, Data Preparation, Training

  • 1.4
    Non-RT RIC : ML training host for offline model training
    Near-RT RIC : ML training host for online model training, ML inference host

  • 1.5 (아직 표준에 정의되지 않음)
    Non-RT RIC 밖 : Continuous Operation, Model management, Data Preparation, ML Training host
    O-CU/O-DU : ML inference host

cf. Continuous Operations : Provides a series of online functionalities for the continuous improvement of AI/ML models within the whole AI/ML lifecycle. It includes Verification, Monitoring, Analysis, Recommendation, Continue Optimization.

Federated Learning

  1. Non-RT RIC —AI/ML model 전달—> Near-RT RIC
  2. Near-RT RIC : local data, local model을 이용한 ML training
  3. Near-RT RIC —weights or gradients 전달—> Non-RT RIC
  4. Non-RT RIC : FedSGD, FedAvg를 이용하여 AI/ML model update
  5. Near-RT RIC <—AI/ML updated model 다운로드— Non-RT RIC
  6. model이 수렴하면 : Near-RT-RIC —수렴 model 배포—> inference service
  • model management service (A1-ML)
    이렇게 model이 Non-RT RIC과 Near-RT RIC에서의 model upload, download는 A1 interface를 통해 구현된다.

    1. Non-RT RIC은 model uploading을 Near-RT RIC에 요청하거나 구독할 수 있음
      Non-RT RIC은 Near-RT RIC에서 training 된 model을 받아 aggregation해야하는데, 이 때 필요한 model을 Near-RT RIC에 request하여 받거나, subscription하여 받을 수 있다.

    2. Non-RT RIC은 model download를 Near-RT RIC에 알려줄 수 있음
      Non-RT RIC은 aggreagtion 후에 다시 Near-RT RIC에 보내 training을 해야하는데, aggregation 후에 update된 model을 가져가라고 Near-RT RIC에 notify할 수 있다.

현재 우리가 사용하고 있는 aimlfw의 standalone은 정확히 어떤 scenario를 사용한다고 말할 수는 없으나, model training과 model inference 모두 Non-RT RIC 외부에서 진행하고 있다.

표준에서 현재 언급되는 연합 학습 scenario의 경우에 Non-RT RIC은 model management의 역할을, Near-RT RIC은 model training, model inference를 담당한다.

Sequence diagram (Non-RT RIC: ML training host, Non or Near-RT RIC: ML inference host)