과학연구

전이학습을 위한 목표적응극단학습기

 2024.9.5.

대부분의 기계학습알고리듬들은 훈련자료모임과 시험자료모임들이 동일한 분포를 가진다는 전형적인 가정하에서 설계되였다. 그러나 실천에서 부닥치는 대부분의 자료들은 훈련에 리용된것과 류사하지만 차이나며 이로 하여 학습알고리듬들의 성능저하를 가져온다. 전이학습은 이 문제를 해결하기 위한 기계학습의 새로운 분야로 등장하였으며 기계학습과 자료발굴분야에서 더욱더 많은 주목을 받고있다.

극단학습기는 그의 단순성과 계산효과성으로 하여 여러 령역들에서 응용되였다. 그러나 극단학습기는 대부분의 기계학습알고리듬들과 류사하게 교차령역학습문제들에서 성능이 떨어진다.

우리는 주로 극단학습기구조하에서 반감독전이학습알고리듬에 주목한다. 다른 전이학습방법들이 원천과 목표령역들을 리용하는것과 달리 우리는 적은 원천을 가지고 높은 질의 목표고유분류기를 학습하는 목표적응극단학습기를 제안한다. 우리는 사전에 학습된 원천모형에 관한 지식전이항과 목표령역에 관한 그라프라플라시안에 기초한 다양체정규화항을 삽입하여 목표고유분류기를 구성하기 위한 새로운 비용함수를 정식화하였으며 그의 풀이는 극단학습기의 계산효과성과 학습능력을 잃지 않고 해석적으로 결정되였다.

실험에서 우리는 두 령역들의 특징추출기로써 한개 심층신경망모형을 리용하여 제안된 방법의 효과성을 검증하였다. 실험결과는 적은 원천을 가지는 우리 방법이 다른 최신방법들보다 우월하다는것을 보여준다.

우리의 연구결과는 잡지 《International Journal of Machine Learning and Cybernetics》에 《Target Adaptive Extreme Learning Machine for Transfer Learning》(https://doi.org/10.1007/s13042-023-01947-x)라는 제목으로 출판되였다.