カイスト大、追加学習時間を最大69.6%削減する手法を発表

カイスト〜天才たちの青春日記〜の研究チームが、大規模言語モデルの追加学習時間を最大69.6%削減しながら、性能をほぼ維持する微調整手法「CluSTER」を開発したと、同学が2026年11月2日に発表した。研究を率いたのは同学計算機科学科のイ・ジェギル教授で、digitaltoday.co.krが報じた。

CluSTERは、学習効果の似たデータをグループ化し、各グループから必要なデータを選んで複数のGPUに均等に配分することで、重複した学習を減らす仕組み。研究チームは3種のコーディング・医療データセットを使い、約70億と約130億パラメータの大規模言語モデルを微調整、8項目の性能評価で手法を検証した。

全データのうち約31%のみを使った場合でもモデルの性能はほぼ保たれ、学習時間は最大69.6%短縮された。10時間かかっていた学習が約3時間で済む計算になる。

実験は4GPU環境を中心に行われ、8GPU構成でも既存手法を上回った。研究成果は2026年10月に国際自然言語処理会議EMNLP 2026で発表された。