Multichannel convolution neural network for gas mixture classification

YongKyung Oh, Chiehyeon Lim, 이정혜, Sewon Kim, Sungil Kim (2024) · annals-of-operations-research · DOI ↗

혼합 가스 (mixed gas) 분류 에 sensor array 의 시계열 응답 을 sensor-specific multichannel image (M × 256 × 256, M = sensor 수) 로 변환한 뒤 resnet 기반 multichannel-cnn 으로 분류. UCI mixture gas (8 sensor · 162 sample · 5 class) + Taesung 실험실 데이터 (11 sensor · 100 sample · 4 class) 두 dataset 검증. 기존 RGB 채널 + 수동 색 선택 방식 (Han et al. 2019) 대비 balanced accuracy 0.864 → 0.912, weighted F1 0.886 → 0.934 (UCI dataset) 로 우월. 실험실 데이터에서는 ResNet18 + 1% scaling noise 가 balanced accuracy 0.983, weighted F1 0.989 까지 달성.

RQ: 가스 sensor array 의 복잡 비선형 고차원 시계열 을 sensor-specific multichannel image (수동 색 선택 없는) 로 표현 + transfer-learning (ImageNet pretrained) + scaling-based data augmentation 으로 작은 sample 의 혼합가스 분류 정확도 를 어디까지 끌어올릴 수 있는가? RGB 채널·1D-CNN·기존 ML (SVM, RF, MLP) 대비 우월성은?
방법론: multichannel-cnn (256×256 analogous image, sensor 수 = channel 수), resnet (ResNet18/50 with modified conv1 = 3×3 stride 1), transfer-learning (ImageNet pretrained init), data-augmentation (bootstrap × scaling, $\alpha_m \sim N(1, \sigma^2)$ ). 비교: bag-of-features + 9 종 classifier (LR, SVM, NB, KNN, DT, RF, XGBoost, LGBM, MLP), Han et al. (2019) 의 RGB 채널 CNN
데이터: (i) UCI mixture gas (Fonollosa et al. 2014, MOX 8-sensor, 162 sample, 5 class: methane / CO / ethylene / CO+ethylene / methane+ethylene), train/val/test = 6:2:2 분할 후 augmentation 으로 train 200 sample / class. (ii) Taesung 실험실 데이터 (MOX 2 + NDIR 1 + electrochemical 8 = 11 sensor, 100 sample, 4 class: dimethyl sulfide / butyl acetate / toluene 조합). 5-fold CV, Adam optimizer, lr= $10^{-4}$ , batch 4, 50 epoch
주요 발견: (i) UCI dataset 최우수: ResNet50_True + noise 없는 augmentation, balanced accuracy 0.912 / weighted F1 0.934. BoF + MLP (최강 비교) 의 0.761 / 0.789 보다 약 15-19%p 우위. (ii) Multichannel > RGB: 같은 ResNet50_True 에서 multichannel 0.912/0.934 vs RGB best color set 0.864/0.886 — 수동 색 선택 의존 제거가 핵심. (iii) Noise level sensitivity: $\sigma^2 = 0$ 이 최적, 노이즈 1-5% 증가 시 성능 monotone 하락 (UCI). 단 실험실 데이터에서는 1% noise + ResNet18_False 가 best (0.983/0.989) — sample 적을수록 얕은 모델 + 약한 augmentation 이 일반화 잘. (iv) Image resolution 256×256 가 sweet spot: 64×64 (0.819) → 128 (0.877) → 256 (0.912) → 512 (0.889) — 너무 크면 sparse signal noise 증가.
시사점: (a) 가스 sensor array → analogous image 변환은 시계열 정보의 spatial-temporal 보존 + CNN 의 inductive bias 활용 의 동시 달성. (b) ImageNet pretrained init 효과 입증 — small-sample 도메인에서도 cross-domain transfer 유효. (c) Heterogeneous sensor (MOX + NDIR + electrochemical) 가 섞인 실험실 환경에서도 multichannel approach 가 robust. (d) 산업 toxic-gas 모니터링 · medical breath analysis · 가정용 e-nose 의 실배포 framework.

요약

본 paper 는 이정혜 의 제3기 SNU TEMEP 화학계량학 라인 의 핵심 작업 중 하나다. UNIST 산업공학과 Sungil Kim (corresponding author) · Chiehyeon Lim · 1 저자 YongKyung Oh + Taesung Environmental Research Institute 의 Sewon Kim (data curator) 5인 협업. 같은 도메인의 자매 Chemistry-informed machine learning: Using chemical property features to improve gas classification performance 가 domain knowledge + 2-module framework 로 chemical property feature 를 명시적으로 추가했다면, 본 paper 는 순수 데이터 기반 + image-like representation + transfer learning 으로 동일한 small-sample 한계를 푸는 직교적 접근이다.

방법론적 핵심은 세 layer 의 결합이다. (i) Input adaptation — 각 sensor 의 시계열 응답 $\mathbf{x}_m = (x_{m1}, \ldots, x_{mT})$ 을 linear interpolation → max sensor response $V$ 로 [0,1] 정규화 → 256 × 256 grid 분할 → grid 내 obs 개수를 0-255 grayscale 로 mapping. 결과: $M \times 256 \times 256$ tensor (M = sensor 수). 수동 색 선택 (Han et al. 2019 의 RGB 변환) 의 ad-hoc 한계 제거. (ii) Data augmentation — class 별 sample 수를 max $N_B$ 로 평준화 (bootstrap with replacement) + scaling transformation $\mathbf{x}_m^{(k)*} = \alpha_m \mathbf{x}_m^{(k)}$ where $\alpha_m \sim N(1, \sigma^2)$ . (iii) Modified ResNet18/50 — 첫 conv1 을 3×3 stride 1 로 변경 (sparse analogous image 의 크기 보존), 마지막 FC layer 를 class 수로 조정, ImageNet pretrained init 이용. Adam optimizer · cross-entropy loss · 5-fold CV.

발견은 세 차원에서 풍부. (a) 모델 우월성 — UCI dataset 에서 ResNet50_True + augmentation (no noise) 의 balanced accuracy 0.912 / weighted F1 0.934 가 BoF+MLP 최강 baseline (0.761/0.789) 의 약 15-19%p 위. 실험실 데이터에서는 ResNet18_False + 1% noise 가 0.983/0.989 — 작은 dataset 에서는 얕은 모델이 일반화 우월. (b) Multichannel > RGB — 같은 backbone 에서 multichannel 0.912/0.934 vs RGB best 0.864/0.886. 수동 색 선택 제거가 성능 향상 + reproducibility 동시 개선. (c) Hyperparameter sensitivity — image resolution 64-512 비교에서 256×256 sweet spot, noise level 0-5% 에서 UCI 는 monotone 하락이나 실험실에서는 1% 가 최적 — dataset 특성에 따른 augmentation 의 dual nature (UCI 는 충분 sample 로 noise = 손실, 실험실은 small sample 로 noise = regularizer). 한계: (i) UCI 5 class · 실험실 4 class 의 작은 label space, (ii) 동일 sensor array 에서만 검증 (sensor calibration drift 대응 없음), (iii) end-to-end multi-task 학습 미적용.

핵심 결과

UCI dataset 성능 비교 (5-fold CV)

Approach	Balanced accuracy	Weighted F1
BoF + MLP (best non-CNN, with augmentation)	0.761	0.789
ResNet18 (random init, no augmentation)	0.891	0.911
ResNet18 (ImageNet init)	0.905	0.922
ResNet50 (random init)	0.899	0.917
ResNet50 (ImageNet init, no noise)	0.912	0.934
RGB best (3 color sets, ResNet50_True)	0.864	0.886

Image resolution 비교 (ResNet50_True + augmentation, UCI)

Resolution	Balanced acc. (mean)	Weighted F1 (mean)
64 × 64	0.819	0.837
128 × 128	0.877	0.899
256 × 256	0.912	0.934
512 × 512	0.889	0.925

정량 결론. Multichannel ResNet50 + ImageNet pretrained init + no-noise augmentation 이 UCI dataset 최우수 — balanced accuracy 0.912, weighted F1 0.934. 실험실 dataset 에서는 ResNet18 + 1% scaling noise 가 0.983 / 0.989. Sensor-specific multichannel 표현이 RGB 채널 (수동 색 선택) 대비 +5%p 일관 우위.

방법론 노트

기존 RGB 채널 CNN (Han et al. 2019) 의 약점은 수동 color 선택 의존 — color set 마다 분류 성능이 변동하고 sensor 수가 많으면 distinguishable color 부족. Multichannel approach 는 각 sensor = 별도 grayscale channel 로 색 선택 자체를 제거.

Sensor 시계열을 analogous image 로 변환 (Algorithm 1):

\mathbf{x}_m = (x_{m1}, \ldots, x_{mT}) \;\to\; \text{interp} \;\to\; \text{normalize by } V \;\to\; \text{count grid 256}^2 \;\to\; \mathbf{D}_m \in [0, 255]^{256 \times 256}

모든 sensor 를 stack 해 $[\mathbf{D}_1, \ldots, \mathbf{D}_M] \in \mathbb{R}^{M \times 256 \times 256}$ tensor 구성. Modified ResNet18 first conv:

\text{conv1}: \;M \times 256 \times 256 \;\xrightarrow{3 \times 3, 64, \text{stride } 1}\; 64 \times 256 \times 256

(기존 7×7 stride 2 대신 — sparse signal 보존). Scaling augmentation:

\mathbf{X}_j^{(k)*} = \mathbf{A} \mathbf{X}_j^{(k)}, \quad \mathbf{A} = \operatorname{diag}(\alpha_1, \ldots, \alpha_M), \quad \alpha_m \sim N(1, \sigma^2)

식별 가정: (i) Sensor 별 채널 분리가 cross-sensor 정보 손실 없이 spatial 표현 가능, (ii) ImageNet 의 low-level visual feature (edges, textures) 가 chemical sensor analogous image 에도 transferable, (iii) scaling augmentation 의 normal noise 가 sensor calibration variation 의 realistic surrogate. Loss = weighted cross-entropy, optimizer = Adam, lr = $10^{-4}$ , weight decay = $10^{-8}$ , 50 epoch.

연구 계보

본 paper 는 세 literature stream 의 교차점이다. (i) Image-based time series classification — Wei et al. (2019) 의 grayscale LeNet, Han et al. (2019) 의 RGB CNN, Zhao et al. (2019) 의 1D-DCNN, Zhan et al. (2021) 의 1D GAP-CNN. (ii) ResNet — He et al. (2016a,b) 의 skip-connection 기반 deep CNN, Fawaz et al. (2019) 의 시계열 분류에 대한 ResNet 우위 입증. (iii) Gas sensor array literature — Persaud-Dodd (1982) 의 artificial olfactory 출발, Fonollosa et al. (2014, 2016) 의 UCI dataset 공개, Feng et al. (2019) 의 cross-sensitivity · selectivity 정식화. 직접 선행은 Han et al. (2019) 의 RGB 채널 CNN — 본 paper 가 수동 색 선택 제거 + sensor-specific channel 로 개선.

이정혜 의 연구 궤적 안에서 본 paper 는 제3기 SNU TEMEP 화학계량학 라인 의 핵심으로, Chemistry-informed machine learning: Using chemical property features to improve gas classification performance (chemistry-informed ML, 2 module framework) 와 gas classification 자매 페어 를 형성한다. 두 paper 는 작은 sample 의 혼합가스 분류 라는 동일 문제를 순수 representation learning (본 paper) vs domain knowledge 명시 통합 (Chemistry-informed machine learning: Using chemical property features to improve gas classification performance) 의 두 직교적 방향으로 접근. Kernel-based calibration methods combined with multivariate feature selection to improve accuracy of near-infrared spectroscopic analysis 의 분광 + kernel statistics 라인의 deep learning 변종 후속. UNIST 산업공학 Sungil Kim · Chiehyeon Lim 그룹과의 협업 라인이 이정혜 author page 의 제3기 핵심 외부 협력자 로 기록됨.