Inter-country trade similarity graph-based long short-term memory for port throughput prediction

Wonho Sohn, Dongcheol Lim, Suhyeon Kim, 이정혜 (2025) · engineering-applications-of-artificial-intelligence · DOI ↗

항만 물동량 예측의 macro-level aggregate time series 한계를 극복하기 위해, Bill of Lading (BL) 의 trade-transaction text 를 Word2Vec 으로 임베딩하고 그 cosine similarity 로 국가 간 trade 유사도 graph (ITSG) 를 시점별로 생성한 뒤, 그래프 합성곱 신경망 과 LSTM 을 end-to-end 결합한 ITSG-LSTM 모델을 제안. 울산항 2007-2017 의 액체·건 벌크 화물에서 baseline (ARIMA, LSTM, Transformer, TimeMixer, StemGNN, MTGNN 등) 을 능가하는 RMSE 4.7-6.9%, uMBRAE 13.0-14.5% 개선.

RQ: 항만 물동량 예측에서 trade 상대국 간 관계 (micro-level) 를 graph 로 표현하고 trade transaction text 의 semantic similarity 로 edge 를 구성하면 macro-level aggregate 시계열 baseline 보다 정확도가 얼마나 향상되는가?
방법론: Word2Vec (skip-gram, $\lambda=10$ , $\delta=100$ ), 그래프 합성곱 신경망 (node = 국가, edge = ITS $\geq \epsilon$ ), LSTM (sequence length 3-12), graph-based-sequential-prediction (end-to-end, MSE loss + differencing loss)
데이터: 울산항 BL 데이터 2007-2017 (LBC 172,803 sample · 123 국가, DBC 65,524 sample · 93 국가), 월별 132 ITSG snapshot, train 108 (2007-2015) / test 24 (2016-2017)
주요 발견: LBC 전체에서 ITSG-LSTM ( $\epsilon$ =0.7) RMSE 6,564 ↓ SARIMA 9,326 · LSTM 7,052 · TimeMixer 7,940. DBC 전체 RMSE 104.4 ↓ LSTM 115.9 · MTGNN 121.5. 광석 RMSE 47.5 ↓ MTGNN 52.3 · TimeMixer 54.0. Ablation 에서 ITSG-LSTM > GCN-only > LSTM-only, graph + sequential 결합 시너지 확인.
시사점: 항만의 strategic decision-making (terminal capacity, storage, freight rate) 의 정량 기반. 호주-인도네시아 LBC ITS=0.90 vs 호주-멕시코 LBC ITS=0.62 같은 supply-demand 경쟁/보완 관계 가 graph 구조로 surface 됨.

Fig. 1 ITSG-LSTM 전체 flowchart. ITSG generation (BL → TTD → Word2vec → c-TTD embedding → cosine similarity → adjacency) + ITSG-LSTM prediction (GCN → READOUT → LSTM → FC) 의 end-to-end pipeline.

요약

본 paper 는 이정혜 의 실타래 5 — graph + 항만 logistics 응용 라인에서 A Multi-stage Data Mining Approach for Liquid Bulk Cargo Volume Analysis based on Bill of Lading Data 의 multi-stage data mining 을 graph-enhanced sequential learning 으로 발전시킨 작업이다. Wonho Sohn · Dongcheol Lim · Suhyeon Kim 의 D3M Lab port trio + 지도교수 이정혜 의 공저. 기존 port throughput prediction 문헌은 ARIMA / SARIMA / Holt-Winters 같은 univariate (Schulze-Prinz 2009, Bui-Kim 2019) 와 LSTM / hybrid LSSVR (Xie et al. 2013, Tsai-Huang 2017, Kim et al. 2021) 같은 multivariate 모형으로 발전했지만 모두 macro-level aggregate statistics 만 사용. 한편 maritime 의 complex network 문헌 (Ducruet et al. 2021, Tsiotas-Ducruet 2021) 은 port-as-node / route-as-edge 의 global shipping network 위에서 centrality / modularity 분석에 머물러 port-centric prediction 에는 미적용이었다. 본 paper 는 port-centric BL 데이터 의 super-node 편향 문제 (target port 가 모든 trading partner 와 single hub 로 연결되는 한계) 를 target port 를 별도 node 로 두지 않고 trading countries 끼리만 edge 로 표현하는 ITSG 로 우회.

방법론은 두 단계로 분해된다. (1) ITSG generation: BL 데이터의 trade transaction text 를 trade transaction document (TTD) 로 구조화 — 시간 $t$ , 국가 $v$ , entry purpose $p$ (import/export), item categorization level $l$ (HS code 1·2·3 자리) 별로 word sequence 생성. 각 TTD corpus 에 skip-gram Word2Vec 적용 ( $\lambda$ =10, $\delta$ =100) 으로 word embedding $E^{l,p}$ 추출, document-term matrix $M^{l,p}$ 와 곱해 TTD embedding $Z^{l,p}$ 산출, 모든 $(l, p)$ 를 concatenate 해 c-TTD embedding $Z$ 얻음. 시점 $t$ 에서 두 국가 $v_1, v_2$ 의 cosine similarity 가 threshold $\epsilon$ (0.7, 0.8, 0.9 실험) 이상이면 edge 연결, adjacency $A_t$ 생성. 노드 feature $X_t$ 는 각 국가의 카테고리별 throughput. (2) ITSG-LSTM: GCN layer 가 node feature 를 한-hop neighbor 와 aggregate, READOUT (node-wise sum) 으로 graph-level embedding $H_{G_t}$ 추출, 시퀀스 $[H_{G_{t-s}}, \ldots, H_{G_{t-1}}]$ 를 LSTM 의 many-to-one 으로 처리해 final FC layer 가 $\hat y_t$ 예측. Loss 는 standard MSE + differencing MSE 결합 — high-volatility bulk cargo 에서 over-smoothing 방지.

검증은 울산항 (LBC 동아시아 1 위, DBC 국내 5 위) BL 데이터 11 년에서 4 개 target (total LBC, Crude Oil, total DBC, Ore) 으로 수행. LBC 전체 RMSE: SARIMA 9,326 → LSTM 7,052 → ITSG-LSTM ( $\epsilon$ =0.7) 6,564 (LSTM 대비 7% 개선). DBC 전체 RMSE: LSTM 115.9 → MTGNN 121.5 → ITSG-LSTM 104.4. Ore RMSE: MTGNN 52.3 → TimeMixer 54.0 → ITSG-LSTM ( $\epsilon$ =0.8) 47.5. uMBRAE 기준 개선은 13.0% (LBC) · 14.5% (DBC). Qualitative validation: 2017 년 12 월 호주의 LBC 거래 패턴이 인도네시아 (Chemical/Oil Products 위주) 와 유사 (ITS=0.90) 하고 멕시코 (Crude Oil 위주) 와 다름 (ITS=0.62) — ITS 가 supply-demand interaction 의 정량 surface. Ablation: ITSG-LSTM > GCN-only (LBC MAE 5,732 vs 10,042) > LSTM-only — graph + sequential 둘 다 필요. 한계: (i) node feature 가 throughput 만, macro 지표 (commodity price, GDP) 미반영. (ii) $\epsilon$ · $\lambda$ · $\delta$ 의 optimal 값이 데이터 의존. (iii) Word2vec 의 transductive 특성 — test set 의 신규 단어 처리 불가. (iv) 울산항 단일 port, container cargo 같은 multi-item consolidation 에 직접 적용 불가.

핵심 결과

LBC 전체 throughput 예측 (Table 3, 24-month test)

Model	MAE (k)	RMSE (k)	MAPE	SMAPE	uMBRAE
ARIMA	11,830	13,407	13.27	14.50	1.67
SARIMA	8,228	9,326	9.28	9.85	1.31
LSTM	6,303	7,052	7.28	7.44	1.03
Transformer	7,971	8,906	9.04	9.50	1.25
TimeMixer	7,349	7,940	8.37	8.71	1.22
MTGNN	8,179	8,856	9.33	9.76	1.29
ITSG-LSTM ( $\epsilon$ =0.7)	5,732	6,564	6.53	6.74	0.99
ITSG-LSTM ( $\epsilon$ =0.9)	5,695	7,264	6.78	6.67	0.87

DBC 전체 throughput 예측 (Table 5)

Model	MAE (k)	RMSE (k)	MAPE	uMBRAE
LSTM	93.5	115.9	12.98	0.92
MTGNN	83.8	121.5	10.39	0.85
ITSG-LSTM ( $\epsilon$ =0.7)	79.7	104.4	10.72	0.80
ITSG-LSTM ( $\epsilon$ =0.9)	79.4	107.0	10.61	0.71

Ore throughput 예측 (Table 6)

Model	MAE (k)	RMSE (k)	SMAPE	uMBRAE
LSTM	65.1	75.3	23.95	1.21
TimeMixer	41.5	54.0	14.43	0.72
MTGNN	41.4	52.3	14.53	0.71
ITSG-LSTM ( $\epsilon$ =0.8)	37.0	47.5	12.93	0.69
ITSG-LSTM ( $\epsilon$ =0.9)	35.9	46.4	12.63	0.66

Ablation (Table E.1 LBC): ITSG-LSTM 5,732 < LSTM 6,303 < GCN 10,042 (MAE). graph + sequential 결합이 단독보다 우월.

ITS 정성 사례 (Table 2): 호주-인도네시아 LBC ITS=0.90 (둘 다 Chemical/Oil Products), 호주-멕시코 LBC ITS=0.62 (Crude Oil 차이). DBC 는 정반대 — 호주-멕시코 ITS=0.92 (Ore/Fertilizer 공유), 호주-인도네시아 ITS=0.53 (Corn vs Ore).

방법론 노트

ITSG 생성의 핵심은 transaction text 를 graph edge weight 로 변환하는 두 단계 embedding. 먼저 word-level Word2Vec embedding 행렬과 document-term frequency 의 행렬 곱으로 TTD-level embedding:

Z^{l,p} = M^{l,p} \cdot E^{l,p}, \quad Z = \text{CONCAT}_{l,p}(Z^{l,p})

$M^{l,p} \in \mathbb{R}^{TV \times N_{l,p}}$ 는 document-term frequency, $E^{l,p} \in \mathbb{R}^{N_{l,p} \times \delta}$ 는 word embedding, $Z^{l,p} \in \mathbb{R}^{TV \times \delta}$ 가 TTD embedding, 최종 c-TTD embedding $Z \in \mathbb{R}^{TV \times LP\delta}$ . 시점 $t$ 의 두 국가 $v_1, v_2$ 의 ITS:

\text{sim}(z_{t,v_1}, z_{t,v_2}) = \frac{z_{t,v_1} \cdot z_{t,v_2}}{\|z_{t,v_1}\| \|z_{t,v_2}\|}, \quad A_t[v_1, v_2] = \mathbb{1}[\text{sim} \geq \epsilon]

ITSG-LSTM 의 forward (GCN layer $k$ ):

H_t^{(k+1)} = \sigma(A_t H_t^{(k)} W^{(k)} + b^{(k)})

graph embedding 은 READOUT (node-wise sum) 후 LSTM 의 sequence input $H_t = [H_{G_{t-s}}, \ldots, H_{G_{t-1}}]$ . 최종 FC 가 $\hat y_t = w_{fc}^\top h_{t-1} + b_{fc}$ . Objective:

\mathcal{L} = \frac{1}{N} \sum_t (y_t - \hat y_t)^2 + \frac{1}{N-1} \sum_t (\Delta_t - \hat\Delta_t)^2

여기서 $\Delta_t = y_t - y_{t-1}$ . Differencing loss 가 high-volatility bulk cargo 의 over-smoothing 방지. Identification 의 핵심은 (i) BL 의 item text 가 trade pattern 의 informative proxy, (ii) Word2vec 의 cosine similarity 가 substitutable trade 의 정량 representation, (iii) GCN 의 message passing 이 similar-trade country cluster 의 throughput co-movement 를 학습. Optimal $\epsilon$ 은 trade-off — 너무 낮으면 over-connected 로 over-smoothing, 너무 높으면 sparse 로 graph 정보 손실. 실험에서 0.7-0.9 모두 LSTM-baseline 능가.

연구 계보

직접 predecessor 는 A Multi-stage Data Mining Approach for Liquid Bulk Cargo Volume Analysis based on Bill of Lading Data (Expert Systems with Applications) — 같은 D3M Lab trio + 이정혜 의 multi-stage data mining 접근. 본 paper 가 그 framework 에 graph-based learning 차원 추가. 기술적 building blocks: Mikolov et al. (2013) Word2vec, Hochreiter-Schmidhuber (1997) LSTM, Kipf-Welling (2016) GCN, Scarselli et al. (2008) GNN, Vaswani et al. (2017) Transformer. Port throughput prediction 선행: Schulze-Prinz (2009) ARIMA, Tsai-Huang (2017) neural network, Xie et al. (2013, 2017) hybrid LSSVR, Gosasang et al. (2011) MLP. Graph-sequential 인접 작업: Zhao et al. (2019) T-GCN (traffic), Li et al. (2019) GCN+LSTM+attention, Cao et al. (2021) StemGNN, Wu et al. (2020) MTGNN. Maritime complex network 선행: Ducruet et al. (2021), Tsiotas-Ducruet (2021), Zhu-Jiang (2023). 이정혜 의 연구 궤적 안 실타래 5 (Graph) + 실타래 9 (Maritime application) 의 교차점. 후속 작업 영역은 (i) macroeconomic feature 추가, (ii) dynamic graph (snapshot 대신 continuous), (iii) multi-port extension — 모두 본 paper 의 limitations 절에 명시.