Development of an Explainable Traffic Flow Prediction Model Using Shapley Additive Explanation and Elliptic Bivariate Relationship

Geongyu Min; Dongju Ka; Sungyong Chung; Chungwon Lee

doi:10.7470/jkst.2023.41.2.239

Preview

Article

Journal of Korean Society of Transportation. 30 April 2023. 239-253
https://doi.org/10.7470/jkst.2023.41.2.239

Development of an Explainable Traffic Flow Prediction Model Using Shapley Additive Explanation and Elliptic Bivariate Relationship

SHAP과 Elliptic Bivariate Relationship을 이용한 설명가능한 교통량 예측모형 개발

Geongyu MIN¹

Dongju KA¹

Sungyong CHUNG²

Chungwon LEE³^*

민 건규¹

가 동주¹

정 성용²

이 청원³^*

¹The Integrated Master and Ph.D. Course, Department of Civil and Environmental Engineering, Seoul National University, Seoul 08826, Korea

²Researcher, Institute of Construction and Environmental Engineering, Seoul National University, Seoul 08826, Korea

³Professor, Department of Civil and Environmental Engineering, Seoul National University, Seoul 08826, Korea

¹서울대학교 건설환경공학부 석박사통합과정

²서울대학교 건설환경종합연구소 연구원

³서울대학교 건설환경공학부 교수

^{*Corresponding Author}

ABSTRACT

Traffic flow prediction is essential for proactive and effective traffic management. The objective of this study is to apply the elliptic bivariate relationship, one of the traffic flow monitoring methods, to the traffic flow prediction model. Two parameters of the elliptic bivariate relationship, $ϕ$ and $|λ|$ , are employed in various machine learning-based prediction models. Subsequently, the feature importance of the parameters is assessed using SHAP (SHapley Additive exPlanations). The results based on empirical data indicate that the introduction of the elliptic parameters could reduce the prediction error in all models with prediction horizons of 5, 15, and 30 minutes. $ϕ$ is found to have the highest feature importance among the explanatory variables in the models and $|λ|$ showed similar or higher importance than the rest of the explanatory variables. These findings suggest that the elliptic parameters can be applied to various machine learning-based traffic flow prediction models.

Keywords

elliptic bivariate relationship

SHAP (SHapley Additive exPlanations)

traffic flow prediction model

machine learning

deep learning

교통관리전략 운영에 있어 교통류 소통상태를 파악하는 것은 매우 중요하며, 교통량 예측은 선제적이고 효과적인 교통관리를 위해 중요한 요소이다. 본 연구의 목적은 교통류 상태를 파악하는 새로운 방법 중 하나인 vehicle accumulation과 travel time 간의 elliptic bivariate relationship을 교통량 예측모형 개발에 적용하는 것이다. Elliptic bivariate relationship의 두 가지 파라미터인 $ϕ$ 와 $|λ|$ 를 다양한 유형의 머신러닝 및 딥러닝 기반 교통량 예측모형에 적용하고, SHAP(SHapley Additive exPlanations)을 이용하여 두 파라미터가 가지는 변수 중요도(feature importance)를 산정하였다. 본 연구는 개발된 각 예측모형을 고속도로 검지기 데이터에 적용하여 사례분석을 수행하였다. 5분 후, 15분 후, 30분 후 교통량 예측결과, 모든 예측모형에서 elliptic bivariate relationship 파라미터 적용을 통해 예측오차를 감소시킬 수 있는 것으로 나타났다. 또한, 변수 중요도를 산정한 결과, 예측모형에 적용된 설명변수 중 $ϕ$ 의 중요도가 가장 높은 것으로 나타났으며 $|λ|$ 의 중요도 역시 일반적인 교통류 변수와 유사하거나 다소 높은 수준인 것으로 확인되었다. 위 분석결과는 elliptic bivariate relationship 파라미터들이 다양한 머신러닝 기반의 교통량 예측모형에 적용될 수 있음을 보여준다.

키워드

elliptic bivariate relationship

SHAP(SHapley Additive exPlanations)

교통량 예측

머신러닝

딥러닝

MAIN

서론
방법론
1. Elliptic Bivariate Relationship
2. 본 연구 활용 교통류 예측 방법론
3. SHAP(SHapley Additive exPlanations)
사례분석
1. 분석방법 및 데이터
2. 교통량 예측결과
3. 변수 중요도 산정결과
결론

서론

교통류 소통상태를 파악하는 것은 고속도로 교통관리의 필수요소이며(Zhang and Kabuka, 2018; Wu et al., 2018), 특히 교통량 예측을 통해 교통수요를 선제적으로 파악하는 것은 효과적인 교통관리를 위해 매우 중요하다. 기존의 고속도로 교통량 예측은 시계열 분석이나 비모수 회귀모형에 교통량, 통행속도 등의 교통류 변수를 활용하는 방법으로 수행되어 왔다. 그중에서도 전통적으로 활용된 방법은 historical average algorithms(Smith and Demetsky, 1997)과 smoothing techniques(Smith and Demetsky, 1997; Williams et al., 1998)이다. Davis et al.(1990)과 Hamed et al.(1995)은 교통류 예측에 ARIMA와 같이 수리통계의 기본 원리에 근거한 예측 방법을 도입하였으며, 자기회귀 모형과 이동 평균법 모형을 모두 포괄하는 ARIMA 모형은 시계열 예측에서 우수한 성능을 보였다. 하지만 ARIMA 모형은 평균값에 집중하여 극단값을 놓치는 경향이 있어 혼잡교통류(congested flow)에서 자유류(free flow)로의 전환을 포착하지 못한다는 한계 역시 지적된 바 있다. Kalman filter 알고리즘은 Okutani and Stephanedes(1984)에 의해 교통류 예측에 효과적이라는 사실이 처음 입증되었다. Stathopoulos and Karlaftis(2003)은 ARIMA보다 kalman filter가 교통 데이터 모델링에 우수함을 입증하였다. 그러나 kalman filter는 교통류 상태가 급변하는 상황에서 반응이 느리다는 한계가 있다. 이후 교통류 예측은 시계열 예측(Cheng et al., 2012), 회귀 및 함수 근사(Dunne and Ghosh, 2012), 클러스터링(Chiabaut and Faitout, 2021), 베이지안 추론(Ghosh et al., 2007)등 복잡한 예측 알고리즘을 개발하고 검증하는 연구가 주를 이루고 있다.

최근에는 빅데이터 수집 및 활용이 가능해지면서 XGBoost, Long Short-Term Memory(LSTM) 등의 머신러닝 및 딥러닝 모형을 활용하는 연구사례도 많다. 머신러닝 및 딥러닝 모형은 일반적으로 전통적인 시계열 예측 방법들을 활용한 모형에 비해 예측력이 우수한 것으로 알려져 있지만, 예측결과에 대한 해석이 어렵다는 한계가 있다(Polson and Sokolov, 2017; Vlahogianni et al., 2014; Xu et al., 2016). 예측결과를 적절히 활용하고 모형을 보완, 개선하기 위해서는 모형의 원리를 이해하는 것이 필수적이며, 이는 예측의 정확도만큼이나 중요한 요소라고 할 수 있다(Lundberg and Lee, 2017). SHapley Additive exPlanations(SHAP)는 이러한 머신러닝 및 딥러닝 기반 모형들의 예측결과를 해석하는 방법 중 하나로서, 게임이론(game theory)을 바탕으로 모형에 적용된 설명변수들의 변수 중요도를 계산하는 방법이다. SHAP을 활용한다면 각 설명변수들이 예측결과에 미치는 영향을 정량적으로 파악할 수 있기 때문에 머신러닝 및 딥러닝 모형의 한계점을 일부 극복할 수 있을 것으로 판단된다(Lundberg and Lee, 2017).

본 연구의 목적은 교통류 소통상태를 파악하는 새로운 방법 중 하나인 elliptic bivariate relationship(Ka et al., 2020)이 머신러닝 및 딥러닝 기반의 교통류 예측모형에 적용될 수 있음을 보이는 것이다. Ka et al.(2020)은 고속도로 구간에서 관측되는 Vehicle Accumulation(VA)과 Travel Time(TT) 간 타원형 패턴(Oh et al., 2019)을 이용하여, 교통류 소통상태를 파악할 수 있는 두 가지 파라미터를 제시한 바 있다. 선행연구에서 제시된 두 가지 파라미터들을 이용하면, 현재 교통류의 정체강도를 파악할 수 있을 뿐만 아니라 현재 교통류의 정체가 심화되고 있는 단계인지 혹은 회복되고 있는 단계인지 여부를 알 수 있다. 이렇듯 교통류 측면에서 유용한 의미를 지니는 파라미터들이 머신러닝 및 딥러닝 모형에 적용되었을 때에도 중요한 설명변수로서 작동할 수 있을지에 대한 분석을 수행하는 것은 의미가 있을 것으로 판단된다.

따라서 본 연구는 실제 검지기 데이터를 활용하여 elliptic bivariate relationship의 두 가지 파라미터들을 도출하고 일반적인 교통류 변수들(교통량, 속도)과 함께 예측모형의 설명변수로 적용한다. 다음, elliptic bivariate relationship 파라미터를 적용한 모형과 적용하지 않은 모형의 예측력을 비교하고, SHAP을 활용하여 두 파라미터들의 변수 중요도를 일반적인 교통류 변수들과 비교함으로써 elliptic bivariate relationship의 적용성을 분석한다.

방법론

1. Elliptic Bivariate Relationship

Figure 1은 선행연구(Ka et al., 2020)에서 제시한 elliptic bivariate relationship의 개념에 대해 설명하고 있다. 정체가 발생하는 고속도로상 두 지점에서 수집되는 지점검지데이터를 활용하여 VA와 TT를 계산할 수 있으며, 두 변수로 이루어진 2차원 공간에 시간의 흐름에 따른 교통상태의 변화를 표현하면 타원 형태의 패턴이 나타난다. 본 연구는 VA와 TT 산정에 있어 Equations 1, 2, 3과 같이 선행연구의 정의를 준용한다.

https://cdn.apub.kr/journalsite/sites/kst/2023-041-02/N0210410207/images/kst_2023_412_239_F1.jpg

Figure 1.

Elliptic bivariate relationship between vehicle accumulation and travel time (Ka et al., 2020)

(1)

T T_{i} (t) = \frac{L_{i}}{u_{i} (t)}

(2)

V A_{i} (t) = q_{i} (t) \times T T_{i} (t)

(3)

∵ q_{i} (t) = u_{i} (t) k_{i} (t) = \frac{L_{i} \times k_{i} (t)}{T T_{i} (t)}

여기서, $T T_{i} (t)$ : 시간 t에서의 segment i의 통행시간

$V A_{i} (t)$ : 시간 t에서의 segment i 내 차량 대수

$u_{i} (t)$ : 시간 t에서의 segment i 내 차량의 평균속도

$q_{i} (t)$ : 시간 t에서의 segment i의 구간교통량

$k_{i} (t)$ : 시간 t에서의 segment i의 밀도

$L_{i}$ : segment i의 길이

선행연구(Ka et al., 2020)는 elliptic bivariate relationship으로부터 교통류 측면에서 의미를 가지는 파라미터들을 도출하기 위해, VA-TT 평면상에서의 이동을 표현하는 변환행렬(transformation matrix)을 분해(decomposition)했을 때 얻어지는 값들의 의미를 파악하였다.

Figure 2에서 현재 교통류 상태 $\vec{S_{t}}$ 가 자유류 소통상태인 $\vec{S_{0}}$ 로부터 행렬 $A$ 에 의해 이동된 상태라고 할 때, ${\vec{S}}_{t} = A {\vec{S}}_{0}$ 이다. 이때, ${\vec{S}}_{t}$ 와 ${\vec{S}}_{0}$ 가 임의의 타원 위의 점이라면 Equation 4와 같이 복소 고유값 분해가 가능하다. 변환행렬은 Equation 4와 같이 행렬 $P$ 와 $C$ 로 분해될 수 있는데, $P$ 는 각 점들이 놓여있는 타원의 기하적 특성을 표현하며 $C$ 는 $\vec{S_{t}}$ 가 $\vec{S_{0}}$ 로부터 얼마나 변화했는지를 나타낸다. 행렬 $C$ 는 Equation 4에서 나타내고 있는 바와 같이 $ϕ$ 만큼의 회전과 $|λ|$ 만큼의 스케일링 조합으로 표현될 수 있다. 즉, $ϕ$ 와 $|λ|$ 는 현재의 교통류 상태 $\vec{S_{t}}$ 를 정의하는 파라미터가 된다.

(4)

A = P C P^{- 1}, P = [\begin{matrix} | & | \\ R e (\vec{e}) & I m (\vec{e}) \\ | & | \end{matrix}] = [\begin{matrix} \sin α & \frac{L_{1}}{L_{2}} \cos α \\ - \cos α & \frac{L_{1}}{L_{2}} \sin α \end{matrix}], C = [\begin{matrix} a & - b \\ b & a \end{matrix}] = [\begin{matrix} | λ | & 0 \\ 0 & | λ | \end{matrix}] [\begin{matrix} \cos ϕ & - \sin ϕ \\ \sin ϕ & \cos ϕ \end{matrix}]

여기서, $L_{1}$ , $L_{2}$ : 각각 reference ellipse의 장축과 단축의 길이

$λ$ , $\vec{e}$ : $A$ 의 고유값(eigenvalue) 및 $λ$ 에 대응하는 고유 벡터(eigenvector)

$a$ , $b$ : $λ$ 의 실수부(real part) 및 허수부(imaginary part)

$α$ : 타원의 기울기

변환행렬 분해를 통해 도출한 $α$ 와 $|λ|$ 는 VA-TT 평면상에서 교통류 상태를 정의할 수 있다. 먼저 $ϕ$ 는 $π$ 를 기준으로 현재 교통류 상태가 정체가 심화되고 있는 단계인지, 혹은 회복되고 있는 단계인지를 의미한다. Figure 2를 참고하면 $ϕ$ 의 값이 $π$ 일 때를 기준으로 하여 $0 \leq ϕ < π$ 일 때는 정체가 심화, $π \leq ϕ < 2 π$ 일 때는 회복되고 있음을 알 수 있다. 또한, $|λ|$ 가 클수록 교통류 상태가 더 큰 타원을 따라 이동하며 이는 곧 정체의 강도가 세지는 것을 의미한다. 이 두 가지 파라미터가 가지는 교통류 측면에서의 의미는 교통량을 예측함에 유용한 정보로써 활용될 수 있을 것으로 판단되며, 해당 파라미터들은 실시간으로 계산할 수 있어 실시간 예측에 적합할 것으로 판단된다. 본 연구는 실제 데이터를 적용한 사례분석을 통해 데이터 기반의 검토를 수행하고자 한다.

https://cdn.apub.kr/journalsite/sites/kst/2023-041-02/N0210410207/images/kst_2023_412_239_F2.jpg

Figure 2.

The meaning of the proposed parameters on the reference ellipse (Ka et al., 2020)

2. 본 연구 활용 교통류 예측 방법론

본 연구의 주된 목적은 elliptic bivariate relationship 파라미터들이 머신러닝 기반의 실시간 교통량 예측모형에 적용될 수 있음을 보이는 것이다. Figure 3과 같은 다양한 종류의 머신러닝에서 elliptic bivariate relationship 파라미터들의 적용성을 검토해보기 위해 서로 다른 유형의 4가지 예측 방법론을 선정하였다. 선정된 방법론은 앙상블 기반 배깅(bagging) 기법의 랜덤 포레스트(random forest)와 부스팅(boosting) 기법의 XGBoost(eXtreme Gradient Boost), 지도 학습의 SVR(Support Vector Regressor), 딥러닝 알고리즘의 RNN(Recurrent Neural Network)이다.

https://cdn.apub.kr/journalsite/sites/kst/2023-041-02/N0210410207/images/kst_2023_412_239_F3.jpg

Figure 3.

Classification of machine learning algorithms

랜덤 포레스트는 여러 의사결정 나무(decision tree)로 이루어진 앙상블 기반 알고리즘이다(Figure 4). 일반적인 의사결정 나무는 학습 데이터에 따라서 생성되는 결과가 매우 달라서, 단일 의사결정 나무만을 사용하여 일반화하기에는 어려움이 있다. 랜덤 포레스트는 배깅을 활용하여 조금씩 다른 훈련 데이터에 대해 훈련된 다수의 의사결정 나무에서 나오는 결과값의 평균을 사용하여 예측 정확도를 높인 알고리즘이다(Biau and Scornet, 2016).

https://cdn.apub.kr/journalsite/sites/kst/2023-041-02/N0210410207/images/kst_2023_412_239_F4.jpg

Figure 4.

Structure of random forest

eXtreme Gradient Boost(XGBoost)는 여러 개의 의사결정 나무를 조합하여 예측하는 앙상블 기반 모형 중 부스팅 알고리즘의 한 종류이다(Figure 5). XGBoost는 그래디언트 부스팅(gradient boosting)의 학습시간이 오래 걸리고 과적합이 발생하기 쉽다는 단점을 개선한 알고리즘으로 병렬 처리로 학습하여 학습 속도가 그래디언트 부스팅보다 빠르고 자체적인 과적합 규제 기능이 있어 강한 내구성을 갖춘 알고리즘이다(Chen and Guestrin, 2016).

https://cdn.apub.kr/journalsite/sites/kst/2023-041-02/N0210410207/images/kst_2023_412_239_F5.jpg

Figure 5.

Structure of XGBoost

SVR은 학습 데이터의 분류 예측에 활용되는 서포트 벡터 머신(Support Vector Machine, SVM)에 손실함수를 도입하여, 분류 예측을 회귀 예측으로 변환한 방법이다. SVR은 최대한 큰 마진을 갖는 초평면을 구하는 SVM과는 달리, 예측값과 실측값 간 차이를 오차허용률 $ε$ 내로 최대한 많이 유지하는 것을 목표로 한다(Figure 6). SVR은 비선형 회귀 문제의 경우, 커널 함수를 사용하여 원공간(input space)에서의 입력값을 매핑 함수를 통해 고차원 형상공간(feature space)에 사상시켜 고차원 선형 회귀문제로 변환 후 회귀 분석을 수행한다(Smola and Schölkopf, 2004).

https://cdn.apub.kr/journalsite/sites/kst/2023-041-02/N0210410207/images/kst_2023_412_239_F6.jpg

Figure 6.

Principle of support vector regressor

RNN는 은닉층의 노드에서 활성화 함수를 통해 나온 결과값을 신경망 내부의 메모리에 저장하여 다음 입력값이 들어오면 은닉층 노드의 계산에 활용하는 순환형 구조를 띤 신경망이다(Figure 7). RNN은 이전 메모리에 저장된 값을 고려하여 연산하기 때문에 입력값의 시계열적 동적 특징을 모델링 할 수 있도록 해준다는 장점이 있다. 하지만 RNN은 장기 의존성 문제(the problem of long-term dependencies)가 있어 비교적 짧은 시퀀스만 효과적으로 처리할 수 있다는 단점 또한 있다(Medsker and Jain, 1999).

https://cdn.apub.kr/journalsite/sites/kst/2023-041-02/N0210410207/images/kst_2023_412_239_F7.jpg

Figure 7.

Structure of recurrent neural network

3. SHAP(SHapley Additive exPlanations)

예측모형의 결과값을 올바르게 해석하는 것은 해당 모형에 신뢰를 제공할 수 있으며 예측결과에 대한 근거를 제공한다는 점에서 매우 중요하다(Lundberg and Lee, 2017). 최근 많은 분야에서 활용되고 있는 머신러닝 혹은 딥러닝 모형은 복잡한 구조로 되어 있어서 예측 성능은 좋지만, 모형의 예측 과정을 설명하기 어렵다는 한계점이 있다. 기존의 앙상블 기반 모형에서도 변수 중요도를 계산할 수 있으나, 해당 변수가 결과값에 미치는 영향을 정확하게 확인할 수 없으며, 기준을 잡는 방법에 따라 중요한 변수가 달라져 신뢰할 수 없다는 단점이 있다. 이러한 문제들을 보완하고자 개발된 방법이 바로 SHAP이다. SHAP은 각 설명변수 간 독립성을 근거로 각 설명변수가 결과값을 예측하는 데 기여한 정도를 수치로 제공하는 기법으로 모든 머신러닝 모형의 결과를 설명할 수 있다는 장점이 있다. 위와 같은 SHAP의 특성을 활용한다면 각 교통량 예측모형에서 설명변수들이 교통량 예측 결과값에 대해 얼마나 기여하였는지 확인할 수 있으며 이를 통해 elliptic bivariate relationship 파라미터들의 머신러닝 모형 적용성을 분석할 수 있을 것이다.

SHAP은 게임이론을 활용하여 임의의 설명변수에 대한 변수 중요도를 알기 위해 설명변수의 조합을 구성하고, 해당 설명변수의 유무에 따라 발생하는 결과값의 차이를 바탕으로 shapley value를 계산한다. Shapley value는 각 설명변수가 학습에 포함되었을 때, 모형의 성능에 어떤 영향을 미치는지 나타낸 값이다(Figure 8). Lundberg and Lee(2017)는 임의의 설명변수의 shapley value가 단일 값을 갖기 위해 가져야 할 조건 세 가지를 제시하였다. Equation 5는 기존 모형 $f (x)$ 로부터 생성된 결과를 설명하기 위해 생성한 $g (x')$ 가 각 설명변수들의 shapley value를 활용하여 표현될 수 있어야 한다는 의미이고, Equation 6는 단순화된 입력값이 0이면 변수 중요도 $ϕ_{i}$ 도 0이 되어야 한다는 의미이다. 마지막으로 Equation 7은 모형이 $f$ 에서 $f'$ 으로 바뀌었을 때, 설명변수 $i$ 의 영향력이 더 커졌다면, $f' (x)$ 의 설명 모형에서 설명변수 $i$ 에 대한 계수가 $f (x)$ 의 설명변수 $i$ 에 대한 계수보다 더 커야한다는 것을 의미한다.

(5)

f (x) = g (x^{'}) = ϕ_{0} + \sum_{i = 1}^{M} ϕ_{i} x'_{i}

(6)

x'_{i} = 0 ⟹ ϕ_{i} = 0

(7)

f'_{i} (z') - f'_{i} (z' \ i) \geq f_{x} (z') - f_{x} (z' \ i)

여기서, $f$ 설명하고자 하는 기존 모형

$g$ : $f$ 를 설명하기 위해 단순화한 설명 모형

$x$ : $f$ 에 들어가는 입력값

$x'$ : $x$ 의 단순화한 형태로 $g$ 에 들어가는 입력값

$ϕ_{i}$ : 설명변수 $i$ 의 shapley value

$M$ : 단순화된 input의 설명변수 개수

$z'$ : $x'$ 을 단순화한 입력값으로 $z' \in {{0, 1}}^{M}$ ( $z' \approx x'$ )

$z' \ i$ : 설명변수 $i$ 가 제외된 집합

https://cdn.apub.kr/journalsite/sites/kst/2023-041-02/N0210410207/images/kst_2023_412_239_F8.jpg

Figure 8.

Example of SHAP Result

Equation 8은 성질 1, 2, 3(Equations 5, 6, 7)을 만족할 때, 설명변수 $i$ 의 shapley value를 계산하는 수식이다.

(8)

ϕ_{i} (f, x) = \sum_{z^{'} \subseteq x^{'}} \frac{| z^{'} |! (M - | z^{'} | - 1)!}{M!} [f_{x} (z^{'}) - f_{x} (z^{'} \ i)]

여기서, $| z' | :$ $z'$ 에서 0이 아닌 원소의 개수

사례분석

1. 분석방법 및 데이터

본 연구는 경부고속도로 하행 목천 IC부터 옥산 JC 구간을 공간적 범위로 선정하였으며 공간 범위의 개략도는 Figure 9와 같다. 데이터는 한국도로공사에서 제공하는 5분 집계단위 VDS 데이터를 사용하였으며, 공간 범위 내에 존재하는 9개의 검지기 중 합류부와 분류부에 가장 인접한 검지기의 교통류 데이터를 사용하였다.

https://cdn.apub.kr/journalsite/sites/kst/2023-041-02/N0210410207/images/kst_2023_412_239_F9.jpg

Figure 9.

Spatial scope description

본 연구에서는 랜덤 포레스트, XGBoost, SVR, RNN을 활용하여 전체 시간대에 대한 5분 후, 15분 후, 30분 후 교통량 예측을 진행하였으며, 교통량 예측 시 사용한 설명변수와 종속변수의 의미는 Table 1과 같다. 각 검지기 데이터는 5분 간격으로 측정되었으며, 2022년 1월 1일부터 2022년 4월 14일까지 총 104일 치 데이터를 학습시키고 2022년 4월 15일의 교통량을 예측하였다. 성능 평가 지표로는 Mean Absolute Percentage Error(MAPE)를 사용하였다. MAPE는 실제값과 예측값 사이의 오차가 실제값에서 차지하는 비율을 나타낸 지표로 0에 가까울수록 예측력이 좋다고 해석할 수 있다.

Table 1.

Data for prediction

Variables	Meaning
$q_{t + 1}^{F d}$ (Dependent variable)	Traffic flow at the freeway diverging area after 5 minutes
$q_{t + 3}^{F d}$ (Dependent variable)	Traffic flow at the freeway diverging area after 15 minutes
$q_{t + 6}^{F d}$ (Dependent variable)	Traffic flow at the freeway diverging area after 30 minutes
$q_{t}^{F d}$	Traffic flow at the freeway diverging area in time t
$μ_{t}^{F d}$	Average speed at the freeway diverging area in time t
$q_{t}^{F m}$	Traffic flow at the freeway merging area in time t
$μ_{t}^{F m}$	Average speed at the freeway merging area in time t
$\| λ \|_{t}$	Scale parameter in the transformation matrix from the reference state ( $\vec{S_{0}}$ ) to the current state ( $\vec{S_{t}}$ )
$ϕ_{t}$	Rotate parameter in the transformation matrix from the reference state ( $\vec{S_{0}}$ ) to the current state ( $\vec{S_{t}}$ )

선행연구(Ka et al., 2020)에 의하면 VA와 TT 간의 elliptic bivariate relationship은 교통류가 자유류를 벗어나기 시작하여 정체를 거쳐 회복하는 시간 동안 나타난다. 따라서 심야시간대 등 정체가 전혀 발생하지는 않는 상황에서는 elliptic bivariate relationship 파라미터의 값을 도출할 수 없으며 예측모형에 적용이 불가하다는 한계점이 있다. 본 연구의 예측모형은 elliptic bivariate relationship이 관측되지 않는 비정체상황에 대해서는 교통량, 속도 등 기존 교통류 변수를 예측모형에 적용하며, elliptic bivariate relationship 파라미터가 도출되는 상황에서는 $| λ |_{t}$ 와 $ϕ_{t}$ 를 설명변수로서 추가적으로 적용하게 된다.

Figure 10은 본 연구의 분석사례에 대한 $ϕ_{t}$ 의 값이며, 본 연구의 사례분석 절차를 종합적으로 나타내면 Figure 11과 같다.

https://cdn.apub.kr/journalsite/sites/kst/2023-041-02/N0210410207/images/kst_2023_412_239_F10.jpg

Figure 10.

Classification of traffic states by elliptic parameters $ϕ_{t}$

https://cdn.apub.kr/journalsite/sites/kst/2023-041-02/N0210410207/images/kst_2023_412_239_F11.jpg

Figure 11.

Graphical representation of the case study

2. 교통량 예측결과

본 연구에서는 elliptic bivariate relationship 파라미터들을 활용한 예측모형과 활용하지 않은 예측모형의 결과 비교를 수행하였다. Table 2는 elliptic bivariate relationship 파라미터들의 포함 여부에 따른 정체 시간대의 MAPE이고, Figure 12는 2022년 4월 15일의 실제 교통량과 예측모형별 예측 교통량을 그래프로 표현한 것이다. Elliptic bivariate relationship 파라미터들을 포함한 예측모형의 평균적인 MAPE는, 5분 후 예측모형은 9.6%, 15분 후 예측모형은 9.8%, 30분 후 예측모형은 9.9%로 나타났다. 이는, 예측 시간 간격이 커질수록 예측력이 점점 낮아지는 것을 의미한다. 해당 결과를 기존의 예측모형과 비교해 보면, 제안한 예측모형이 5분 후, 15분 후, 30분 후 예측 모두 MAPE가 약 2.4% 정도 낮은 것으로 나타났다. 이는 모든 예측 시간대에서 elliptic bivariate relationship 파라미터들을 포함한 모형의 예측력이 높음을 의미한다.

또한, 예측모형에 사용한 알고리즘별 분석결과를 비교한 결과, 각 예측모형의 평균적인 MAPE는 랜덤 포레스트가 9.7%, XGBoost가 9.6%, SVR이 9.8%, RNN이 10.0%로 나타났다. 즉, 랜덤 포레스트와 XGBoost와 같은 앙상블 기반 모형들이 가장 우수한 성능을 보였으며, 그 뒤로 RNN과 SVR이 유사한 예측 성능을 갖음을 확인하였다. 네 가지 예측모형에 대해 상대적인 개선 정도의 차이가 있긴 하였지만, MAPE를 기준으로 elliptic bivariate relationship 파라미터들을 포함함에 따라 MAPE가 2.1%(XGBoost의 5분 후 예측모형)부터 2.8%(RNN의 30분 후 예측모형)까지, 평균 약 2.4% 감소하는 것을 확인할 수 있다.

Table 2.

MAPE (%) for each prediction model

Prediction model		Prediction horizons
Prediction model		5 minutes	15 minutes	30 minutes
Random forest	Without elliptic parameters	11.9	12.2	12.5
Random forest	With elliptic parameters	9.5 (-2.4)	9.8 (-2.4)	9.9 (-2.6)
XGBoost	Without elliptic parameters	11.7	11.8	12.0
XGBoost	With elliptic parameters	9.6 (-2.1)	9.6 (-2.2)	9.5 (-2.5)
SVR	Without elliptic parameters	11.8	12.0	12.2
SVR	With elliptic parameters	9.7 (-2.1)	9.7 (-2.3)	10.0 (-2.2)
RNN	Without elliptic parameters	12.4	12.6	12.6
RNN	With elliptic parameters	9.6 (-2.8)	10.1 (-2.5)	10.3 (-2.3)

(): MAPE of the models with elliptic parameters - MAPE of the models without elliptic parameters

https://cdn.apub.kr/journalsite/sites/kst/2023-041-02/N0210410207/images/kst_2023_412_239_F12.jpg

Figure 12.

Traffic flow prediction results with elliptic parameters

본 연구는 예측모형이 적용된 전체시간을 정체의 양상에 따라 세분화하여 예측결과를 분석하고자 하였으며, elliptic bivariate relationship 파라미터 $ϕ_{t}$ 의 의미를 바탕으로 하여 $ϕ_{t}$ 가 도출되지 않는 상황을 비정체, $0 \leq ϕ_{t} < π$ 인 상황을 정체 심화단계, $π \leq ϕ_{t} < 2 π$ 인 상황을 정체 회복단계로 구분하였다. Tables 3, 4, 5는 각각 비정체, 정체 심화단계, 정체 회복단계에 대한 예측결과를 보여주고 있는데, 비정체의 경우에는 전술한 바와 같이 예측모형에 elliptic bivariate relationship 파라미터들이 적용될 수 없으며 결과적으로 기존의 교통류 변수들만을 사용한 모형과 차이가 없게 된다. 또한, 비정체상황의 MAPE가 정체상황의 MAPE보다 높은 것을 확인할 수 있었다. 이는, 비정체상황이 정체상황에 비해 교통량이 적기 때문에 MAPE 산정 시 과대추정된 결과로 보인다. 반면, 정체 시에는 예측모형의 설명변수로서 elliptic bivariate relationship 파라미터들이 추가 적용되었는데, 정체 심화단계의 경우 예측모형의 MAPE가 평균적으로 약 1.2%가 감소하였으며 정체 회복단계의 경우 예측모형 MAPE가 평균적으로 약 2.0% 감소하였다. 이는 정체의 진행상태와 정체의 크기를 나타내는 $ϕ$ 와 $|λ|$ 를 적용함으로써 교통류가 정체상태일 때 예측모형의 성능을 개선할 수 있음을 보여주는 결과이다.

Table 3.

MAPE (%) for each prediction model in uncongested state

Prediction model		Prediction horizons
Prediction model		5 minutes	15 minutes	30 minutes
Random forest	Without elliptic parameters	14.2	15.8	16.5
Random forest	With elliptic parameters	-	-	-
XGBoost	Without elliptic parameters	14.3	16.6	18.5
XGBoost	With elliptic parameters	-	-	-
SVR	Without elliptic parameters	12.7	15.3	17.2
SVR	With elliptic parameters	-	-	-
RNN	Without elliptic parameters	14.1	16.9	18.9
RNN	With elliptic parameters	-	-	-

Table 4.

MAPE (%) for each prediction model in congested state (congestion increases, $0 \leq ϕ_{t} < π$ )

Prediction model		Prediction horizons
Prediction model		5 minutes	15 minutes	30 minutes
Random forest	Without elliptic parameters	9.4	9.8	9.8
Random forest	With elliptic parameters	8.3 (-1.1)	8.6 (-1.2)	9.1 (-0.7)
XGBoost	Without elliptic parameters	9.6	9.8	10.1
XGBoost	With elliptic parameters	8.4 (-1.2)	8.3 (-1.5)	9.3 (-0.8)
SVR	Without elliptic parameters	9.5	9.8	9.9
SVR	With elliptic parameters	8.3 (-1.2)	8.7 (-1.1)	8.7 (-1.2)
RNN	Without elliptic parameters	10.1	10.2	10.2
RNN	With elliptic parameters	8.3 (-1.8)	9.1 (-1.1)	9.3 (-0.9)

(): MAPE of the models with elliptic parameters - MAPE of the models without elliptic parameters

Table 5.

MAPE (%) for each prediction model in congested state (congestion is relieved, $π \leq ϕ_{t} < 2 π$ )

Prediction model		Prediction horizons
Prediction model		5 minutes	15 minutes	30 minutes
Random forest	Without elliptic parameters	16.0	16.6	15.4
Random forest	With elliptic parameters	12.4 (-3.6)	14.1 (-2.5)	14.0 (-1.4)
XGBoost	Without elliptic parameters	14.8	14.9	14.7
XGBoost	With elliptic parameters	12.4 (-2.4)	13.3 (-1.6)	13.4 (-1.3)
SVR	Without elliptic parameters	15.1	15.4	15.8
SVR	With elliptic parameters	13.6 (-1.5)	13.5 (-1.9)	14.0 (-1.8)
RNN	Without elliptic parameters	15.8	16.2	16.1
RNN	With elliptic parameters	13.4 (-2.4)	13.9 (-2.3)	14.3 (-1.8)

(): MAPE of the models with elliptic parameters - MAPE of the models without elliptic parameters

3. 변수 중요도 산정결과

Figure 13과 Table 6는 자기 회귀 변수인 $q_{t}^{F d}$ 를 제외한 나머지 설명변수의 변수 중요도를 계산한 결과이다. 분석결과, 예측모형에 적용된 설명변수 중 $ϕ_{t}$ 의 중요도가 가장 높은 것으로 나타났으며 $| λ |_{t}$ 의 중요도 역시 일반적인 교통류 변수와 유사하거나 다소 높은 수준인 것으로 확인되었다. $ϕ_{t}$ 의 경우 모든 예측모형에서 가장 높은 변수 중요도를 갖는 것으로 나타났다. 동일한 교통량이나 속도가 관측되더라도, 현재의 교통류가 정체 심화단계인지 혹은 회복단계인지 여부에 따라 교통류 상태가 다를 수 있다는 점을 고려할 때 이러한 결과는 합리적인 것으로 판단된다. 정체강도를 의미하는 파라미터인 $| λ |_{t}$ 의 경우, $ϕ_{t}$ 보다는 변수 중요도가 낮게 산정되었으나 다른 교통류 변수(속도, 교통량)와 유사한 수준의 중요도를 갖는 것으로 나타났다.

https://cdn.apub.kr/journalsite/sites/kst/2023-041-02/N0210410207/images/kst_2023_412_239_F13.jpg

Figure 13.

Feature importance value for each prediction model

Table 6.

Feature importance for each prediction model

Prediction model	Prediction horizons	$ϕ_{t}$	${\|λ\|}_{t}$	$q_{t}^{F m}$	$μ_{t}^{F m}$	$μ_{t}^{F d}$
Random forest	5 minutes	0.0206	0.0045	0.0019	0.0021	0.0054
	15 minutes	0.0167	0.0031	0.0005	0.0007	0.0044
	30 minutes	0.0153	0.0030	0.0007	0.0007	0.0056
XGBoost	5 minutes	0.0224	0.0063	0.0037	0.0040	0.0062
	15 minutes	0.0181	0.0059	0.0036	0.0040	0.0072
	30 minutes	0.0165	0.0055	0.0037	0.0040	0.0075
SVR	5 minutes	0.0133	0.0021	0.0001	0.0001	0.0031
	15 minutes	0.0127	0.0022	0.0002	0.0003	0.0032
	30 minutes	0.0120	0.0020	0.0003	0.0004	0.0036
RNN	5 minutes	0.0191	0.0059	0.0007	0.0019	0.0054
	15 minutes	0.0201	0.0049	0.0008	0.0019	0.0039
	30 minutes	0.0140	0.0069	0.0010	0.0011	0.0072

결론

본 연구는 교통류 상태를 파악하는 새로운 방법 중 하나인 vehicle accumulation과 travel time 간의 elliptic bivariate relationship(Ka et al., 2020)을 머신러닝 및 딥러닝 기반 교통량 예측모형에 적용하였다. 선행연구에 의하면 elliptic bivariate relationship의 두 가지 파라미터 중 $ϕ$ 는 현재 교통류 상태가 정체가 심화되고 있는 단계인지, 정체로부터 회복되고 있는 단계인지 여부를 나타내며, $|λ|$ 는 현재의 정체강도를 의미한다. 본 연구는 두 파라미터의 다양한 유형의 예측모형에 대한 적용성 검토를 위해 배깅, 부스팅, 딥러닝 등의 분류에 해당하는 방법론들을 활용하였으며, 실제 교통데이터를 이용하여 사례분석을 수행하였다.

분석결과, elliptic bivariate relationship의 두 가지 파라미터들을 적용한 예측모형의 오차율이 일반적인 교통류 변수(속도, 교통량)만을 적용한 모형 대비 최소 2.1%부터 최대 2.8%까지 일관적으로 감소하였으며, 정체의 단계별로 비교 분석한 결과에서도 예측모형의 오차율이 일관성 있게 개선되는 것을 확인할 수 있었다. 또한, SHAP을 이용하여 예측모형에 적용된 변수들의 중요도를 산정한 결과, $ϕ_{t}$ 와 ${|λ|}_{t}$ 가 교통량 예측에 있어 상당한 영향을 미치는 것으로 나타났다. $ϕ_{t}$ 는 특히, 모든 모형에서 변수 중요도가 가장 높은 것으로 나타났다. 이는 현재 정체 단계를 나타내는 $ϕ_{t}$ 가 교통량 예측에 가장 중요도가 크다는 것을 의미하며, 평균속도와 교통량이 같더라도 현재 교통류의 정체가 심화단계인지 또는 회복단계인지에 따라 다르게 변화할 수 있음을 시사한다. 나머지 파라미터인 ${|λ|}_{t}$ 는 일반적인 교통류 변수(속도, 교통량)와 비슷한 정도의 변수 중요도를 보였으며, 이는 정체강도 역시 교통류 예측에 영향을 미칠 수 있음을 의미한다.

결론적으로 교통류 측면에서 유용한 의미를 갖는 elliptic bivariate relationship 파라미터들인 $ϕ$ 와 $|λ|$ 가 교통량 예측모형에서도 유용한 설명변수로 활용될 수 있음이 데이터 기반 분석을 통해 확인되었다. Elliptic bivariate relationship 파라미터들을 활용한 향후연구로는 단일 고속도로 구간이 아닌 고속도로 네트워크, 도시부 교차로 등 다양한 공간적 범위에 대한 분석이 가능할 것이다.

Funding

This work was supported by the National Research Foundation of Korea(NRF) grant funded by the Korea government(MSIT)(No. 2021R1A2C1010092) and was also supported by the Institute of Construction and Environmental Engineering at Seoul National University and the Institute of Engineering Research at Seoul National University.

알림

본 논문은 대한교통학회 제87회 학술발표회(2022.9.30)에서 발표된 내용을 수정.보완하여 작성된 것입니다.

References

Biau G., Scornet E. (2016), A Random Forest Guided Tour, Test, 25(2), 197-227. 10.1007/s11749-016-0481-7

Chen T., Guestrin C. (2016), Xgboost: A Scalable Tree Boosting System, In Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, 785-794. 10.1145/2939672.2939785

Cheng T., Haworth J., Wang J. (2012), Spatio-temporal Autocorrelation of Road Network Data, Journal of Geographical Systems, 14(4), 389-413. 10.1007/s10109-011-0149-5

Chiabaut N., Faitout R. (2021), Traffic Congestion and Travel Time Prediction Based on Historical Congestion Maps and Identification of Consensual Days, Transportation Research Part C: Emerging Technologies, 124, 102920. 10.1016/j.trc.2020.102920

Davis G. A., Nihan N. L., Hamed M. M., Jacobson L. N. (1990), Adaptive Forecasting of Freeway Traffic Congestion, Transportation Research Record (1287).

Dunne S., Ghosh B. (2012), Regime-based Short-term Multivariate Traffic Condition Forecasting Algorithm, Journal of Transportation Engineering, 138(4), 455. 10.1061/(ASCE)TE.1943-5436.0000337

Ghosh B., Basu B., O’Mahony M. (2007), Bayesian Time-series Model for Short-term Traffic Flow Forecasting, Journal of Transportation Engineering, 133(3), 180-189. 10.1061/(ASCE)0733-947X(2007)133:3(180)

Hamed M. M., Al-Masaeid H. R., Said Z. M. B. (1995), Short-term Prediction of Traffic Volume in Urban Arterials, Journal of Transportation Engineering, 121(3), 249-254. 10.1061/(ASCE)0733-947X(1995)121:3(249)

Ka D., Chung K., Lee C. (2020), Real-Time Prediction of Vehicle Accumulation and Travel Times Over Extended Freeway Segments Using a Reproducible Elliptical Bivariate Relationship, Presented at the Transportation Research Board 99th Annual Meeting, Washington, DC.

Lundberg S. M., Lee S. I. (2017), A Unified Approach to Interpreting Model Predictions, Advances in Neural Information Processing Systems, 30.

Medsker L., Jain L. C. (Eds.) (1999), Recurrent Neural Networks: Design and Applications, CRC press. 10.1201/978142004917610566460PMC2232703

Oh Y., Chung K., Kang S., Jang K. (2019), Evaluating the Reproducible Relationship Between Travel Times and Vehicle Accumulation Over Extended Freeway Segments: Detecting Onset of Traffic Conditions Leading to a Marked Increase in Travel Times, Presented at the Transportation Research Board 98th Annual Meeting, Washington, DC.

Okutani I., Stephanedes YJ. (1984), Dynamic Prediction of Traffic Volume through Kalman Filtering Theory, Transportation Research, Part B, 18(1), 1-11. 10.1016/0191-2615(84)90002-X

Polson N. G., Sokolov V. O. (2017), Deep Learning for Short-term Traffic Flow Prediction, Transportation Research Part C: Emerging Technologies, 79, 1-17. 10.1016/j.trc.2017.02.024

Smith B. L., Demetsky M. J. (1997), Traffic Flow Forecasting: Comparison of Modeling Approaches, Journal of Transportation Engineering, 123(4), 261-266. 10.1061/(ASCE)0733-947X(1997)123:4(261)

Smola A. J., Schölkopf B. (2004), A Tutorial on Support Vector Regression, Statistics and Computing, 14(3), 199-222. 10.1023/B:STCO.0000035301.49549.88

Stathopoulos A., Karlaftis M. G. (2003), A Multivariate State Space Approach for Urban Traffic Flow Modeling and Prediction, Transportation Research Part C: Emerging Technologies, 11(2), 121-135. 10.1016/S0968-090X(03)00004-4

Vlahogianni E. I., Karlaftis M. G., Golias J. C. (2014), Short-term Traffic Forecasting: Where We are and Where We’re Going, Transportation Research Part C: Emerging Technologies, 43, 3-19. 10.1016/j.trc.2014.01.005

Williams B. M., Durvasula P. K., Brown D. E. (1998), Urban Freeway Traffic Flow Prediction: Application of Seasonal Autoregressive Integrated Moving Average and Exponential Smoothing Models, Transportation Research Record, 1644(1), 132-141. 10.3141/1644-14

Wu Y., Tan H., Qin L., Ran B., Jiang Z. (2018), A Hybrid Deep Learning Based Traffic Flow Prediction Method and Its Understanding, Transportation Research Part C: Emerging Technologies, 90, 166-180. 10.1016/j.trc.2018.03.001

Xu F., Lin Y., Huang J., Wu D., Shi H., Song J., Li Y. (2016), Big Data Driven Mobile Traffic Understanding and Forecasting: A Time Series Approach, IEEE Transactions on Services Computing, 9(5), 796-805. 10.1109/TSC.2016.2599878

Zhang D., Kabuka M. R. (2018), Combining Weather Condition Data to Predict Traffic Flow: A GRU-based Deep Learning Approach, IET Intelligent Transport Systems, 12(7), 578-585. 10.1049/iet-its.2017.0313

Journal of Korean Society of Transportation ISSN:1229-1366(Print) 2234-4217(Online) 대한교통학회지

Preview

Development of an Explainable Traffic Flow Prediction Model Using Shapley Additive Explanation and Elliptic Bivariate Relationship

ABSTRACT

MAIN

Figure 1.

Elliptic bivariate relationship between vehicle accumulation and travel time (Ka et al., 2020)

(1)

(2)

(3)

(4)

Figure 2.

The meaning of the proposed parameters on the reference ellipse (Ka et al., 2020)

Figure 3.

Classification of machine learning algorithms

Figure 4.

Structure of random forest

Figure 5.

Structure of XGBoost

Figure 6.

Principle of support vector regressor

Figure 7.

Structure of recurrent neural network

(5)

(6)

(7)

Figure 8.

Example of SHAP Result

(8)

Figure 9.

Spatial scope description

Table 1.

Data for prediction

Figure 10.

Classification of traffic states by elliptic parameters ϕt

Figure 11.

Graphical representation of the case study

Table 2.

MAPE (%) for each prediction model

Figure 12.

Traffic flow prediction results with elliptic parameters

Table 3.

MAPE (%) for each prediction model in uncongested state

Table 4.

MAPE (%) for each prediction model in congested state (congestion increases, 0≤ϕt<π)

Table 5.

MAPE (%) for each prediction model in congested state (congestion is relieved, π≤ϕt<2π)

Figure 13.

Feature importance value for each prediction model

Table 6.

Feature importance for each prediction model

Funding

알림

References

Classification of traffic states by elliptic parameters $ϕ_{t}$

MAPE (%) for each prediction model in congested state (congestion increases, $0 \leq ϕ_{t} < π$ )

MAPE (%) for each prediction model in congested state (congestion is relieved, $π \leq ϕ_{t} < 2 π$ )