논문 전문 : https://iopscience.iop.org/article/10.1088/1742-6596/2301/1/012014
[출처] Yiyue Jiang, Yuan Chen, Fangfang Yang, Weiwen Peng,
State of health estimation of lithium-ion battery with automatic feature extraction and self-attention learning mechanism,
Journal of Power Sources,Volume 556,2023,232466,ISSN 0378-7753,https://doi.org/10.1016/j.jpowsour.2022.232466.
※ The picture and content of this article are from the original paper.
[논문 요약]
State of health estimation of lithium-ion battery with automatic feature extraction and self-attention learning mechanism
이 논문은 무려 올해 나온, 나온지 3달도 안된 따끈따끈한 논문입니다.
제가 최근 연구하고있는 분야와 어느정도 연관성이 보여 읽어보게된 논문으로, 저도 석사때 딥러닝으로 학위를 받은관계로 이쪽을 다시금 파보고 있습니다.
아직까지 너무 따끈한 논문이기에, Figure공개가 안되었는데요
따라서 이번 논문정리는 글 위주로 진행해보겠습니다.
Purpose
CNN AutoEncoder로 Automatic Feature Extracting을 하고 Self-attention 이후 다시 CNN으로 SOH를 추정하는 논문입니다. 사실 크게 인사이트가 있는 부분은 아니며, RNN계열 모델의 AutoEncoder를 통한 Automatic Feature Extraction은 비교적 흔한 방식입니다. 제가 예전에 몇번 정리한 논문들 중에서도있구요.
단지, 이 논문을 보게된 이유는 Self-attention때문입니다. 제가 최근 Attention을 많이 사용하고 있는데 Self-attention은 어떤식으로 배터리에 접목되나..하면서 논문 및 기존 선행연구들을 보고있습니다.
Transformer나 Self-attention 기반 모델들은 무겁기때문에 SOC라던가 이런것들을 추정하는 논문들은 적고, 보통 Automatic Feature Extraction 이후, 추출된 Feature을 한번 더 Attention Score로 정제하는 용도로 쓴다던가 혹은 RUL Prediction쪽에 많이 적용되고 있습니다.
Contents
해당 논문은 SOH를 추정하기위해 딥러닝을 활용합니다.
오직 충전중에만 사용가능하며, CCCV충전 중 CC구간에서는 전압 변화를, CV구간에서는 전류변화를 Input Data로 씁니다. 당연히, output Data는 SOH이며 실측값입니다.
여기서 다소 인사이트가 있었던 점은, CC구간에서의 전압, CV구간에서의 전류에 대해 각각 Min/Max치를 걸어두는것입니다. 즉, 전구간의 전압/전류를 보는게 아니라 필자가 실험을 통해 발견한 SOH에 가장 많은 영향을 받는 구간을 선정하여 Min/Max Normalization을 하고 학습을 진행합니다.
이 그림은 있었으면 좋았을텐데, 논문을 보실분은 Fig.2, Fig.3을 보시면됩니다.
전체적인 딥러닝 아키텍쳐는 하기와 같습니다.
Input Data(CCCV) ▶ 1D-CNN AutoEncoder ▶ Self Attention ▶ 1D-CNN ▶ Output Data(SOH)
딥러닝 구성중 조금 의아했던 부분은 Activation Function을 묘하게 잡는다는 점이였습니다.
보통 Activation Function으로 ReLU나 Sigmoid, Leaky ReLU...등 쓰는게 정해져있는 경우가 많으며 특히 Normalizing을 하는 경우 (0,1)의 Boundary로 설정하는 경우가 많습니다.
그런데 해당 논문은 output layer의 Activation function을 0.4/(1+exp(-x)) +0.7로 (0.7,1.1)로 잡았다고합니다.
왜 그런지는 구체적으로 설명하진 않았습니다.
그리고 위에서도 언급했다시피 전압과 전류의 구간을 딱 정하는데요, CC충전 중 전압 구간은 [3.9V, 4.198V], CV충전 중 전류 구간은 [250mA, 1250mA] 입니다. 이건 수학적으로 유도된 범위는 아니고, 실제 하나하나 측정을 해보고 딥러닝 학습을 했을때 SOH추정이 가장 잘 되는 구간을 Try & Error로 얻어냈다고합니다.
데이터는 NASA Dataset과 오픈소스로 구하기 쉬운 Oxford 데이터와 같은 것들을 사용했으며, 셀 케미컬 크게 구분없이 학습을 진행합니다.
Results
결과적으론 SOH를 높은 정확도로 추정하는데, 입력데이터가 다소 아쉬운 부분이 있습니다. 이건 학계와 산업계의 큰 관점차이이긴한데, 산업계에서는 CCCV로 뭔가를한다? 논문, 특허 보지도 않습니다. 실제 필드에서 CCCV로 뭔가를 하는 경우는 거의 전무하기 때문입니다. 필드 엔지니어들은 논문을 거르는 몇가지 포인트들이 있는데 대게 99%의 논문은 산업계와 관계가 없는 경우가 대부분입니다. 이논문 또한 그 범주를 벗어나진 못합니다.
단지, 제가 최근 Attention에 관심이 있어 읽게된 논문입니다.
하지만, 저자가 한 말중 공감이 가는부분은, 배터리는 이온단위부터 전기화학적 영향을 주는 아이템이기에 모든 케이스에 대해 Universal한 이상 혹은 열화 Feature를 Manual하게 뽑아내긴 어렵다는 점입니다.
저는 Manual하게도, 딥러닝으로도 뽑아내고자 하고있고, 현재 두가지 연구를 동시에 하고있습니다. 하지만 Manual하게는 제약적인 부분이 상당히 많기도 하고, 전기화학적 Background Knowledge가 많이 필요합니다. 그렇다고 딥러닝이 무조건 Master Algorithm이냐 그것도 아니지만, 이 두가지를 잘 섞어 Hybrid하게 유의미한 연구를 진행하고자 하는게 제 최근 관심사입니다.
이러한 주제에 대해 관심있으신분은 회사, 학교를 막론하고 언제든 환영입니다 :)
참조
[1] Yiyue Jiang, Yuan Chen, Fangfang Yang, Weiwen Peng,
State of health estimation of lithium-ion battery with automatic feature extraction and self-attention learning mechanism,
Journal of Power Sources,Volume 556,2023,232466,ISSN 0378-7753,https://doi.org/10.1016/j.jpowsour.2022.232466.
댓글