Comparative Analysis of RNN Architectures and Activation Functions with Attention Mechanisms for Mars Weather Prediction

Abstract

In this paper, we propose a comparative analysis to evaluate the impact of activation functions and attention mechanisms on the performance of time-series models for Mars meteorological data. Mars meteorological data are nonlinear and irregular due to low atmospheric density, rapid temperature variations, and complex terrain. We use long short-term memory (LSTM), bidirectional LSTM (BiLSTM), gated recurrent unit (GRU), and bidirectional GRU (BiGRU) architectures to evaluate the effectiveness of different activation functions and attention mechanisms. The activation functions tested include rectified linear unit (ReLU), leaky ReLU, exponential linear unit (ELU), Gaussian error linear unit (GELU), Swish, and scaled ELU (SELU), and model performance was measured using mean absolute error (MAE) and root mean square error (RMSE) metrics. Our results show that the integration of attentional mechanisms improves both MAE and RMSE, with Swish and ReLU achieving the best performance for minimum temperature prediction. Conversely, GELU and ELU were less effective for pressure prediction. These results highlight the critical role of selecting appropriate activation functions and attention mechanisms in improving model accuracy for complex time-series forecasting.

본 연구는 화성 기상 데이터를 대상으로 활성화 함수와 어텐션 메커니즘이 시계열 모델의 성능에 미치는 영향을 평가하기 위해 비교 및 분석한다. 화성의 기상 데이터는 대기 밀도가 낮고, 급격한 온도 변동 및 복잡한 지형 등으로 인해 비선형적이고 불규칙적이다. 본 연구에서는 LSTM, BiLSTM, GRU, BiGRU 아키텍처를 사용하여 다양한 활성화 함수와 어텐션 메커니즘의 효과를 평가한다. 실험에 사용된 활성화 함수는 ReLU, Leaky ReLU, ELU, GELU, Swish, SELU이며, 모델 성능은 MAE와 RMSE 지표로 측정된다. 실험 결과, 어텐션 메커니즘을 통합함으로써 MAE와 RMSE가 모두 향상되었으며, Swish와 ReLU는 최저 온도 예측에서 가장 우수한 성능을 보였다. 반면, GELU와 ELU는 기압 예측에서 성능이 저하되었다. 이러한 결과는 복잡한 시계열 예측의 모델 정확도를 향상하기 위해 적절한 활성 함수와 어텐션 메커니즘을 선택하는 것이 중요함을 보여준다.

I. Introduction

화성은 태양계에서 네 번째 행성으로서, 지구와의 근접성과 유사성 때문에 수 세기 동안 천문학과 과학 연구의 중심에 있으며, 약 24시간 37분의 하루 길이와 약 25.2도의 자전축 기울기를 갖고 있어 지구와 유사한 네 개의 뚜렷한 계절을 경험한다[1]. 극지방의 얼음과 과거 물의 흐름 흔적은 화성이 한때 생명체가 존재할 수 있는 조건을 가졌을 가능성을 시사한다[2]. 그러나 이러한 유사성에도 불구하고, 화성은 얇은 대기와 약한 자기장을 특징으로 하며, 이는 낮은 표면 온도, 강력한 먼지 폭풍, 높은 수준의 이산화탄소, 우주 방사선 노출 등 가혹한 환경을 조성한다[1, 2].

이러한 극한 조건에도 불구하고, 화성 탐사 및 식민지화에 관한 관심이 증가하고 있다. Elon Musk가 이끄는 SpaceX와 같은 조직은 화성을 인류의 두 번째 거주지로 만들기 위한 연구와 임무를 적극적으로 수행하고 있다[3]. 이러한 노력은 기후 변화, 자연재해, 자원 고갈, 전염병과 같은 지구에만 의존하는 것에 따른 존재론적 위험을 완화해야 한다는 필요성에서 비롯되었다[4]. 지구 밖 거주지의 확립은 인류의 장기적인 생존을 위해 필수적이다. 태양계에서 지구와 유사한 행성 중에서 화성은 낮은 대기압과 극한의 환경을 가지고 있지만, 접근성 및 기술적 적용 가능성 측면에서 가장 유망한 선택지이다[5]. 인간의 생존에 필요한 물을 공급하거나 산소를 생성하기 위한 얼음 형태의 물 자원 활용, 이산화탄소가 풍부한 화성 대기를 이용한 산소나 연료 생성기술 MOXIE(Mars Oxygen In-Situ Resource Utilization Experiment) 개발 등이 진행되고 있다[2, 5].

화성의 기상 패턴을 이해하는 것은 모든 탐사 활동과 미래의 식민지화 노력에서 매우 중요하다. 화성의 기후는 지구와는 다른 자전축, 희박한 대기, 약한 자기장 등으로 인해 독특한 특성을 보인다. 화성 기상 데이터의 수집과 분석은 기후 역학에 대한 귀중한 통찰력을 제공하며, 극한 기상 조건을 시뮬레이션하고 연구하는 데 도움이 된다. 이러한 지식은 임무 계획, 거주지 건설, 태양 복사가 우주선에 미치는 영향, 우주 먼지와 먼지 폭풍의 영향 등 인간이 직면할 수 있는 극한 환경에 대비하는 데 필수적이다.

화성의 비선형적이고 동적인 기상 패턴을 효과적으로 분석하고 예측하기 위해서는 복잡한 시간적 의존성을 포착할 수 있는 모델이 필요하다[6]. RNN(Recurrent Neural Network) 아키텍처인 LSTM(Long Short-Term Memory), BiLSTM(Bidirectional LSTM), GRU(Gated Recurrent Unit), BiGRU(Bidirectional GRU)는 이러한 과제에 적합하다[7]. 이러한 모델의 예측 성능은 배치 크기, 레이어 깊이와 같은 초매개변수(Hyperparameter), 학습률(Learning Rate), Attention Mechanism, Activation Function 등 다양한 요인에 의해 크게 영향을 받는다[8]. 특히 Attention Mechanism과 Activation Function은 입력 정보를 처리하고 출력을 생성하는 방식을 결정하여 데이터의 복잡한 패턴을 포착하는 모델의 능력에 영향을 미친다[9].

그러나 현재까지 화성 기상 예측에 사용되는 다양한 RNN 아키텍처에서 Attention Mechanism과 Activation Function의 선택이 성능에 어떻게 영향을 미치는지에 대한 종합적인 가이드라인은 부족한 실정이다. 이에 따라 본 연구에서는 이러한 공백을 메우기 위해, 다양한 RNN 모델에 여러 Activation Function을 적용하고, Attention Mechanism의 적용 여부에 따른 성능 변화를 평가하여 효과적인 모델링 가이드라인을 제공하고자 한다.

본 연구에서는 LSTM, BiLSTM, GRU, BiGRU 아키텍처를 사용하여 예측 모델을 구축하고, ReLU(Rectified Linear Unit), Leaky ReLU, ELU(Exponential Linear Unit), GELU(Gaussian Error Linear Unit), Swish(SiLU) SELU(Scaled ELU) 등 여섯 가지 Activation Function을 적용한다. 또한, 각 모델에서 Attention Mechanism의 적용 여부에 따라 성능을 평가한다. 모델은 NASA의 MSL(Mars Science Laboratory) Curiosity rover에 탑재된 REMS(Rover Environmental Monitoring Station)이 2012년부터 2022년까지 수집한 화성 기상 데이터를 사용하여 학습 및 평가한다.

본 논문의 나머지 구성은 다음과 같다. 2장에서는 화성 기상 예측에 관한 선행 연구를 검토하고, 3장에서는 사용된 데이터의 전처리 과정과 다양한 RNN 모델의 구성 및 실험 설정을 자세히 설명한다. 4장에서는 실험 결과를 제시하고 분석하며, 마지막으로 5장에서는 결론을 내리고 향후 연구 방향을 제시한다.

II. Related Work

Pla-García 등[10]은 2020년에 MRAMS(Mars Regional Atmospheric Modeling System)와 MarsWRF(Mars Weather Research and Forecasting model)을 사용하여 화성 2020 퍼서비어런스 로버의 착륙 지점인 예제로 크레이터의 지역 기상 조건을 예측하였다. 이 연구의 목적은 MEDA(Mars Environmental Dynamics Analyzer) 장비로부터 얻어진 데이터를 해석하는 데 도움을 주는 것이다. 연구에서는 연중, 네 계절(태양 적경 0°, 90°, 180°, 270°) 동안의 일주기를 조사하였으며, 대기 및 지면 온도, 기압, 풍속과 풍향, 지표 복사 플럭스, 수분 데이터를 모델링하였다. 이 연구는 MRAMS와 MarsWRF 모델이 기상 조건을 재현하는 데 효과적임을 보여주었으며, 이를 통해 예제로 크레이터 내의 기상 조건을 예측하는 이들 모델의 신뢰성을 높였다.

Priyadarshini와 Puri[11]는 2021년에 CNN(Convolutional Neural Network), GRU, LSTM, Stacked LSTM, CNN-LSTM 모델 등 다양한 딥러닝 모델을 사용하여 화성 기상 데이터를 종합적으로 분석하였다. 이 연구는 미래의 화성 식민지화 노력을 촉진하기 위해 화성 기상을 이해하는 것이 중요하다는 점을 강조하였다. 각 모델의 성능은 MAE(Mean Absolute Error)와 MSE(Mean Squared Error), RMSE(Root MSE), 결정 계수(R²)와 같은 통계적 지표를 통해 평가되었으며, LSTM 모델이 가장 높은 예측 정확도를 도출하였다.

Pant 등[12]은 2023년에 기계학습 기법이 화성 기상 데이터 분석에 미치는 잠재력을 조사하였다. 이 연구는 MSL 로버의 REMS이 제공한 데이터를 활용하였다. 선형 회귀, 의사결정 나무, 서포트 벡터 머신, 랜덤 포레스트, 신경망 등 다양한 기계학습 알고리즘을 사용하여 데이터 내의 패턴과 관계를 파악하고자 하였다. 분석 결과, 화성의 온도는 변동성을 보이며, 최소 온도는 비교적 좁은 범위의 변동을, 최대 온도는 더 큰 변동을 나타내었다. 또한, 모델의 정확도와 해석력을 향상하기 위해 특징 공학과 차원 축소의 중요성을 강조하였다. 엘보우 방법을 사용하여 최적의 클러스터 수를 결정한 결과, 세 개의 클러스터가 최적임을 확인하였다. 선형 회귀 모델은 화성 기상 패턴 예측에서 85%의 정확도를 보였다.

앞서 언급한 연구들은 화성의 기상 조건을 예측하거나 분석하기 위해 다양한 물리 기반 모델과 기계학습 기법을 적용하였다. Pla-García 등[10]은 물리 기반의 대기 모델인 MRAMS와 MarsWRF를 활용하여 특정 지역의 기상 조건을 상세히 예측하였으며, Priyadarshini와 Puri[11], Pant 등[12]은 딥러닝과 기계학습 알고리즘을 사용하여 화성 기상 데이터를 분석하고 예측하였다. 그러나 이들 연구는 주로 특정 모델 또는 알고리즘의 적용과 그 성능 평가에 초점을 맞추고 있으며, 다양한 RNN 아키텍처와 활성화 함수, 어텐션 메커니즘의 조합이 모델 성능에 미치는 영향을 종합적으로 비교해 분석하지는 않았다.

본 연구는 화성 기상 예측에 있어 다양한 RNN 모델(LSTM, BiLSTM, GRU, BiGRU)과 여러 활성화 함수(ReLU, Leaky ReLU, ELU, GELU, SiLU, SELU)의 적용 효과를 체계적으로 비교하고, 어텐션 메커니즘의 활용이 모델 성능에 미치는 영향을 평가한다. 이를 통해 비선형적인 시계열 데이터를 다루는 데 있어 어떤 모델 구성과 활성화 함수가 가장 효과적인지에 대한 구체적인 가이드라인을 제공한다[13, 14]. 특히, 어텐션 메커니즘의 유무에 따른 모델 성능 변화를 분석함으로써, 복잡한 패턴을 가진 화성 기상 데이터를 정확하게 예측하기 위한 최적의 모델링 전략을 제시한다[15, 16].

따라서 본 논문의 기여도는 다음과 같다.

⦁ 다양한 RNN 아키텍처와 활성화 함수의 비교 분석: 기존 연구와 달리 여러 RNN 모델과 활성화 함수를 조합하여 그 성능을 종합적으로 평가한다.

⦁ 어텐션 메커니즘의 영향 평가: 어텐션 메커니즘의 적용 여부에 따른 모델 성능의 변화를 분석하여, 복잡한 시계열 데이터 예측에서 중요성을 확인한다.

⦁ 모델링 가이드라인 제시: 화성 기상 예측을 위한 최적의 모델 구성에 대한 구체적인 지침을 제공함으로써, 향후 연구 및 실무 적용에 유용한 참고 자료를 제공한다.

이러한 기여를 통해 본 연구는 화성 기상 예측 모델링 분야에서 기존 연구의 한계를 보완하고, 더 정확하고 효율적인 예측 모델 개발에 도움을 주고자 한다.

III. Methodology

1. Dataset and Preprocessing

본 연구에서는 NASA의 MSL 미션의 일환으로 2012년부터 2022년까지 Curiosity 로버에 탑재된 REMS이 수집한 화성 기상 데이터를 사용하였다[17]. 해당 데이터는 화성의 기상 패턴을 이해하고 예측하기 위한 풍부한 정보를 제공한다.

1.1 Dataset Composition

데이터 셋에는 다음과 같은 변수들이 포함되어 있다:

⦁ Terrestrial Date: 지구 날짜로, 데이터가 수집된 날짜

⦁ Sol: 화성 일(Martian Solar Day)로, 화성에서의 날짜

⦁ Ls (Solar Longitude): 태양 경도는 화성의 계절적 변화를 나타내는 변수로, 화성의 공전 궤도 상에서의 위치를 0°부터 360°까지 의미

⦁ 최소 온도(min_temp): 해당 솔(Sol)에서 측정된 최저 온도(섭씨)

⦁ 최대 온도(max_temp): 해당 솔에서 측정된 최고 온도(섭씨)

⦁ 대기압(pressure): 해당 솔에서 측정된 대기압(파스칼)

데이터 셋은 총 3,253개의 관측치로 구성되어 있으며, 일부 변수에는 결측치가 존재한다.

1.2 Data Preprocessing

분석의 정확성을 높이기 위해 결측치 처리, 불필요한 변수 제거, 주기성 반영, 데이터 정규화 등과 같은 전처리 과정을 수행하였다. 결측치 처리에서는 최소 온도, 최대 온도, 대기압 변수에서 결측치가 발견되었으며, 이는 선형 보간법을 사용하여 보완하였다[18]. 이를 통해 데이터의 연속성을 유지하고 모델의 학습에 필요한 충분한 데이터를 확보하였다. 불필요한 변수 제거에서는 데이터 식별 번호와 기상 상태 변수는 결측치가 많고 분석에 유의미한 영향을 주지 않는다고 판단하여 제거하였다. 주기성 반영에서는 날짜 관련 변수의 주기적 특성을 반영하기 위해 지구 날짜(Terrestrial Date), 태양 경도(Ls), 월(month) 데이터를 사인(sin)과 코사인(cos) 함수로 변환하였으며, 이는 주기적 패턴을 모델이 학습할 수 있도록 도와준다[14, 16]. 변환된 변수는 다음과 같다.

⦁ Day_sin, Day_cos: 지구 날짜의 주기성 반영

⦁ Ls_sin, Ls_cos: 태양 경도의 주기성 반영

⦁ Month_sin, Month_cos: 월의 주기성 반영

데이터 정규화에서는 모델 학습의 효율성을 높이고 각 변수의 스케일 차이를 줄이기 위해 최소-최대 정규화를 적용하여 모든 변수를 [0, 1] 범위로 스케일링하였다[19]. 또한, 분석 대상의 종속 변수는 기후 판단에 중요한 최소 온도, 최대 온도, 대기압으로 설정하였다.

전처리된 데이터를 모델의 학습과 평가를 위해 훈련 집합과 평가 집합으로 분할하였다. 일반적인 데이터 분할 방식에 따라 전체 데이터의 80%를 훈련 집합으로 사용하고, 나머지 20%를 평가 집합으로 활용하였으며, 시계열 데이터의 특성을 고려하여 시간 순서를 유지하면서 분할하였다.

2. Models and Activation Functions

화성 기상 데이터의 비선형적이고 시계열적인 특성을 효과적으로 학습하기 위해 다양한 RNN 아키텍처와 활성화 함수를 적용하였다[13, 14]. 또한, 모델의 성능 향상을 위해 어텐션 메커니즘을 도입하였다[15, 16].

2.1 Model Architecture

본 연구는 다음의 네 가지 RNN 기반 모델을 사용하였다.

⦁ LSTM: 장기 의존성 문제를 해결하기 위해 설계된 RNN의 한 종류로, 기억 셀과 게이트 구조를 통해 시계열 데이터의 장기 패턴을 효과적으로 학습한다[20, 21].

⦁ BiLSTM: LSTM의 확장 버전으로, 순방향과 역방향으로 데이터를 처리하여 과거와 미래의 정보를 모두 활용할 수 있어, 양방향의 맥락 정보를 통합하여 예측 성능을 향상한다[22, 23].

⦁ GRU: LSTM의 간소화된 버전으로, 업데이트 게이트와 리셋 게이트를 사용하여 계산 복잡도를 줄이면서도 장기 의존성을 학습할 수 있다[13, 16].

⦁ BiGRU: GRU의 확장 버전으로, BiLSTM과 마찬가지로 양방향으로 데이터를 처리하여 시퀀스의 전후 맥락을 모두 학습한다[24].

2.2 Activation Functions

활성화 함수는 신경망에서 입력 신호를 출력으로 변환하는 비선형 함수로, 모델의 학습 능력과 성능에 큰 영향을 미친다[14]. 본 연구에서는 다음의 여섯 가지 활성화 함수를 비교하였다. 각 활성화 함수의 수식은 표 1에 제시되어 있다.

⦁ ReLU: 입력이 양수이면 그대로 출력하고, 음수이면 0을 출력한다. 계산이 효율적이며 딥러닝에서 널리 사용된다.

⦁ Leaky ReLU: ReLU의 변형으로, 음수 입력에 작은 기울기를 부여하여 죽은 뉴런 문제를 완화한다.

⦁ ELU: ReLU의 단점을 보완하기 위해 설계되었으며, 음수 입력에 대해 지수적으로 감소하는 출력을 제공한다.

⦁ GELU: 입력값의 확률 분포를 고려하여 부드러운 비선형성을 제공하며, Transformer 기반 모델에서 자주 사용된다.

⦁ Swish (SiLU): 입력값과 시그모이드 함수의 곱으로 정의되며, 깊은 신경망에서 우수한 성능을 보인다.

⦁ SELU: 입력값의 분산과 평균을 유지하는 특성이 있어, SNN(Self-Normalizing Neural Network)에 적합하다.

Table 1. Formulas of Activation Functions

2.3 Attention Mechanism

어텐션 메커니즘은 시퀀스 데이터에서 중요한 부분에 가중치를 부여하여 모델이 중요한 정보에 집중할 수 있도록 도와준다[25]. 이는 RNN 모델의 성능 향상에 효과적이며, 특히 긴 시퀀스나 복잡한 패턴을 보인 데이터에서 유용하다. 본 연구에서는 각 RNN 모델에 어텐션 메커니즘을 적용하여 성능 변화를 평가하였다. 어텐션 메커니즘은 RNN의 은닉 상태 출력에 기반하여 각 시점(Time Step)의 중요도를 계산하고, 이를 가중하여 최종 출력에 반영한다[16, 24]. 어텐션 메커니즘의 적용 여부에 따라 모델을 두 그룹으로 나누어 실험하였다.

⦁ 어텐션 적용 모델 (With attention, w/ att) : RNN 모델의 출력에 어텐션 레이어를 추가하여 중요한 시점의 정보를 강조한다.

⦁ 어텐션 미적용 모델 (Without attention, w/o att) : 기본 RNN 모델로서 어텐션 메커니즘 없이 시계열 데이터를 처리한다.

IV. Results

1. Experimental Setup

각 모델(LSTM, BiLSTM, GRU, BiGRU)에 대해 여섯 가지 활성화 함수(ReLU, Leaky ReLU, ELU, GELU, SiLU, SELU)를 적용하였으며, 어텐션 메커니즘의 적용 여부에 따라 총 48개의 모델 구성을 실험하였다. 이를 통해 모델 아키텍처, 활성화 함수, 어텐션 메커니즘이 모델 성능에 미치는 영향을 종합적으로 평가하였다.

모델 학습을 위한 공통 설정은 다음과 같다.

⦁ 손실 함수: 이상치에 강인한 후버 손실 함수를 사용하였다[26, 27].

⦁ 최적화 알고리즘: Adam 옵티마이저를 사용하였으며, 학습률은 0.001로 설정하였다[28].

⦁ 조기 종료: 과적합을 방지하기 위해 Early Stopping기법을 적용하였으며, 검증 손실이 10회 연속으로 개선되지 않을 때 학습을 종료하였다[29].

⦁ 배치 크기 및 에포크: 배치 크기는 12로, 최대 에포크 수는 100으로 설정하였다.

모델의 성능은 회귀 문제에서 일반적으로 사용되는 MAE와 RMSE를 사용하여 평가하였다[15, 30].

⦁ MAE: 예측값과 실젯값 차이의 절댓값 평균으로, 오차의 크기를 직접적으로 나타낸다.

⦁ RMSE: 오차의 제곱 평균에 제곱근을 취한 값으로, 큰 오차에 더 큰 페널티를 부여한다.

2. Results and Analysis

본 연구에서는 LSTM, BiLSTM, GRU, BiGRU 모델을 각각 사용하여, ReLU, Leaky ReLU, ELU, GELU, SiLU, SELU와 같은 다양한 활성화 함수의 영향을 분석하였다. Table 2부터 Table 7까지 각각 최소 온도(min_temp), 최대 온도(max_temp), 기압(pressure)에 대한 모델의 예측 성능을 나타내는 MAE와 RMSE 결과를 제시하였다. 구체적으로, Table 2는 최소 온도 예측에 대한 MAE 결과를, Table 3은 최소 온도 예측에 대한 RMSE 결과를, Table 4는 최대 온도 예측에 대한 MAE 결과를, Table 5는 최대 온도 예측에 대한 RMSE 결과를, Table 6은 기압 예측에 대한 MAE 결과를, Table 7은 기압 예측에 대한 RMSE 결과를 보여준다.

Table 2. MAE Results for Minimum Temperature (min_temp)

Table 3. RMSE Results for Minimum Temperature (min_temp)

Table 4. MAE Results for Maximum Temperature (max_temp)

Table 5. RMSE Results for Maximum Temperature (max_temp)

Table 6. MAE Results for Pressure (pressure)

Table 7. RMSE Results for Pressure (pressure)

각 표에서는 어텐션 메커니즘을 적용한 모델(w/ att)과 미적용한 모델(w/o att)의 성능을 비교하여, 다양한 활성화 함수(ReLU, Leaky ReLU, ELU, GELU, Swish, SELU)가 모델의 예측 정확성에 미치는 영향을 분석하였다. 이를 통해 어텐션 메커니즘과 활성화 함수 선택이 시계열 데이터 예측 모델의 성능에 큰 영향을 미친다는 것을 확인하였다. 모든 종속 변수 중 최저 기온(min_temp)이 모델에 따라 가장 높은 예측 성능을 보였으며, 대기압(pressure)은 가장 큰 예측 오차를 보였다. 이는 대기압 변수의 높은 변동성이 예측 결과에 크게 영향을 미쳤음을 시사한다.

LSTM 모델에서는 Attention이 활성화된 상태에서 ReLU와 SELU를 사용했을 때 가장 좋은 결과를 얻었다. 반면, Attention이 비활성화된 상태에서는 일부 변수를 제외하고 성능이 다소 저하되었다는 점을 확인했다. 특히 SELU는 성능 저하가 두드러졌다. BiLSTM에서는 Attention이 활성화된 상태에서 GELU와 ELU를 사용했을 때 높은 성능을 보였으며, Attention이 비활성화된 상태에서는 ReLU가 상대적으로 우수한 성능을 나타내었다.

GRU 모델은 Attention이 활성화된 상태에서 ReLU와 SiLU가 전반적으로 우수한 성능을 보였으며, GELU는 다른 활성화 함수에 비해 대기압 예측에서 낮은 성능을 보였다. BiGRU에서는 Attention이 활성화된 상태에서 Leaky ReLU가 최저 기온 예측에서 탁월한 성능(MAE: 2.963, RMSE: 4.028)을 보였고, 대기압에서는 GELU가 가장 높은 오차를 나타내었다.

최저 기온은 상대적으로 작은 변동 폭과 일정한 주기성을 가지고 있어 모델이 더 효과적으로 학습할 수 있었다. 반면, 대기압은 다양한 외부 요인에 의해 큰 변동을 겪는 변수로, 모델이 이를 학습하기에 한계가 있었다. 또한, 선형 보간법을 사용한 데이터 전처리 과정이 비선형 데이터 특성에 부정적인 영향을 미쳤다는 점을 확인했다. 이를 통해 복잡한 변수에 대한 처리 능력을 향상할 수 있는 모델 선택과 추가적인 데이터 정규화와 전처리 방법이 모델 성능 향상에 이바지할 수 있을 것으로 예상된다.

V. Conclusions

본 연구에서는 다양한 활성화 함수와 RNN 모델을 적용하여 화성의 날씨 패턴을 예측하는 실험을 수행하였다. 그 결과, GRU와 BiGRU 모델이 탁월한 성능을 보이며, 특히 최저 기온(min_temp) 예측에서 가장 낮은 오차율을 달성함으로써 날씨 패턴 예측에 효과적임을 입증하였다. 이들 모델은 LSTM 및 BiLSTM에 비해 연산 비용이 적고 학습 효율이 높아, 데이터의 비선형성과 시계열의 복잡한 패턴을 효과적으로 처리할 수 있었다.

선정된 활성화 함수 중에서 SiLU와 Leaky ReLU는 모든 모델에 걸쳐 일관되게 우수한 성능을 보여주었다. 특히 SiLU는 최저 기온 예측에서 눈에 띄는 결과를 제공하였으며, Leaky ReLU는 그 견고함을 통해 과적합을 방지하고 모델의 일반화 능력을 향상하였다. 이는 효율적인 활성화 함수의 선택이 모델의 예측 정확도와 성능을 유지하는 데 결정적인 역할을 하였다는 것을 보여준다.

본 연구를 통해 화성 날씨 데이터의 복잡성과 변동성을 효과적으로 모델링할 수 있는 최적의 방법을 모색할 수 있었으며, 이는 향후 화성 탐사 임무의 성공적인 수행에 이바지할 수 있는 중요한 기술적 진보로 평가된다. 향후 GRU 모델을 추가로 개선하고 다양한 하이브리드 모델 또는 고급 신경망 아키텍처를 통합하여 더욱 정밀하고 신뢰할 수 있는 날씨 예측 모델을 개발할 계획이다. 이를 통해 화성과 같은 외계 행성의 극한 환경에서의 생존 및 탐사 활동을 더욱 효과적으로 지원하는 기술적 기반을 마련하고자 한다.

이와 더불어 GPR(Gaussian Process Regression) 등 비선형 보간법을 활용하여 결측치를 정교하게 보완하고, LD(Local Discrepancy) 기반의 이상치 처리 기법을 적용하여 시계열 데이터의 국지적인 불일치를 측정할 계획이다. 또한, 비선형적 데이터 변동성을 효과적으로 처리하는 방법을 도입하여 모델의 안정성과 정확성을 향상하고, 복잡한 변수의 예측 성능을 개선할 예정이다.