ActiveX와 schockwave 技術을 利用한 電子商去來 system 構築에 關한 硏究

백점석 영남대학교 대학원 1998 국내석사

주식 매매를 위한 강화학습에서의 대조적 표현학습 연구

정지문 서울대학교 대학원 2023 국내석사

주가 시계열 데이터는 불규칙성이 강해 각 상황의 특징을 정확하게 파악하기 어렵다. 이러한 어려움 때문에 효과적인 주식 매매 전략에 대한 연구가 오랫동안 진행되어 왔다. 최근에는 강화학습에 심층학습을 결합한 주식 매매 연구가 주목을 받고 있다. 강화학습은 관찰한 상태(state)를 통해 행동(action)을 선택하기 때문에 주가의 현재 정보를 잘 표현하는 상태 선정이 매우 중요하다. 기존 강화학습 주식 매매 연구들은 규칙기반으로 추출한 주가 시계열의 특징이나 차원축소 또는 군집화와 같은 방법을 적용하여 추출한 정보를 강화학습 모델의 상태로 사용하고 있다. 본 논문에서는 최근 시계열 특징 추출에서 우수한 성능을 보이고 있는 대조학습을 활용하여 주가 데이터의 표현(representation)을 추출하고, 이를 강화학습 주식 매매 모델의 상태로 활용하는 방법을 제안한다. 실제 주식 데이터를 통해 실험한 결과 대조학습으로 추출한 주가의 표현을 기술적 지표와 함께 강화학습 모델의 상태로 사용하였을 때 기존 연구들에 비해 더 높은 수익률을 낼 수 있음을 확인하였다. 또한 대조학습으로 추출한 표현을 상태로 사용 시 강화학습 모델이 더 소극적인 매매를 하는 특징을 발견하였다. 이러한 결과는 대조학습을 통해 추출한 주가 데이터의 표현이 강화학습 주식 매매 모델의 성능을 향상시키는 데 중요한 역할을 할 수 있음을 시사한다. Stock data are highly irregular, making it difficult to accurately characterize each situation. This challenge has long spurred research on effective stock trading strategies. Recently, due to the advancements in deep learning, research on stock trading using reinforcement learning has been actively carried out. Since reinforcement learning selects actions based on observed states, choosing a state that accurately represents current stock price information is crucial. This paper proposes a method to extract the representation of stock price data using contrastive learning, which has recently shown excellent performance in time-series feature extraction, and to use it as the state in reinforcement learning stock trading models. Experimental results using the representation of stock prices extracted through contrastive learning demonstrated higher profitability than previous studies using rule-based indicators. Furthermore, results found that the reinforcement learning model exhibits less trading when using the representation extracted by contrastive learning as the state. These results suggest that the representation of stock price data extracted through contrastive learning could play a crucial role in enhancing the performance of reinforcement learning-based stock trading models.

Diffusion Model Based Melody Generation with Pitch and Rhythm Control

소재룡 서울대학교 대학원 2024 국내석사

This thesis studies a methodology that applies the diffusion model to melody creation. The research focuses on developing techniques to precisely control pitch and rhythm density during the melody generation. These elements are pivotal in defining a musical piece’s emotional and stylistic identity. The objective is to enhance the emotional depth and structural complexity of generated melodies through strategic manipulation of pitch and rhythm. The primary aim of this study is to ensure that the generated melodies align cohesively with the existing melodic context. This alignment provides a seamless and natural musical experience for listeners. The research presents a novel approach that leverages diffusion models to improve melodies’ continuity and coherence. Secondly, the thesis explores effective pitch control in melody generation. Recognizing pitch as a critical component in conveying emotions and setting the mood of a piece, this research delves into methods for adjusting pitch based on user inputs. Lastly, the study addresses the control of rhythm density. Rhythm, a fundamental aspect in dictating a composition’s flow and energy, is manipulated to diversify and enhance the complexity of melodies. This approach aims to broaden the expressive capabilities of music generated through this novel methodology. 본 논문은 확산 모델을 멜로디 생성에 적용하는 방법을 연구한다. 이 연구는 멜로디 생성 과정에서 음정과 리듬의 밀도를 제어하는 방법을 제안하는 데 중점을 둔다. 이러한 요소는 음악 작품의 정서와 스타일을 정의하는 데 중추적인 역할을 한다. 음정과 리듬의 조절을 통해 생성된 멜로디의 정서적 깊이와 구조적 복잡성을 향상할 수 있다. 첫째, 이 연구는 생성된 멜로디가 기존의 멜로디 맥락과 일관되게 하는 것이다. 이는 청취자에게 매끄럽고 자연스러운 음악적 경험을 제공하기 위한 것이다. 이 연구는 확산 모델을 활용하여 멜로디의 연속성과 일관성을 개선하는 새로운 접근 방식을 제시한다. 둘째, 이 논문은 멜로디 생성에서 효과적인 음정 제어 방법을 제시한다. 이 연구 는 감정을 전달하고 곡의 분위기를 설정하는 데 있어 음정을 중요한 요소로 인식하고, 사용자 입력에 따라 음정 조정하는 방법을 탐구한다. 마지막으로 이 연구는 리듬 밀도 제어에 대해 다룬다. 멜로디의 흐름과 에너지를 결정하는 기본 요소인 리듬은 멜로디의 복잡성을 다양화하고 강화하기 위해 조절된다. 이 새로운 방법론을 통해 생성된 음악의 표현력을 넓히는 것이 이 연구의 목표이다.

변박곡에 특화된 비트 검출 성능 향상을 위한 계층적 트랜스포머 기반 모델 및 후처리 기법

성은채 서울대학교 대학원 2024 국내석사

비트 검출이란 음악에서 비트와 다운비트의 시간적 위치를 검출하는 과업이다. 비트는 음악의 기본적인 단위를 말하며, 다운비트는 비트 중 마디의 첫 번째에 위치하는 비트를 말한다. 이러한 비트에 대한 정보들은 음악의 구조를 파악하는 데에 사용되는 중요한 정보이다. 음악을 프레임(frame) 단위로 나눴을 때, 비트나 다운비트가 발생하는 지점보다 모두 발생하지 않는 지점이 훨씬 많이 존재하기 때문에 이러한 정보의 비대칭성을 해소하고, 비트가 발생하는 위치의 음악적 특성을 잘 학습하여 검출하는 것이 중요하다. 본 논문에서는 변박곡에 집중하여 딥러닝 기법을 활용한 비트 검출 성능 향상 방식을 제안한다. 기존 비트 검출 관련 연구에서는 대부분 박자표(time signature)가 일정한 음악에 대한 연구가 이루어졌다는 한계점에서 착안하여 기존의 비트 검출 방식들이 변박곡에서도 강건한지 확인하고 이에 대한 개선점을 제안한다. 이를 위해 비트 검출 분야에서 SOTA(State-Of-The-Art) 성능을 달성한 계층적 트랜스포머 구조를 차용하여 변박곡의 특성을 더 잘 파악할 수 있도록 하는 활용 방안에 대한 연구를 진행하였다. 변박곡의 가장 큰 특성으로는 음악 중간에 박자표가 바뀐다는 것으로 박자표가 바뀌면 비트가 발생하는 패턴 또한 바뀌기 때문에 비트 검출의 성능 향상을 위해서는 박자표의 변화에 대한 파악 또한 중요하다. 따라서, 박자표를 비트와 함께 검출하도록 다중 작업 학습(multi-task learning)을 하여 박자표에 대한 변화 파악으로 비트의 검출 성능 또한 향상하고자 하였다. 추가로 기존의 딥러닝을 활용한 비트 검출의 후처리 부분에 대한 한계점을 제시하고 이를 개선하여 변박곡에서의 비트 검출 성능을 개선하고자 하였다. 후처리 방식으로 많이 쓰이는 동적 베이지안 네트워크(Dynamic Bayesian Network) 구조는 처음 정한 박자표 템포 등에 대한 음악적 메트릭(musical metric) 정보를 바꿀 수 없기 때문에 이는 박자표가 바뀌는 변박곡에서는 성능적 한계를 가진다는 한계가 있다. 이를 피크 지점을 추출하는 휴리스틱한 알고리즘과, 피크 추출 네트워크를 도입한 분할 학습(stepwise learning) 방식으로 변박곡에서 강건한 후처리 방식을 제안하였다. 제안한 방법론들이 변박곡에 강건함을 보이기 위해 변박곡이 다수 포함된 데이터셋을 이용하여 테스트하였고, 베이스라인 모델 대비 변박곡에서 비트 검출 성능이 향상됨을 보였다. Beat detection refers to the task of identifying the temporal positions of beats and downbeats in music. A beat represents the fundamental unit of music, while a downbeat refers to the beat occurring at the beginning of a bar. Information about these beats is crucial for understanding the structure of music. Given the asymmetry in the occurrence of beats and downbeats compared to non-occurrence in music when divided into frames, it is important to address this information imbalance by learning the musical characteristics at locations where beats occur. This paper proposes an enhancement method for beat detection using deep learning techniques, focusing on music with multiple time signatures. Drawing inspiration from the limitations of existing beat detection studies, which mostly focused on music with a constant time signature, we examine the robustness of conventional beat detection methods in music with multiple time signatures and suggest improvements. To achieve this, we adopt a hierarchical transformer architecture that has achieved State-Of-The-Art (SOTA) performance in beat detection, aiming to better capture the characteristics of music with multiple time signatures. One prominent feature of music with multiple time signatures is the change in time signature, impacting the patterns of beat occurrence. Therefore, to improve beat detection performance, we employ multi-task learning to simultaneously detect time signatures and beats, recognizing the importance of understanding changes in time signatures. Additionally, we identify limitations in the post-processing stage of beat detection using deep learning and propose enhancements specific to music with multiple time signatures. The commonly used Dynamic Bayesian Network (DBN) structure in post-processing is constrained by the inability to adapt to changes in musical metrics such as tempo and time signature. This limitation is particularly evident in music with multiple time signatures where time signatures change. To address this, we propose a robust post-processing method for music with multiple time signatures using a heuristic algorithm for peak detection and stepwise learning with a peak detection network. The proposed methodologies are tested on a dataset containing music with multiple time signatures to demonstrate their robustness in comparison to baseline models, showing improved beat detection performance in music with multiple time signatures.

Semi-supervised Representation Learning with Decomposition-based Data Augmentation for Time Series Analysis

김도균 서울대학교 대학원 2024 국내박사

The rapid advancements in data collection methods and storage technologies have dramatically increased the variety and volume of time series data available. Although this data is pivotal for numerous industrial applications and decision-making processes, a significant challenge arises due to the labor-intensive and time-consuming nature of data labeling. This challenge is compounded by the continuous accumulation of data, which leads to a scenario where unlabeled data far outnumbers the labeled data. In response to these challenges, this thesis employs deep learning-based representation learning techniques within a semi-supervised framework for time series analysis. These techniques facilitate automated labeling for subsets of data, aiding decision-making processes in scenarios with limited labeled data. By integrating deep learning into representation learning, our method effectively addresses the imbalance between labeled and unlabeled data, extracting valuable insights even from sparsely labeled datasets. This thesis initially proposes a deep learning-based representation model, termed NNCLR-TS, designed to extract features from univariate time series data using a novel single-step, semi-supervised contrastive learning approach. This model comprises an encoder for representation extraction, and a memory structure known as the support set, which aids in pseudo-labeling and facilitates nearest neighbor operations. Within the encoder, two convolutional networks analyze the data from both temporal and frequency perspectives, allowing the model to learn a diverse range of features. Furthermore, the Support set, a dedicated memory structure, stores representations extracted by the encoder in a latent space. This arrangement aids in pseudo-labeling and the selection of training pairs via nearest-neighbor operations. Appropriate augmentation techniques are essential for contrastive learning. We introduce a novel time series decomposition-based data augmentation technique based on STL decomposition. Unlike jittering and scaling, which may compromise intrinsic time series characteristics such as periodicity, our proposed augmentation technique preserves these features, resulting in more natural augmented data. We also propose new loss functions that utilize label information, enhancing the learning performance beyond traditional contrastive learning loss functions. These include loss functions considering the similarity within a batch and between the nearest neighbors of given data. This novel approach not only improves the model's accuracy but also ensures its applicability in various real-world scenarios. The proposed model is applied to various time series classification datasets to validate its performance in univariate time series classification. We investigate performance improvements achieved by utilizing label information, even in scenarios with minimal labeled data. Finally, we adapt the proposed model for anomaly detection tasks within a self-supervised framework, applying it to various anomaly detection datasets. We assess the model's performance using metrics like precision and recall and explore the potential for performance enhancement through transfer learning. Our experimental results demonstrate that, in both time series classification and anomaly detection tasks, the proposed model outperforms existing semi-supervised and self-supervised representation learning models. 데이터 수집 수단 및 저장 기술의 발전에 따라 활용할 수 있는 시계열 데이터의 종류 및 양이 증가하고 있다. 이러한 데이터는 다양한 산업 현장에서 필수적인 역할을 하며, 그 데이터가 갖고 있는 의미를 파악함으로써 의사결정에 도움을 받을 수 있게 된다. 이를 위해 일반적으로 전문가의 레이블링 작업이 필수적으로 요구된다. 그러나, 지속적으로 수집되는 대량의 데이터를 전문가가 일일이 레이블하는 것은 비효율적이며 시간과 비용이 많이 든다는 문제가 있다. 이에, 본 논문은 준지도 학습 기법을 이용하여 시계열 분석을 진행한다. 이 기법은 일부 데이터만 레이블링이 되어 있는 상황에서 나머지 데이터에 대한 자동화된 레이블링을 가능하게 하여, 사용자의 의사결정에 도움을 줄 수 있다. 본 논문은 먼저 단변량 시계열 데이터로부터 대조적 학습을 통해 표현을 추출하는 모델을 제안한다. 인코더 내부의 두 개의 합성곱 연산 기반의 네트워크는, 데이터를 시간적 관점 뿐만 아니라 주파수적 관점에서도 접근하여 다양한 특징을 모델이 학습할 수 있도록 한다. 또한 메모리 구조의 차용을 통해 인코더로부터 추출된 표현을 잠재 공간 내에 저장해두고 이를 수도 레이블링 및 최근접이웃 연산을 통한 학습쌍 선정을 할 수 잇도록 한다. 대조적 학습에는 적절한 증강 기법이 필수적으로 요구된다. 본 논문에서는 STL기법을 기반으로 하는 새로운 시계열 분해 기반의 데이터 증강 기법을 제안한다. 이 때 분해된 각 요소 중 일부 요소에 대해서 샘플링 기반의 변형을 가함으로써 기반 데이터의 분포를 따르는 증강된 데이터를 생성할 수 있도록 한다. 지터링 및 스케일링 등은 시계열의 주기성 등의 특징을 해칠 수 있는 위험성이 존재하는 반면, 제안된 증강 기법은 시계열의 특징을 따르도록 하여 보다 더 자연스러운 증강된 데이터를 생성할 수 있도록 한다. 본 논문에서는 레이블 정보를 활용할 수 있는 새로운 손실함수를 제안한다. 배치내 데이터간의 유사도를 고려하는 손실함수와, 주어진 데이터의 최근접이웃간의 유사도를 고려하는 손실함수를 새롭게 제안함으로써 기존 대조적 학습 손실함수에서 활용할 수 없었던 레이블 정보를 활용하여 학습 성능을 높일 수 있도록 한다. 제안된 모델을 다양한 시계열 분류 데이터셋에 적용하여 단변량 시계열 데이터 분류 문제에서의 성능을 검증한다. 레이블이 극히 일부만 존재하는 상황에서 레이블 정보를 활용했을 때 성능이 향상될 수 있는지 탐구한다. 마지막으로 레이블 정보를 활용할 수 없는 이상 탐지 문제를 위해 제안 모델을 자기지도 학습 상황에 맞춰 모델을 수정한다. 수정된 모델을 여러 이상 탐지 데이터셋에 적용하여 정밀도 및 재현율 등의 지표를 통해 모델의 성능을 검증한다. 또한 전이학습을 통한 모델의 성능 향상 가능성을 탐구한다. 실험결과 분석을 통해 시계열 분류 문제 및 이상 탐지 문제에서 제안모델이 기존 준지도 및 자가지도 표현 학습 모델에 비해 더 뛰어난 성능을 보임을 확인한다.

노이즈 제거 및 재구성 기법을 활용한 이상 탐지 성능 향상

채희웅 서울대학교 대학원 2025 국내석사

본 연구는 노이즈 제거 및 재구성 기법을 활용하여 이상 탐지 성능을 향상시키는 방법을 소개한다. 최근 다양한 분야에서 소비자 요구를 충족시키기 위해 제품의 다양화 및 첨단화가 요구되며, 이는 제품 디자인과 제조 공정의 복잡성을 크게 증가시킨다. 이러한 문제를 해결하기 위해, 본 연구는 시간 시계열 및 이미지 데이터에서 노이즈를 제거하는 전처리 기법으로서 FFT(Fast Fourier Transform)를 도입한다. 이 전처리 기법은 불필요한 노이즈 성분을 제거하여 학습 데이터의 품질을 높이고, 모델이 정상 데이터의 일반적인 패턴을 더 효과적으로 학습할 수 있도록 돕는다. 본 연구에서는 제안된 방법을 SMD, MSL, SWaT, PSM 등의 시간 시계열 데이터셋과 MVTec 이상 탐지 데이터셋과 같은 이미지 데이터셋에 적용하였다. 실험 결과, 노이즈 제거 기법이 이상 탐지 모델의 정확성을 향상시켜, 가짜 양성과 가짜 음성을 줄이는 효과를 확인하였다. 특히 이미지 분야에서 오토인코더 및 TranAD, RIAD와 같은 인코더-디코더 구조의 모델을 활용하여 정상 패턴을 정확하게 재구성하고, 시간 시계열 및 이미지 데이터에서 이상을 효과적으로 탐지한다. 본 연구의 결과는 제조 공정의 효율성과 유연성을 높여, 다양한 산업 분야에서 안전, 품질, 생산성을 향상시키는 데 기여할 것이다. 또한, 금융, 보안, 의료, 마케팅 등 다양한 분야에서 이상을 조기에 식별하고 예방하는 데 중요한 역할을 할 수 있을 것으로 기대된다. In this study, we introduce a method to enhance anomaly detection performance using noise reduction and reconstruction techniques. Modern industrial environments require the diversification and sophistication of products to meet various consumer demands, which significantly increases the complexity of product design and manufacturing processes. To address this, we propose a method incorporating Fast Fourier Transform (FFT) for noise reduction in time-series and image data. This preprocessing technique helps in building high-quality training datasets by removing irrelevant noise components, thus improving the model's ability to learn the general patterns of normal data while effectively identifying anomalies. We applied the proposed method to various benchmark datasets, including time-series datasets such as SMD, MSL, SWaT, and PSM, and image datasets like the MVTec anomaly detection dataset. Experimental results demonstrate that the noise reduction approach significantly improves the accuracy of anomaly detection models, reducing false positives and false negatives. Our method leverages deep learning techniques, particularly autoencoders and encoder-decoder structured models like TranAD and RIAD, to reconstruct normal patterns accurately and detect anomalies in both time-series and image data. This study's findings contribute to improving the efficiency and flexibility of manufacturing processes, enhancing the safety, quality, and productivity across various industrial applications. The proposed approach also shows potential for broader applications in fields such as finance, security, healthcare, and marketing, where early identification and prevention of anomalies are critical.

악기 종류에 무관한 보컬 분리를 위한 디퓨전 기반 반사실적 생성 기법

강명오 서울대학교 대학원 2025 국내석사

본 연구에서는 디퓨전 기반 반사실적 생성 기법을 이용하여 악기 종류에 관계없이 일관된 성능을 유지할 수 있는 보컬 분리 방법론을 제안한다. 기존의 보컬 분리 연구는 대부분 특정 악기에만 적합한 데이터셋을 활용하여 모델을 학습함으로써, 데이터셋에 존재하지 않는 새로운 악기가 사용된 음악에서는 성능 저하를 보이는 경향이 있었다. 이를 해결하기 위해 본 연구에서는 반사실적 생성 기법을 활용하여 혼합 음원에서 보컬 스템을 분리하는 새로운 방식을 제안하였다. 반사실적 생성은 ‘만약 반주가 없었다면?’ 이라는 가정 하에 주어진 음악으로부터 가정에 부합하는 가상의 데이터셋을 생성하도록 모델을 학습시키는 기법으로, 데이터 속 특성이 데이터의 상태에 미치는 영향을 효과 적으로 학습할 수 있도록 돕는다. 본 연구는 디퓨전 기반의 음성 생성 모델에 반사실적 생성 기법을 적용한 형태의 방법론을 제안하였고, 기존 보컬 분리 연구에서 사용하는 벤치마크 데이터셋, 해당 데이터셋에 존재하지 않는 새로운 악기가 존재하는 데이터셋을 이용해 평가를 수행하였다. 실험 결과, 제안된 방법론은 학습 과정에서 벤치마크 데이 터셋의 학습 데이터만을 사용했음에도 불구하고 추가적인 데이터셋을 활용한 기존의 최신 성능 모델들보다 보컬 분리 측면에서 높은 성능을 기록하였다. 비록 음질 측면에서 기존의 최신 성능 모델보다 좋지 못한 보컬 스템을 생성했다는 한계점이 존재하지만, 제안 기법을 기존 데이터셋에 존재하지 않는 새로운 악기가 사용되는 음악의 보컬 분리 작업 및 다양한 종류의 악기 스템에 적용해 확장할 수 있는 가능성을 확인하였다. This study proposes a vocal separation methodology that is independent to various instrument types using a diffusion-based counterfactual generation technique. Conventional vocal separation research has typically used datasets that are suited to specific instruments, resulting in a performance decline when the music contains new instruments not present in the dataset. To address this, we propose a novel approach that utilizes counterfactual generation to separate vocal stems from mixed audio. Counterfactual generation is a technique that trains the model to generate hypothetical datasets based on assumptions like ”What if there were no accompaniment?” This approach helps the model learn the effect of certain features on the state of the data effectively. In this study, we propose a methodology that ap- plies the counterfactual generation technique to a diffusion-based audio generation model. We evaluate the proposed approach using benchmark datasets commonly used in vocal separation research, as well as datasets containing new instruments not present in the benchmark datasets. Experimental results show that the proposed approach outperformed existing state-of-the-art models in terms of vocal separation, despite only using the benchmark dataset for training without leveraging additional datasets. Although there is a limitation in generating vocal stems with lower audio quality compared to state-of-the-art models, we confirm the potential to extend the proposed method to vocal separation tasks for music containing new instruments not present in the original dataset and to various types of instrument stems. This study proposes a vocal separation methodology that is independent to various instrument types using a diffusion-based counterfactual generation technique. Conventional vocal separation research has typically used datasets that are suited to specific instruments, resulting in a performance decline when the music contains new instruments not present in the dataset. To address this, we propose a novel approach that utilizes counterfactual generation to separate vocal stems from mixed audio. Counterfactual generation is a technique that trains the model to generate hypothetical datasets based on assumptions like ”What if there were no accompaniment?” This approach helps the model learn the effect of certain features on the state of the data effectively. In this study, we propose a methodology that ap- plies the counterfactual generation technique to a diffusion-based audio generation model. We evaluate the proposed approach using benchmark datasets commonly used in vocal separation research, as well as datasets containing new instruments not present in the benchmark datasets. Experimental results show that the proposed approach outperformed existing state-of-the-art models in terms of vocal separation, despite only using the benchmark dataset for training without leveraging additional datasets. Although there is a limitation in generating vocal stems with lower audio quality compared to state-of-the-art models, we confirm the potential to extend the proposed method to vocal separation tasks for music containing new instruments not present in the original dataset and to various types of instrument stems.

추세 및 잔차 분해를 활용한 합성곱 신경망 기반 시계열 분석

조석현 서울대학교 대학원 2025 국내박사

심층 학습 모델의 발전은 시계열 예측 분야에서 예측 정확도와 신뢰성을 크게 향상시키며 다양한 산업 분야에 기여하고 있다. 그러나 기존 딥러닝 모델은 복잡한 시간적 패턴으로 인해 장기 및 다변량 예측 문제를 효과적으로 해결하는 데 어려움을 겪고 있다. 이를 해결하기 위해 분해 기반 접근법이 제안되었으나, 분해된 각 구성 요소에 적합한 네트워크를 적용하려는 시도는 제한적이었다. 본 논문에서는 이러한 한계를 극복하기 위해 복잡한 시계열 데이터를 효율적으로 처리할 수 있도록 설계된 새로운 두 단계 분해 기반 하이브리드 심층 신경망(TSDNet)을 제안한다. TSDNet은 부드러운 추세 요소를 예측하기 위해 선형 네트워크를, 복잡한 잔차 요소를 예측하기 위해 합성곱 네트워크를 사용한다. 장기 예측에서는 여섯 개의 벤치마크 데이터셋을, 단기 예측에서는 M4 competition 데이터셋을, 금융 예측에서는 한국 주식 다섯 종목, 미국 주식 다섯 종목, 암호화폐 두 종목의 데이터를 활용하여 광범위한 실험을 수행하였다. 실험 결과, 제안한 모델은 대부분의 기존 방법보다 높은 예측 정확도를 나타냈다. 또한 TSDNet을 활용하여 시계열 분류를 수행하였으며, 단변량(UCR) 및 다변량(UEA) 데이터셋에서 우수한 성능을 입증하였다. 아울러, 모델을 수정하여 과일반화를 방지하는 시계열 복원 모델로 활용해 시계열 이상치 탐지에도 적용하였고, 단변량 데이터셋 두 개와 다변량 데이터셋 다섯 개에서 신뢰성 있는 이상치 탐지 성능을 확인하였다. 결론적으로, 본 연구는 다양한 도메인의 시계열 데이터에 대해 높은 예측 및 탐지 성능을 제공하는 새로운 방법론을 제안하며, 시계열 분석의 새로운 방향을 제시한다. 특히 TSDNet은 장기 및 단기 예측, 금융 예측, 시계열 분류, 이상치 탐지 등 다양한 응용 분야에서 효과적인 도구로 활용될 수 있음을 보여준다. Advancements in deep learning models have significantly improved prediction accuracy and reliability in time series forecasting, contributing to various industrial fields. However, existing deep learning models struggle to effectively address long-term and multivariate forecasting problems due to the complexity of temporal patterns. While decomposition-based approaches have been proposed to mitigate these challenges, the attempts to apply networks tailored to the characteristics of each decomposed component remain limited. This study proposes a novel two-stage decomposition-based hybrid deep neural network, TSDNet, designed to efficiently handle complex time series data. TSDNet employs linear networks for predicting smooth trend components and convolutional networks for modeling complex residual components. For long-term forecasting, extensive experiments were conducted on six benchmark datasets. For short-term forecasting, the M4 competition dataset was utilized. Additionally, for financial forecasting, data from five Korean stocks, five U.S. stocks, and two cryptocurrencies were analyzed. Experimental results demonstrated that TSDNet outperforms most existing methods in terms of prediction accuracy. Furthermore, TSDNet was applied to time series classification tasks, achieving superior performance on both univariate (UCR) and multivariate (UEA) datasets. The model was also adapted for anomaly detection through a time series reconstruction approach to prevent overfitting. Reliable anomaly detection results were observed on two univariate datasets and five multivariate datasets. In conclusion, this study presents a novel methodology that delivers high performance in forecasting and detection tasks across diverse domains of time series data, offering new directions for time series analysis. Specifically, TSDNet proves to be an effective tool for various applications, including long- and short-term forecasting, financial prediction, time series classification, and anomaly detection.

기계학습 모형을 이용한 동영상 내 군함 검출

조창성 서울대학교 2017 국내석사

현대생활은 인공지능 시대에 살고 있다고 할 수 있다. 그 중 하나로 많은 장소에 카메라를 설치하여 얼굴과 차량번호 등을 자동으로 인식한다. 군에서도 줄어드는 병력을 대신하여 곳곳에 감시카메라를 설치함으로써 경계임무를 수행하고 있다. 해군도 마찬가지로 각종 도서 및 울타리에 감시카메라를 설치하여 해상에 있는 접촉물을 식별한다. 해상 접촉물 중에서 군함을 자동으로 식별해 낸다면 경계임무를 수행함에 있어 많은 도움이 될 것이다. 동영상에서 군함을 검출하는 방법으로 기계학습 모형인 Support Vector Machine과 Random Forest 알고리즘을 사용하였다. 동영상은 실시간 캡처를 하여 이미지로 저장을 할 수 있다. 그러면 이미지에 군함의 여부를 판별하면 될 것이다. 해상 접촉물에는 상선, 여객선, 어선, 군함, 부유물 등이 있다. 이중에서 군함을 식별해 내야 한다. 각 물체들에는 독특한 에지 분포 정보를 가지고 있으며 선박 중의 하나인 군함도 마찬가지이다. 에지 분포 정보를 바탕으로 HOG(Histogram of Oriented Gradient)를 이용한 SVM 실험결과 최대 62.7%로 매우 낮았다. Random Forest 알고리즘은 68.7%로 SVM 알고리즘 보다 6% 더 높게 나왔다. 군함의 선체 색깔은 거의 회색이다. 반면 상선, 여객선, 어선들의 선체는 회색을 사용하지 않고 흰색, 적색, 청색 계통의 색깔을 주로 사용한다. 그래서 HOG 뿐만이 아니라 색상 정보를 SVM의 입력자료로 이용하였다. 실험결과 최대 77.2%의 정해률이 나왔고, 정밀도도 80.6%로 다른 알고리즘보다 상대적으로 높았다. 그러나 SVM의 알고리즘은 결과 값을 산출하는데 상대적으로 긴 시간이 소요되었다. 참 긍정율은 Random Forest에서 최대 81.9%의 값을 보였다. 그러나 정밀도는 69.1%로 낮게 나왔다. 군대에서 경계는 매우 중요하다. 경계의 한 번의 실수가 작전의 승패를 좌지우지 하는 경우가 많이 있다. 군대에서는 경계를 함에 있어서 반드시 100%를 달성해야 한다. SVM의 참 긍정율 71.3%, Random Forest의 참 긍정율 81.9%는 100%에 비해 상당히 낮은 수치이다. 또한 경계임무에 있어서 71.3%, 81.9%는 용납될 수 없다. 하지만 군함 검출 시스템을 병행해서 사용한다면 경계임무에 도움이 될 것이라 생각한다.

스마트폰의 다종 데이터를 활용한 사용자의 동행 상태 인식

김길호 서울대학교 2016 국내석사

스마트폰이 널리 보급되고 현대인들의 생활 속에 깊이 자리잡으면서, 스마트폰에서 수집된 다종 데이터를 바탕으로 사용자 개인의 행동을 인식하고자 하는 연구가 활발히 진행되고 있다. 그러나, 타인과의 상호작용 행동 인식에 대한 연구는 아직까지 상대적으로 미진하였다. 기존 상호작용 행동 인식 연구에서는 오디오, 블루투스, Wi-Fi 등의 데이터를 사용하였으나, 이들은 사용자 사생활 침해 가능성이 높으며 단시간 내에 충분한 양의 데이터를 수집하기 어렵다는 한계가 있다. 반면 가속도, 자기장, 자이로스코프 등의 물리 센서의 경우 사생활 침해 가능성이 낮으며 단시간 내에 충분한 양의 데이터를 수집할 수 있다. 본 연구에서는 이러한 점에 주목하여, 스마트폰 상의 다종 물리 센서 데이터만을 활용, 딥 러닝 모델에 기반한 사용자의 동행 상태 인식 방법론을 제안한다. 사용자의 동행 여부 및 대화 여부를 분류하는 동행 상태 분류 모델은, 컨볼루션 신경망과 장단기 기억 순환 신경망이 혼합된 구조를 지닌다. 먼저 스마트폰의 다종 물리 센서에서 수집한 데이터에 존재하는 타임 스태프의 차이를 상쇄하고, 정규화를 수행하여 시간에 따른 시퀀스 데이터 형태로 변환함으로써 동행 상태 분류 모델의 입력 데이터를 생성한다. 이는 컨볼루션 신경망에 입력되며, 데이터의 시간적 국부 의존성이 반영된 요인 지도를 출력한다. 장단기 기억 순환 신경망은 요인 지도를 입력받아 시간에 따른 순차적 연관 관계를 학습하며, 동행 상태 분류를 위한 요인을 추출하고 소프트맥스 분류기에서 이에 기반한 최종적인 분류를 수행한다. 자체 제작한 스마트폰 애플리케이션을 배포하여 실험 데이터를 수집하였으며, 이를 활용하여 제안한 방법론을 평가하였다. 최적의 파라미터를 설정하여 동행 상태 분류 모델을 학습하고 평가한 결과, 동행 여부와 대화 여부를 각각 98.74%, 98.83%의 높은 정확도로 분류하였다. 또한, 동행 상태 분류 모델의 구조를 변형하고 파라미터 값을 조절하면서 분류 성능의 변화를 추적하여, 모델 내 각 구성 요소가 성능에 미치는 영향을 분석하였다.