• 제목/요약/키워드: spatial attention

검색결과 501건 처리시간 0.024초

Crack detection based on ResNet with spatial attention

  • Yang, Qiaoning;Jiang, Si;Chen, Juan;Lin, Weiguo
    • Computers and Concrete
    • /
    • 제26권5호
    • /
    • pp.411-420
    • /
    • 2020
  • Deep Convolution neural network (DCNN) has been widely used in the healthy maintenance of civil infrastructure. Using DCNN to improve crack detection performance has attracted many researchers' attention. In this paper, a light-weight spatial attention network module is proposed to strengthen the representation capability of ResNet and improve the crack detection performance. It utilizes attention mechanism to strengthen the interested objects in global receptive field of ResNet convolution layers. Global average spatial information over all channels are used to construct an attention scalar. The scalar is combined with adaptive weighted sigmoid function to activate the output of each channel's feature maps. Salient objects in feature maps are refined by the attention scalar. The proposed spatial attention module is stacked in ResNet50 to detect crack. Experiments results show that the proposed module can got significant performance improvement in crack detection.

채널 강조와 공간 강조의 결합을 이용한 딥 러닝 기반의 초해상도 방법 (Deep Learning-based Super Resolution Method Using Combination of Channel Attention and Spatial Attention)

  • 이동우;이상훈;한현호
    • 한국융합학회논문지
    • /
    • 제11권12호
    • /
    • pp.15-22
    • /
    • 2020
  • 본 논문은 채널 강조(Channel Attentin)와 공간 강조(Spatial Attention) 방법을 결합한 딥 러닝 기반의 초해상도 방법을 제안하였다. 초해상도 과정에서 질감, 특징과 같은 주변 픽셀의 변화량이 큰 고주파 성분의 복원이 중요하다. 채널 강조와 공간 강조를 결합한 특징 강조를 이용한 초해상도 방법을 제안하였다. 기존의 CNN(Convolutional Neural Network) 기반의 초해상도 방법은 깊은 네트워크의 학습이 어려우며, 고주파 성분의 강조가 부족하여 윤곽선이 흐려지거나 왜곡이 발생한다. 문제를 해결하기 위해 스킵-커넥션(Skip Connection)을 적용한 채널 강조와 공간 강조를 결합한 강조 블록과 잔차 블록(Residual Block)을 사용하였다. 방법으로 추출한 강조된 특징 맵을 부-픽셀 컨볼루션(Sub-pixel Convolution)을 통해 특징맵을 확장하여 초해상도를 진행하였다. 이를 통해 기존의 SRCNN과 비교하여 약 PSNR는 5%, SSIM은 3% 향상되었으며 VDSR과 비교를 통해 약 PSNR는 2%, SSIM은 1% 향상된 결과를 보였다.

한글 단어 재인에서 시각적 요인에 따른 공간주의의 영향 (The Effect of Spatial Attention in Hangul Word Recognition: Depending on Visual Factors)

  • 이고은;이혜원
    • 인지과학
    • /
    • 제34권1호
    • /
    • pp.1-20
    • /
    • 2023
  • 본 연구에서는 시각적 요인에 따라 한글 단어 재인에 미치는 공간주의의 영향을 살펴보았다. 시각적 요인에 따라 공간주의의 영향이 다르게 나타나는지 살펴보기 위해 단어의 시각적 복잡성(실험 1)과 단어의 밝기 대비(실험 2)를 조작하였다. 단어의 복잡성에 따라 받침이 있는 조건과 받침이 없는 조건으로 나뉘었고, 단어의 대비에 따라 대비가 높은 조건과 대비가 낮은 조건으로 나뉘었다. 어휘판단과제를 사용하여 공간단서가 표적 위치에 주어지는 경우(타당 시행)와 표적 위치에 주어지지 않는 경우(비타당 시행) 간의 수행 차이를 단서효과로 계산하여 주의의 영향을 살펴보았다. 실험 결과, 단어의 복잡성에 따라서는 단서효과가 유사하게 나타났으므로, 공간주의의 영향은 복잡성에 의해 달라지지 않는 것으로 해석되었다. 단어의 대비에 따라서는 고대비 조건에 비해 저대비 조건에서 단서효과가 크게 나타났다. 대비가 낮을 때 공간주의의 영향이 더 커지는 것은 자극의 신호를 강화시키는 공간주의의 기제로 설명되었다.

대상- 및 공간-기반 주의가 작업기억에 미치는 영향 (Effects of Object- and Space-Based Attention on Working Memory)

  • 민윤기;김보성;정종욱
    • 인지과학
    • /
    • 제19권2호
    • /
    • pp.125-142
    • /
    • 2008
  • 본 연구는 공간-기반 주의(space-based attention)와 대상-기반 주의(object-based attention)가 공간 및 시각 작업기억에 미치는 영향을 살펴보고자 두 가지 주의 자원 양상이 모두 관여하는 공간 스트룹 과제를 이용하여 작업기억의 재인율을 측정하였다. 작업기억과 공간 스트룹 과제의 자극 배열의 유사성 조건은 작업기억 과제 수행 시 공간 시연에 미치는 공간-기반 주의의 영향을 살펴보고자 구성되었으며, 스트룹 조건은 작업기억 과제 수행시 대상에 대한 시연에 미치는 대상-기반 주의의 영향을 살펴보고자 하였다. 그 결과, 공간 작업기억과 공간 스트룹 과제의 자극 배열의 유사성이 높은 조건에서 공간 작업기억의 재인율이 높은 것으로 나타났으며, 스트룹 조건에 따라서는 차이가 없는 것으로 나타났다. 반면, 시각 작업기억의 재인율은 스트룹 일치조건보다 불일치조건에서 더 저조한 것으로 나타났으며, 유사성 조건에 따라서는 차이가 없는 것으로 나타났다. 이러한 결과는 작업기억에서 요구되는 자원의 양상과 선택적 주의 자원의 양상이 동일한 경우에만 선택적 주의가 작업기억에 영향을 준다는 것을 시사하는 것이다.

  • PDF

단어에 대한 공각적 주의가 암묵기억에 미치는 영향 (Effects of Spatial Attention for Words on Implicit Memory)

  • 심원목;김민식
    • 인지과학
    • /
    • 제11권3_4호
    • /
    • pp.13-22
    • /
    • 2000
  • 단어 정체확인 과정을 요구하지 않고 기억 과제와 무관한 단어의 지각적 특질에만 근거하여 공간적 주의를 할당하도록 하는 경우, 이러한 공간적 주의의 차이가 단어의 암묵기억에 미치는 영향을 두 개의 실험을 통하여 알아보았다. 실험 1에서는 독특한 색을 가진 표적자극의색을 판단하는 시각 탐색 과제를, 실험 2에서는 단서가 주어진 위치에 제시된 단어자극의 색을 판별하도록 하는 초점 주의 과제를 실시한후, 단어완성검사를 통하여 암묵기억을 측정하였다. 두 실험 결과, 방해자극뿐 아니라 표적자극에 대해서도 유의미한 점화효과가 관찰되지 않았다. 이는 기억 과제와 무관한 지각적 특질에 주의를 주는 것만으로는 단어에 대한 암묵기억 표상을 형성하기 어려우며, 단어에 대한 암묵기억 표상을 형성하기 위해서는 자극의 부호화 과정에서 단어 정채 확인 과정이 필요함을 시사한다.

  • PDF

특징 융합과 공간 강조를 적용한 딥러닝 기반의 개선된 YOLOv4S (Modified YOLOv4S based on Deep learning with Feature Fusion and Spatial Attention)

  • 황범연;이상훈;이승현
    • 한국융합학회논문지
    • /
    • 제12권12호
    • /
    • pp.31-37
    • /
    • 2021
  • 본 논문은 특징 융합과 공간 강조를 적용하여 작고 페색된 객체 검출을 위한 개선된 YOLOv4S를 제안하였다. 기존 YOLOv4S은 경량 네트워크로 깊은 네트워크 대비 특징 추출 능력 부족하다. 제안하는 방법은 먼저 feature fusion으로 서로 다른 크기의 특징맵을 결합하여 의미론적 정보 및 저수준 정보를 개선하였다. 또한, dilated convolution으로 수용 영역을 확장하여 작고 폐색된 객체에 대한 검출 정확도를 향상시켰다. 두 번째로 spatial attention으로 기존 공간 정보 개선하여 객체간 구분되어 폐색된 객체의 검출 정확도를 향상시켰다. 제안하는 방법의 정량적 평가를 위해 PASCAL VOC 및 COCO 데이터세트를 사용하였다. 실험을 통해 제안하는 방법은 기존 YOLOv4S 대비 PASCAL VOC 데이터세트에서 mAP 2.7% 및 COCO 데이터세트에서 mAP 1.8% 향상되었다.

MSaGAN: Improved SaGAN using Guide Mask and Multitask Learning Approach for Facial Attribute Editing

  • Yang, Hyeon Seok;Han, Jeong Hoon;Moon, Young Shik
    • 한국컴퓨터정보학회논문지
    • /
    • 제25권5호
    • /
    • pp.37-46
    • /
    • 2020
  • 최근 얼굴 속성 편집(facial attribute editing)의 연구는 GAN(Generative Adversarial Net)과 인코더-디코더(encoder-decoder) 구조를 활용하여 사실적인 결과를 얻고 있다. 최신 연구 중 하나인 SaGAN(Spatial attention GAN)은 공간적 주의 기제(spatial attention mechanism)를 활용하여 얼굴 영상에서 원하는 속성만을 변경할 방법을 제안하였다. 그러나 불충분한 얼굴 영역 정보로 인하여 때로 부자연스러운 결과를 얻는 경우가 발생한다. 본 논문에서는 기존 연구의 한계점을 개선하기 위하여 유도 마스크(guide mask)를 학습에 활용하고, 다중작업 학습(multitask learning) 접근을 적용한 개선된 SaGAN(MSaGAN)을 제안한다. 폭넓은 실험을 통해 마스크 손실 함수와 신경망 구조에 따른 얼굴 속성 편집의 결과를 비교하여 제안하는 방법이 기존보다 더 자연스러운 결과를 효율적으로 얻을 수 있음을 보인다.

Semi-Supervised Spatial Attention Method for Facial Attribute Editing

  • Yang, Hyeon Seok;Han, Jeong Hoon;Moon, Young Shik
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제15권10호
    • /
    • pp.3685-3707
    • /
    • 2021
  • In recent years, facial attribute editing has been successfully used to effectively change face images of various attributes based on generative adversarial networks and encoder-decoder models. However, existing models have a limitation in that they may change an unintended part in the process of changing an attribute or may generate an unnatural result. In this paper, we propose a model that improves the learning of the attention mask by adding a spatial attention mechanism based on the unified selective transfer network (referred to as STGAN) using semi-supervised learning. The proposed model can edit multiple attributes while preserving details independent of the attributes being edited. This study makes two main contributions to the literature. First, we propose an encoder-decoder model structure that learns and edits multiple facial attributes and suppresses distortion using an attention mask. Second, we define guide masks and propose a method and an objective function that use the guide masks for multiple facial attribute editing through semi-supervised learning. Through qualitative and quantitative evaluations of the experimental results, the proposed method was proven to yield improved results that preserve the image details by suppressing unintended changes than existing methods.

A Dual-scale Network with Spatial-temporal Attention for 12-lead ECG Classification

  • Shuo Xiao;Yiting Xu;Chaogang Tang;Zhenzhen Huang
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제17권9호
    • /
    • pp.2361-2376
    • /
    • 2023
  • The electrocardiogram (ECG) signal is commonly used to screen and diagnose cardiovascular diseases. In recent years, deep neural networks have been regarded as an effective way for automatic ECG disease diagnosis. The convolutional neural network is widely used for ECG signal extraction because it can obtain different levels of information. However, most previous studies adopt single scale convolution filters to extract ECG signal features, ignoring the complementarity between ECG signal features of different scales. In the paper, we propose a dual-scale network with convolution filters of different sizes for 12-lead ECG classification. Our model can extract and fuse ECG signal features of different scales. In addition, different spatial and time periods of the feature map obtained from the 12-lead ECG may have different contributions to ECG classification. Therefore, we add a spatial-temporal attention to each scale sub-network to emphasize the representative local spatial and temporal features. Our approach is evaluated on PTB-XL dataset and achieves 0.9307, 0.8152, and 89.11 on macro-averaged ROC-AUC score, a maximum F1 score, and mean accuracy, respectively. The experiment results have proven that our approach outperforms the baselines.

지각과 단기 기억 수준에 발현되는 주의 효과의 공간적 연장 패턴 비교 (The spatial-effect profile of visual attention in perception and memory)

  • 현주석
    • 인지과학
    • /
    • 제19권3호
    • /
    • pp.311-330
    • /
    • 2008
  • 주의가 주어진 위치에 발현되는 공간적 주의는 주의 착점으로부터 거리가 멀어질수록 점진적으로 감소한다. 이에 근거하여 지각과 단기 기억 수준에 작용하는 시각적 주의의 공간적 패턴을 조사하였다. 실험 1에서는 시야의 한 지점에 사전 단서(pre-cue)를 제시한 후 시각적 차폐를 동반한 표적 자극을 변별하는 지각적 처리 과제(perception-intensive task)와 차폐 자극이 없이 단서 위치의 항목을 기억해야 하는 기억 처리 과제(memory-intensiv, task)가 사용되었다. 지각 과제에서 표적 변별 정확도는 주의 착점에서 가장 높았고 인접한 위치에 제시된 표적일 경우 단서 위치로부터 거리가 멀어질수록 점진적으로 저하되었다. 반면에 기억 과제에서는 단서 위치에 제시된 기억 항목만이 정확히 재인되었으며 인접한 항목들에 대한 기억 재인은 우연 수준에 머물렀다. 실험 2는 지각 처리 과제에서도 객체(object) 수준의 공간적 주의가 작용함을 보여주어 기억 과제에서 관찰된 객체 중심적 주의 효과가 경우에 따라서는 지각적 처리 과정에서도 발현될 수 있음을 보여주었다. 이 결과는 선별적 주의 효과는 위치 중심적 모형의 예견에만 국한되지 않고 요구되는 정보 처리 수준의 공간적 특성에 따라 위치 중심적 또는 객체 중심적으로 융통성 있게 작용함을 시사한다.

  • PDF