• Title, Summary, Keyword: 활성화 특징점

Search Result 128, Processing Time 0.046 seconds

Transfer Learning using Multiple ConvNet Layers Activation Features with Principal Component Analysis for Image Classification (전이학습 기반 다중 컨볼류션 신경망 레이어의 활성화 특징과 주성분 분석을 이용한 이미지 분류 방법)

  • Byambajav, Batkhuu;Alikhanov, Jumabek;Fang, Yang;Ko, Seunghyun;Jo, Geun Sik
    • Journal of Intelligence and Information Systems
    • /
    • v.24 no.1
    • /
    • pp.205-225
    • /
    • 2018
  • Convolutional Neural Network (ConvNet) is one class of the powerful Deep Neural Network that can analyze and learn hierarchies of visual features. Originally, first neural network (Neocognitron) was introduced in the 80s. At that time, the neural network was not broadly used in both industry and academic field by cause of large-scale dataset shortage and low computational power. However, after a few decades later in 2012, Krizhevsky made a breakthrough on ILSVRC-12 visual recognition competition using Convolutional Neural Network. That breakthrough revived people interest in the neural network. The success of Convolutional Neural Network is achieved with two main factors. First of them is the emergence of advanced hardware (GPUs) for sufficient parallel computation. Second is the availability of large-scale datasets such as ImageNet (ILSVRC) dataset for training. Unfortunately, many new domains are bottlenecked by these factors. For most domains, it is difficult and requires lots of effort to gather large-scale dataset to train a ConvNet. Moreover, even if we have a large-scale dataset, training ConvNet from scratch is required expensive resource and time-consuming. These two obstacles can be solved by using transfer learning. Transfer learning is a method for transferring the knowledge from a source domain to new domain. There are two major Transfer learning cases. First one is ConvNet as fixed feature extractor, and the second one is Fine-tune the ConvNet on a new dataset. In the first case, using pre-trained ConvNet (such as on ImageNet) to compute feed-forward activations of the image into the ConvNet and extract activation features from specific layers. In the second case, replacing and retraining the ConvNet classifier on the new dataset, then fine-tune the weights of the pre-trained network with the backpropagation. In this paper, we focus on using multiple ConvNet layers as a fixed feature extractor only. However, applying features with high dimensional complexity that is directly extracted from multiple ConvNet layers is still a challenging problem. We observe that features extracted from multiple ConvNet layers address the different characteristics of the image which means better representation could be obtained by finding the optimal combination of multiple ConvNet layers. Based on that observation, we propose to employ multiple ConvNet layer representations for transfer learning instead of a single ConvNet layer representation. Overall, our primary pipeline has three steps. Firstly, images from target task are given as input to ConvNet, then that image will be feed-forwarded into pre-trained AlexNet, and the activation features from three fully connected convolutional layers are extracted. Secondly, activation features of three ConvNet layers are concatenated to obtain multiple ConvNet layers representation because it will gain more information about an image. When three fully connected layer features concatenated, the occurring image representation would have 9192 (4096+4096+1000) dimension features. However, features extracted from multiple ConvNet layers are redundant and noisy since they are extracted from the same ConvNet. Thus, a third step, we will use Principal Component Analysis (PCA) to select salient features before the training phase. When salient features are obtained, the classifier can classify image more accurately, and the performance of transfer learning can be improved. To evaluate proposed method, experiments are conducted in three standard datasets (Caltech-256, VOC07, and SUN397) to compare multiple ConvNet layer representations against single ConvNet layer representation by using PCA for feature selection and dimension reduction. Our experiments demonstrated the importance of feature selection for multiple ConvNet layer representation. Moreover, our proposed approach achieved 75.6% accuracy compared to 73.9% accuracy achieved by FC7 layer on the Caltech-256 dataset, 73.1% accuracy compared to 69.2% accuracy achieved by FC8 layer on the VOC07 dataset, 52.2% accuracy compared to 48.7% accuracy achieved by FC7 layer on the SUN397 dataset. We also showed that our proposed approach achieved superior performance, 2.8%, 2.1% and 3.1% accuracy improvement on Caltech-256, VOC07, and SUN397 dataset respectively compare to existing work.

Characteristics of CM Projects in Local Government Client's motivation in selecting the CM procurement route (지방자치단체 CM사업 특징 분석에 관한 연구 : CM사업 채택 동기를 중심으로)

  • Song Yeon-Joo;Kim Han-Soo
    • Proceedings of the Korean Institute Of Construction Engineering and Management
    • /
    • /
    • pp.433-436
    • /
    • 2004
  • Since construction management(CM) was recognized as a formal procurement route by law in 1995, it is interesting to observe the trend of its increasing adoption. Particularly in the public sector, local government clients more adopted the CM Procurement route than central government clients. The objective of this paper is to investigate and analyse the motivation of local government clients in selecting the CM procurement route. It is important to understand such motivation for achieving a better understanding of public client's CM needs and for promoting CM business in the public sector.

  • PDF

An Edge Linking Technique using a Modified Cellular Neural Networks (수정된 셀룰러 신경망을 이용한 에지 연결기법)

  • 김호준
    • Proceedings of the Korean Information Science Society Conference
    • /
    • /
    • pp.292-294
    • /
    • 2002
  • 본 연구에서는 영상에서 효과적인 에지 연결(edge linking)을 위하여 기존의 셀룰러 신경망 구조에서 두 가지 유형의 시냅스 구조를 고려한 활성화 특성을 제안한다 제시하는 모델에서 노드들간의 측면 연결에 의한 상호 작용은 노이즈에 의한 에지 및 영상에서 추출된 비최대점(non-maximum)의 에지를 억제할 문만 아니라, 특정 노드의 원형 이웃(circular neighborhood)으로 그려되는 특징들 간의 상호 연관도를 반영하여 에지의 연결 효과를 이를 수 있게 한다. 이러한 과정은 에지를 표현하는 벡터형식의 각 성분에 대한 활성화 특성으로부터 정형화된 에너지 함수로 모델링하고 이에 대한 최적화 과정으로써 구현될 수 있다.

  • PDF

텔레매틱스 서비스 활성화 기본계획 확정과 시사점

  • 김치동
    • Information and Communications Magazine
    • /
    • v.21 no.5
    • /
    • pp.13-25
    • /
    • 2004
  • 최근 텔레매틱스는 유비쿼터스 및 컨버전스라는 기술 패러다임의 특징을 대변하는 서비스로 인식되면서 크게 주목받고 있는 서비스이다 즉, DMB(Digital Multimedia Broadcasting), IMT-2000, 휴대인터넷서비스 및 개인 휴대통신 단말기의 발전, 지능형 교통시스템의 구축 등 기술 패러다임의 변화와 방송ㆍ통신의 융합, 새로운 서비스, 다양한 관련 산업의 컨버전스 등을 기반으로 궁극적으로 유비쿼터스 시대를 구체화할 최초의 서비스로 예상되고 있다.(중략)

A Hybrid Neural Network Model for Dynamic Hand Gesture Recognition (동적 수신호 인식을 위한 복합형 신경망 모델)

  • Lee, Joseph S.;Park, Jin-Hee;Kim, Ho-Joon
    • Proceedings of the Korean Information Science Society Conference
    • /
    • /
    • pp.287-292
    • /
    • 2007
  • 본 연구에서는 동적 수신호 패턴에 대한 효과적인 인식을 위하여, 특징추출 단계와 패턴 분류 단계의 두 모듈로 이루어지는 복합형 신경망 모델을 제안한다. 특징추출 모듈을 위하여 고유의 특징표현 기법과 3차원 수용영역 구조의 CNN 모델을 제안한다. 이는 3차원 형식의 데이터로 표현되는 수신호 패턴으로부터 특징점의 공간적 변이뿐만 아니라 시간적 변이에 강인한 특징추출 기능을 제공한다. 패턴 분류 모듈에서는 효율적인 학습과 인식 기능을 위하여 수정된 구조의 GFMM 모델을 제안한다. 또한 학습패턴의 빈도를 고려한 활성화 특성과 학습 방법을 정의함으로써 기존의 GFMM 모델이 갖는 단점인 학습결과가 학습순서에 종속되는 특성과 비정상적 패턴 및 노이즈 패턴에 민감한 현상을 개선한다.

  • PDF

Feature Point Detection and Tracking of Object in Motion Image on Internet (인터넷상의 동영상에서의 물체 특징 점 탐지 및 추적)

  • Im In Sun
    • Journal of the Korea Society of Computer and Information
    • /
    • v.10 no.1
    • /
    • pp.149-156
    • /
    • 2005
  • In the actuality that the various services are provided in connection with the network of internet by activating the communication using Propagation, the importance of the feature point and chase of an object is greatly raised to increase the quality of the detection and tracking of the communication service. This paper is to detect the shadow space by using Snakes Algorithms and Present a system's base which tracts the route from start to target points in the detected shadow space as a study for the detection and tracking the shadow space which does not reach the propagation.

  • PDF

SIFT Image Feature Extraction based on Deep Learning (딥 러닝 기반의 SIFT 이미지 특징 추출)

  • Lee, Jae-Eun;Moon, Won-Jun;Seo, Young-Ho;Kim, Dong-Wook
    • Journal of Broadcast Engineering
    • /
    • v.24 no.2
    • /
    • pp.234-242
    • /
    • 2019
  • In this paper, we propose a deep neural network which extracts SIFT feature points by determining whether the center pixel of a cropped image is a SIFT feature point. The data set of this network consists of a DIV2K dataset cut into $33{\times}33$ size and uses RGB image unlike SIFT which uses black and white image. The ground truth consists of the RobHess SIFT features extracted by setting the octave (scale) to 0, the sigma to 1.6, and the intervals to 3. Based on the VGG-16, we construct an increasingly deep network of 13 to 23 and 33 convolution layers, and experiment with changing the method of increasing the image scale. The result of using the sigmoid function as the activation function of the output layer is compared with the result using the softmax function. Experimental results show that the proposed network not only has more than 99% extraction accuracy but also has high extraction repeatability for distorted images.

A Study on Product Search Service using Feature Point Information based on Image (이미지 기반의 특징점 정보를 이용한 제품 검색 서비스에 관한 연구)

  • Kim, Seoksoo
    • Journal of Convergence for Information Technology
    • /
    • v.9 no.9
    • /
    • pp.20-26
    • /
    • 2019
  • With the development of ICT technology and the promotion of smartphone penetration, purchasing services that purchase various products through online market are being activated. In particular, due to advances in storage and delivery technology, sales of short food materials can be purchased online. Therefore, in this paper, we propose an integrated solution that enables advertisement effect, ordering and delivery through a purchase service even if there is no sales knowledge and sales network in a small shopping mall where only offline sales can be performed. The proposed system is able to efficiently view the product information by category through image search for the product that the user desires, so that the seller of the registered product can efficiently sell without any additional advertisement.

An Analysis on RFID/USN Usage Behavior (RFID/USN 이용행태 분석 및 시사점)

  • Park, S.J.;Choe, H.C.;Ku, J.E.;Kim, S.J.
    • Electronics and Telecommunications Trends
    • /
    • v.21 no.2
    • /
    • pp.74-87
    • /
    • 2006
  • 최근 사회 전반적으로 급격히 진행되고 있는 디지털 컨버전스 트렌드의 한 모습으로등장한 RFID/USN의 급속한 이용과 관련한 이용자들의 이용행태와 서비스 활성화를위한 방향을 분석 전망한다. 이를 분석함에 있어 필수적으로 요구되는 RFID/USN의 개념, 서비스 특징 및 국내외 산업동향을 분석하고 관련 응용서비스의 이용과 관련하여 예비 이용자들이 어떤 행태를 보일 것인지 분석하고 전략적 시사점을 도출한다. 이를 위하여 이용자들의 이용행태 분석과 관련하여 예비 이용자에 대하여 설문조사를 실시하였다. 조사내용은 RFID/USN 응용서비스 활용수준, 분야별 이용 현황, 만족도, 이용의 문제점, 이용의향 및 수용도, 관련 비용 지불 정도 및 수용가격, 이용시기 및 용도, 지원 육성 분야 등이다. 또한 응용서비스 활용정도가 상대적으로 높은 집단에 대하여 표적 분석을 통하여 잠재시장에 대하여 추정 분석하고, 향후 응용서비스 활성화를 위한 시사점과 사업화 방향 및 정책 추진방향을 도출한다.

Countermeasure and Security Vulnerability of Fintech Services (핀테크 서비스의 보안 취약점과 대응방안)

  • Park, Jeong-Guk;Kim, In-Jae
    • Korea Information Processing Society Review
    • /
    • v.22 no.5
    • /
    • pp.36-45
    • /
    • 2015
  • 금융과 IT의 융합을 의미하는 핀테크(Fintech) 열풍이 전세계적으로 뜨겁게 불고 있다. 핀테크를 통해 신기술들이 금융 산업 전반에 융합되면서 새로운 형태의 금융서비스가 등장하고 기존의 금융 시스템들이 가져왔던 문제점들을 개선하는데 기여할 것으로 보인다. 하지만 핀테크 산업 활성화를 위한 지속적 규제 완화와 이용자 편의성을 위한 각종 절차의 간소화 그리고 채널 서비스 기술간의 융복합이 일어나는 환경에서 제공되는 핀테크 서비스의 안전성에 대해 우려가 있다. 핀테크 시대에 정보보안은 성장의 인프라이며 금융상품을 선택하는 중요한 기준이 될 것이므로 보안리스크의 정량화와 단계별 통제 방안을 수립하고 사용자 인증, 결제정보 보안, API(Application Programming Interface) 보안 등 필요한 보안요소를 사업모델에 맞게 적용함으로써 편리성과 보안성을 함께 확보할 수 있어야 한다. 본 연구에서는 정보보안 관점에서 핀테크의 서비스의 특징과 보안 취약점을 분석하고 관련 위험을 줄이기 위한 대응방안을 모색해 보았다.