• International journal of advanced smart convergence
• /
• v.12 no.3
• /
• pp.186-191
• /
• 2023

This study would investigate the generative AIs currently in service in the era of hyperscale AIs and explore measures for the use of generative AIs, focusing on 'ChatGPT,' which has received attention as a leader of generative AIs. Among the various generative AIs, this study selected ChatGPT, which has rich application cases to conduct research, investigation, and use. This study investigated the concept, learning principle, and features of ChatGPT, identified the algorithm of conversational AI as one of the specific cases and checked how it is used. In addition, by comparing various cases of the application of conversational AIs such as Google's Bard and MS's NewBing, this study sought efficient ways to utilize them through the collected cases and conducted research on the limitations of conversational AI and precautions for its use. If connected to city-related databases, it can provide information on city infrastructure, transportation systems, and public services, so residents can easily get the information they need. We want to apply this research to enrich the lives of our citizens.

• The Journal of The Korea Institute of Intelligent Transport Systems
• /
• v.21 no.4
• /
• pp.125-144
• /
• 2022

When a variable message signs (VMS) system displays false information related to traffic safety caused by malicious attacks, it could pose a serious risk to drivers. If the normal message patterns displayed on the VMS system are learned, it would be possible to detect and respond to the anomalous messages quickly. This paper proposes a method for detecting anomalous messages by learning the normal patterns of messages using a bi-directional generative pre-trained transformer (GPT) network. In particular, the proposed method was trained using the normal messages and their system parameters to minimize the corresponding negative log-likelihood (NLL) values. After adequate training, the proposed method could detect an anomalous message when its NLL value was larger than a pre-specified threshold value. The experiment results showed that the proposed method could detect malicious messages and cases when the system error occurs.

• The Journal of the Korea institute of electronic communication sciences
• /
• v.19 no.1
• /
• pp.173-180
• /
• 2024

Along with its importance, the real estate market poses risks of various fraudulent activities. Recently, a surge in real estate-related scams, such as lease fraud, has caused great financial damage to many ordinary people. These problems are often caused by the complexity of real estate transactions and information imbalance. Therefore, there is an urgent need to secure reliability and improve transparency in the transaction process. In this paper, to solve this real estate fraud problem, we propose a chatbot system using digital technology and artificial intelligence, especially GPT (Generative Pre-Trained Transformer). This system serves to protect users from fraud by providing them with precautions and confirmations in the lease transaction process. In addition, GPT-based chatbots respond to questions from users in time, contributing to reducing uncertainty in the transaction process and increasing reliability.

• Journal of Korea Society of Industrial Information Systems
• /
• v.28 no.5
• /
• pp.15-30
• /
• 2023

Recently, generative models based on the Transformer architecture, such as ChatGPT, have been gaining significant attention. The Transformer architecture has been applied to various neural network models, including Google's BERT(Bidirectional Encoder Representations from Transformers) sentence generation model. In this paper, a method is proposed to create a text binary classification model for determining whether a comment on Korean movie review is positive or negative. To accomplish this, a pre-trained multilingual BERT sentence generation model is fine-tuned and transfer learned using a new Korean training dataset. To achieve this, a pre-trained BERT-Base model for multilingual sentence generation with 104 languages, 12 layers, 768 hidden, 12 attention heads, and 110M parameters is used. To change the pre-trained BERT-Base model into a text classification model, the input and output layers were fine-tuned, resulting in the creation of a new model with 178 million parameters. Using the fine-tuned model, with a maximum word count of 128, a batch size of 16, and 5 epochs, transfer learning is conducted with 10,000 training data and 5,000 testing data. A text sentiment binary classification model for Korean movie review with an accuracy of 0.9582, a loss of 0.1177, and an F1 score of 0.81 has been created. As a result of performing transfer learning with a dataset five times larger, a model with an accuracy of 0.9562, a loss of 0.1202, and an F1 score of 0.86 has been generated.

• International Journal of Computer Science & Network Security
• /
• v.23 no.4
• /
• pp.15-24
• /
• 2023

One of the objectives and aspirations of scientists and engineers ever since the development of computers has been to interact naturally with machines. Hence features of artificial intelligence (AI) like natural language processing and natural language generation were developed. The field of AI that is thought to be expanding the fastest is interactive conversational systems. Numerous businesses have created various Virtual Personal Assistants (VPAs) using these technologies, including Apple's Siri, Amazon's Alexa, and Google Assistant, among others. Even though many chatbots have been introduced through the years to diagnose or treat psychological disorders, we are yet to have a user-friendly chatbot available. A smart generative cognitive behavioral therapy with spoken dialogue systems support was then developed using a model Persona Perception (P2) bot with Generative Pre-trained Transformer-2 (GPT-2). The model was then implemented using modern technologies in VPAs like voice recognition, Natural Language Understanding (NLU), and text-to-speech. This system is a magnificent device to help with voice-based systems because it can have therapeutic discussions with the users utilizing text and vocal interactive user experience.

• Proceedings of the Korea Water Resources Association Conference
• /
• 2023.05a
• /
• pp.450-450
• /
• 2023

인공지능 기법의 급격한 발달에 따라 다양한 분야에서 인공지능 기법을 활용하기 위한 노력이 이루어지고 있다. 재난은 발생하기 전에 다양한 전조 현상을 나타내나 수많은 정보 속에서 전조 증상을 정확히 인지하는 것은 매우 어렵다. 따라서 인공지능은 방대한 사전 정보의 해석을 통해 재난 발생의 전조를 신속 정확하게 감지하는데 최적의 기술이다. 최근 OpenAI의 딥러닝 기반의 언어모델인 GPT(Generative Pre-trained Transformer)의 성능이 기대 이상을 나타내면서 많은 분야에서 GPT에 대한 관심과 실험이 시작되고 있다. 본 실험에서는 GPT를 이용하여 재난 검색 및 해석의 특징을 검토하여 보았다. 정확한 재난 기록은 정확한 재난 예측을 위해 반드시 필요한 자료이나 부정확한 재난 기록은 그 기록이 비록 방대하더라도 오히려 예측의 신뢰도를 크게 떨어뜨린 수 있다. 따라서 비지도학습 기반의 대화형 인공지능을 재난 검색에 활용하기 위해서는 인공지능 기법의 인지 특성을 반드시 가늠해 봐야 한다. 향후 보다 많은 연구자가 이에 관심을 가진다면 보다 정확한 인공지능 기반의 재난 탐지 기술의 개발이 가능할 것으로 기대된다.

• Proceedings of the Korean Society of Computer Information Conference
• /
• 2022.07a
• /
• pp.503-504
• /
• 2022

최근 자연어 처리 분야에서 언어 모델을 활용하여 문장 생성에 관한 연구가 이루어지고 있다. 기존 언어 모델을 활용하여 생성된 시나리오는 텍스트를 학습하여 활용하는 것 외에는 작가의 의도를 반영하는 것에 한계가 존재했고 문맥에 일관성 없는 모습을 보여주었다. 시나리오를 작성하는 것은 작가가 흐름을 주도하며 작업해야 하는 내용이다. 본 논문에서는 GPT-3 기반 언어 모델을 기반으로 다양한 시나리오 문장을 생성하여 작가가 선택하거나 원하는 문장을 직접 입력하는 등 작가의 의도에 부합하는 시나리오를 생성하는 보조 시스템을 제안한다. 본 연구를 통해 시나리오 생성을 포함한 문장 생성 분야의 보조 도구로 활용하여 작가의 의도를 반영하는 결과물을 생성하는 것을 목표로 한다.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2022.11a
• /
• pp.443-445
• /
• 2022

인공지능 기술이 발전함에 따라 경찰의 범죄수사 분야에서도 인공지능 기술을 적용하고자 하는 연구가 활발하다. 범죄수사의 결과물인 수사결과 보고서 작성에 있어 판결문은 중요한 데이터가 될 수 있다. 그러나 판결문은 공개된 데이터의 이미지화로 인해 정형화된 데이터의 확보가 까다롭고, 소수의 법조계 전문가가 아닌 일반인이 생성해내기 어려워 데이터 확보가 쉽지 않은 현실이다. 이에 본 연구에서는 생성적 사전학습 언어모델을 이용한 판결문 문장 데이터 생성을 제안하였다. 카카오의 KoGPT를 활용하여 실제 판결문장 일부를 제시한 결과 판결문과 유사한 형태의 문장을 생성한 것을 확인하였다. 향후 판결문 데이터를 활용하기 위한 인공지능 기술 기반 범죄수사 연구에 있어, 생성된 판결문 데이터를 활용할 수 있을 것으로 기대된다.

• Proceedings of the Korean Society of Computer Information Conference
• /
• 2023.07a
• /
• pp.367-368
• /
• 2023

최근 챗봇 시스템은 급격한 발전과 함께 사용자와 자연스러운 대화를 할 수 있는 인공지능 기술의 필요성이 대두되고 있다. 기존의 챗봇 시스템은 대화 상황을 충분히 이해하지 못하거나, 학습된 데이터를 벗어나는 문장에 대한 일관성 있는 응답을 제공하지 못하는 한계가 있다. 본 논문에서는 GPT-3와 KoBERT를 활용하여 사용자의 감정 상태를 파악하고 해당 감정을 고려한 일관성 있는 대화를 제공하는 감정 분석 기반 챗봇 시스템을 제안한다. 이를 바탕으로 긍정적인 대화를 이어 나가는데 초점을 두어 자연스러운 대화가 가능할 것으로 기대된다.

• Proceedings of the Korean Society of Computer Information Conference
• /
• 2023.07a
• /
• pp.701-702
• /
• 2023

비대면 교육이 증가함에 따라 강의, 특강과 같은 정보성 동영상의 수가 급격히 많아지고 있다. 이러한 정보성 동영상을 보아야 하는 학습자들은 자원과 시간을 효율적으로 활용할 수 있는 동영상 이해 및 학습 시스템이 필요하다. 본 논문에서는 GPT-3 모델과 KoNLPy 사용하여 동영상 요약을 수행하고 키워드 기반 해당 영상 프레임으로 바로 갈 수 있는 시스템의 개발내용에 대해 기술한다. 이를 통해 동영상 콘텐츠를 효과적으로 활용하여 학습자들의 학습 효율성을 향상시킬 수 있을 것으로 기대한다.