Comparative Reliability Evaluation on Semantic Service Platforms

시맨틱 서비스 플랫폼상에서의 신뢰성 비교 평가

  • 정한민 (한국과학기술정보연구원 정보기술연구실) ;
  • 이미경 (한국과학기술정보연구원 정보기술연구실) ;
  • 류범종 (한국과학기술정보연구원 정보기술연구실) ;
  • 김도완 (배제대학교 정보통신공학과)
  • Published : 2010.01.15

Abstract

While numerous information services are provided on the Web as a core infrastructure of information society, semantic services using the Semantic Web technologies still stay deployed number and application range. This situation would be mainly originated from the failure of securing reliability to the user. Thus, this paper introduces an evaluation method for measuring reliabilities of the semantic services comparatively. To measure the reliability of the compared systems, the observer assesses 'precision in task performance' as a quantitative analysis and 'reliability of expectation-result' as a qualitative analysis described by the test persons. On the other hand, the test person should rate the functional reliability and reliability of the served information on the vector graph by himself with a scale from 0 to 5. Experimental results show that assessment by the observer is very similar to rating value by test persons, and that the accuracy of the served information has a close effect on the functional reliability. Through this paper, we can verify the essential factors for evaluating the reliability of semantic service systems. These are functional reliability and reliability of served information resulting from function execution. In particular, it has been proven that the reliability of the semantic information services largely influences the "Quality in Use" and therefore determines the major factors of the semantic service reliability.

정보화 사회 핵심 인프라인 웹 상에서 수많은 정보 서비스가 제공되고 있지만, 차세대 웹이라 일컫는 시맨틱 웹 기술을 활용한 시맨틱 서비스는 그 숫자나 서비스 제공 범위에 대한 공감대에 있어서 아직 성숙되지 못한 상태이다. 본 연구는 2개의 시맨틱 서비스들의 동일한 세 가지 기능들을 비교 평가하는 방식으로 시맨틱 서비스를 개발함에 있어 반드시 고려해야 할 신뢰성을 어떻게 측정할 수 있을 것인지 그 방법을 제시하고 있다. 비교 대상 시스템의 신뢰성 측정을 위해, 피실험자의 기대-결과 신뢰성과 작업 정확도 측정이 관찰자 관점에서 수행되었으며, 다른 한편으로, 기능적 신뢰성과 정보 신뢰성 스칼라 값(0~5)을 피실험자 스스로 벡터 그래프에 나타내도록 하였다. 실험결과는 관찰자에 의한 평가 값과 피실험자에 의한 평가 값이 매우 유사함을 보여 주었으며, 서비스된 정보의 정확성과 작업 수행의 만족성이 사용자 관점에서 상호 밀접한 관계를 가진다는 사실을 확인하여 주었다. 본 연구 결과를 통하여, 우리는 시맨틱 서비스가 제공하는 기능적 신뢰성과 기능 수행의 결과로 서비스되는 정보에 대한 신뢰성이 정보 시스템의 신뢰성 평가를 위한 필수적 요소임을 알 수 있었다. 특히, 신뢰성은 시맨틱 정보 서비스에서 사용상 품질 (Quality in Use)을 의미한다고 볼 수 있으며, 결과적으로 서비스의 사용상 품질을 결정하는 중요한 요소임을 실증하였다.

Keywords

References

  1. 홍서영, 박준아, 서진원, 김진우, "사용자 중심의 웹 사이트 평가 모형의 개발", 제10회 한국 HCI 학회: 학술 대회 논문집, 2001.
  2. ISO 9126-1, Software Engineering, Product Quality, 2001.
  3. ISO 15489-2, Information and Documentation - Records Management -, 2001.
  4. 정혜정, "소프트웨어 신뢰도 품질 평가 메트릭에 대한 연구", 한국인터넷정보학회지, 7(2), 2006.
  5. 김영기, "웹 사이트의 신뢰성 평가에 영향을 미치는 요인과 각 요인의 중요도에 관한 연구", 한국문헌정보 학회지, 41(4), 2007.
  6. J. Tian, S. Rudraraju, and Z. Li, "Evaluating Web Software Reliability Based on Workload and Failure Data Extracted from Server Logs," In Journal of IEEE Transactions on Software Engineering, 30 (11), 2005.
  7. W. Tsai, "Service-oriented System Engineering: A New Paradigm," In Proceedings of IEEE International Workshop on Service-oriented System Engineering, 2005.
  8. W. Sung, H. Jung, P. Kim, I. Kang, S. Lee, M. Lee, D. Park, and S. Hahn, "A Semantic Portal for Researchers Using OntoFrame," In Proceedings of the 6th International Semantic Web Conference and the 2nd Asian Semantic Web Conference, 2007.
  9. H. Jung, M. Lee, P. Kim, S. Lee, and W. Sung, "Implementation of a Semantic Service Framework with Three Features for Improving Reliability," In Proceedings of the 1st Workshop, Human Factors and the Semantic Web in ASWC 2008, 2009.
  10. J. Nielsen, Card Sorting: How Many Users to Test, Jakob Nielsen's Alertbox, July 19, 2004.
  11. J. Nielsen, Quantitative Studies: How Many Users to Test?, Jakob Nielsen's Alertbox, June 26, 2006.
  12. D. Kieras, "A Guide to GOMS Task Analysis," Technical Report of Univ. of Michigan, 1994.
  13. H. Jung, M. Lee, and W. Sung, "Toward Managing and Generating Hyperlinks to External Services," In Proceedings of the 4th International Conference on Networked Computing and Advanced Information Management, 2008.
  14. "청년과학 13호: 설문조사, 좀 제대로 하자!", http://kioku.springnote.com/pages/585547, 2008.