A Q-learning based channel access scheme for cognitive radios

무선 인지 시스템을 위한 Q-learning 기반 채널접근기법

  • 이영두 (울산대학교 전기전자정보시스템공학부) ;
  • 구인수 (울산대학교 전기전자정보시스템공학부)
  • Received : 2011.01.21
  • Accepted : 2011.04.07
  • Published : 2011.06.30

Abstract

In distributed cognitive radio networks, cognitive radio devices which perform the channel sensing individually, are seriously affected by radio channel environments such as noise, shadowing and fading such that they can not property satisfy the maximum allowable interference level to the primary user. In the paper, we propose a Q-learning based channel access scheme for cognitive radios so as to satisfy the maximum allowable interference level to the primary user as well as to improve the throughput of cognitive radio by opportunistically accessing on the idle channels. In the proposed scheme, the pattern of channel usage of the primary user will be learned through Q-learning during the pre-play learning step, and then the learned channel usage pattern will be utilized for improving the sensing performance during the Q-learning normal operation step. Through the simulation, it is shown that the proposed scheme can provide bettor performance than the conventional energy detector in terms of the interference level to primary user and the throughput of cognitive radio under both AWGN and Rayleigh fading channels.

가용 주파수 고갈 문제를 해결하기 위하여 제안된 무선인지기술은 특정 주파수 대역에 대해 사용면허를 가진 주사용자가 사용하지 않는 유휴채널에 접근하여 통신을 수행함으로써 주파수 효율을 향상시키는 차세대 통신기술이다. 주사용자의 유휴채널을 사용하기 위해서는 해당 채널을 현재 주사용자가 점유하고 있는지를 정확히 판단하여야 한다. 분산형 무선인지 네트워크에서 독립적으로 채널을 센싱하는 무선인지 기기의 경우 센싱의 결과가 노이즈, 쉐도윙, 페이딩과 같은 채널 환경에 영향을 많이 받으며 심지어 주사용자가 요구하는 간섭률을 보장하지 못하는 결과를 초래한다. 따라서 본 논문에서는 주사용자가 요구하는 최소 간섭량을 보장하는 동시에 기회주의적으로 채널에 접근하여 인지시스템의 처리율(처리율)을 향상시키는 Q-learning 기반의 채널접근기법을 제안한다. 제안하는 기법은 사전 학습 단계에서 주사용자의 채널사용 패턴을 Q-learning으로 학습하고 이를 Q-learning 기반 채널접근 단계에서 실제로 적용함으로써 스펙트럼 센싱 성능을 향상시킨다. 모의실험을 통해 AWGN 및 레일레이 페이딩 무선 환경에서 주사용자에 대한 간섭량 및 처리율 성능이 기존의 에너지 검출 방법에 비해 더 우수함을 확인하였다.

Keywords

References

  1. 김창주, 임차식, "Cognitive Radio 기술 및 표준화 동향", 한국전자파학회, 전자파기술, 제19권, 제2호, pp. 23-29, 2008년 3월
  2. 김재명, "Cognitive Radio 기술개요 및 발전 방향", 대한전자공학회, 전자공학회지, 제36권 제6호, 20-27쪽, 2009년 6월
  3. 고광진, 황성현, 정병장, 김창주, "Cognitive Radio 기술 및 표준화 동향", 한국통신학회, 한국통신학회지, 제27권, 제8호, pp. 1-7, 2010년 7월
  4. Ian F. Akyildiz, Won-Yeol Lee, Kaushik R. Chowdhury, "CRAHNs: Cognitive radio ad hoc networks", Ad Hoc Networks, Volume 7, Issue 5, pp. 810-836, July 2009 https://doi.org/10.1016/j.adhoc.2009.01.001
  5. Nguyen-Thanh Nhan, Xuan Thuc Kieu, Insoo Koo, "Cooperative Spectrum Sensing Using Enhanced Dempster-Shafer Theory of Evidence in Cognitive Radio", Lecture Notes in Computer Science, Volume 5755, pp. 688-697, 2009
  6. Zhi Quan, Shuguang Cui, Poor H., Sayed A., "Collaborative Wideband Sensing for Cognitive Radios", IEEE Signal Processing Magazine, Volume 25, Issue 6, pp. 60-73, 2008 https://doi.org/10.1109/MSP.2008.929296
  7. Junhong Nie, Haykin, S., "A Q-learning-based dynamic channel assignment technique for mobile communication systems", IEEE Transactions on Vehicular Technology, Volume 48, Issue 5, pp. 1676 - 1687, 1999 https://doi.org/10.1109/25.790549
  8. Mo Li, Youyun Xu, Junquan Hu, "A Q-Learning based sensing task selection scheme for cognitive radio networks", Wireless Communications & Signal Processing 2009, pp. 1-5, 2009
  9. Fangwen Fu, van der Schaar M., "Learning to Compete for Resources in Wireless Stochastic Games", IEEE Transactions on Vehicular Technology, Volume 58, Issue 4, pp. 1904-1919, 2009 https://doi.org/10.1109/TVT.2008.2002917
  10. Yau K.-L. A., Komisarczuk P., Teal P. D., " A context-aware and Intelligent Dynamic Channel Selection scheme for cognitive radio networks", Cognitive Radio Oriented Wireless Networks and Communications 2009, pp. 1-6, 2009
  11. Tom Mitchell, "machine learning", McGraw Hill, pp. 397-383, 1997