• Proceedings of the Korean Society of Broadcast Engineers Conference
• /
• 2022.06a
• /
• pp.54-57
• /
• 2022

본 논문에서는 심층 신경망 기반 점진적 다계층 오디오 코덱의 비트 전송률 효율 향상을 위한 엔트로피 모델 기반 양자화 방식을 제안한다. 최근 심층 신경망을 이용하여 전통적인 신호 처리 이론 기반의 상용 오디오 코덱들을 대체하기 위한 오디오 압축 및 복원 시스템에 관한 연구가 활발하게 이루어지고 있다. 그러나 아직은 기존 상용 코덱의 성능에 도달하지 못하고 있으며 특히 종단 간 오디오 압축 모델의 경우, 적은 정보량으로 높은 품질을 얻기 위해서는 부호화기의 양자화 구조를 개선하는 것이 필수적이다. 본 연구에서는 기존에 제안된 종단 간 오디오 압축 모델 중 하나인 점진적 다계층 오디오 코덱의 벡터 양자화기를 엔트로피 모델 기반 양자화기로 대체하고 전송률-왜곡 트레이드오프 관계를 활용하여 전송률을 다양한 형태로 조절할 수 있음을 보임으로써 엔트로피 모델 기반 양자화기 도입의 타당성을 검증한다.

• Journal of the Korean Institute of Telematics and Electronics B
• /
• v.33B no.1
• /
• pp.144-152
• /
• 1996

In this paper, a pulse-mode digital multilayer neural network with a massively parallel yet compact and flexible network architecture is presented. Algebraicneural operations are replaced by stochastic processes using pseudo-random pulse sequences and simple logic gates are used as basic computing elements. The distributions of the results from the stochastic processes are approximated using the hypergeometric distribution. A statistical model of the noise(error) is developed to estimate the relative accuracy associated with stochastic computing in terms of mean and variance. Numerical character recognition problems are applied to the network to evaluate the network performance and to justify the validity of analytic results based on the developed statistical model. The network architectures are modeled in VHDL using the mixed descriptions of gate-level and register transfer level (RTL). Experiments show that the statistical model successfully predicts the accuracy of the operations performed in the network and that the character classification rate of the network is competitive to that of ordinary Back-Propagation networks.

• Journal of Korea Society of Industrial Information Systems
• /
• v.22 no.5
• /
• pp.17-24
• /
• 2017

Recently Deep-learning, Technologies using Large or Deep Artificial Neural Networks, have Shown Remarkable Performance, and the Increasing Size of the Network Contributes to its Performance Improvement. However, the Increase in the Size of the Neural Network Leads to an Increase in the Calculation Amount, which Causes Problems Such as Circuit Complexity, Price, Heat Generation, and Real-time Restriction. In This Paper, We Propose and Test a Method to Reduce the Number of Network Connections by Effectively Pruning the Redundancy in the Connection and Showing the Difference between the Performance and the Desired Range of the Original Neural Network. In Particular, we Proposed a Simple Method to Improve the Performance by Re-learning and to Guarantee the Desired Performance by Allocating the Error Rate per Layer in Order to Consider the Difference of each Layer. Experiments have been Performed on a Typical Neural Network Structure such as FCN (full connection network) and CNN (convolution neural network) Structure and Confirmed that the Performance Similar to that of the Original Neural Network can be Obtained by Only about 1/10 Connection.

• Journal of KIISE:Computer Systems and Theory
• /
• v.26 no.4
• /
• pp.464-471
• /
• 1999

DS/CDMA 시스템은 이동통신 시스템에서 다중경로, 고의적인 반방해 전파 및 동일대역폭을 공유하기 위한 다중 사용자에 의해 발생되는 협대역 간섭과 부가적인 백색가우시안 잡음을 제거한다. 본 논문에서는 다계층 퍼셉트론을 기반으로 한 역전파 신경망을 이용한 정합필터 채널 모델이 DS/CDMA 이동 통신 시스템에서 직접 순차 확산 스펙트럼의 협대역 간섭을 고려하면서 신호 대 잡음비와 전송 전력비에 따른 컴퓨터시뮬레이션 결과는 역전파 신경망을 이용한 정합 필터의 비트 에러율이 직접 순차 확산 스펙트럼의 RAKE 수신기의 비트 에러 율보다 적음을 입증하였다.

• The Journal of Korean Institute of Communications and Information Sciences
• /
• v.28 no.3C
• /
• pp.271-278
• /
• 2003

In this paper, we propose a new MLP based detector which has low circuit complexity and fast adaptation capability for CDMA downlink in frequency selective fading, and is easy for parameter optimization. The simplified structure of the proposed MLP is designed by making use of transmission characteristics of downlinks such that all users signals transmitted over same propagation paths and the number of channelization codes are limited. Significant performance improvement over Rake receiver can be obtained with the proposed MLP and the efficiency of the proposed MLP was compared with that of conventional MLP.

• Proceedings of the Korean Institute of Information and Commucation Sciences Conference
• /
• 2003.05a
• /
• pp.712-716
• /
• 2003

본 논문은 신경망을 이용한 간섭 신호 제어로써 복합 다중 퍼셉트론에서 DS/SS 이동 통신에서의 수신된 신호들을 역전파 학습알고리즘을 이용하여 검출하는 것에 대하여 연구한다. 수신 신호가 일정한 비트율을 갖는 채널에 전송하기 위하여 신경망을 이용한 새로운 탭 가중치 갱신 제어 방법을 제안한다. 적응 횡단선 필터는 심볼간의 채널에 발생하는 상호 심볼간 간섭을 억압하기 위해 LMS 알고리즘 사용한다. 이 알고리즘은 원하는 응답과 실제 출력간의 차인 에러를 이용하여 탭 가중치 조절 메카니즘을 통해 탭 가중치를 갱신함으로서 효과적으로 간섭을 제거하였다. 본 논문은 상호 심볼간 간섭을 효율적으로 억압해온 기존의 LMS 알고리즘에 다계층 퍼셉트론 신경망을 조합한 새로운 BISP 알고리즘을 제안하였으며, 제안된 알고리즘을 통해 탭 가중치 갱신이 보다 효율적으로 이루어짐을 알 수 있다. 시뮬레이션 결과를 통해 제안된 알고리즘의 평균 자승 에러의 수렴 특성이 기존 LMS 알고리즘을 이용한 수렴특성보다 우월하다는 것을 나타내었다.

• Journal of Intelligence and Information Systems
• /
• v.4 no.2
• /
• pp.1-21
• /
• 1998

귀납적 학습방법들의 분류성능을 비교 평가하기 위하여 대표적 분류문제의 하나인 신용평가 문제를 사용하였다. 분류기로서 사용된 귀납적 학습방법론들은 통계학의 다변량 판별분석(MDA), 기계학습 분야의 C4.5, 신경망의 다계층 퍼셉트론(MLP) 및 Cascade Correlation Network(CCN)의 4 가지이며, 학습자료로는 국내 3개 신용평가기관이 발표한 신용등급 및 공포된 재무제표를 사용하였다. 신용등급 예측의 정확도에 의한 분류성능을 평가하였는데 연도별 평가와 시계열 평가의 두 가지를 실시하였다. Cascade Correlation Network이 가장 좋은 분류성능을 보였지만 4가지 분류기들 사이에 통계적으로 유의한 차이는 발견되지 않았다. 이는 사용된 학습자료가 갖는 한계로 인한 것으로 추정되지만, 성능평가 과정에 있어 학습자료의 전처리 과정이 분류성과의 제고에 매우 유효함이 입증되었다.

• Journal of the Korea Institute of Information and Communication Engineering
• /
• v.2 no.1
• /
• pp.109-116
• /
• 1998

In this paper, a back propagation neural network teaming algorithm based on the complex multilyer perceptron is represented for suppressing narrowband interference of the received signals in DS-SS mobile communication system. We proposed neural network adaptive correlator(NNAC) which has fast convergence rate and good performance with combining back propagation neural network and the receiver of DS-SS. We analyzed and proved that NNAC has lower bit error probability than that of traditional RAKE receiver through results of computer simulation in the presence of the tone and narrow-band interference and the co-channel interference.

• Proceedings of the Korean Information Science Society Conference
• /
• 1999.10c
• /
• pp.280-282
• /
• 1999

적응 횡단선 심볼간의 채널에 발생하는 상호 심볼간 간섭을 억압하기 위해 LMS 알고리즘을 사용한다. 이 알고리즘은 원하는 응답과 실제 출력간의 차인 에러를 이용하여 탭 가중치 조절 메카니즘을 통해 탭 가중치를 갱신함으로서 효과적으로 간섭을 제거하였다. 본 논문은 상호 심볼간 간섭을 효율적으로 억압해온 기존의 LMS알고리즘에 다계층 퍼셉트론 신경망을 조합 한 새로운 LMSBP 알고리즘을 제안하였으며, 제안된 알고리즘을 토해 탭 가중치 갱신이 보다 효율적으로 이루어짐을 알 수 있다. 시뮬레이션 결과를 통해 제안된 알고리즘의 평균 자승 에러의 수렴 특성이 LMS 알고리즘을 이용한 수렴특성보다 우월하다는 것을 나타내었다.

• Journal of the Korea Institute of Information Security & Cryptology
• /
• v.33 no.5
• /
• pp.761-773
• /
• 2023

This paper proposes a method to increase the power-analysis resistance of the neural network model's feedforward process by replacing the exponential-based activation function, used in the deep-learning field, with an approximated function especially at the multi-layer perceptron model. Due to its nature, the feedforward process of neural networks calculates secret weight and bias, which already trained, so it has risk of exposure of internal information by side-channel attacks. However, various functions are used as the activation function in neural network, so it's difficult to apply conventional side-channel countermeasure techniques, such as masking, to activation function(especially, to exponential-based activation functions). Therefore, this paper shows that even if an exponential-based activation function is replaced with approximated function of simple form, there is no fatal performance degradation of the model, and than suggests a power-analysis resistant feedforward neural network with exponential-based activation function, by masking approximated function and whole network.