• 제목/요약/키워드: 소수계산오류

검색결과 19건 처리시간 0.025초

Excel을 활용한 소수의 진법변환 계산에서의 오류 (Flaws in Excel when performing Base Conversion of Decimals)

  • 김태수
    • 정보과학회 컴퓨팅의 실제 논문지
    • /
    • 제22권11호
    • /
    • pp.559-566
    • /
    • 2016
  • 전 세계적으로 널리 상용화된 Excel은 수식작성과 계산이 편리해 기업의 세무계산, 보고서나 학교의 성적관리 및 가계부 등에 광범위하게 활용되고 있는 전산프로그램이다. 그러나 초기부터 계산의 부정확성 및 오류들이 꾸준히 제기되어 왔고, 지속적으로 수정되어 발전하여왔다. 소수의 진법변환 과정은 경우에 따라서는 단순한 계산을 반복적으로 여러 번 해야만 하기에, 이러한 단순작업은 컴퓨터에 의한 계산도구들의 도움을 받기에 적절하다. 이번에 발견된 소수의 진법변환과 같은 단순계산과정에서 Excel의 오류는 쉽게 이해되지 않는다. 유사한 오류가 추가적으로 발견될 가능성은 높다. 이번에 발견된 오류의 유형에 대하여 원인을 파악하고, 빠른 수정을 희망한다.

혼합계산을 포함한 분수와 소수의 계산에서 피드백 프로그램의 개발.적용에 대한 효과 분석 (An Analysis of the Effectiveness of the Development and Application of a Feedback Program for Mixed Calculations Involving Fractions and Decimals)

  • 이혜경;김선유;노은환;정상태
    • 한국초등수학교육학회지
    • /
    • 제14권2호
    • /
    • pp.377-399
    • /
    • 2010
  • 본 연구에서는 분수와 소수의 혼합계산 부분에서 나타나는 오류 유형을 진단하고 오류에 대한 피드백 프로그램을 처방하여, 그에 대한 학생들의 반응을 분석하고자 하였다. 우선 연구할 내용을 7가지 영역으로 층화시키고, 각각의 영역을 오류 진단, 진단에 따른 처방 그리고 분석의 3단계로 결과를 정리하였다.

  • PDF

소수연산에 관한 예비초등교사의 교수내용지식 분석 (An Analysis of Pre-service Teachers' Pedagogical Content Knowledge about Decimal Calculation)

  • 송근영;방정숙
    • 한국초등수학교육학회지
    • /
    • 제12권1호
    • /
    • pp.1-25
    • /
    • 2008
  • 최근 더욱 강조되는 교사의 교수 내용 지식과 관련하여 분수에 관한 연구는 상대적으로 많으나 소수와 관련된 연구는 매우 드물다. 초등수학교육에서 소수가 차지하는 양과 개념적 중요성을 생각해볼 때, 이에 대한 연구가 시급하다. 이에 본 연구는 예비초등교사의 소수연산에 관한 수학 내용 지식, 학생 이해 지식, 교수 방법 지식을 살펴보았다. 분석 결과, 예비교사들은 교과서에 제시된 연산 방법에 관해서는 잘 이해하고 있었으나 승수나 제수가 소수인 경우 연산의 의미는 잘 이해하지 못했다. 학생들의 오류에 대해서는 자연수 관련 오류에 비해 소수점 관련 오류, 분수 관련 오류를 잘 이해하지 못하였다. 교수 방법에 대해서는 알고리즘에 관한 설명이 가장 많았으며, 응답 중 '자연수 연산과 비슷하게 계산하되 소수점에 유의한다.'와 같은 반응이 많아 학생들의 자연수 관련 오류의 원인이 될 가능성을 보였다. 이런 측면에서 본 연구는 예비초등교사교육에서 초등학생들의 오류 유형 및 원인에 대해 더 민감하게 배우고 단순한 알고리즘 이외의 다양한 교수법에 대해서 학습할 기회가 필요하다는 점을 강조한다.

  • PDF

어림하기를 통한 소수점 찍기가 소수의 곱셈과 나눗셈에 미치는 효과 (The Effect of the Estimation Strategy on Placing Decimal Point in Multiplication and Division of Decimals)

  • 이연미;박성선
    • 한국초등수학교육학회지
    • /
    • 제15권1호
    • /
    • pp.1-18
    • /
    • 2011
  • 본 연구는 어림하기를 통한 소수점 찍기 활동이 초등학교 5학년 학생들의 연산과 소수점 오류를 줄이는 데에 어떤 영향을 주는지를 판단해 보고자 하는데 그 목적이 있다. 위의 연구를 위하여 실험 집단에는 소수의 연산에서 어림하기를 통한 소수점 찍기 활동을 실시하였고, 비교 집단에는 전통적인 방법의 소수점 찍기 활동을 각각 실시하였다. 그 결과 두 집단 사이의 문제해결력에서는 유의미한 차이가 없었으나 계산력에서 유의미한 차이를 발견할 수 있었으며 어림을 통한 소수점 찍기 활동이 소수점 오류를 줄이는데 지속적으로 영향을 주는 것으로 나타났다. 이는 어림하여 소수점을 찍는 활동이 소수의 개념적 이해와 소수 자릿값에 대한 이해를 도와주며, 소수의 곱셈, 나눗셈에서 소수점의 위치를 정하는데 도움을 준다는 것을 시사한다.

  • PDF

초등학교 6학년 학생들의 소수 계산 오류와 선행지식 간의 연결 관계 분석 및 지도방안 탐색 (An Analysis of Connection between Errors and Prior Knowledge in Decimal Calculations of 6th Grade Students)

  • 방정숙;김재화
    • 한국수학교육학회지시리즈A:수학교육
    • /
    • 제45권3호
    • /
    • pp.275-293
    • /
    • 2006
  • The purpose of this study was to analyze the connection between students' errors and prior knowledge as an attempt to design an efficient teaching method in decimal computation. A survey on decimal computations was conducted in two 6th grade elementary school classrooms. Error patterns on decimal computations were analyzed and clinical interviews were conducted with 8 students according to their error patterns. Main errors resulted from the insufficient understanding of prior knowledge such as place value, connection between decimals and fractions, meaning of operations, and computation principles of fractions. In order to help students overcome such obstacles, a teaching experiment was designed in a manner that strengthens a profound understanding of prior knowledge related to decimal computations, and connects such knowledge to actual decimal calculations. This study showed that well-designed lesson plans with base-ten blocks might decrease students' errors by helping them understand decimals and connect their prior knowledge to decimal operations.

  • PDF

개선한 Goldschmidt 부동소수점 역수 알고리즘 (The improved Goldschmidt floating point reciprocal algorithm)

  • 한경헌;최명용;김성기;조경연
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국해양정보통신학회 2004년도 춘계종합학술대회
    • /
    • pp.247-250
    • /
    • 2004
  • Goldschmidt 알고리즘에 의한 부동소수점 1.f2의 역수는 q=NK1K2....Kn (Ki=1+Aj, j=2i)이다. 본 논문에서는 N과 A 값을 1.f2의 값에 따라서 선정하고 Aj의 값이 유효자리수의 반이하 값을 가지면 연산을 종료하는 개선된 Goldschmidt 부동소수점 역수 알고리즘을 제안한다. 1.f2가 1.01012보다 작으면 N=2-1.f2, A=1.f2-1로 하며, 1.01012보다 크거나 같으면 N=2-0.lf2, A=1-0.lf2로 한다. 한편 Goldschmidt 알고리즘은 곱셈을 반복해서 수행하므로 계산 오류가 누적이 된다. 이러한 누적 오류를 감안하면 배정도실수 역수에서는 2-57, 단정도실수 역수에서는 2-28의 유효자리수까지 연산해야 한다. 따라서 Aj가 배정도실수 역수에서는 2-29, 단정도실수 역수에서는 2-14 보다 작아지면 연산을 종료한다. 본 논문에서 제안한 개선한 Goldschmidt 역수 알고리즘은 N=2-0.1f2, A=1-0.lf2로 계산하는 종래 알고리즘과 비교하여 곱셈 연산 회수가 배정도실수 역수는 22%, 단정도실수 역수는 29% 감소하였다. 본 논문의 연구 결과는 테이블을 사용하는 Goldschmidt 역수 알고리즘에 적용해서 연산 시간을 줄일 수 있다.

  • PDF

3GPP 규격 오류 정정 부호 기법의 성능 평가 (Performance Analysis of Error Correction Codes for 3GPP Standard)

  • 신나나;이창우
    • 한국전자파학회논문지
    • /
    • 제15권1호
    • /
    • pp.81-88
    • /
    • 2004
  • 3GPP 표준의 오류 정정 부호 기법 중의 하나로 채택된 turbo 부호는 그 성능이 Shannon이 제시하는 이론적 한계 값에 근사하기 때문에 많은 관심을 받고 있다. 그러나 계산상의 복잡함과 많은 메모리를 요구한다는 단점이 있고 이를 보완할 수 있는 Log-MAP, Max-Log-MAP, SOVA, sliding window 알고리즘 등이 제안되었다. 본 논문에서는 turbo복호 알고리즘을 부동 소수점 연산과 고정 소수점 연산을 이용하여 구현하였을 때 성능을 해석하였다. 그리고 Log-MAP 알고리즘의 성능에 근사하는 효율적인 고정 소수점 구현 방법을 제안하였다. 이 방법을 Log-MAP과 sliding window 알고리즘에 적용하여 성능을 분석하였다.

오류 확산 기법을 이용한 CRT-RSA 오류 주입 공격 대응 방안 (A Countermeasure Resistant to Fault Attacks on CRT-RSA using Fault Infective Method)

  • 하재철;박제훈;문상재
    • 정보보호학회논문지
    • /
    • 제18권2호
    • /
    • pp.75-84
    • /
    • 2008
  • 최근 일반 CRT-RSA 알고리듬은 오류 주입 공격에 취약하다는 점이 실험적 결과에 의해 밝혀졌다. 본 논문에서는 CRT-RSA에 대한 오류 주입 공격 및 방어 대책을 분석하고 다양한 형태의 오류 주입 공격을 방어할 수 있는 새로운 알고리듬을 제안하고자 한다. 제안하는 알고리듬은 CRT-RSA에서 두 소수에 대한 멱승연산 시 오류가 발생하면 그 오류를 재결합 과정에서 확산되도록 설계하였다. 이 알고리듬은 판정 기법에 기반한 오류를 검사하는 과정이 없으며 공개 파라미터 e를 사용하지 않는다. 또한 계산량 측면에서도 안전성을 갖춘 타 방식에 비해 효율적이다.

소수 곱셈 단원의 교과서 개선 방향 탐색 (An Exploration of the Improvement Direction for Decimal Fractional Multiplication Unit in Textbooks)

  • 김수경;김진숙;권성룡
    • 한국초등수학교육학회지
    • /
    • 제22권4호
    • /
    • pp.475-496
    • /
    • 2018
  • 소수의 곱셈은 계산방법에 있어 자연수 곱셈과의 유사성 때문에 학생들이 쉽게 이해할 것이라고 기대하지만 학생들은 소수의 곱셈에서 많은 오류를 보인다. 이는 개념적인 이해보다 기능적인 숙달에 치중한 결과라고 할 수 있다. 본 연구는 소수의 곱셈 단원을 효과적으로 구성하기 위한 기초연구로서 제7차 교육과정부터 2015 개정 교육과정까지 소수의 곱셈 단원의 성취기준, 교수학습 및 평가 상의 유의점, 지도내용 및 방법을 분석하였고, 2009 개정 교육과정까지 교육과정별 해당 교과서의 차시 구성 및 교과서별 활동을 분석하였다. 또한 소수의 곱셈과 관련된 개론서 및 논문을 분석하여 소수의 곱셈에 대한 학생들의 이해 실태 및 소수의 곱셈을 지도하기 위한 지도 방안을 살펴보고 공통적으로 제시된 방안을 요목화하였다. 분석 결과, 다음의 세 가지 시사점을 얻을 수 있었다. 첫째, 의미 있는 어림 지도가 필요하다. 둘째, 소수 곱셈의 의미에 적합한 시각적 모델을 제시해 줄 필요가 있다. 셋째, 소수의 곱셈 알고리즘을 형식화하는 과정을 다양화할 필요가 있다.

  • PDF

온 디바이스 국방 AI를 위한 PEFT 효용성 연구 (Research on PEFT Feasibility for On-Device Military AI)

  • 배기민;이학진;김세옥;이장형
    • 한국컴퓨터정보학회:학술대회논문집
    • /
    • 한국컴퓨터정보학회 2024년도 제69차 동계학술대회논문집 32권1호
    • /
    • pp.51-54
    • /
    • 2024
  • 본 논문에서는 온 디바이스 국방 AI를 위한 효율적인 학습 방법을 제안한다. 제안하는 방법은 모델 전체를 재학습하는 대신 필요한 부분만 세밀하게 조정하여 계산 비용과 시간을 대폭 줄이는 PEFT 기법의 LoRa를 적용하였다. LoRa는 기존의 신경망 가중치를 직접 수정하지 않고 추가적인 낮은 랭크의 매트릭스를 학습하는 방식으로 기존 모델의 구조를 크게 변경하지 않으면서도, 효율적으로 새로운 작업에 적응할 수 있다. 또한 학습 파라미터 및 연산 입출력에 데이터에 대하여 32비트의 부동소수점(FP32) 대신 부동소수점(FP16, FP8) 또는 정수형(INT8)을 활용하는 경량화 기법인 양자화도 적용하였다. 적용 결과 학습시 요구되는 GPU의 사용량이 32GB에서 5.7GB로 82.19% 감소함을 확인하였다. 동일한 조건에서 동일한 데이터로 모델의 성능을 평가한 결과 동일 학습 횟수에선 LoRa와 양자화가 적용된 모델의 오류가 기본 모델보다 53.34% 증가함을 확인하였다. 모델 성능의 감소를 줄이기 위해서는 학습 횟수를 더 증가시킨 결과 오류 증가율이 29.29%로 동일 학습 횟수보다 더 줄어듬을 확인하였다.

  • PDF