부동소수점수 N차 제곱근 K차 골드스미스 알고리즘

Floating Point Number N'th Root K'th Order Goldschmidt Algorithm

Abstract

In this paper, a tentative Kth order Goldschmidt floating point number Nth root algorithm for K order convergence rate in one iteration is proposed by applying Taylor series to the Goldschmidt square root algorithm. Using the proposed algorithm, Nth root and Nth inverse root can be computed from iterative multiplications without division. It also predicts the error of the algorithm iteration. It iterates until the predicted error becomes smaller than the specified value. Since the proposed algorithm only performs the multiplications until the error gets smaller than a given value, it can be used to improve the performance of a floating point number Nth root unit.

1. 서론

지난 수십년간 반도체의 집적도와 동작속도가 빨라지면서 SoC(SystemonChip)의 기능과 성능이 비약적으로 발전하였다. 여러 개의 마이크로프로세서와 멀티미디어 시스템, 무선통신 등의 다양한 기능을 하나의 칩에 집적하는 AP(Application Processor)가 보편화되고 있다.AP 등 멀티코어 구조에서 각 프로세서들은 동일한 명령어를 수행하지만 특정 연산의 하드웨어 가속 기능을 별도로 가지는 것이 적합하다[1]. 멀티미디어 시스템, 디지털 신호처리, 무선 통신, 과학기술연산, 시물레이션 등을 효율적으로 처리하기 위해서는 다양한 연산 기능이 필요하다[2]. 부동소수점수 Z의 N차 제곱근( )은 컴퓨터그래픽스등 멀티미디어 시스템, 과학 및 공학 기술 분야에서 많이 사용된다.

N차 제곱근을 구하는 문제는 오래 된 문제로 한번에 한 디지트씩 연산하는 방식[3,4,5]과 반복 연산으로 근에 수렴하는 방식이 있다. 곱셈을 반복하여 나눗셈과 제곱근을 구하는 방식으로는 뉴톤-랍손 방식, 골드스미트 방식 등이 있다. 이들은 곱셈을 반복하여 2차 수렴(quadraticconvergence)하는 근을 구한다[6]. 이들을 3차,4차 등 고차 수렴으로 제곱근을 구하는 연구들이 있다[7].N차 제곱근은 뉴톤-랍손방식을 확장하는 방식[8,9]과 할리 방식[10] 등이 있다. 이들 방식들은 나눗셈 또는 역수 계산이 필요하므로 CPU에서 나눗셈과 곱셈의 연산속도가 동일하거나 크게 차이나지 않는다는 가정을 근거로 하고 있다[7]. 그러나 현재의 기술로는 부동소수점 나눗셈은 곱셈에 비하여 대단히 느리다[12].

종래의 골드스미트 제곱근 알고리즘은 초기 근사값과 최대 오차를 계산하고, 오차가 정해진 값보다 작게 될 때까지 반복 연산을 수행하였다. 종래는 최대 오차만을 고려했기 때문에, 결과 값에 도달했음에도 불구하고 가외의 연산을 수행하여 연산 속도를 저하시키는 단점이 있었다.[13,14]은 가변 시간 알고리즘을 제안하여 이러한 문제를 개선했다.[15]는 테일러급수 정리로부터 골드스미트 K차 나눗셈 알고리즘을 제안하였다.K차 수렴 나눗셈 알고리즘은 한번 반복에 K번 곱셈을 수행한다. 또한 알고리즘 반복과정의 오차를 예측하고, 예측한 오차가 정해진 값보다 작아지는 시점까지만 반복 수행한다.

본 논문에서는 골드스미트 제곱근 알고리즘에 테일러급수를 적용하여 곱셈만을 사용하여 N차 제곱근을 구하는 가칭 N차 제곱근 K차 골드스미트 알고리즘을 제안한다.

본 논문에서는 N차 제곱근과 N차 역제곱근을 구하는 두 가지 알고리즘을 제안한다. 또한 다음 반복연산에서의 오차를 예측하여 가변시간 연산이 가능하도록 한다.

본 논문의 구성은 다음과 같다.2장에서는 N차제곱근을 연산하는 알고리즘을 제안한다. 3장에서는 N차 역제곱근을 연산하는 알고리즘을 제안한다. 4장에서 연구 결과를 종래의 골드스미트 알고리즘과 비교한다. 5장에서 결론을 맺는다.

2. N차 제곱근 K차 골드스미트 알고리즘

2.1 N차 제곱근 K차 골드스미스 알고리즘

부동소수점수는  ×으로 표현된다. 가수부분과 지수 부분을 분리해서 N차 제곱근을 구하면 식 (1)이 된다.

\(\sqrt[N]{Z}=\sqrt[N]{1 . f \times 2^{p} \bmod N} \times 2^{\left(\frac{p}{N}\right)}\)       (1)

식 (1)에서 \(\left(\frac{p}{N}\right)\)은 나눗셈 결과의 정수부분만을 취한다. 근의 수렴속도와 오차는 \(1 . f\)에 비례하므로 본 논문에서는 식 (2)로 Z의 N차 제곱근을 구한다. 또한 간단한 표기를 위하여 \(1 . f\)를 F로 표기한다.

\(\sqrt[N]{Z}=\sqrt[N]{F} \sqrt[N]{2^{p \bmod N}} \times 2^{\left(\frac{p}{N}\right)}\)       (2)

부동소수점 수\(F=1 . f\)의 N차 제곱근 \(Y_{n}=\sqrt[N]{1 . f}\)은 초기값 \(Y_{0}\)를 정의하고, 반복식으로 \(Y_{i}(i=1, \dots, n) \)을 구한다. IEEE-754로 규정되는 부동소수점 수에서 가수부 \(1 . f_{2}\)는 단정도실수에서 24 비트, 배 정도 실수에서는 53 비트이다. 제곱근의 지수부 연산은\(\sqrt[N]{2^{p} \bmod N} \times 2^{\left(\frac{p}{N}\right)}\)를 계산하는 것이다. \(\sqrt[N]{2^{p \bmod N}}\)은 상수이므로 \(\sqrt[N]{1 . f_{2}}\)을 계산한 후에 \(\sqrt[N]{2^{p \bmod N}}\)을 곱한다. \(2^{\left(\frac{p}{N}\right)}\)은 가수부 처리와 별도의 하드웨어에 의해서 병렬적으로 처리하므로 본 논문에서는 생략한다.

부동소수점수 F의 가수부 \(1 . f_{2}\)는 식 (3)과 같이 두 부분으로 나눌 수 있다.

\(1 . f_{2}=1 . g_{2}+h_{2}\)       (3)

식 (3)에서 g와 h의 길이를 각각 n_g 및 n_h 비트로 정의한다. h는 ‘\(0 \leq h<2^{-n_{g}}\)’이고, h의 최대값은 ‘\(h_{\max }=2^{-n_{g}}-2^{-n_{g}-n_{h}}\)’이다. 반복식의 수렴 속도를 빠르게 하기 위해서 식 (4)를 근사계산하여 테이블에 미리 작성해놓는다.

\(\begin{aligned} &T=\sqrt[N]{F}-e_{0}\\ &X_{0}=T^{N} F^{N-1}=\left(1-e_{0} F^{(N-1) / N}\right)^{N}\\ &Y_{0}=T F=\sqrt[N]{F}\left(1-e_{0} F^{(N-1) / N}\right)=\sqrt[N]{F} \sqrt[N]{X_{0}} \end{aligned}\)       (4)

초기 근사값 X₀와 Y₀는 ROM에 저장하거나 또는 별도의 회로를 사용해서 산출하기도 한다[16]. T는 \(\sqrt[N]{1 . g}\)의 근사계산이므로 \(T=\sqrt[N]{F}-e_{0}\)이다. \(e_{0}\)는 근사에 따른 초기 오차이다. \(a_{0}=\frac{1-X_{0}}{N}\)를 정의하면 \(X_{0}=1-N a_{0}\)가 된다. 이로부터 \(\frac{1}{\sqrt[N]{N_{0}}}\)를 테일러급수로 전개하면 식 (5)가 된다. 식 (5)에서 k (k=2,3,..)는 차수를 나타낸다.

\(\begin{aligned} &\frac{1}{\sqrt{X_{0}}}=\frac{1}{\sqrt{1-N a_{0}}}=\sum_{j=0}^{\infty} c_{j} a_{0}^{j}=\\ &\sum_{j=0}^{k-1} c_{j} a_{0}^{j}+\sum_{j=k}^{\infty} c_{j} a_{0}^{j}=R_{0}^{(k)}+e_{1}\\ &\text { where } c_{0}=c_{1}=1\\ &c_{m}=\frac{\prod_{j=1}^{m-1}(j N+1)}{m !}, m \geq 2 \end{aligned}\)       (5)

식 (5)의 테일러급수항에서 초기 K항을 취한 것이\(R_{i}^{(k)}\)이고, 나머지 항들이 e₁이다. 이로부터 X₁과 Y₁은 식 (6)과 같이 계산한다.

\(\begin{aligned} &X_{1}=X_{0}\left(R_{0}^{(k)}\right)^{N}=\left(1-e_{1}^{N} \sqrt{X_{0}}\right)^{N}\\ &Y_{1}=Y_{0} R_{0}^{(k)}=\sqrt[N]{F}\left(1-e_{1}^{N} \sqrt{X_{0}}\right)=\sqrt[N]{F} \sqrt[N]{X_{1}}= \\ &\sqrt[N]{F}-\sqrt[N]{F} \sqrt[N]{X_{0}} \sum_{j=k}^{\infty} c_{j} a_{0}^{j}=\sqrt[N]{F}-e_{y 1}\\ &e_{y 1}=\sqrt[N]{F} \sqrt[N]{X_{0}} \sum_{j=k}^{\infty} c_{j} a_{0}^{j} \doteq c_{k} a_{0}^{k N} \sqrt{F} \end{aligned}\)       (6)

식 (6)에서 Y₁은 \(\sqrt[N]{F}\)의 첫 번째 근사값이고 e_y1은오차값이다. X_i, Y_i로부터 X_i+1, Y_i+1을 구하는 반복식은 식 (7)과 같이 된다.

\(\begin{aligned} &a_{i}=\frac{1-X_{i}}{N}\\ &R_{i}^{(k)}=\sum_{j=0}^{k-1} c_{j} a_{i}^{j}\\ &X_{i+1}=X_{i}\left(R_{i}^{(k)}\right)^{N}=\left(1-e_{i+1}^{N} \sqrt{X_{i}}\right)^{N}\\ &Y_{i+1}=Y_{i} R_{i}^{(k)}=\sqrt[N]{F}\left(1-e_{i+1} \sqrt[N]{X_{i}}\right)=\\ &\sqrt[N]{F}-\sqrt[N]{F} \sqrt[N]{X_{i}} \sum_{j=k}^{\infty} c_{j} a_{i}^{j}=\sqrt[N]{F}-e_{y(i+1)}\\ &e_{y(i+1)} \doteq c_{k} a_{i}^{k \cdot N} \sqrt{F} \end{aligned}\)       (7)

 

식 (7)의\(\mathcal{e}_{y}(i+1)\)에서 c_k는 상수이고 \(\sqrt[N]{F}\)의 최대값은 알고 있다. 그러므로 \(\left|a_{i}\right|<2^{-t}\)이면 \(\mathcal{e}_{y}(i+1)\)의 최대값을 알 수 있다. \(\left|a_{i}\right|<2^{-t}\)인 조건은 소수점 이하 연속되는 ‘0’ 또는 ‘1’의 개수가 t보다 많다는 것으로 간단한 하드웨어로 판단이 용이하다. i+1번째 오차 \(\mathcal{e}_{y}(i+1)\)가 일정한 값 이하가 되면 \(Y_{i+1}=\sqrt[N]{F}\)으로 반복연산을 종료한다.

2.2 K차 골드스미스 제곱근 알고리즘

\(F\) 의 제곱근 \(Y_{n}=\sqrt{F}\)를 계산하기 위한 초기값은 식 (8)과 같다.

\(\begin{array}{l} T=\sqrt{F}-e_{0}\\ X_{0}=T^{2} F=\left(1-e_{0} \sqrt{F}\right)^{2} \\ Y_{0}=T F=\sqrt{F}\left(1-e_{0} \sqrt{F}\right)=\sqrt{F} \sqrt{X_{0}} \end{array}\)       (8)

\(a_{i}=\frac{1-X_{i}}{2}\)를 정의하고 \(\frac{1}{\sqrt{X_{i}}}\)를 테일러급수로 전개하면 식 (9)가 된다.

\(\begin{aligned} \frac{1}{\sqrt{X_{i}}}=& 1+a_{i}+\frac{3}{2} a_{i}^{2}+\frac{5}{2} a_{i}^{3}+\frac{35}{8} a_{i}^{4}+\cdots=\\ & \sum_{j=0}^{k-1} c_{j} a_{i}^{j}+\sum_{j=k}^{\infty} c_{j} a_{i}^{j}=R_{i}^{(k)}+e_{i} \end{aligned}\)       (9)

K=2, 3, 4에 대한 제곱근의 반복식을 간략하게 정리하면 식 (10)과 같다.

\(\begin{array}{l} a_{i}=\frac{1-X_{i}}{2} \\ (\mathrm{K}=2) & R_{i}^{(2)}=1+a_{i} \\ & X_{i+1}=X_{i}\left(R_{i}^{(2)}\right)^{2} \\ & Y_{i+1}=Y_{i} R_{i}^{(2)} \doteq \sqrt{F}-\frac{3 \sqrt{F}}{2} a_{i}^{2}\\ (\mathrm{K}=3) & R_{i}^{(3)}=1+a_{i}+\frac{3 a_{i}^{2}}{2} \\ & X_{i+1} = X_{i}\left(R_{i}^{(3)}\right)^{2} \\ & Y_{i+1} = Y_{i} R_{i}^{(3)} \doteq \sqrt{F}-\frac{5 \sqrt{F}}{2} a_{i}^{3}\\ (\mathrm{K}=4) & R_{i}^{(4)}=1+a_{i}+\frac{3 a_{i}^{2}}{2}+\frac{5 a_{i}^{3}}{3} \\ & X_{i+1}=X_{i}\left(R_{i}^{(4)}\right)^{2} \\ & Y_{i+1}=Y_{i} R_{i}^{(4)} \doteq \sqrt{F}-\frac{35 \sqrt{F}}{8} a_{i}^{4}\\ \end{array}\)       (10)

 

식 (10)으로부터 \(\left|a_{i}\right|<2^{-t}\)이면 i+1번째 오차 \(\mathcal{e}_{i+1}\)은 식 (11)이 된다.

\(\begin{aligned} &e_{i+1}^{(2)} \doteq \frac{3 \sqrt{F} a_{i}^{2}}{2}<\frac{3 \sqrt{F}}{2} 2^{-2 t}<2^{-2 t+2}\\ &e_{i+1}^{(3)} \doteq \frac{5 \sqrt{F} a_{i}^{3}}{2}<\frac{5 \sqrt{F}}{2} 2^{-3 t}<2^{-3 t+2}\\ &e_{i+1}^{(4)} \doteq \frac{35 \sqrt{F} a_{i}^{4}}{8}<\frac{35 \sqrt{F}}{8} 2^{-4 t}<2^{-4 t+4} \end{aligned}\)       (11)

2.3 K차 골드스미스 세제곱근 알고리즘

\(F\)의 세제곱근 \(Y_{n}=\sqrt[3]{F}\)를 계산하기 위한 초기값은 식(12)와 같다.

\(\begin{aligned} &T=\sqrt[3]{F}-e_{0}\\ &X_{0}=T^{3} F^{2}=\left(1-e_{0} F^{2 / 3}\right)^{3}\\ &Y_{0}=T F=\sqrt[3]{F}\left(1-e_{0} F^{2 / 3}\right)=\sqrt[3]{F} \sqrt[3]{X_{0}} \end{aligned} \)       (12)

\(a_{i}=\frac{1-X_{i}}{3}\)를 정의하면\(\frac{1}{\sqrt[3]{X_{i}}}\)를 테일러급수로 전개하면 식 (13)이 된다.

\(\begin{aligned} &\frac{1}{\sqrt[3]{X_{i}}}=1+a_{i}+2 a_{i}^{2}+\frac{14}{3} a_{i}^{3}+\frac{91}{3} a_{i}^{4}+\cdots=\\ &\sum_{j=0}^{k-1} c_{j} a_{i}^{j}+\sum_{j=k}^{\infty} c_{j} a_{i}^{j}=R_{i}^{(k)}+e_{i} \end{aligned}\)       (13)

K=2, 3, 4에 대한 세제곱근의 반복식을 간략하게 정리하면 식 (14)와 같다..

\(\begin{array}{l} a_{i}=\frac{1-X_{i}}{3} \\ \begin{aligned} (\mathrm{K}=2) & R_{i}^{(2)}=1+a_{i} \\ & X_{i+1}=X_{i}\left(R_{i}^{(2)}\right)^{3} \\ & Y_{i+1}=Y_{i} R_{i}^{(2)} \doteq \sqrt[3]{F}-2 a_{i}^{2} \sqrt{F} \\ (\mathrm{K}=3) & R_{i}^{(3)}=1+a_{i}+2 a_{i}^{2} \\ & X_{i+1}=X_{i}\left(R_{i}^{(3)}\right)^{3} \\ & Y_{i+1}=Y_{i} R_{i}^{(3)} \doteq \sqrt[3]{F}-\frac{14 \sqrt[3]{F}}{3} a_{i}^{3} \\ (\mathrm{K}=4) & R_{i}^{(4)}=1+a_{i}+2 a_{i}^{2}+\frac{14 a_{i}^{3}}{3} \\ & X_{i+1}=X_{i}\left(R_{i}^{(4)}\right)^{3} \\ & Y_{i+1}=Y_{i} R_{i}^{(4)} \doteq \sqrt[3]{F}-\frac{7 \sqrt[3]{F}}{3} a_{i}^{4} \end{aligned} \end{array}\)       (14)

식 (14)로부터 \(\left|a_{i}\right|<2^{-t}\)이면 i+1번째 오차 \(e_{i+1}\)은 식 (15)가 된다.

\(\begin{aligned} &e_{i+1}^{(2)} \doteq \sqrt[3]{F} 2 a_{i}^{2}<2^{-2 t+1} \sqrt[3]{F}<2^{-2 t+2}\\ &\begin{array}{l} e_{i+1}^{(3)} \doteq \frac{14 \sqrt[3]{F} a_{i}^{3}}{3}<\frac{14 \sqrt[3]{F}}{3} 2^{-3 t}<2^{-3 t+4} \\ e_{i+1}^{(4)} \doteq \frac{7 \sqrt[3]{F} a_{i}^{4}}{3}<\frac{35 \sqrt[3]{F}}{3} 2^{-4 t}<2^{-4 t+5} \end{array} \end{aligned}\)       (15)

3. N차 역제곱근 K차 골드스미트 알고리즘

3.1 N차 역제곱근 K차 골드스미트 알고리즘

부동소수점 수 F의 N차 역제곱근 \(Y_{n}=\frac{1}{\sqrt[N]{F}}\)은 초기값 Y₀를 정의하고, 반복식으로 \(Y_{i}(i=1, \dots, n)\)을 구하기 위해서 식 (16)을 근사계산하여 테이블에 미리작성해놓는다.

\(\begin{aligned} &T=\frac{1}{\sqrt[N]{F}}-e_{0}\\ &X_{0}=T^{N} F=\left(1-e_{0}^{N} \sqrt{F}\right)^{N}\\ &Y_{0}=T=\frac{\sqrt[N]{X_{0}}}{\sqrt[N]{F}} \end{aligned}\)       (16)

\(a_{0}=\frac{1-X_{0}}{N}\)를 정의하고 \(\frac{1}{\sqrt[N]{X_{0}}}\)를 테일러급수로 전개하면 식 (5)가 된다. 이로부터 X₁과 Y₁은 식 (17)과 같이 계산한다.

\(\begin{array}{l} X_{1}=X_{0}\left(R_{0}^{(k)}\right)^{N}=\left(1-e_{1}^{N} \sqrt{X_{0}}\right)^{N} \\ Y_{1}=Y_{0} R_{0}^{(k)}=\frac{1-e_{1}^{N} \sqrt{X_{0}}}{\sqrt{F}}=\frac{\sqrt[N]{X_{1}}}{\sqrt[N]{F}} \\ \quad \frac{1}{\sqrt[N]{F}}-\frac{\sqrt{X_{0}}}{\sqrt[N]{F}} \sum_{j=k}^{\infty} c_{j} a_{0}^{j}=\frac{1}{\sqrt[N]{F}}-e_{y 1} \\ e_{y 1}=\frac{\sqrt[N]{X_{0}}}{\sqrt[N]{F}} \sum_{j=k}^{\infty} c_{j} a_{0}^{j} \doteq \frac{c_{k} a_{0}^{k}}{\sqrt[N]{F}} \end{array}\)       (17)

이어서 X_i, Y_i로부터 X_i+1, Y_i+1을 구하는 반복식은 식 (18)과 같이 된다.

  \(\begin{aligned} &a_{i}=\frac{1-X_{i}}{N}\\ &R_{i}^{(k)}=\sum_{j=0}^{k-1} c_{j} a_{i}^{j}\\ &X_{i+1}=X_{i}\left(R_{i}^{(k)}\right)^{N}=\left(1-e_{i+1} \sqrt{X_{i}}\right)^{N}\\ &Y_{i+1}=Y_{i} R_{i}^{(k)}=\frac{1-e_{i+1} \sqrt{X_{i}}}{\sqrt[N]{F}}=\\ &\frac{1}{\sqrt{F}}-\frac{\sqrt[N]{X_{i}}}{\sqrt[N]{F}} \sum_{j=k}^{\infty} c_{j} a_{i}^{j}=\frac{1}{\sqrt[N]{F}}-e_{y(i+1)}\\ &e_{y(i+1)} \doteq \frac{c_{k} a_{i}^{k}}{\sqrt{F}} \end{aligned}\)     (18)

식 (18)의 \(\mathcal{e}_{y}(i+1)\)에서 c_k는 상수이고 \(\frac{1}{\sqrt[N]{F}}\)의 최대값은 알고 있다. 그러므로 \(\left|a_{i}\right|<2^{-t}\)이면 \(\mathcal{e}_{y}(i+1)\)의 최대값을 알 수 있다.i+1번째 오차 \(\mathcal{e}_{y}(i+1)\)가 일정한 값 이하가 되면 반복연산을 종료한다.

3.2 K차 골드스미스 역제곱근 알고리즘

\(F\)의 역제곱근 \(\frac{1}{\sqrt{F}}\)를 계산하기 위한 초기값은 식 (19)와 같다.

\(\begin{aligned} &T=\frac{1}{\sqrt{F}}-e_{0}\\ &X_{0}=T^{2} F=\left(1-e_{0} \sqrt{F}\right)^{2}\\ &Y_{0}=T=\frac{1-e_{0} \sqrt{F}}{\sqrt{F}}=\frac{\sqrt{X_{0}}}{\sqrt{F}} \end{aligned}\)       (19)

K=2, 3, 4에 대한 역제곱근의 반복식을 간략하게 정리하면 식 (20)과 같다.

\(\begin{array}{l} a_{i}=\frac{1-X_{i}}{2}\\ \begin{aligned} (\mathrm{K}=2) & R_{i}^{(2)}=1+a_{i} \\ & X_{i+1}=X_{i}\left(R_{i}^{(2)}\right)^{2} \\ & Y_{i+1}=Y_{i} R_{i}^{(2)} \doteq \frac{1}{\sqrt{F}}-\frac{3}{2 \sqrt{F}} a_{i}^{2} \\ (\mathrm{K}=3) & R_{i}^{(3)}=1+a_{i}+\frac{3 a_{i}^{2}}{2} \\ & X_{i+1}=X_{i}\left(R_{i}^{(3)}\right)^{2} \\ & Y_{i+1}=Y_{i} R_{i}^{(3)}=\frac{1}{\sqrt{F}}-\frac{5}{2 \sqrt{F}} a_{i}^{3} \\ (\mathrm{K}=4) & R_{i}^{(4)}=1+a_{i}+\frac{3 a_{i}^{2}}{2}+\frac{5 a_{i}^{3}}{3} \\ & X_{i+1}=X_{i}\left(R_{i}^{(4)}\right)^{2} \\ & Y_{i+1}=Y_{i} R_{i}^{(4)}=\frac{1}{\sqrt{F}}-\frac{35}{8 \sqrt{F}} a_{i}^{4} \end{aligned} \end{array} \)       (20)

식 (20)으로부터 \(\left|a_{i}\right|<2^{-t}\)이면 i+1번째 오차 \(e_{i+1}\)은 식 (21)이 된다.

\(\begin{array}{l} e_{i+1}^{(2)} \doteq \frac{3 a_{i}^{2}}{2 \sqrt{F}}<\frac{3}{2 \sqrt{F}} 2^{-2 t}<2^{-2 t+1} \\ e_{i+1}^{(3)} \doteq \frac{5 a_{i}^{3}}{2 \sqrt{F}}<\frac{5}{2 \sqrt{F}} 2^{-3 t}<2^{-3 t+2} \\ e_{i+1}^{(4)} \doteq \frac{35 a_{i}^{4}}{8 \sqrt{F}}<\frac{35}{8 \sqrt{F}} 2^{-4 t}<2^{-4 t+2} \end{array}\)       (21)

3.3 정확한 제곱근 연산

식 (20)에서 구한 Y_n은 근사값으로 ‘\(Y_{n}=\frac{1}{\sqrt{F}}-e_{n}\),\(1<F<2\)’이다. \(F\)의 유효자릿수를 w라고 하면, \(e_{n}<2^{-w-3}\)이 될 때까지 반복연산을 수행한다. IEEE-754[17]로 정의되는 단정도와 배정도 부동소수점수에서 w는 각각 24와 53이다. \(0.75 \times 2^{-w} \leq s<2^{-w}\)를 \(F\)에 더한 후에 Y_n을 곱하면 식 (22)가 된다.

\(\begin{array}{c} D=(F+s) Y_{n}=\sqrt{F}-e_{n} F+s Y_{n}=\sqrt{F}+e_{d} \\ =1 . f_{1}+0 . f_{2} \times 2^{-w}+e_{d} \end{array}\)       (22)

식 (22)에서 ‘\(0 \leq\left(0 . f_{2} * 2^{-w}+e_{d}\right)<2^{-w+1}\)’이므로 식 (23)이 성립한다.

\(\begin{aligned} &D=1 \cdot m_{1}+0 \cdot m_{2} * 2^{-w}\\ &\left(1 . m_{1}\right)^{2}=1 . t_{1}+0 . t_{2} * 2^{-w} \end{aligned}\)       (23)

식 (23)은 다음의 4가지 경우로 구분된다.

1. \(1 . t_{1}=F\)이고 \(0 . t_{2}=0\)이면 \(\sqrt{F}=1 \cdot m_{1}\)이고 스티키(sticky) 비트는 0이다.

2. \(1 . t_{1}=F\)이고 \(0 . t_{2} \neq 0\)이면 \(\sqrt{F}=1 \cdot m_{1}-2^{-w}\)이고 스티키 비트는 1이다.

3. \(1 . t_{1}<F\)이면 \(\sqrt{F}=1 \cdot m_{1}\)이고 스티키 비트는 1이다.

4. \(1 . t_{1}>F\)이면 \(\sqrt{F}=1 \cdot m_{1}-2^{-w}\)이고 스티키 비트는 1이다.

3.4 K차 골드스미스 역세제곱근 알고리즘

\(F\)의 역세제곱근 \(\frac{1}{\sqrt[3]{F}}\)를 계산하기 위한 초기값은 식 (24)와 같다.

\(\begin{aligned} &T=\frac{1}{\sqrt[3]{F}}-e_{0}\\ &X_{0}=T^{3} F=\left(1-e_{0} \sqrt[3]{F}\right)^{3}\\ &Y_{0}=T=\frac{1-e_{0} \sqrt[3]{F}}{\sqrt[3]{F}}=\frac{\sqrt[3]{X_{0}}}{\sqrt[3]{F}} \end{aligned}\)       (24)

K=2,3,4에 대한 역세제곱근의 반복식을 간략하게 정리하면 식 (25)와 같다..

\(\begin{array}{l} a_{i}=\frac{1-X_{i}}{3} \\ \begin{aligned} (\mathrm{K}=2) & R_{i}^{(2)}=1+a_{i} \\ X_{i+1} &=X_{i}\left(R_{i}^{(2)}\right)^{3} \\ Y_{i+1} &=Y_{i} R_{i}^{(2)} \doteq \frac{1}{\sqrt[3]{F}}-\frac{2 a_{i}^{2}}{\sqrt[3]{F}} \\ (\mathrm{K}=3) & R_{i}^{(3)}=1+a_{i}+2 a_{i}^{2} \\ X_{i+1} &=X_{i}\left(R_{i}^{(3)}\right)^{3} \\ Y_{i+1} &=Y_{i} R_{i}^{(3)} \div \frac{1}{\sqrt[3]{F}}-\frac{14}{3 \sqrt[3]{F}} a_{i}^{3} \\ (\mathrm{K}=4) & R_{i}^{(4)}=1+a_{i}+2 a_{i}^{2}+\frac{14 a_{i}^{3}}{3} \\ X_{i+1} &=X_{i}\left(R_{i}^{(4)}\right)^{3} \\ Y_{i+1} &=Y_{i} R_{i}^{(4)} \doteq \frac{1}{\sqrt[3]{F}}-\frac{7}{3 \sqrt[3]{F}} a_{i}^{4} \end{aligned} \end{array}\)       (25)

식 (25)로부터 \(\left|a_{i}\right|<2^{-t}\)이면 i+1번째 오차 \(e_{i+1}\)은 식 (26)이 된다.

\(\begin{aligned} &e_{i+1}^{(2)} \doteq \frac{2 a_{i}^{2}}{\sqrt[3]{F}}<\frac{2^{-2 t+1}}{\sqrt[3]{F}}<2^{-2 t+1}\\ &e_{i+1}^{(3)} \doteq \frac{14 a_{i}^{3}}{3 \sqrt[3]{F}}<\frac{14}{3 \sqrt[3]{F}} 2^{-3 t}<2^{-3 t+3}\\ &e_{i+1}^{(4)} \doteq \frac{7 a_{i}^{4}}{3 \sqrt[3]{F}}<\frac{35}{3 \sqrt[3]{F}} 2^{-4 t}<2^{-4 t+4}\\ \end{aligned}\)       (26)

4. 연구 결과 비교

본 논문에서 제안한 알고리즘과 기존의 골드스미트 알고리즘을 비교하기 위하여 난수 발생기를 이용하여 단정도실수와 배정도실수를 각각 10⁶개를 생성하여 제곱근을 계산하였다.Table1과 Table2에 그 결과를 보인다.

종래 골드스미트 제곱근 알고리즘에서는 최대 오차를 고려해서 반복 횟수를 정했다. 즉, 종래 알고리즘에 의한 단정도실수 제곱근은 ‘96×6’ 테이블을 사용하면 12회의 곱셈을 수행하였다, 본 논문에서 제안한 알고리즘에서는 k=2인 경우에 평균 6.91회의 곱셈, k = 3인 경우에는 평균 6.41회의 곱셈으로 제곱근을 계산할 수 있었다.

배정도실수 제곱근 연산에서 ‘192X7’ 테이블을 사용하면 종래 골드스미트 알고리즘에서는 12회의 곱셈을 수행하였다. 본 논문에서 제안한 알고리즘에서는 k=2인 경우에 평균 9.15회의 곱셈,k=3인 경우에는 평균 8.72회의 곱셈으로 제곱근을 계산할 수 있었다.

5. 결론

부동소수점수 Z의 N차 제곱근(squareroot) 및 세제곱근(cubicroot)의 사용빈도는 높지 않으나 계산시간이 오래 걸리므로 전용 회로를 채택한 시스템이늘고 있다.

Table 1. Number of multiply of single precision square root

Table 2. Number of multiply of double precision square root

본 논문에서는 골드스미트 제곱근 알고리즘에 테일러급수를 적용하여 가칭 N차 제곱근 K차 골드스미트 알고리즘을 제안하였다. 제안한 알고리즘은\(\sqrt[N]{Z}=\sqrt[N]{F} \sqrt[N]{2^{p \bmod N}} \times 2^{\left(\frac{p}{N}\right)}\)에서 \(\sqrt[N]{F}\)과 \(\frac{1}{\sqrt[N]{F}}\)을 반복 곱셈으로 계산한다. N차 제곱근 \(Y_{i+1}=\sqrt[N]{F}\)을 연산하기 위하여 초기값 X₀와 Y₀를 다음과 같이 미리 연산하여 테이블 등에 저장해놓는다.

\(T=\sqrt[N]{F}-e_{0}, \quad X_{0}=T^{N} F^{N-1}, \quad Y_{0}=T F\)

반복식은 다음과 같다.

\(\begin{aligned} &a_{i}=\frac{1-X_{i}}{N}\\ &\frac{1}{\sqrt{X_{i}}}=\sum_{j=0}^{k-1} c_{j} a_{i}^{j}+\sum_{j=k}^{\infty} c_{j} a_{i}^{j}=R_{i}^{(k)}+e_{r}\\ &X_{i+1}=X_{i}\left(R_{i}^{(k)}\right)^{N}\\ &Y_{i+1}=Y_{i} R_{i}^{(k)}+e_{i+1} \end{aligned}\)

N차 역제곱근 \(Y_{i+1}=\frac{1}{\sqrt[N]{F}}\)을 연산하기 위한 초기값 X₀와 Y₀는 \(T=\frac{1}{\sqrt[N]{F}}-e_{0}, \quad X_{0}=T^{N} F, \quad Y_{0}=T\) 이고, 반복식은 동일하다.

본 논문에서 제안한 알고리즘은 곱셈만을 사용하므로 하드웨어 구현이 용이하다. 또한 \(e_{i+1}\)을 예측할 수 있으므로 유효자릿수까지만 연산할 수 있으므로불필요한 연산을 줄일 수 있다.