A Study on the Algorithm Transparency Act and Right to Explanation - Focus on the Review of Algorithm Transparency Act -

Abstract

Recently, the Justice Party is pushing for legislation of a bill called the Algorithm Transparency Act. The bill is a revision to the Information and Communication Network Act proposed by Rep. Ryu Ho-jung on June 25, 2021, and aims to form a separate committee under the Korea Communications Commission to ask organizations operated for profit to search algorithms and explain the principles of arrangement. Currently, Korea treats algorithms as corporate secrets and does not disclose them, while the European Union (EU) implements the Personal Information Protection Regulations (GDPR) in relation to algorithm regulations. Therefore, this study summarizes the main contents of the Algorithm Transparency Act currently proposed to the National Assembly and reviews the current status of algorithm-related laws and systems in the European Union (EU) and the improvement of algorithm transparency.

최근 정의당에서 이른바 '알고리즘 투명화법'이라 불리는 법안의 입법을 추진하고 있다. 이 법안은 류호정 의원이 2021년 6월 25일 대표발의한 「정보통신망법」 개정안으로서 방송통신위원회 산하에 별도 위원회를 구성하여 누구든 영리 목적으로 운영되는 조직에 알고리즘 검색과 배열 원리의 설명을 요구할 권리를 갖도록 하는 것이 골자이며, 해당 법안은 알고리즘에 관한 최소주의적 규제를 통해 공정경쟁과 노동자의 안전을 도모하고자 한다. 현재 우리나라는 알고리즘을 기업비밀로 취급하여 공개하지 않으나 반면, 유럽연합(EU)에서는 알고리즘 규제와 관련하여 개인정보보호규정(GDPR)을 시행하고 있다. 이에 본 연구에서는 현재 국회에 발의되어 있는 '알고리즘 투명화법안'의 주요 내용을 정리하고, 유럽연합(EU)의 알고리즘 관련 법·제도 현황과 알고리즘 투명성 제고에 대한 내용을 검토해 보고자 한다.

I. Introduction

최근 정보통신기술(ICT)의 발전과 지능정보사회의 도래, 코로나19가 촉발한 비대면 사회로의 급격한 전환은 배달, 배송, 택배, 온라인 쇼핑 및 유통 등의 서비스 분야에서 플랫폼 기업의 성장을 가속화하고 있다. 또한 플랫폼 기업을 포함한 국가기관 등이 제공하는 서비스에 적용되는 알고리즘을 통하여 기업은 이윤을 창출하고 있다.

이처럼 인공지능(AI)을 이용하거나 기반한 서비스가 증가하면서 ‘알고리즘 설명요구권’을 보장하는 내용의 법안들이 발의되고 있다. 그러나 현재 우리나라는 알고리즘을 기업 비밀로 취급하여 공개하지 않는다. 이에 최근 국내 한 배달플랫폼 업체는 라이더들의 식사나 생리현상 등을 위한 시간을 고려하지 않은 알고리즘을 기반으로 AI 배차시스템을 설정하고 근무 평점과 일감 배정을 실시해 논란이 일었으나, AI가 판단한 내용의 기준을 밝힐 수 없었다[1].

반면, 이미 외국에서는 알고리즘 설명요구권이 법제화된 사례가 있다. 2018년 5월 시행된 유럽의 개인정보보호 규정(General Data Protection Regulation, GDPR)에서는 알고리즘의 결정에 대해 개인이 개인정보 이용 업체에 ‘설명을 요구할 권리’가 있음을 최초로 명문화하였다.

따라서 우리나라도 알고리즘 작동 원리의 의구심을 해소할 수단으로 알고리즘 공개가 시급하다. 법안이 요구하는 알고리즘 설명 원칙은 알고리즘의 모든 것을 공개하는 것이 아닌 알고리즘을 설계할 때 설정한 굵직한 기준과 가이드라인 등을 설명하는 것으로, 기업에 불이익을 초래하지 않는 선에서 알고리즘 서비스를 제공하는 자에게 이해관계자가 설명을 요구할 수 있도록 하여야 한다[2].

이에 본 연구에서는 현재 국회에 발의되어 있는 ‘알고리즘 투명화법안’의 주요 내용을 정리하고, 유럽연합(EU)의 알고리즘 관련 법·제도 현황과 알고리즘 투명성 제고에 대한 내용을 검토해 보고자 한다.

II. The Main Contents of the Algorithm Transparency Act

1. Concepts and Issues of Algorithms

알고리즘이란 문제를 해결하기 위해 필요한 단계의 순서를 일정한 규칙에 따라 재배열한 논리 절차를 말하며, 일반적으로는 어떤 과업을 수행하거나 문제를 해결하는 일련의 절차로 정의되고 있다[3]. 이러한 알고리즘을 가장 많이 활용하는 주체인 기업은 기업 속성상 영리를 목적으로 하는 상업성을 가지게 되며, 이윤이 극대화될 수 있는 방향으로 알고리즘 검색 결과를 나타나게 하고 있어 인터넷 검색을 통해 정보를 획득하는 대부분의 소비자들은 그에 대한 의존도는 매우 높은 실정이다[4].

그러나 알고리즘이 과연 공정하고 중립적이며 객관적인가에 대해 현재 우리나라는 알고리즘 작동 방식을 기업 비밀로 취급하여 공개하지 않고, 알고리즘에 의한 비의도적인 차별성, 편향성, 윤리적인 문제들은 지속적으로 제기되고 있다[5].

2. Right to Explanation of Algorithms

알고리즘 설명요구권이란 누구든 영리 목적으로 운영되는 조직에 알고리즘 검색, 배열 원리의 설명을 요구할 권리를 갖도록 하는 것을 말한다. 여기서 법안이 요구하는 알고리즘 설명 원칙은 알고리즘의 모든 것을 공개하라는 것이 아닌 알고리즘을 설계할 때 설정한 굵직한 기준과 가이드라인 등을 설명하라는 것이 핵심이다.

알고리즘 설명요구권은 알고리즘의 설계와 작동원리에 대해 이용자가 사업자에 설명을 요구할 수 있는 법적 권리를 말하며, 최근 인공지능(AI)을 이용하거나 기반한 서비스가 증가하면서 알고리즘 설명요구권을 보장하는 내용의 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안’, ‘인공지능 육성 및 신뢰 조성 등에 관한 법률안’, ‘개인정보 보호법 2차 개정안’ 등의 법안들이 발의되고 있다[6]. 그러나 알고리즘 공개가 자칫 기업의 영업 비밀이나 지적재산권 침해로 이어질 수 있기 때문에 기업의 기술권을 침해하지 않는 선에서 설명 범위를 설정하는 것이 중요하다.

3. Establish the Algorithms Transparency Com mittee

개정안에서는 알고리즘을 기업이 영업 비밀 등을 이유로 설명을 거부한다면 그 적절성을 알고리즘 투명성 위원회가 심의하도록 하고 있다. 위원회의 심의 결과 개인의 ‘설명 요구’가 합당하다고 판단된 경우 기업이나 조직은 이를 거부할 수 없으며, 이를 거부하게 될 경우 매출액 기준 4% 이하의 과징금을 위원회가 부과한다.

또한 서비스 이용자에게 명백히 해를 끼칠 우려가 있는 경우 알고리즘투명성위원회가 알고리즘을 조사해 시정명령을 내릴 수 있도록 하며, 이 외에도 불공정거래가 발생할 경우나 발생할 우려가 존재하는 경우 알고리즘 투명성 위원회가 조사를 진행할 수 있는 권리를 부여하고 있다.

만약 알고리즘투명성위원회에서 ‘설명 요구’가 없다는 판단이 내려졌다 할지라도 ‘알고리즘분쟁조정위원회’를 통하여 추가적으로 해결 가능성을 모색할 수 있다.

III. EU Algorithm Regulation Act

1. EU GDPR(General Data Protection Regulation)

EU의 개인정보보호규정(GDPR)은 유럽연합 기본권 헌장에서 보장하는 개인정보를 보호받을 권리의 보장을 강화할 목적으로 기존의 개인정보보호에 대한 데이터 보호 지침(Data Protection Directive, DPD)의 핵심사항을 대폭 강화하는 형태로 제정되었으며, 전문 총 173개 조항과 본문 총 11장 99개의 조항으로 구성되어 있다[7].

GDPR은 정보통신기술(ICT)의 발전에 대응하기 위한 법·제도로써 EU 회원국들 외에도 EU 회원국들의 개인정보를 취급·처리하는 전 세계 국가들까지도 마찬가지로 의무적으로 적용되는 개인정보보호규정으로써 국제적 기준의 역할을 하고 있다[8]. 이러한 GDPR의 핵심 내용은 개인정보 이용을 쉽게 하는 한편 이에 대한 통제권도 대폭 강화한다는 점인데, 알고리즘 투명성과 관련해서 프로파일링 등 자동화된 개인적 의사결정에 대해 ‘설명을 요구할 권리’도 적극 포함하고 있다. 또한 데이터 주체는 알고리즘에 의해 자동화된 결정에 종속되지 않고 그 결정 과정에 대한 설명과 반론을 제기할 권리가 있음을 나타내고 있다.

2. Right to Explanation of GDPR

EU의 개인정보보호규정(GDPR)에서는 ‘설명을 요구할 권리’를 제시하고 있다. 이는 알고리즘이 만든 특정화된 결정에 대하여 정보의 주체가 이해하고 정보관리자에게 자신의 권리를 보호하기 위하여 설명을 요구할 권리가 있음을 의미하고 있다.

알고리즘 설명을 요구할 권리는 정보주체에게 제공되어야 할 정보(제13조, 제14조), 정보주체의 개인정보 접근권 (제15조) 및 프로파일링을 포함한 자동화된 개별 의사결정 (제22조)으로부터 도출되는 권리로 제시되고 있다[9].

이에 대해 각 조항들이 자동화된 의사결정에 대한 설명을 들을 권리에 대해서 얼마나 구체적·적극적으로 인정하고 있는가에 대해 논란이 있으나, GDPR의 규정으로부터 고안된 설명을 요구할 권리는 알고리즘에 기반한 자동화된 의사결정뿐만 아니라 개인정보의 처리에 관한 이용자 통제의 가능성 또한 규범적으로 분명하게 제시했다고 볼 수 있다[10].

3. Algorithms Transparency Improvement

알고리즘 그 자체는 인간이 만들어 낸 것으로 그 설계에 영향을 준 주체뿐만 아니라 목적도 반드시 고려해야 하고, 이러한 측면에서 투명성이 그 대안으로 제시될 수 있다.

또한 알고리즘 투명성은 사용자들에게 합리적이며 공정한 판단의 기회를 제공한다는 점에 대해서 정보의 신뢰도를 높이는 중요한 원칙이나 수단으로 볼 수 있는데, 결국 알고리즘 투명성이란 해당 기업이나 조직의 영업 비밀에 해당하는 알고리즘의 공개 범위에 대해서 어떻게 정하고 있으며 어떤 방식으로 누가 관리·통제하는가의 문제로 보이기에 일정한 기준을 정해야 할 필요성이 있다[11].

IV. Conclusions

4차 산업전반에 걸쳐 정보통신기술(ICT)의 발전과 지능정보사회의 도래, 코로나19가 촉발한 비대면 사회로의 급격한 전환 등으로부터 인공지능 기술이 활용되고 있으며 자동화된 알고리즘의 보편화는 산업 전반적으로 변화의 바람을 불러일으키고 있다.

현재 우리나라는 알고리즘 공개가 기업의 영업 비밀이나 지적재산권 침해로 이어질 수 있기 때문에 공개하지 않고 있다. 이에 알고리즘 설계와 작동원리에 의구심이 쌓이는 상황에서 알고리즘 작동 원리의 의구심을 해소할 수단으로써 데이터 생산 주체인 개인이 자신의 정보를 기반으로 작동한 알고리즘이 어떻게 작동했는지 정당한 설명을 요구할 수 있는 법안이 필요하다고 생각된다.

또한 각국은 알고리즘 규제를 위한 법·제도의 정비를 서두르고 있는데, 앞서 소개한 유럽연합의 개인정보보호규정 (GDPR)이 대표적인 조치라 할 수 있으며, 유럽연합의 ‘설명을 요구할 권리’는 지금까지 영업적 기밀로 간주되어 왔던 알고리즘에 대한 사회적 규제의 가능성을 제시했다는 점에서 큰 의의가 있다고 보여진다.

아직 법·제도적으로 정의되지 않거나 해석이 명확하지 않은 점을 감안하여 알고리즘 투명화를 위한 방향에 대해 사전적 고찰을 하였다는데 본 논문의 의의가 있으며, 앞으로 지속적인 연구와 해외의 법제동향분석을 통하여 정보통신기술(ICT) 시대에 맞는 규범체계를 확립할 수 있도록 노력이 필요하다고 생각된다.