• 한국컴퓨터정보학회:학술대회논문집
• /
• 한국컴퓨터정보학회 2023년도 제67차 동계학술대회논문집 31권1호
• /
• pp.225-226
• /
• 2023

인공지능 기술이 사회 전반에 확산하며, 인공지능 윤리 문제 또한 큰 이슈가 되었다. 이에 따라 정부, 기업, 연구기관, 국제기구 등 다양한 단체에서 인공지능 기준안을 발표하고 있으나 이러한 인공지능 윤리 기준안을 발표하는 것으로 인공지능 윤리 문제를 해결할 수 없다. 이에 인공지능 윤리교육이 절실히 필요하다. 그러나 학교급에서의 인공지능 윤리교육을 위한 프로그램이 미흡하다. 이러한 상황에서 Moral machine은 인공지능을 위한 윤리교육 도구로 학교급을 막론하고 활발하게 사용되고 있다. 그러나 Moral machine의 딜레마 상황은 교육용으로 다소 부적절한 요소가 있다. 이에 본 연구에서는 인공지능 윤리교육에 적합한 인공지능 윤리 딜레마 문항을 사람이 중심이 되는 인공지능 기준의 3대 원칙을 바탕으로 개발하였다.

• 산업융합연구
• /
• 제20권5호
• /
• pp.83-92
• /
• 2022

인공지능 기술로 인한 사회·윤리적 문제 사례가 발생하면서 인공지능의 위험과 부작용에 대한 사회적 관심과 함께 인공지능 윤리가 주목받고 있다. 인공지능 윤리는 알고, 느끼는 것에 그치는 것이 아니라 행동과 실천으로 이루어져야 한다. 이에 본 논문은 인공지능 윤리의 실천력을 강화하기 위한 인공지능 윤리 교육 모델을 제안하고자 한다. 인공지능 윤리교육 모델은 선행 연구 분석을 통해 교육목표와 인공지능을 이용한 문제해결 프로세스를 도출하고, 실천력 강화를 위한 교수학습방법을 적용하였으며 기존에 제안된 인공지능 교육 모델과 비교 분석하여 그 차이를 도출하였다. 본 논문에서 제안하는 인공지능 윤리 교육 모델은 컴퓨팅 사고력 함양과 인공지능 윤리의 실천력 강화를 목표로 한다. 이를 위해 인공지능을 이용한 문제해결 프로세스를 6단계로 제안하고, 인공지능 특성을 반영한 인공지능 윤리요소를 도출하여 문제해결 프로세스에 적용하였다. 또한, 인공지능 윤리 의식에 대한 사전·사후 평가와 과정 평가를 통해 인공지능 윤리 기준을 무의식적으로 확인하게 하고, 학습자 중심의 교수학습방법을 적용하여 학습자의 윤리 실천을 습관화하도록 설계하였다. 본 연구를 통해 개발된 인공지능 윤리 교육 모델이 컴퓨팅 사고력을 함양하고, 인공지능 윤리가 실천으로 이어지는 인공지능 교육이 될 수 있을 것으로 기대한다.

• 인터넷정보학회논문지
• /
• 제23권3호
• /
• pp.111-123
• /
• 2022

지능정보화 사회에서 가장 핵심으로 발전하고 있는 인공지능은 인간에게 편의성과 긍정적인 삶의 변화를 가져오고 있다. 하지만 인공지능 발전과 함께 인간의 인격권과 재산이 위협받고, 윤리적인 문제가 발생하는 사례도 증가하고 있기 때문에 그에 따른 대안이 필요하다. 본 연구에서는 인공지능의 역기능에서 가장 쟁점화되고 있는 인공지능 윤리(Artificial Intelligence Ethics) 문제를 인공지능 윤리원칙과 구성요소 기반 하에 우선적으로 인간의 인격권과 재산을 보호할 수 있도록 인공지능 윤리 측정지표를 연구, 개발하는 데 목표를 두었다. 인공지능 윤리 측정지표를 연구, 개발하기 위해 다양한 관련 문헌과 전문가 심층 면접(FGI), 델파이 설문조사를 실시하여 43개 항목의 윤리 측정지표를 도출하였다. 설문조사와 통계분석에 의하여 윤리 측정지표에 대한 기술통계량 분석, 신뢰도 분석, 상관관계 분석으로 40개 항목의 인공지능 윤리 측정지표를 확정하여 제안하였다. 제안된 인공지능 윤리 측정지표는 인공지능 설계, 개발, 교육, 인증, 운영, 표준화 등에 활용될 수 있으며, 안전하고 신뢰할 수 있는 인공지능 발전에 기여할 수 있을 것이다.

• 융합보안논문지
• /
• 제24권2호
• /
• pp.63-70
• /
• 2024

인공지능 기술의 발전으로 우리의 삶은 혁신적으로 변화하고 있지만, 동시에 윤리적 문제들도 새롭게 대두되고 있다. 특히 알고리즘 및 데이터 편향성에 의한 차별문제, 딥페이크 및 개인정보 유출 문제 등은 인공지능 서비스확대에 따라 사회적으로 해결해야 할 선결과제라 판단된다. 이를 위해 본 논문에서는 인공지능 윤리 측면에서 인공지능의 개념과 윤리적 이슈를 살펴보고 이를 예방하기 위한 각국의 윤리 가이드라인, 법률, 인공지능 영향평가제도, 인공지능 인증제도와 인공지능 알고리즘 투명성 관련 기술 현황 등을 살펴보고 인공지능 윤리 강화를 위한 제도적 개선방안을 제시하고자 한다.

• 디지털융복합연구
• /
• 제20권2호
• /
• pp.269-275
• /
• 2022

사람을 대상으로 하는 인공지능 서비스가 증가하면서 인공지능에서도 윤리적 토대 위에서 이루어져야 한다는 사회적 요구가 증가하고 있다. 이러한 흐름에 따라 정부와 기업에서는 인공지능 윤리와 관련된 정책, 규범 등을 마련하고 있다. 합리적인 정책, 규범을 마련하기 위해서는 대중들이 가지고 있는 인식을 파악하는 것이 첫 번째 단계이다. 본 논문에서는 인공지능과 윤리에 대한 대중들의 인식을 파악하기 위해 소셜데이터와 뉴스 댓글을 수집하고 관심도 분석, 감성 분석, 담론 분석 수행 후 시각화하였다. 분석 결과, "인공지능 윤리"에 대한 관심도와 '인공지능" 호감도는 반비례하는 상관관계를 보여주었다. 담론분석 결과로, 가장 큰 이슈가 "개인정보 유출"이었고 학습 데이터의 오염 및 편향 문제와 컴퓨터로 만들어진 인공지능에게 법인격을 부여해야 하는지에 대한 담론도 보여주었다. 본 연구가 인공지능 윤리 규범, 정책을 마련할 때 대중들의 인식을 파악할 수 있는 자료로 활용될 수 있을 것이다.

• 창의정보문화연구
• /
• 제7권1호
• /
• pp.11-19
• /
• 2021

인공지능 국가전략이 발표되면서 인공지능의 교육에 대한 다양한 정책들이 제안되고 있고 교사를 대상으로 하는 인공지능융합교육도 활발히 추진되고 있다. 또한 인공지능 스피커는 각 가정에 판매 및 보급이 되고 있는 실정이고, 인공지능 스피커의 교육적 활용 현장연구들이 시작되고 있다. 이 연구에서는 인공지능 윤리에서 인공지능 스피커가 발생시킬 논란이 될 문제들을 살펴보고, 가정이나 학교에서 인공지능 스피커가 활용될 때 발생할 수 있는 윤리적 딜레마를 도출해보고자 한다. 이 딜레마는 인공지능 스피커에 대한 집단별 도덕적 판단력 수준 측정 MCT(Moral Competence Test)에 활용할 수 있을 것이다.

• 디지털융복합연구
• /
• 제20권1호
• /
• pp.71-86
• /
• 2022

본 연구의 목적은 인공지능 기술 또는 서비스를 수용하는 사용자의 윤리성 인식을 측정하기 위한 척도 개발 및 타당화에 있다. 이를 위해 인공지능 윤리성 관련 문헌 분석을 통해 구성개념 및 속성을 확인하였다. 전국의 10대-70대 남녀 133명(개방형 설문:1차 문항), 273명(예비조사:2차 문항), 500명(본조사:최종 문항)을 대상으로 실시한 온라인 설문조사 결과를 확인적 요인분석에 의해 정제하여 최종적으로 인공지능기술 윤리성 척도를 개발하였다. 인공지능기술 윤리성 인식 척도는 총 4개 요인(투명성, 안전성, 공정성, 책임성) 16개 문항으로 개발하여 일반적인 인공지능기술 관련 윤리성 인식을 세부 요인별로 측정할 수 있도록 하였다. 개발된 척도를 활용하여 다양한 분야의 측정 변인들과의 관련성을 밝힐 수 있을 것이며, 인공지능기술 발전의 초기 단계에서 윤리성 인식을 높이기 위한 기초 데이터를 제공하는 데 중요한 역할을 할 것으로 기대한다.

• 한국정보통신학회논문지
• /
• 제25권8호
• /
• pp.1013-1018
• /
• 2021

최근 자율주행 자동차가 일으킨 사고 때문에 인공지능의 윤리적 측면에 대한 논의가 활발히 진행되고 있다. 본 논문은 인공지능이 윤리적 요소와 필연적으로 결부되어 있음을 로봇-인공지능 윤리 관련 개념과 공학기술로부터 확인하고 윤리적 측면이 사후적으로 발생하는 것이 아니라 내장되어 있음을 논한다. 또한, 자율주행 자동차와 관련된 윤리적 문제의 실마리가 될 수 있는 트롤리 딜레마에 대한 해결방법을 고안한다. 우선적으로 베이지안 네트워크를 작성하고 전처리 과정을 거쳐 중요하고 영향력 있는 데이터만 남도록 하며, 네트워크의 정확한 수치를 계산하기 위해 크라우드 소싱과 외삽법을 이용한다. 이러한 과정을 통해 알고리즘 및 모델을 구현할 때에 인간의 주관이 필연적으로 포함될 수밖에 없음을 주장하고 인공지능 시스템에 관한 왜곡과 편향을 방지하기 위해 전공 교육과 구분되는 공학 교양 교육, 특히 윤리 교육의 필요성과 방향에 대해 논한다.

• 과학교육연구지
• /
• 제45권1호
• /
• pp.105-117
• /
• 2021

이 연구의 목적은 인공지능 윤리의식에 대한 초등학교, 중학교, 고등학교 학생들의 성차를 분석하는 것이다. 과연 인공지능 윤리의식에 성차가 존재하는지, 존재한다면 언제부터 성차가 발생하는지를 알아보기 위한 연구이다. 본 연구는 I 광역시 초등학생 198명(여학생 98명, 남학생 100명), 중학생 265명(여학생 166명, 남학생 99명), 고등학생 114명(여학생 58명, 남학생 56명)을 대상으로 실시하였다. 본 연구 결과는 다음과 같다. 첫째, 전체 남학생과 여학생 사이의 인공지능 윤리의식의 성차가 확인되었다. 둘째, 인공지능 윤리의식의 성차는 초등학교에서 중학교, 고등학교로 학령이 높아질수록 확고해지는 경향이 있었다. 셋째, 초등학생, 중학생, 고등학생 모든 단계에서 여학생은 아직 인공지능에 대한 신뢰성이 그리 높지 않고, 차별 금지에 대한 우려가 남학생에 비해 크며, 예술 등의 분야에서 인공지능의 인간 영역에의 진입 허용에 대해 부정적인 입장을 가지고 있는 것으로 파악되었다. 넷째, 학령과 성별의 상호 작용 효과는 안정성 및 신뢰성, 그리고 허용과 한계 범주에서 확인되었다. 이러한 결과들을 종합해 볼 때, 인공지능 교육 활동시 인공지능 윤리의식에 성차가 생기지 않도록 교육 프로그램을 양성 평등적으로 접근하는 교육적 방안이 필요하다고 할 수 있다.

• 정보교육학회논문지
• /
• 제25권6호
• /
• pp.947-960
• /
• 2021

본 연구는 대학생의 인공지능 윤리 인식을 파악하여 대학 교양 인공지능 윤리 교육의 방향성을 탐색하고자 한다. 대학생 83명이 총 5개의 인공지능 윤리 토론 주제에 대한 의견을 작성하고, 작성된 텍스트를 기반으로 텍스트 마이닝 중 언어 네트워크를 이용하여 분석하였다. 분석 결과, 첫째, 인공지능 사회의 미래에 대해서 62.5%의 학생이 긍정적으로 바라보고 있었다. 둘째, 자율주행 자동차 사고 발생 시 39.2%의 학생이 현재 자율주행 수준으로는 차량 소유자의 책임으로 생각하였다. 셋째, 인공지능 발전의 역기능으로는 사생활 침해와 기술 악용, 정보편식을 꼽았다. 역기능 최소화 방안으로 인공지능 사용자와 개발자 모두의 윤리 교육이 필요하며 제도적인 준비도 병행되어야 한다고 언급하였다. 넷째, 얼굴 인식 기술이 보편화된 사회에 대해 19.2%의 학생만이 긍정적인 의견을 나타내었다. 마지막으로 데이터 수집 시 개인정보 이용 동의를 얻은 부분만 활용해야 할 뿐 아니라 도덕적인 기준이 없는 인공지능 활용 방안에 대해 사용자와 개발자 모두의 윤리적 소양을 강조하였다. 본 연구는 대학 교양 수준의 인공지능 윤리 교육을 설계할 때 시사점을 제공한다는 점에서 의의가 있다.