• 한국콘텐츠학회논문지
• /
• 제20권8호
• /
• pp.350-358
• /
• 2020

본 연구는 인공지능에 대한 지식과 감정적 요인 그리고 수용의도 간의 관계에서 위험인식이 어떤 영향을 미치는지 그 과정을 살펴보고자 매개 및 조절효과를 실증 분석하였고, 인공지능의 수용성을 높일 수 있는 시사점을 제시하였다. 이를 위해 10대부터 40대까지 설문조사를 실시하여 1,969명의 유효 표본을 확보하였고, 분석방법으로는 매개회귀분석과 조절회귀분석을 활용하였다. 분석결과에 따르면, 첫째, 인공지능에 대한 지식과 감정은 인공지능 수용의도에 유의한 영향을 보였다. 둘째, 인공지능에 대한 감정과 수용의도의 관계에서 위험 인식은 부분매개효과 및 조절효과를 확인하였다. 셋째, 인공지능에 대한 지식과 수용의도의 관계에서 위험인식은 조절효과만 유의하게 나타났다. 종합적으로, 인공지능에 대한 감정이 부정적으로 형성될수록 개인이 느끼는 위험인식이 높아지게 되고, 높아진 위험인식은 인공지능의 수용의도를 낮출 수 있는 과정을 반영하고 있었다. 또한 인공지능에 대한 감정변수의 영향력이 지식변수보다 더욱 강한 영향을 미치고 있음을 확인하였고, 인공지능에 대한 위험인식이 낮은 집단일수록 인공지능에 대한 지식과 감정에 대한 영향력이 더욱 뚜렷하게 나타났다. 분석결과를 바탕으로 연구의 시사점과 향후 연구를 위한 제언을 논의하였고, 인공지능의 성공적인 사회적 안착을 위해 보다 다양하고 확장적인 연구들을 기대한다.

• 한국인터넷방송통신학회논문지
• /
• 제24권1호
• /
• pp.115-123
• /
• 2024

본 연구의 목적은 인공지능과 위험관리라는 2가지 키워드를 통해 어떻게 인공지능 서비스의 장점 활용과 한계요인을 동시에 극복하는데 기여 하고자 한다. 이를 위해 2가지 사례인 (1) 인공지능을 활용한 위험 모니터링 프로세스 제시와 (2) 인공지능 서비스의 개발 및 운영에서 등장하는 한계요인을 최소화하기 위한 운영 툴킷에 대해 소개 하였다. 이 사례 분석을 통해 다음과 같은 시사점이 제안하고자 한다. 첫째, 인공지능 서비스는 우리 삶에 깊숙이 관여하고 있으며 이로 인해 등장하는 한계 요인을 최소화하는 장치가 필요하다. 둘째, 인공지능을 활용한 위험관리 모니터링은 적합하고 신뢰성이 있는 데이터 확보가 우선적으로 고려되어야 한다. 셋째, 인공지능 서비스의 개발과 운영시 등장하는 한계를 극복하기 위해서는 업무 단계별로 위험관리 프로세스를 적용하여 상시 모니터링이 요구된다 라는 것이다. 본 연구는 발전하고 있는 인공지능이 제공하고 한계요인을 최소화 할 수 있는 방안에 대한 연구이며 향후 관련 시장의 성장과 발달에서 위험관리에 대한 연구에 기여 할 수 있다.

• 한국항해항만학회지
• /
• 제46권3호
• /
• pp.269-279
• /
• 2022

인공지능의 발전으로 산업계 전반에서 시스템의 자동화를 위해 인공지능을 도입하고 있다. 해양산업분야에서도 자율운항선박이라는 패러다임을 통해 인공지능을 단계적으로 적용하고 있다. 이러한 흐름에 따라 ABS와 DNV에서는 자율운항선박에 대한 가이드라인을 발표하였다. 하지만 선급의 가이드라인은 선박의 운항 및 해양 서비스 관점에서 요구사항을 기술하고 있으므로, 인공지능의 위험에 대해서는 충분히 고려되지 못했을 가능성이 있다. 그래서 본 연구에서는 ISO/IEC JTC1/SC42 인공지능 분과에서 제정한 표준들을 활용하여 선급 요구사항을 위험의 원인으로 분류하고, 위험원인과 인공지능 메트릭(metrics)의 조합을 통해 위험을 평가할 수 있는 척도로 사용하고자 한다. 본 연구에서 제안한 인공지능의 위험 원인과 이를 평가하기 위한 특성의 조합을 통해 해양 시스템에 인공지능이 도입됨으로써 발생하는 위험을 정의하고 식별하는 데 도움이 될 수 있을 것으로 생각되며, 선급을 포함한 다양한 기구에서 자율운항선박을 위한 안전 요구사항을 더욱 자세하고 구체적으로 작성하는 데 도움을 줄 수 있을 것으로 기대한다.

• 철학연구
• /
• 제147권
• /
• pp.261-281
• /
• 2018

이 논문은 인공지능으로 인한 인류의 위험에 대한 최근의 논의를 다룰 것이다. 인공지능을 협의의 인공지능(ANI), 인공 일반지능(AGI), 인공 초지능(ASI)으로 구분하여 살펴볼 것이다. 먼저, ANI 즉 약한 인공지능 시스템이 불러올 수 있는 위험에 대해 살펴본다. 인간이 효율성의 극대화를 위해 자율형 인공지능에게 작업의 권한을 상당 부분 이양하고 인간의 개입 없이 판단하고 행동하게 함으로써 발생할 수 있는 위험을 예상해 볼 수 있다. 아무리 정교한 시스템이라고 하더라도 인간이 만든 인공지능 시스템은 불완전하기 마련이며, 바이러스 감염이나 버그 등으로 오류가 발생할 수도 있다. 그래서 인공지능에게 맡기는 일에 한계가 있어야 한다고 본다. 대표적으로 살상용 자율무기는 허용되지 않아야 한다고 생각한다. 강한 인공지능 연구자들은 인공 일반지능과 초지능의 출현을 낙관한다. 초지능은 모든 면에서 인간의 능력을 월등하게 능가하는 인공지능 시스템이므로 인간의 이익에 반하는 행동을 하거나 인간에게 해를 입힐 수도 있다. 그래서 초지능을 통제하는 문제가 심각하게 거론되고 있다. 이 논문에서는 초지능을 통제할 수 있을지를 현재까지 제안된 통제 방안들을 중심으로 개략적으로 살펴보았다. 만일 초지능이 출현한다면, 인간이 초지능을 완벽하게 통제할 방안이 현재로서는 없다고 판단된다. 하지만 초지능의 출현이 허구적인 가정일 수도 있다. 이럴 경우에도 통제 문제에 대한 연구는 인공지능 연구의 방향을 설정하는 데 있어 실용적인 가치가 있다.

• 정보보호학회논문지
• /
• 제34권2호
• /
• pp.301-321
• /
• 2024

생성형 인공지능은 현재 빠른 속도로 발전하고 있고, 산업적으로도 확대되고 있다. 생성형 인공지능의발전은 대부분의 산업 분야에서 생산성을 향상시킬 수 있을 것이라 기대되고 있다. 그러나 생성형 인공지능은 악용될 수 있으며, 실제로 범죄까지 이어지는 사례들이 등장하고 있다. 빠르게 발전하는 인공지능의 속도에 비해 이를 규제할 수 있는 법안이 존재하지 않는다. 국내의 경우, 법률제정을 위한 생성형 인공지능 기술과 관련된 범죄 및 위험에 대한 분류가 명확하게 이루어지지 않은 상황이다. 이에 본 연구에서는 생성형 인공지능 관련 범죄를 기존 사이버범죄 분류법에 착안하여 생성형 인공지능 침해범죄 위협, 생성형 인공지능 이용범죄 위협, 기타 인공지능 관련 위협으로 구분하고자 하였다. 또한, 범죄 및 위험에 대한 기술적 대응 방안을 인공지능 개발 단계별로 제시하여 현실성 있는 위협 대응 방안을 다루었다. 법·제도적 개선사항을 통해 생성형 인공지능 범죄에 대한 개발사의 책임과 데이터 수집 방법론의 법제화 등을 제시하였다.

• 한국항해항만학회:학술대회논문집
• /
• 한국항해항만학회 2020년도 추계학술대회
• /
• pp.128-130
• /
• 2020

선박이 지정된 선석에 안전하게 접안하기 위해서는 도선사와 예인선의 도움이 필요하다. 접안 과정에서 선박이 선석까지 남은 거리와 접안 속도는 선박에 탑승한 도선사와 선원들의 육안에 의존하는 경우가 많으므로 안전에 대한 위험 요소가 있다. 본 연구에서는 접안 과정에서의 위험요소를 줄이고, 접안에 도움을 줄 수 있는 인공지능 센서 기반 선박 접·이안 정보 추출 기술을 개발하였다. 개발 기술은 임베디드 시스템과 클라우드 시스템에서 구동되며, 인공 지능 영상처리 기술과 센서 융합 기술을 기반으로 측정한 접안 중인 선박의 운동 정보를 접안 이해 관계자들에게 서비스한다.

• 한국인터넷방송통신학회논문지
• /
• 제24권2호
• /
• pp.15-21
• /
• 2024

본 연구의 목적은 일반적인 서비스 뿐만 아니라 공공정책 등에 인공지능 서비스를 도입할 때, 어떤 단계를 통해 진행하고 점검할 수 있는지 방안에 대해 제안을 하고 있다. 이를 위해 인공지능 서비스 관리와 거버넌스 툴킷에 대해 제시하고 공공정책에 인공지능 서비스를 제공할 때, 어떻게 해야 하는지에 대한 내용을 연구하였다. 첫째, 인공지능 서비스의 개발 방향과 개발하지 말아야 할 내용에 대한 지침을 제공하고 있다. 둘째, 개발을 하는 경우 인공지능 거버넌스툴킷에서 제공하고 있는 설계, 개발, 배포단계별로 검토해야 하는 체크 리스트를 통해 내용을 점검 후 진행하는 것을 권장하고 있다. 셋쨰, 인공지능 서비스를 운영할 시 1) 기획설계, 수명주기, 3) 모델 구축 및 검증, 4) 배포 및 모니터링, 5) 책임에 대한 각각 원칙과 관련 내용을 명확히 제시하고 이에 충족하고 있는지에 대해 점검을 해야 한다. 인공지능서비스의 거버넌스 측면은 궁극적으로 제공되는 서비스에 대한 위험 측면을 완화하려는 노력으의 일환이므로 등장할 수 있는 위험관리 측면에서도 연구가 이루어져야 한다. 우리는 인공지능에 제공하는 장점을 수용하면서 한계 및 위험요소에 대한 적극적인 대응 방안으로 마련해야 한다. 인공지능 기술을 적극적 활용하여 효율적으로 정책 수립하여 고부가가치를 생성하고 사회에 의미 있는 영향을 제공할 수 있도록 노력해야 한다.

• 한국콘텐츠학회논문지
• /
• 제22권7호
• /
• pp.81-88
• /
• 2022

이번 연구는 인공지능(AI) 활용 가능성에 대한 국내 감정평가사들의 인식과 감정평가산업에서 AI 활용에 따른 관련 리스크를 조사하기 위한 것이다. 2022년 2월 10일부터 18일까지 평가사를 대상으로 모바일 설문조사를 실시했다. 193명의 응답자들로 부터 조사 데이터를 수집했다. 기본 분석을 위해 빈도 분석 및 다중 반응 분석을 수행했다. 감정평가산업에 AI를 활용할 때 다양한 유형의 리스크를 분석하기 위해 요인분석을 활용했다. 감정평가사들은 감정평가산업에 AI 도입에 대해 긍정적인 인식을 갖고 있지만, 일자리 감소 및 일자리 교체와 관련된 부정적인 영향 주로 AI 활용 가능성이 높은 분야와 대체 가능성이 높은 분야로 담보·컨설팅·과세 감정 등을 고려했다. 인적 노동 분야에서 AI에 의한 대체 위험에 대해 더 잘 알고 있었다. 책임, 개인 정보보호 및 보안, 기술적 오류 위험에 대해 매우 잘 알고 있었다. 그러나 공정성, 투명성, 그리고 신뢰성 위험은 일반적으로 낮은 위험 문제로 인식되었다. 기존 연구에서는 주로 AI를 대량 평가 모델에 적용하는 분석 방법을 연구해 왔지만, 이번 연구는 AI의 활용과 위험성에 초점을 맞췄다. AI 활용에 대한 업계 전문가들의 인식을 이해하는 것은 AI가 대규모로 도입될 때 발생할 수 있는 잠재적 위험을 최소화하는 데 도움이 될 것이다.

• 정보보호학회지
• /
• 제27권3호
• /
• pp.27-32
• /
• 2017

머신러닝을 위주로 하는 인공지능 기술이 여러 분야에서 다양하게 적용되고 있다. 머신러닝 기술은 시험 데이터에 대해 높은 성능을 보였지만, 악의적으로 만들어진 데이터에 대해서는 오동작을 하는 경우가 보고되고 있다. 그 외에도 학습데이터 오염시키기, 학습된 모델 탈취 등 새로운 공격 유형이 보고되고 있다. 기계학습에 사용된 훈련데이터에 대한 보안과 프라이버시 또한 중요한 이슈이다. 인공지능 기술의 개발 및 적용에 있어 이러한 위험성에 대한 고려와 대비가 반드시 필요하다.

• 한국컴퓨터정보학회:학술대회논문집
• /
• 한국컴퓨터정보학회 2021년도 제64차 하계학술대회논문집 29권2호
• /
• pp.61-64
• /
• 2021

2016, 2017년 경주와 포항에서 발생한 규모 5.4 이상의 지진 당시 건물에 많은 피해가 속출함에 따라 지진 발생 시 건물 안전에 관한 관심이 증가하고 있다. 이러한 이유로 지진 등의 재난 상황 시 건물의 위험도를 신속하게 판단할 수 있는 방법론이 필요한 실정이다. 본 논문에서는 지진 등의 재난 상황 시 건물 안전에 위협이 될 수 있는 건물 기울기에 대한 위험도를 자이로 센서 데이터에 기반해 산출하는 시스템을 제안한다. 본 논문에서는건물 기울어짐 데이터를 확보함에 어려움이 있어 모의 거동 환경을 구축하여 데이터를 수집 및 분석하였다. 제안된 시스템은 자이로 센서로부터 수집된 실시간 기울기 데이터를 Mean Filter를 통해 데이터 평탄화 및 선형화를 수행 후 머신러닝 기법중 하나인 선형 회귀 알고리즘을 적용해 건물 기울기를 추정한다. 이후 국토교통부에서 고시한 건물 기울기 위험도 산출표를 바탕으로 측정된 기울기의 위험도를 산출한다. 해당 시스템은 실제 지진 등의 재난 발생 시 실시간 건물 기울기 위험 판단을 통해 신속한 재난 의사 결정에 도움이 될 것으로 기대된다.