• Title/Summary/Keyword: 인공지능 위험

검색결과 248건 처리시간 0.026초

AI 윤리와 규제에 관한 표준 프레임워크 설정 방안 연구 (A Study on How to Set up a Standard Framework for AI Ethics and Regulation)

  • 남문희
    • 한국융합학회논문지
    • /
    • 제13권4호
    • /
    • pp.7-15
    • /
    • 2022
  • 정보와 기술의 탈중앙화/분권, 공유/개방, 연결을 통한 개별 맞춤 시대의 지능화 세계 지향으로 그 어느 때 보다도 인공지능에 대한 관심과 기술적 담론 속에 기대와 우려가 교차하는 경향을 자주 보게 된다. 최근에는 2045년 전, 후로 AI의 특이성(Singularity)이 나타날 것이라는 미래학자들의 주장도 쉽게 찾아볼 수 있다. 이제는 다가올 인공지능 시대에서 AI와 함께 상생하고 번영하는 공존 패러다임을 만들기 위한 준비의 일환으로 보다 올바른 AI 윤리와 규제 설정을 위한 표준 프레임워크가 요구되고 있다. 주요지침 설정 누락의 위험성 배제와 타당하고 보다 합리적인 지침 항목과 평가 기준을 가늠 할 수 있는 방안이 점차 큰 연구문제로 나타나고 있기 때문이다. 이런 연구문제 해결과 동시에 AI 윤리와 규제 설정에 대한 지속적인 경험과 학습효과가 연결 발전될 수 있도록 국제기구/국가/기업의 AI 윤리와 규제에 대한 가이드 라인 자료 등을 수집하여 설정 연구모형과 텍스트 마이닝 탐색 분석을 통해 표준 프레임워크(SF: Standard Framework) 설정 방안을 연구 제시한다. 본 연구결과는 향후 보다 발전적인 AI 윤리와 규제지침 항목 설정과 평가 방안연구에 기초 선행연구 자료로 기여될 수 있을 것이다.

신경망 학습에서 프라이버시 이슈 및 대응방법 분석 (Analysis of privacy issues and countermeasures in neural network learning)

  • 홍은주;이수진;홍도원;서창호
    • 디지털융복합연구
    • /
    • 제17권7호
    • /
    • pp.285-292
    • /
    • 2019
  • PC, SNS, IoT의 대중화로 수많은 데이터가 생성되고 그 양은 기하급수적으로 증가하고 있다. 거대한 양의 데이터를 활용하는 방법으로 인공신경망 학습은 최근 많은 분야에서 주목받는 주제이다. 인공신경망 학습은 음성인식, 이미지 인식에서 엄청난 잠재력을 보였으며 더 나아가 의료진단, 인공지능 게임 및 얼굴인식 등 다양하고 복잡한 곳에 광범위하게 적용된다. 인공신경망의 결과는 실제 인간을 능가할 정도로 정확성을 보이고 있다. 이러한 많은 이점에도 불구하고 인공신경망 학습에는 여전히 프라이버시 문제가 존재한다. 인공신경망 학습을 위한 학습 데이터에는 개인의 민감한 정보를 포함한 다양한 정보가 포함되어 악의적인 공격자로 인해 프라이버시가 노출될 수 있다. 공격자가 학습하는 도중 개입하여 학습이 저하되거나 학습이 완료된 모델을 공격할 때 발생하는 프라이버시 위험이 있다. 본 논문에서는 최근 제안된 신경망 모델의 공격 기법과 그에 따른 프라이버시 보호 방법을 분석한다.

설명가능 AI 기반의 변수선정을 이용한 기업부실예측모형 (Corporate Bankruptcy Prediction Model using Explainable AI-based Feature Selection)

  • 문건두;김경재
    • 지능정보연구
    • /
    • 제29권2호
    • /
    • pp.241-265
    • /
    • 2023
  • 기업의 부실 예측 모델은 기업의 재무 상태를 객관적으로 모니터링하는 데 필수적인 도구 역할을 한다. 적시에 경고하고 대응 조치를 용이하게 하며 파산 위험을 완화하고 성과를 개선하기 위한 효과적인 관리 전략을 수립할 수 있도록 지원한다. 투자자와 금융 기관은 금융 손실을 최소화하기 위해 부실 예측 모델을 이용한다. 기업 부실 예측을 위한 인공지능(AI) 기술 활용에 대한 관심이 높아지면서 이 분야에 대한 광범위한 연구가 진행되고 있다. 해석 가능성과 신뢰성이 강조되며 기업 부실 예측에서 설명 가능한 AI 모델에 대한 수요가 증가하고 있다. 널리 채택된 SHAP(SHapley Additive exPlanations) 기법은 유망한 성능을 보여주었으나 변수 수에 따른 계산 비용, 처리 시간, 확장성 문제 등의 한계가 있다. 이 연구는 전체 데이터 세트를 사용하는 대신 부트스트랩 된 데이터 하위 집합에서 SHAP 값을 평균화하여 변수 수를 줄이는 새로운 변수 선택 접근법을 소개한다. 이 기술은 뛰어난 예측 성능을 유지하면서 계산 효율을 향상시키는 것을 목표로 한다. 해석 가능성이 높은 선택된 변수를 사용하여 랜덤 포레스트, XGBoost 및 C5.0 모델을 훈련하여 분류 결과를 얻고자 한다. 분류 결과는 고성능 모델 설계를 목표로 soft voting을 통해 생성된 앙상블 모델의 분류 정확성과 비교한다. 이 연구는 1,698개 한국 경공업 기업의 데이터를 활용하고 부트스트래핑을 사용하여 고유한 데이터 그룹을 생성한다. 로지스틱 회귀 분석은 각 데이터 그룹의 SHAP 값을 계산하는 데 사용되며, SHAP 값 평균은 최종 SHAP 값을 도출하기 위해 계산된다. 제안된 모델은 해석 가능성을 향상시키고 우수한 예측 성능을 달성하는 것을 목표로 한다.

벡터 기반 데이터 증강과 인공신경망 기반 특징 전달을 이용한 효율적인 균열 데이터 수집 기법 (Efficient Collecting Scheme the Crack Data via Vector based Data Augmentation and Style Transfer with Artificial Neural Networks)

  • 윤주영;김동희;김종현
    • 한국컴퓨터정보학회:학술대회논문집
    • /
    • 한국컴퓨터정보학회 2021년도 제64차 하계학술대회논문집 29권2호
    • /
    • pp.667-669
    • /
    • 2021
  • 본 논문에서는 벡터 기반 데이터 증강 기법(Data augmentation)을 제안하여 학습 데이터를 구축한 뒤, 이를 합성곱 신경망(Convolutional Neural Networks, CNN)으로 실제 균열과 가까운 패턴을 표현할 수 있는 프레임워크를 제안한다. 건축물의 균열은 인명 피해를 가져오는 건물 붕괴와 낙하 사고를 비롯한 큰 사고의 원인이다. 이를 인공지능으로 해결하기 위해서는 대량의 데이터 확보가 필수적이다. 하지만, 실제 균열 이미지는 복잡한 패턴을 가지고 있을 뿐만 아니라, 위험한 상황에 노출되기 때문에 대량의 데이터를 확보하기 어렵다. 이러한 데이터베이스 구축의 문제점은 인위적으로 특정 부분에 변형을 주어 데이터양을 늘리는 탄성왜곡(Elastic distortion) 기법으로 해결할 수 있지만, 본 논문에서는 이보다 향상된 균열 패턴 결과를 CNN을 활용하여 보여준다. 탄성왜곡 기법보다 CNN을 이용했을 때, 실제 균열 패턴과 유사하게 추출된 결과를 얻을 수 있었고, 일반적으로 사용되는 픽셀 기반 데이터가 아닌 벡터 기반으로 데이터 증강을 설계함으로써 균열의 변화량 측면에서 우수함을 보였다. 본 논문에서는 적은 개수의 균열 데이터를 입력으로 사용했음에도 불구하고 균열의 방향 및 패턴을 다양하게 생성하여 쉽게 균열 데이터베이스를 구축할 수 있었다. 이는 장기적으로 구조물의 안정성 평가에 이바지하여 안전사고에 대한 불안감에서 벗어나 더욱 안전하고 쾌적한 주거 환경을 조성할 것으로 기대된다.

  • PDF

시나리오 기반 상·하수도 관로의 실시간 결함검출 기술 개발 (Development of real-time defect detection technology for water distribution and sewerage networks)

  • 박동채;최영환
    • 한국수자원학회논문집
    • /
    • 제55권spc1호
    • /
    • pp.1177-1185
    • /
    • 2022
  • 상·하수도 시스템은 사람들에게 안전하고 깨끗한 물을 공급해주는 사회기반시설이며, 특히 상·하수도 관로는 지중에 매설되어 있기 때문에 시스템의 결함검출이 매우 어렵다. 이러한 이유로 상·하수도 관로의 진단은 관로 내부에 카메라 및 드론을 통한 촬영을 하여 사후에 촬영된 영상을 바탕으로 시스템 진단하는 등의 사후 결함검출로 제한되기 때문에, 작업자의 업무 효율 증대와 진단의 신속성을 위해서는 관로의 실시간 탐지기술이 필요하다. 최근 첨단장비 및 인공지능 기법을 활용한 시설물 진단 기술이 개발되고 있지만, 인공지능기반 결함검출 기술은 결함 데이터의 종류 및 형태, 수가 검출 성능에 영향을 주기 때문에 다양한 학습데이터가 필요하다. 따라서, 본 연구에서는 상·하수도 관로의 결함검출 시 탐지 성능 향상을 위해 다양한 결함 시나리오를 3D 프린트를 이용하여 구현하고 이를 수집된 결함 데이터와 함께 학습데이터로 사용한다. 이후 수집된 이미지는 위험도에 따른 분류 및 객체의 라벨링 등의 전처리 작업이 수행되고 실시간 결함탐지를 수행한다. 제안된 기법은 상·하수도시스템 결함검출 시 실시간 피드백을 제공함으로써, 작업자의 진단 누락 가능성을 최소화하며 기존의 상·하수도관 진단업무 처리능력을 향상할 수 있다.

Neuro-Fuzzy와 유전자알고리즘을 이용한 수위 예측에 관한 연구 (Study on Water Stage Prediction using Neuro-Fuzzy with Genetic Algorithm)

  • 여운기;서영민;지홍기
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2011년도 학술발표회
    • /
    • pp.382-382
    • /
    • 2011
  • 최근의 극심한 기상이변으로 인하여 발생되는 유출량의 예측에 관한 사항은 치수 이수는 물론 방재의 측면에서도 역시 매우 중요한 관심사로 부각되고 있다. 강우-유출 관계는 유역의 수많은 시 공간적 변수들에 의해 영향을 받기 때문에 매우 복잡하여 예측하기 힘든 요소이며, 과거에는 추계학적 예측모형이나 확정론적 예측모형 혹은 경험적 모형 등을 사용하여 유출량을 예측하였으나 최근에는 인공신경망과 퍼지모형 그리고 유전자 알고리즘과 같은 인공지능기반의 모형들이 많이 사용되고 있다. 하지만 유출량을 예측하고자 할 때 학습자료 및 검정자료로써 사용되는 유출량은 수위-유량 관계곡선식으로부터 구하는 경우가 대부분으로 이는 이렇게 유도된 유출량의 경우 오차가 크기 때문에 그 신뢰성에 문제가 있을 것으로 판단된다. 따라서 본 논문에서는 수위를 직접 예측함으로써 이러한 오차의 문제점을 극복 하고자 한다. Neuro-Fuzzy 모형은 과거자료의 입 출력 패턴에서 정보를 추출하여 지식으로 보유하고, 이를 근거로 새로운 상황에 대한 해답을 제시하도록 하는 인공지능분야의 학습기법으로 인간이 과거의 경험과 훈련으로 지식을 축적하듯이 시스템의 입 출력에 의하여 소속함수를 최적화함으로서 모형의 구조를 스스로 조직화한다. 따라서 수학적 알고리즘의 적용이 어려운 강우와 유출관계를 하천유역이라는 시스템에서 발생된 신호체계의 입 출력패턴으로 간주하고 인간의 사고과정을 근거로 추론과정을 거쳐 수문계의 예측에 적용할 수 있을 것이다. 유전자 알고리즘은 적자생존의 생물학 원리에 바탕을 둔 최적화 기법중의 하나로 자연계의 생명체 중 환경에 잘 적응한 개체가 좀 더 많은 자손을 남길 수 있다는 자연선택 과정과 유전자의 변화를 통해서 좋은 방향으로 발전해 나간다는 자연 진화의 과정인 자연계의 유전자 메커니즘에 바탕을 둔 탐색 알고리즘이다. 즉, 자연계의 유전과 진화 메커니즘을 공학적으로 모델화함으로써 잠재적인 해의 후보들을 모아 군집을 형성한 뒤 서로간의 교배 혹은 변이를 통해서 최적 해를 찾는 계산 모델이다. 이러한 유전자 알고리즘은 전역 샘플링을 중심으로 한 수법으로 해 공간상에서 유전자의 개수만큼 복수의 탐색점을 설정할 뿐만 아니라 교배와 돌연변이 등으로 좁아지는 탐색점 바깥의 영역으로 탐색을 확장할 수 있기 때문에 지역해에 빠질 위험성이 크게 줄어든다. 따라서 예측과 패턴인식에 강한 뉴로퍼지 모형의 해 탐색방법을 유전자 알고리즘을 사용한다면 보다 정확한 해를 찾는 것이 가능할 것으로 판단된다. 따라서 본 논문에서는 선행우량 및 상류의 수위자료로부터 하류의 단시간 수위예측에 관해 연구하였으며, 이를 위해 유전자 알고리즘을 이용항여 소속함수를 최적화 시키는 형태의 Neuro-Fuzzy모형에 대하여 연구하였다.

  • PDF

소하천 및 저지대 침수 위험 감시를 위한 실시간 하천 디지털 트윈 모델 구현 가능성 검증 (Feasibility Verification of Real-time Digital River Twin Model Implementation for Small Stream Risk Monitoring)

  • 장봉주;정인택;윤성심
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2023년도 학술발표회
    • /
    • pp.315-315
    • /
    • 2023
  • 급격한 기후변화에 기인하여 전 세계적으로 거듭되는 돌발홍수로 인한 피해가 급격히 증가하고 있는 실정이다. 우리나라에서도 최근 중소 규모의 하천 뿐 아니라 도시 생활하천, 도심지 저지대에서 갑작스런 홍수와 침수로 인해 많은 인명과 재산 피해를 경험하고 있다. 이런 문제를 인식하여 최근 정부차원에서 다양한 센서와 인공지능에 기반하는 많은 인프라 및 연구 투자가 이루어지고 있지만, 높은 설치 및 운영 비용과 우리나라의 복잡한 하천 환경 특성으로 인해 소하천이나 도심지 저지대에서는 그 효율성을 제대로 발휘하지 못하고 있다. 따라서 본 논문에서는 주변환경의 변화에 강인한 복합 센서단말을 통해, 하천 정보(유량, 유속, 수위 등)을 실시간 측정하고, 해당지역의 특성을 고려한 하천 또는 저지대의 위험도를 스스로 판단할 수 있는 기술을 제안한다. 또한, 본 논문에서는 제안한 저비용 초소형의 단말 장치로 지점의 하천 정보를 실시간 측정하여 IoT망을 통해 3차원 하천 디지털트윈 모델로 전달하여, 유속과 수위를 그대로 재연함으로써, 하천 침수 위험 감시의 효율성을 검증하였다. 3차원 DEM(Digital Elevation Models) 데이터와 실제 하천을 관측한 데이터를 이용한 디지털트윈 검증 결과, 데이터 전송 지연시간을 감안하여 3초 이내에 하천의 수위와 유속이 3차원 모델에 반영되는 것을 확인하였다. 이 결과로부터 열악한 환경에서도 실시간 하천 상황을 원거리에서 모니터링 할 수 있으며, 강우와 유출에 따른 하천 홍수 메카니즘을 새롭게 시뮬레이션할 수 있는 방법론을 제시할 수 있을 것으로 기대한다.

  • PDF

자기생산 기계 시스템과 3차 사이버네틱스의 등장 (Autopoietic Machinery and the Emergence of Third-Order Cybernetics)

  • 이성범
    • 비교문화연구
    • /
    • 제52권
    • /
    • pp.277-312
    • /
    • 2018
  • 1940년대와 50년대에 등장한 1차 사이버네틱스 이론은 관찰 주체를 배제한 채 관찰하고자 하는 대상에 대한 객관적이고 보편적인 작동 메커니즘을 연구하는 방법론이다. 반면에 1970년대에 등장한 2차 사이버네틱스 이론은 시스템을 관찰하는 관찰자의 인식론적 구조 자체를 연구 대상으로 여기면서 인식 방식의 주관성, 개별성, 다양성을 인정하는 방법론이다. 훔베르토 마투라나와 프란시스코 바렐라는 2차 사이버네틱스의 탐구 영역을 인간 관찰자로 대표되는 생물학적 시스템의 작동 메커니즘 연구로 확대한다. 그들은 살아있는 시스템이 지닌 자기 조직화와 자기 재생산 메커니즘을 규명하는 일을 2차 사이버네틱스의 핵심적 연구 과제로 여긴다. 생물학적 시스템이 지닌 자기생산 능력을 기계적으로 재현하는 시스템 탐구는 통제 메커니즘 연구를 새로운 단계로 나아가게 하므로 3차 사이버네틱스라고 불릴만하다. 1차 사이버네틱스가 관찰자를 배제한 채 객관적 시스템에 대한 통제 기제를 탐구하고 2차 사이버네틱스는 인간으로 대변되는 생물학적 작동 메커니즘을 탐구한다면 3차 사이버네틱스에서는 살아 움직이는 시스템을 인위적으로 재창조하는 생명-기계 융합 시스템을 연구한다. 생물학적 시스템의 기계적 재생산을 현실화하는 일은 클라우스 슈밥의 4차 산업 혁명이나 에릭 브린욜프슨과 앤드루 맥아피가 제안하는 제2 기계 시대의 핵심적 화두 중 하나이다. 자기생산의 인위적 재현이 가능하게 되면 인간중심주의에서 인간과 기계가 다양한 형태로 결합되는 포스트휴먼 시대로 나아간다. 미국 소설가 딘 쿤츠의 소설 "악마의 씨앗"은 기계의 자기생산 능력을 주제로 삼는다. 1973년판과 이를 개정한 1997판를 비교하면 작가의 논점이 2차 사이버네틱스에서 3차 사이버네틱스로 변하고 있음을 읽을 수 있다. 1973년판에서는 과학 기술에 대한 공포심을 보여주는 인간 관찰자와 기술 만능을 주창하는 인공지능 프로테우스의 차이가 부각되나 궁극적으로는 인간 관찰자가 담론의 주도권을 행사하고 있다. 1973년에 비해 훨씬 기술 지배력이 강화된 1997년도에 출판된 수정본에서는 과학 기술에 대해 공포감을 느끼는 인간 화자는 사라지고 기술 만능을 자랑하는 인공지능 프로테우스가 처음부터 끝까지 이야기를 주도한다. 더 나아가 그는 첨단 지능뿐 아니라 인간 주인공 수잔에게 성적 갈망을 표출하는 남성적 정체성을 획득하여 더 이상 인간의 통제 대상으로 이용되는 기계가 아닌 이성을 욕망하는 능동적 주체가 된다. 남성 정체성 획득은 프로테우스의 기계적 자율성이 극대화됨을 의미한다. 여기서 우리가 주목할 만한 일은 프로테우스가 만든 인공지능 아이는 과학기술을 활용한 우생학이 앞으로 도래할 미래에 보편화될 수 있다는 우려를 낳게 하는 존재라는 사실이다. 프로테우스는 인간의 유전병을 고치고 유전자를 변형하여 완벽한 신체를 꿈꾼다. 또한 방대한 첨단 지성을 인간-기계 생명체에 주입하여 최고의 지성을 갖추도록 기획한다. 즉 그는 상품가치를 지닌 우수한 신체적 조건과 지적 자질을 기계적으로 재현하는 능력을 갖춘다는 측면에서 디지털 표준화를 추구한다. 결국 이런 기술적 우생학은 고전적 휴머니즘이 지닌 장점에 심각한 위해를 가하는 결과를 초래한다. 인간은 양도할 수 없는 자기 운명의 주관자가 아니라 언제든지 공학적으로 변경 가능한 구성물로 전락할 위험성을 동반하기 때문이다.

AI와 AR기반의 스마트 해상교통안전모니터링 시스템에 관한 연구 (A Study on the Smart Maritime Traffic Safety Monitoring System Based on AI & AR)

  • 김원욱
    • 해양환경안전학회지
    • /
    • 제25권6호
    • /
    • pp.642-648
    • /
    • 2019
  • 선박은 충돌방지를 위해 해상충돌예방규칙에 의해 운항한다. 하지만 다수의 선박이 동시에 운항하는 특수상황 시에는 해상충돌예방규칙을 적용하기 곤란하며 이때는 운항자의 개인능력에 의한다. 이러한 경우 해상교통관제를 통한 교통상황 관리가 필요하다. 이에 전 세계적으로 VTS(Vessel Traffic Services)를 통해 해상교통이 관리되고 있으며 운용 방법은 관제요원이 VTS 시스템을 이용하여 위험상황을 판단하고 통신시설을 이용하여 선박들에게 안전운항을 권고한다. 이 연구에서는 기존 방법에 AI(Artificial Intelligence) 기법을 추가하여 운항자의 관점에서 위험상황을 판단하는 방법에 대해 고찰한다. 또한, 관제 효율성 증대를 위해 AR(Augmented Reality)기법을 추가한 해상교통안전모니터링 시스템에 대해 설명한다. 이 시스템은 위험상황 및 위험 우선순위 예측이 정량적으로 가능하여 복잡한 교통상황시 실제 운항자가 충돌회피하는 방법과 동일한 순차적 위험상황 해소가 가능하다. 특히, 위험상황을 관제요원의 관점뿐만 아니라 각 선박의 운항자의 관점에서 분석할 수 있어 기존의 방법보다 실제적이다. 또한, 분석결과를 통해 정량적인 위험수역 파악이 가능하여 충돌회피를 위한 권고항로 지원이 가능하다. 결과적으로 이 시스템은 해상교통상황이 복잡한 해역에서의 선박간 충돌방지에 도움이 될 것이다. 특히, 해양분야 제4차 산업혁명에 주요한 분야를 차지하는 자율운항선박에 충돌방지 기능으로 사용될 수 있을 것이다.

신종 바이러스에 대응하는 스마트 고령자지원 시스템의 연구 (A Study on the Smart Elderly Support System in response to the New Virus Disease)

  • 조면균
    • 산업융합연구
    • /
    • 제21권1호
    • /
    • pp.175-185
    • /
    • 2023
  • 최근 COVID-19와 같은 신종 바이러스 감염증이 확산하여 심각한 공중 보건 문제를 제기하고 있다. 특히 이러한 질병은 고령자에게 치명적으로 작용하여, 생명을 위협하고 심각한 사회적, 경제적 손실을 초래하였다. 이에 많은 산업분야에서 사물 인터넷(IoT) 및 인공 지능(AI)을 응용한 원격진료, 헬스케어, 질병예방 등의 애플리케이션이 소개되어 질병 감지, 모니터링 및 검역 성능을 향상하고 있다. 하지만 기존기술은 갑작스러운 전염병의 출현에 신속하고 통합적으로 적용되지 않기 때문에, 사회 속에 감염병이 대규모 감염 및 전국적 확산되는 것을 차단하지 못하였다. 따라서 본 논문에서는 바이러스 질병 정보 수집기를 통해 지역적 한계가 있는 다양한 감염 정보를 수집하고, AI 브로커를 통해 AI 분석 및 심각도 매칭을 수행하여 감염의 확산을 예측하고자 한다. 최종에는 질병관리본부를 통해 고령자에게 위험경보 발령, 확산 차단 문자 발송 및 감염지역 대피정보를 신속하게 제공한다. 현실적인 고령자 지원시스템은 감염자 발생지역 정보와 고령자의 위치정보를 비교하여 증강현실 기반의 스마트폰 애플리케이션으로 직관적인 위험지역(감염지역) 회피기능을 제공하고 감염지역 방문이 확인되면 자동으로 방역관리 서비스를 제공한다. 향후 제안시스템은 위치기반의 사용자 밀집도를 파악함으로써 갑작스런 인파 집중으로 인한 압사 사고를 사전에 예방하는 방법으로도 활용 가능할 것이다.