• 제목/요약/키워드: 인공지능 위험

검색결과 242건 처리시간 0.033초

AIoT 기반 고위험 산업안전관리시스템 인공지능 연구 (AIoT-based High-risk Industrial Safety Management System of Artificial Intelligence)

  • 여성구;박대우
    • 한국정보통신학회논문지
    • /
    • 제26권9호
    • /
    • pp.1272-1278
    • /
    • 2022
  • 정부는 2021년 1월에 '중대재해처벌법'을 제정 공포하여, 이 법을 시행하고 있다. 하지만, 2021년 산업재해 사고자수가 전년 동기 대비 10.7% 증가하였다. 따라서, 산업 현장에서는 안전대책이 시급한 현실이다. 본 연구에서는 통신 환경이 열악한 고위험 산업현장의 안전관리를 위하여 BLE Mesh 네트워킹 기술을 적용한다. 복합 센서 AIoT 디바이스로 가스 센싱값, 음성, 모션값을 실시간으로 수집하여, 인공지능 LSTM 알고리즘과 CNN 알고리즘을 통해 정보값을 분석하여 위험 상황을 인식하고, 서버에 전송한다. 서버에서는 전송 받은 위험정보를 실시간으로 모니터링 하여 즉각적인 구호조치가 수행되도록 한다. 본 연구에서 제안하는 AIoT 디바이스와 안전관리 시스템을 고위험군 산업 현장에 적용함으로써, 산업재해를 최소화하고 사회안전망 확대에도 기여할 것이다.

악성코드 대응을 위한 신뢰할 수 있는 AI 프레임워크 (Trustworthy AI Framework for Malware Response)

  • 신경아;이윤호;배병주;이수항;홍희주;최영진;이상진
    • 정보보호학회논문지
    • /
    • 제32권5호
    • /
    • pp.1019-1034
    • /
    • 2022
  • 4차 산업혁명의 초연결사회에서 악성코드 공격은 더욱 기승을 부리고 있다. 이러한 악성코드 대응을 위해 인공지능기술을 이용한 악성코드 탐지 자동화는 새로운 대안으로 주목받고 있다. 그러나, 인공지능의 신뢰성에 대한 담보없이 인공지능을 활용하는 것은 더 큰 위험과 부작용을 초래한다. EU와 미국 등은 인공지능의 신뢰성 확보방안을 강구하고 있으며, 2021년 정부에서는 신뢰할 수 있는 인공지능 실현 전략을 발표했다. 정부의 인공지능 신뢰성에는 안전과 설명가능, 투명, 견고, 공정의 5가지 속성이 있다. 우리는 악성코드 탐지 모델에 견고를 제외한 안전과, 설명가능, 투명, 공정의 4가지 요소를 구현하였다. 특히 외부 기관의 검증을 통해 모델 정확도인 일반화 성능의 안정성을 입증하였고 투명을 포함한 설명가능에 중점을 두어 개발하였다. 변화무쌍한 데이터에 의해 학습이 결정되는 인공지능 모델은 생명주기 관리가 필요하다. 이에 인공지능 모델을 구성하는 데이터와 개발, 서비스 운영을 통합하는 MLOps 프레임워크에 대한 수요가 늘고 있다. EXE 실행형 악성코드와 문서형 악성코드 대응 서비스는 서비스 운영과 동시에 데이터 수집원이 되고, 외부 API를 통해 라벨링과 정제를 위한 정보를 가져오는 데이터 파이프라인과 연계하도록 구성하였다. 클라우드 SaaS 방식과 표준 API를 사용하여 다른 보안 서비스 연계나 인프라 확장을 용이하게 하였다.

농작물 병해충 진단을 위한 인공지능 앱, Dr. Vegetable (Dr. Vegetable: an AI-based Mobile Application for Diagnosis of Plant Diseases and Insect Pests)

  • 김수환;정대기;이승준;정성엽;양동재;정근영;황석형;황세웅
    • 한국컴퓨터정보학회:학술대회논문집
    • /
    • 한국컴퓨터정보학회 2023년도 제67차 동계학술대회논문집 31권1호
    • /
    • pp.457-460
    • /
    • 2023
  • 본 연구는 시설작물의 병충해 진단을 위해 딥러닝 모델을 응용한 인공지능 서비스 앱, Dr. Vegetable을 제안하고자 한다. 농업 현장에서 숙련된 농부는 한눈에 농작물의 병충해를 판단할 수 있지만 미숙련된 농부는 병충해 피해를 발견하더라도 그 종류와 해결 방법을 찾아내기가 매우 어렵다. 또한 아무리 숙련된 농부라고 할지라도 육안검사만으로 병충해를 조기에 발견하는 것은 쉽지 않다. 한편 시설작물의 경우 병충해에 의한 연쇄피해가 발생할 우려가 있으므로 병충해의 조기 발견 및 방제가 매우 중요하다. 즉, 농부의 경험에 따른 농작물 병해충 진단은 정확성을 장담할 수 없으며 비용과 시간적인 측면에서 위험성이 높다고 할 수 있다. 본 논문에서는 YOLOv5를 활용하여 상추, 고추, 토마토 등 농작물의 병충해를 진단하는 인공지능 서비스를 제안한다. 특히 한국지능정보사회진흥원이 운영하고 있는 AI 통합 플랫폼인 AI 허브에서 제공하는 노지 작물 질병 및 해충 진단 이미지를 사용하여 딥러닝 모델을 학습하였다. 본 연구를 통해 개발된 모바일 어플리케이션을 이용하여 실제 시설농장에서 병충해 진단 서비스를 적용한 결과 약 86%의 정확도, F1 Score 0.84, 그리고 0.98의 mAP 값을 얻을 수 있었다. 본 연구에서 개발한 병충해 진단 딥러닝 모델을 다양한 조도에서 강인하게 동작하도록 개선한다면 농업 현장에서 널리 활용될 수 있을 것으로 기대한다.

  • PDF

생활 환경에서의 인공지능 시스템 성능 개선 및 평가를 위한 리빙랩 및 혼동 매트릭스 (Living Lab and Confusion Matrix for Performance Improvement and Evaluation of Artificial Intelligence System in Life Environment)

  • 하지원;서지석;이성수
    • 전기전자학회논문지
    • /
    • 제24권4호
    • /
    • pp.1180-1183
    • /
    • 2020
  • 최근 들어 IoT와 스마트홈의 발전에 따라 낙상 사고 감지, 화상 위험 감지와 같이 일상 생활에서의 안전 감지 기능이 많이 보급되기 시작했다. 이러한 안전 감지 기능은 대부분 인공지능에 의해 수행된다. 그러나 실험실 환경에서 안전 감지의 정확도만 평가하는 경우에는 실제로 일상 생활 환경에서 체감하게 되는 성능과 꽤 큰 차이를 보이는 경우가 많다. 본 논문에서는 이러한 문제점을 보완하기 위해 사용하는 두 가지 기법인 리빙랩과 혼동 매트리스를 소개한다. 리빙랩은 단순히 일상 생활환경의 모사를 넘어서 사용자가 직접 기술 개발 및 제품 설계에 참여할 수 있는 통로가 된다. 또한 혼동 매트리스에서 도출되는 다양한 성능 척도는 사용 목적에 적합하게 인공지능 시스템의 성능을 평가하는데 큰 도움을 준다.

CCTV 영상의 이상행동 다중 분류를 위한 결합 인공지능 모델에 관한 연구 (A Study on Combine Artificial Intelligence Models for multi-classification for an Abnormal Behaviors in CCTV images)

  • 이홍래;김영태;서병석
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국정보통신학회 2022년도 춘계학술대회
    • /
    • pp.498-500
    • /
    • 2022
  • CCTV는 위험 상황을 파악하고 신속히 대응함으로써, 인명과 자산을 안전하게 보호한다. 하지만, 점점 많아지는 CCTV 영상을 지속적으로 모니터링하기는 어렵다. 이런 이유로 CCTV 영상을 지속적으로 모니터링하면서 이상행동이 발생했을 때 알려주는 장치가 필요하다. 최근 영상데이터 분석에 인공지능 모델을 활용한 많은 연구가 이루어지고 있다. 본 연구는 CCTV 영상에서 관측할 수 있는 다양한 이상 행동을 분류하기 위해 영상데이터 사이의 공간적, 시간적 특성 정보를 동시에 학습한다. 학습에 이용되는 인공지능 모델로 End-to-End 방식의 3D-Convolution Neural Network(CNN)와 ResNet을 결합한 다중 분류 딥러닝 모델을 제안한다.

  • PDF

유방촬영술에서 인공지능의 적용: 알고리즘 개발 및 평가 관점 (Applications of Artificial Intelligence in Mammography from a Development and Validation Perspective)

  • 김기환;이상협
    • 대한영상의학회지
    • /
    • 제82권1호
    • /
    • pp.12-28
    • /
    • 2021
  • 유방촬영술은 유방암 검진 및 진단을 위한 기본적인 영상 검사이지만, 판독이 어려우며 높은 숙련도를 필요로 한다고 잘 알려져 있다. 이러한 어려움을 극복하기 위해 최근 몇 년 사이에 인공지능을 이용한 유방암 검출 알고리즘들이 활발히 연구되고 있다. 본 종설에서 저자는 고전적인 computer-aided detection 소프트웨어 대비 최근 많이 사용되는 딥러닝의 특징을 알아보고, 딥러닝 알고리즘의 개발 방법과 임상적 검증 방법에 대해서 기술하였다. 또한 딥러닝 기반의 검진 유방촬영술의 판독 방법 분류, 유방 치밀도 평가, 그리고 유방암 위험도 예측 모델 등을 위한 딥러닝 연구들도 소개하였다. 마지막으로 유방촬영술 관련 인공지능 기술들에 대한 영상의학과 전문의의 관심과 의견의 필요성을 기술하였다.

국방분야 인공지능과 블록체인 융합방안 연구 (The study of Defense Artificial Intelligence and Block-chain Convergence)

  • 김세용;권혁진;최민우
    • 인터넷정보학회논문지
    • /
    • 제21권2호
    • /
    • pp.81-90
    • /
    • 2020
  • 본 연구는 인공지능의 국방 분야 활용 시 데이터 위·변조 방지를 위한 블록체인 기술의 적용방안을 연구 하는데 목적이 있다. 인공지능은 빅 데이터를 다양한 기계학습 방법론을 적용하여 군집화하거나 분류하여 예측하는 기술이며 미국을 비롯한 군사 강대국은 기술의 완성단계에 이르렀다. 만약 데이터를 기반으로 하는 인공지능의 데이터 위·변조가 발생한다면 데이터의 처리과정이 완벽하더라도 잘못된 결과를 도출할 것이며 이는 가장 큰 적의 위험요소가 될 수 있고 데이터의 위·변조는 해킹이라는 형태로 너무나 쉽게 가능하다. 만약 무기화된 인공지능이 사용하는 데이터가 북한으로부터 해킹되어 조작되어 진다면 예상치 못한 곳의 공격이 발생할 수도 있다. 따라서 인공지능의 사용을 위해서는 데이터의 위·변조를 방지하는 기술이 반드시 필요하다. 데이터의 위·변조 방지는 해수함수로 암호화된 데이터를 연결된 컴퓨터에 분산 저장하여 한 대의 컴퓨터가 해킹되더라도 연결된 컴퓨터의 과반 이상이 동의하지 않는 한 데이터가 손상되지 않는 기술인 블록체인을 적용함으로써 문제를 해결할 수 있을 것으로 기대한다.

산업 현장 환경에서 연합학습 기반의 작업자 안전관리 시스템 설계 (Design of worker safety management system based on federated learning in industrial field environment)

  • 김수진;딜노자;오정민;신용태
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2022년도 춘계학술발표대회
    • /
    • pp.624-626
    • /
    • 2022
  • 최근 산업 현장에도 작업자들의 안전사고를 방지하기 위하여 인공지능 기법을 활용한 안전관리 시스템들이 도입되었다. 그러나 기존의 인공지능 기법을 활용한 방식은 데이터가 중앙 서버에 집중된 형태로 데이터 이동시 작업자의 민감 정보에 대한 보호가 어려울 뿐 아니라 대량의 데이터 발생 시 전체 시스템에 장애가 발생할 수 있어 이는 빠른 대응 프로세스가 필요한 산업 현장에 큰 영향을 줄 수 있다. 본 논문에서는 연합학습 기법을 적용하여 중앙 서버의 스트레스를 낮추어 작업자의 위험 상황에 빠른 대응이 가능하고, 작업자의 헬스 케어 데이터 같은 작업자의 민감 정보도 보호할 수 있는 시스템 설계를 제안한다.

적대적 AI 공격 및 방어 기법 연구 (A Study on Adversarial AI Attack and Defense Techniques)

  • 문현정;오규태;유은성;임정윤;신진영;이규영
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2022년도 추계학술발표대회
    • /
    • pp.1022-1024
    • /
    • 2022
  • 최근 인공지능 기술이 급격하게 발전하고 빠르게 보급되면서, 머신러닝 시스템을 대상으로 한 다양한 공격들이 등장하기 시작하였다. 인공지능은 많은 강점이 있지만 인위적인 조작에 취약할 수 있기 때문에, 그만큼 이전에는 존재하지 않았던 새로운 위험을 내포하고 있다고 볼 수 있다. 본 논문에서는 데이터 유형 별 적대적 공격 샘플을 직접 제작하고 이에 대한 효과적인 방어법을 구현하였다. 영상 및 텍스트 데이터를 기반으로 한 적대적 샘플공격을 방어하기 위해 적대적 훈련기법을 적용하였고, 그 결과 공격에 대한 면역능력이 형성된 것을 확인하였다.

청각 장애인의 소리 인식 보조기기 (인공지능을 이용한 청각 장애인 사고 예방 어플리케이션) (Sound Recognition Devices for audibly impaired Individuals (Hearing impaired accident prevention application using artificial intelligence) )

  • 고정호;이완호;신희승;김성환;성열훈;이호섭
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2023년도 추계학술발표대회
    • /
    • pp.1010-1011
    • /
    • 2023
  • 코로나19 팬데믹 이후 배달 앱 사용량이 증가에 따라 배달 오토바이 수가 급증하면서 이와 관련 사고 또한 급격히 증가하는 추세를 보이고 있다. 특히 청각 장애인들은 도로에서 이러한 종류의 사고 위험에 더욱 노출되어 있으며, 이 문제를 해결하기 위해 구글 앱 인벤터를 사용하여 도로에서 오토바이 소리를 인식하는 인공지능 학습 모델을 개발하였다. 개발된 어플리케이션은 도로에서 오토바이 소리를 감지하고 사용자에게 진동과 사진으로 알림을 보냄으로써 사고를 예방에 기여할 수 있다.