• 제목/요약/키워드: Responsible AI

검색결과 38건 처리시간 0.025초

Evaluating Conversational AI Systems for Responsible Integration in Education: A Comprehensive Framework

  • Utkarch Mittal;Namjae Cho;Giseob Yu
    • Journal of Information Technology Applications and Management
    • /
    • 제31권3호
    • /
    • pp.149-163
    • /
    • 2024
  • As conversational AI systems such as ChatGPT have become more advanced, researchers are exploring ways to use them in education. However, we need effective ways to evaluate these systems before allowing them to help teach students. This study proposes a detailed framework for testing conversational AI across three important criteria as follow. First, specialized benchmarks that measure skills include giving clear explanations, adapting to context during long dialogues, and maintaining a consistent teaching personality. Second, adaptive standards check whether the systems meet the ethical requirements of privacy, fairness, and transparency. These standards are regularly updated to match societal expectations. Lastly, evaluations were conducted from three perspectives: technical accuracy on test datasets, performance during simulations with groups of virtual students, and feedback from real students and teachers using the system. This framework provides a robust methodology for identifying strengths and weaknesses of conversational AI before its deployment in schools. It emphasizes assessments tailored to the critical qualities of dialogic intelligence, user-centric metrics capturing real-world impact, and ethical alignment through participatory design. Responsible innovation by AI assistants requires evidence that they can enhance accessible, engaging, and personalized education without disrupting teaching effectiveness or student agency.

5G 모바일 에지 컴퓨팅에서 빅데이터 분석 기능에 대한 데이터 오염 공격 탐지 성능 향상을 위한 연구 (A Study on Improving Data Poisoning Attack Detection against Network Data Analytics Function in 5G Mobile Edge Computing)

  • 옥지원;노현;임연섭;김성민
    • 정보보호학회논문지
    • /
    • 제33권3호
    • /
    • pp.549-559
    • /
    • 2023
  • 5G 네트워크의 핵심 기술로 모바일 에지 컴퓨팅(Mobile Edge Computing, MEC)이 주목받음에 따라, 모바일 사용자의 데이터를 기반으로 한 5G 네트워크 기반 에지 AI 기술이 최근 다양한 분야에서 이용되고 있다. 하지만, 전통적인 인공지능 보안에서와 마찬가지로, 에지 AI 핵심 기능을 담당하는 코어망 내 표준 5G 네트워크 기능들에 대한 적대적 교란이 발생할 가능성이 존재한다. 더불어, 3GPP에서 정의한 5G 표준 내 Standalone 모드의MEC 환경에서 발생할 수 있는 데이터 오염 공격은 기존 LTE망 대비 현재 연구가 미비한 실정이다. 본연구에서는 5G에서 에지 AI의 핵심 기능을 담당하는 네트워크 기능인 NWDAF를 활용하는 MEC 환경에 대한 위협 모델을 탐구하고, 일부 개념 증명으로써 Leaf NWDAF에 대한 데이터 오염 공격 탐지 성능을 향상시키기 위한 특징 선택 방법을 제안한다. 제안한 방법론을 통해, NWDAF에서의 Slowloris 공격 기반 데이터 오염 공격에 대해 최대 94.9%의 탐지율을 달성하였다.

The Regulation of AI: Striking the Balance Between Innovation and Fairness

  • Kwang-min Lee
    • 한국컴퓨터정보학회논문지
    • /
    • 제28권12호
    • /
    • pp.9-22
    • /
    • 2023
  • 본 논문에서는 인공지능의 무한한 발전 가능성을 유지하면서 공정성과 윤리적 책임을 유지하는 AI 규제에 대한 균형 잡힌 방안을 제시합니다. AI 시스템이 일상생활에 점점 더 통합됨에 따라, 특정 인구 집단에 대한 편견과 불이익을 방지하기 위한 규제 개발이 필수적입니다. 본 논문에서는 책임 있는 개발과 적용을 보장하기 위해 AI 애플리케이션의 규제 프레임워크와 사례 분석 연구를 진행합니다. 본 논문을 통하여 AI 규제에 대한 지속적인 논의를 이끌어내며, 혁신과 공정성 사이의 균형을 맞추는 정책을 수립을 제안합니다.

Exploratory Analysis of AI-based Policy Decision-making Implementation

  • SunYoung SHIN
    • International Journal of Internet, Broadcasting and Communication
    • /
    • 제16권1호
    • /
    • pp.203-214
    • /
    • 2024
  • This study seeks to provide implications for domestic-related policies through exploratory analysis research to support AI-based policy decision-making. The following should be considered when establishing an AI-based decision-making model in Korea. First, we need to understand the impact that the use of AI will have on policy and the service sector. The positive and negative impacts of AI use need to be better understood, guided by a public value perspective, and take into account the existence of different levels of governance and interests across public policy and service sectors. Second, reliability is essential for implementing innovative AI systems. In most organizations today, comprehensive AI model frameworks to enable and operationalize trust, accountability, and transparency are often insufficient or absent, with limited access to effective guidance, key practices, or government regulations. Third, the AI system is accountable. The OECD AI Principles set out five value-based principles for responsible management of trustworthy AI: inclusive growth, sustainable development and wellbeing, human-centered values and fairness values and fairness, transparency and explainability, robustness, security and safety, and accountability. Based on this, we need to build an AI-based decision-making system in Korea, and efforts should be made to build a system that can support policies by reflecting this. The limiting factor of this study is that it is an exploratory study of existing research data, and we would like to suggest future research plans by collecting opinions from experts in related fields. The expected effect of this study is analytical research on artificial intelligence-based decision-making systems, which will contribute to policy establishment and research in related fields.

산업보건분야에서의 생성형 AI: ChatGPT 활용과 우려 (Applications and Concerns of Generative AI: ChatGPT in the Field of Occupational Health)

  • 박주홍;함승헌
    • 한국산업보건학회지
    • /
    • 제33권4호
    • /
    • pp.412-418
    • /
    • 2023
  • As advances in artificial intelligence (AI) increasingly approach areas once relegated to the realm of science fiction, there is growing public interest in using these technologies for practical everyday tasks in both the home and the workplace. This paper explores the applications of and implications for of using ChatGPT, a conversational AI model based on GPT-3.5 and GPT-4.0, in the field of occupational health and safety. After gaining over one million users within five days of its launch, ChatGPT has shown promise in addressing issues ranging from emergency response to chemical exposure to recommending personal protective equipment. However, despite its potential usefulness, the integration of AI into scientific work and professional settings raises several concerns. These concerns include the ethical dimensions of recognizing AI as a co-author in academic publications, the limitations and biases inherent in the data used to train these models, legal responsibilities in professional contexts, and potential shifts in employment following technological advances. This paper aims to provide a comprehensive overview of these issues and to contribute to the ongoing dialogue on the responsible use of AI in occupational health and safety.

활동관여-장소애착 유형에 따른 환경책임행동분석 - 남한산성 도립공원 방문객을 대상으로 - (Analysis of Environmentally Responsible Behaviors based on a Typology of Activity Involvement and Place Attachment - Focuses on Visitors to Namhansanseong Provincial Park -)

  • 김현;송화성;김예은
    • 한국조경학회지
    • /
    • 제43권3호
    • /
    • pp.114-124
    • /
    • 2015
  • 활동관여와 장소애착은 자원의 지속가능한 이용을 설명하는데 유용한 개념이다. 활동관여와 장소애착의 영향관계, 그리고 각 개념과 환경행동의 관계에 대한 연구는 선행되었으나, 두 개념을 결합하여 환경행동과의 관계를 살펴본 연구는 이루어진 바 없다. 이에 본 연구에서는 남한산성 방문객을 대상으로 활동관여와 장소애착을 결합한 유형구분을 실시하고 유형별 환경책임행동에 대하여 고찰하였다. 남한산성의 주요 등산로에서 총 587부의 표본을 수집하였으며 빈도, 신뢰도, 요인, 교차, 평균비교분석, 상관분석과 일원분산분석을 실시하였다 그 결과, 활동관여-장소애착에 따라 고관여-고애착, 고관여-저애착, 저관여-저애착, 저관여-고애착의 4유형으로 분류되었고, 유형별 환경책임행동은 유의미한 차이를 가지고 있으며, 일반적 환경행동과 전문적 환경행동 모두에서 차이를 보였다. 또한 활동관여보다는 장소애착이 환경책임행동에 미치는 영향이 큰 것을 알 수 있었다. 등산에 대한 관여도가 높고 남한산성에 애착이 높은 방문객이 가장 적극적인 환경행동을 보인 반면 등산에 대한 관여도와 장소애착이 모두 낮은 방문객의 경우 소극적인 환경책임행동이 나타나 장소애착이 사람들의 친환경행동을 이끌어내므로 향후 관광 레크리에이션 자원 관리는 장소에서 일어나는 활동 경험을 기반으로 수립되어야 함을 강조하였다.

국가위기관리를 위한 인공지능 활용 가능성에 관한 고찰: 인공지능 운용과 연구개발 사례를 중심으로 (A Study on the Possibility of Utilizing Artificial Intelligence for National Crisis Management: Focusing on the Management of Artificial Intelligence and R&D Cases)

  • 최원상
    • 디지털융복합연구
    • /
    • 제19권3호
    • /
    • pp.81-88
    • /
    • 2021
  • 현대사회는 다양한 형태의 위기에 노출되어 있다. 특히, 9·11테러 이후로 각 국가는 비군사적 위기에 대한 관리의 비중이 점차 커지고 있다. 이에 본 연구에서는 제4차 산업혁명시대에서 국가위기관리를 위해 인공지능(AI)을 활용하는 방안에 관한 고찰을 목적으로 한다. 이를 위해 인간의 의사결정을 지원해주기 위해 운용되고 연구개발(R&D) 중인 인공지능(AI)의 실효성을 분석하여 인공지능(AI)을 국가위기관리에 활용 가능성을 살펴보았다. 연구결과, 인공지능(AI)은 데이터에 근거한 객관적인 상황 판단과 최적의 대응 방안을 정책결정권자에게 제시해주어 급박한 위기 상황에서 정책결정권자의 결정행위를 지원해주는 것이 가능하여 인공지능(AI)을 국가위기관리에 활용하는 것이 효율적임을 알 수 있었다. 이러한 연구결과는 신속하고 효율적인 국가위기 대응을 위해 인공지능(AI) 활용의 가능성을 제시해 준다.

AI의 의사결정에 대한 도덕판단에서 의인화가 미치는 영향 - 쌍 도덕 이론을 중심으로 - (Is Mr. AI more responsible? The effect of anthropomorphism in the moral judgement toward AI's decision making)

  • 최윤빈;장대익
    • 인지과학
    • /
    • 제33권4호
    • /
    • pp.169-203
    • /
    • 2022
  • 인공지능 기술이 고도화됨에 따라 인공지능이 도덕적 판단의 대상이 되거나 주체가 되는 사례가 늘어가고 있으며, 이러한 추세는 가속화될 전망이다. 인공지능은 고용, 의료 등 인간 사회의 핵심적인 분야에서 활발히 활용되기 시작했지만, 그에 반해 사람들이 인공지능과의 상호작용에서 그들을 어떠한 방식으로 지각하고 반응하는지에 관한 연구는 상대적으로 많지 않다. 본 연구는 세 가지 맥락(고용, 의료, 법조)에서의 실험을 통해 인공지능의 의인화가 인공지능의 의사결정에 대한 도덕적 책임 판단에 미치는 영향과 그 과정을 살펴보았다. 쌍 도덕 이론의 주요 변인인 지각된 행위 능력과 지각된 경험 능력을 매개 변인으로 모델을 구성해 검증하였으며, 구체적으로는 지각된 의인화가 인공지능의 도덕적 책임을 증가시키고, 인공지능에 대해 지각된 행위 능력과 경험 능력이 이를 매개할 것이라 예측하였다. 연구 결과, 실험 조작은 유효하지 않았으나 모든 실험에서 지각된 경험 능력이 의인화와 도덕적 책임 지각 간의 관계를 매개함을 확인하였다. 반면 지각된 행위 능력의 효과는 혼재된 결과를 보여 가설을 부분적으로 지지하였다. 이는 도덕적 지위에 대한 경험 능력의 중요성을 주장하는 유기체적 관점을 지지하는 결과이며, 또한 AI와 로봇의 의인화 연구에서 경험 능력이 행위 능력보다 더욱 중요함을 보이는 것이다.

STIMULATING NEURAL ELECTRODE-A STUDY ON CHARGE INJECTION PROPERTIES OF IRIDIUM OXIDE FILMS

  • Lee, In-Seop;Ray A. Buchanan;Jim M.Williams
    • 한국진공학회지
    • /
    • 제4권S2호
    • /
    • pp.156-162
    • /
    • 1995
  • For a stimulating neural electrode, the charge density should be as large as possible to provide adequate stimulation of the nervous system while allowing for miniaturization of the electrode. Since iridium oxide is able to produce high charge densities while preventing undesirable reactions due to charge storage, it has become a promising material for neural prostheses. Successful production of stable Ir and Ir oxide films on various substrates now limits the use of this material. Ir was deposited on two differently prepared surface of (mirror finish, passivation) surgical Ti-6AI-4V with several methods. Ion beam mixing of sputter deposited Ir films on passivated Ti-6AI-4V produced stable and good adherent Ir films. It was found that the increase in charge density of pure Ir on continuous cyclingis due to the accumulation of the oxide phase ( associated with a large surface area) in which the valence state of iridium changes and the double-layer capacitance increases. This study also showed that the double layer capacitance is equally or even more responsible for the high charge density of anodically formed Ir oxide.

  • PDF

Alternative Production of Avermectin Components in Streptomyces avermitilis by Gene Replacement

  • Yong Joon-Hyoung;Byeon Woo-Hyeon
    • Journal of Microbiology
    • /
    • 제43권3호
    • /
    • pp.277-284
    • /
    • 2005
  • The avermectins are composed of eight compounds, which exhibit structural differences at three positions. A family of four closely-related major components, A1a, A2a, B1a and B2a, has been identified. Of these components, B1a exhibits the most potent antihelminthic activity. The coexistence of the '1' components and '2' components has been accounted for by the defective dehydratase of aveAI module 2, which appears to be responsible for C22-23 dehydration. Therefore, we have attempted to replace the dehydratase of aveAI module 2 with the functional dehydratase from the erythromycin eryAII module 4, via homologous recombination. Erythromycin polyketide synthetase should contain the sole dehydratase domain, thus generating a saturated chain at the C6-7 of erythromycin. We constructed replacement plasmids with PCR products, by using primers which had been derived from the sequences of avermectin aveAI and the erythromycin eryAII biosynthetic gene cluster. If the original dehydratase of Streptomyces avermitilis were exchanged with the corresponding erythromycin gene located on the replacement plasmid, it would be expected to result in the formation of precursors which contain alkene at C22-23, formed by the dehydratase of erythromycin module 4, and further processed by avermectin polyketide synthase. Consequently, the resulting recombinant strain JW3105, which harbors the dehydratase gene derived from erythromycin, was shown to produce only C22,23-unsaturated avermectin compounds. Our research indicates that the desired compound may be produced via polyketide gene replacement.