• 제목/요약/키워드: Big data platform

검색결과 506건 처리시간 0.023초

Text Classification on Social Network Platforms Based on Deep Learning Models

  • YA, Chen;Tan, Juan;Hoekyung, Jung
    • Journal of information and communication convergence engineering
    • /
    • 제21권1호
    • /
    • pp.9-16
    • /
    • 2023
  • The natural language on social network platforms has a certain front-to-back dependency in structure, and the direct conversion of Chinese text into a vector makes the dimensionality very high, thereby resulting in the low accuracy of existing text classification methods. To this end, this study establishes a deep learning model that combines a big data ultra-deep convolutional neural network (UDCNN) and long short-term memory network (LSTM). The deep structure of UDCNN is used to extract the features of text vector classification. The LSTM stores historical information to extract the context dependency of long texts, and word embedding is introduced to convert the text into low-dimensional vectors. Experiments are conducted on the social network platforms Sogou corpus and the University HowNet Chinese corpus. The research results show that compared with CNN + rand, LSTM, and other models, the neural network deep learning hybrid model can effectively improve the accuracy of text classification.

대용량 데이터의 분산 처리를 위한 클라우드 컴퓨팅 환경 최적화 및 성능평가 (Optimization and Performance Analysis of Cloud Computing Platform for Distributed Processing of Big Data)

  • 홍승태;신영성;장재우
    • Spatial Information Research
    • /
    • 제19권4호
    • /
    • pp.55-71
    • /
    • 2011
  • 최근 IT 분야에서 인터넷을 기반으로 IT 자원들을 서비스 형태로 제공하는 클라우드 컴퓨팅에 대한 관심이 증대되고 있으며, 이에 따라 대규모 데이터를 수많은 서버들에 분산 저장하고 관리하기 위한 분산 데이터 처리 기법에 대한 연구가 활발히 진행되고 있다. 한편 GIS 기술의 성장과 더불어 급격히 증가하고 있는 공간 데이터를 효율적으로 활용하기 위해서는, 클라우드 컴퓨팅을 이용한 대용량 공간데이터의 분산 처리가 필수적이다. 이를 위해 본 논문에서는 대표적인 분산 데이터 처리 기법에 대해 살펴보고, 분산 데이터 처리 기법 성능 개선을 위한 최적화 요구사항을 분석한다. 마지막으로 Hadoop 기반 클러스터를 구축하고 이를 통해서 분산 데이터 처리 기법의 성능 최적화에 대한 성능평가를 수행한다.

빅데이터 K-평균 클러스터링을 위한 RHadoop 플랫폼 (RHadoop platform for K-Means clustering of big data)

  • 신지은;오윤식;임동훈
    • Journal of the Korean Data and Information Science Society
    • /
    • 제27권3호
    • /
    • pp.609-619
    • /
    • 2016
  • 본 논문에서는 대용량 데이터를 처리 및 분석하기 위해 RHadoop 플랫폼에서 실제 데이터와 모의 실험 데이터를 가지고 K-평균 클러스터링을 구현하고, MapReduce의 컴바이너 사용여부에 따른 처리 속도를 비교하고자 한다. 또한, K-평균 클러스터링에서 최적의 군집수 결정방법을 MapReduce 프로그램으로 구현하여 실제 데이터에 적용하고자 한다. 그리고 제안된 RHadoop 플랫폼의 확장 가능성을 보이기 위해 실제 데이터에서 R의 기본 패키지에서 kmeans() 함수와 bigmemory 패키지 상에서 유용한 bigkmeans() 함수와 처리 속도를 비교하고자 한다.

공공 빅데이터 플랫폼 '혜안'을 통한 산사태 및 사방댐 인식 분석 (A Study on Public Awareness of Landslide and Check Dam Using the Big Data Platform 'Hyean')

  • 박소희;강민정;유송
    • 한국재난정보학회 논문집
    • /
    • 제18권4호
    • /
    • pp.687-698
    • /
    • 2022
  • 연구목적: 본 연구는 빅데이터 플랫폼 '혜안'을 사용하여 2015년에서 2020년 사이의 산사태와 사방댐에 대한 언론 및 대중의 인식을 파악하고 방재 분야에서 '혜안'의 활용성을 확인하고자 수행되었다. 연구방법:빅데이터 플랫폼 '혜안'의 키워드 검색을 사용하여 2015~2020년의 '산사태'와 '사방댐'에 대한 검색 총량 및 시기에 따른 매체별 검색어 출현 횟수, 그리고 긍·부정 추이를 확인하였다. 연구결과:산사태에 비해 사방댐에 대한 인식이 현저하게 부족하며, 사방댐에 대한 언론보도와 트위터 및 블로그에서 나타나는 대중의 인식 수준 사이에 현저한 괴리가 나타난다. 산사태의 실제 발생 시기에 따라 극명하게 관심이 나타나는 '산사태'와 달리 '사방댐'에 대한 자료는 산사태의 실제 발생 시기와 시기적 연관성이 낮다. 사방댐에 대한 긍정적인 인식이 유추되지만 '혜안'으로는 재난 방지책에 대한 정확한 통계적 긍·부정 인식 확인이 어렵다. 결론: 전문가들이 사방사업에 대해 긍정적으로 인식하는 것에 비해 산사태에 대한 효과적인 방지책으로서의 사방댐에 대한 대중인식은 매우 저조하므로 사방사업에 대한 적극적인 홍보가 우선적으로 이루어져야 할 것이다. 추후 다양한 SNS 플랫폼에 대해 추가적인 빅데이터 조사와 함께 방재사업의 직접적 영향권에 있는 사람들을 대상으로 주기적인 현장 설문조사가 동반되어야 할 것이다. '혜안'을 사용한 방재 분야의 효과적인 인식 파악에는 한계가 있으므로 이를 활용한 지자체/정부적 정책 수립에는 신중을 기해야할 것이다.

Google Trends 의 키워드 빅데이터 분석을 활용한 글로벌 스타트업 트렌드 분석: 2017~2022 (Analyzing Global Startup Trends Using Google Trends Keyword Big Data Analysis: 2017~2022)

  • 김재억;전병훈
    • Journal of Platform Technology
    • /
    • 제11권4호
    • /
    • pp.19-34
    • /
    • 2023
  • 글로벌시대의 환경속에서 '스타트업'의 트렌드와 인사이트를 파악하기 위해 빅데이터 분석 플랫폼인 Google Trends를 활용하여 최근 글로벌 스타트업 생태계를 심층 트렌드 분석을 실시하였다. 분석의 타당성을 위해 BIGKinds를 통해 핵심 키워드 '스타트업'과 '글로벌'의 상관관계를 검증하였다. 또한 '스타트업' 키워드나 용어의 검색 빈도를 파악하기 위해 Google Trends를 이용하여 추출한 데이터를 기반으로 네트워크 분석을 수행하였다. 연구결과, 키워드 사이에 강한 양적 선형관계를 보여주어 통계적으로 유의미한 상관관계를 나타냈다(상관계수: +0.8906). Google Trends를 사용한 글로벌 스타트업 트렌드를 탐색한 결과 '그림4'와 같이 각 국가들의 시기별 관심도가 증가하거나 감소하는 매우 비슷한 선형적 형태를 나타났다. 특히 스타트업 관심도가 2020년 중반부터 코로나-19 팬데믹으로 인해 35~76 범위내에서 낮게 나타났지만, 2022년 3월 이후 스타트업 관심도가 눈에 띄게 상승하는 트렌드를 보였다. 또한, 한국을 제외한 각 국가별 Startups 관심도는 아주 비슷한 추세이고, 관련 주제는 startup company, technology, investment, funding, 키워드 검색어는 best startup, tech, business, invest, health, fintech 등이 공통적으로 나타나 매우 높은 상관관계가 있음을 확인하였다.

  • PDF

헬스 빅데이터 플랫폼에서 이기종 라이프로그 마이닝 모델 (Heterogeneous Lifelog Mining Model in Health Big-data Platform)

  • 강지수;정경용
    • 한국융합학회논문지
    • /
    • 제9권10호
    • /
    • pp.75-80
    • /
    • 2018
  • 본 논문에서는 헬스 빅데이터 플랫폼에서 이기종 라이프로그 마이닝 모델을 제안한다. 이는 사용자의 라이프 로그를 실시간으로 수집하고 헬스케어 서비스를 제공하기 위한 온톨로지 기반의 마이닝 모델이다. 제안하는 방법은 이기종 라이프 로그 데이터를 분산처리하고, 클라우드 컴퓨팅 환경에서 실시간으로 처리한다. 이를 이기종 온톨로지를 기반으로 구성한 환경에 적합하도록 상위 온톨로지 방식으로 지식베이스를 재구성한다. 재구성한 지식베이스는 Jena 4.0 추론엔진을 이용해 추론 규칙들을 생성하고, 규칙 기반 추론 방법으로 실시간 헬스 서비스를 제공한다. 라이프로그 마이닝을 숨겨진 관계에 대한 분석과 시계열적 생체신호에 대한 예측모델을 구성한다. 이는 관계나 추론규칙에서 포함되지 않은 음의 상관관계나 양의 상관관계를 탐색하여 사용자의 생체신호에 대한 변화를 감지하고 예방 의료 서비스를 현실화하는 실시간 헬스케어 서비스가 가능하다. 성능 평가는 제안한 이기종 라이프로그 마이닝 모델 방법이 정확도에서 0.734, 재현율에서 0.752로 다른 모델에 비해 우수하게 나타난다.

빅데이터 기법을 활용한 Data Technology의 키워드 분석 (Keyword Analysis of Data Technology Using Big Data Technique)

  • 박성욱
    • 기술혁신학회지
    • /
    • 제22권2호
    • /
    • pp.265-281
    • /
    • 2019
  • 경제가 성장하고 인터넷이 발전되면서 사람들의 경제형태와 소비는 많이 바뀌었다. 중국 알리바바 그룹은 모바일, 온라인, 오프라인, 인공지능을 결합한 플랫폼으로 약 28조의 매출을 창출하고 있다. 이는 1초에 약 25만건을 처리하는 수준이며, 2016년 대비 40% 증가했다. 이를 가능하게 한 핵심 기술은 소위 Data Technology라고 불리는 빅데이터와 클라우드 컴퓨팅이 융합된 기술이다. 기술의 발전속도에 비해 Data Technology에 관한 정확한 개념적 정의는 부족하다. 이에 본 논문은 빅데이터 분석기법인 TexTom을 활용하여 구글과 네이버의 최근 3개년(2015년 11월~2018년 11월) 신문기사를 데이터 마이닝 및 정제하여 'Data Technology' 키워드로 한정하여 관련 핵심 키워드를 도출하였다. 그 결과 빅데이터, O2O, 인공지능, 사물인터넷, 클라우드 컴퓨팅의 핵심 키워드 기술이 Data Technology와 관계가 있음을 알수 있었다. 본 연구의 분석결과는 향후 Data Technology 시대가 도래되면 참고할 수 있는 유용한 정보로 활용될 수 있다.

증류탑을 위한 머신러닝 기반 플랫폼 개발 (Development of Machine Learning-Based Platform for Distillation Column)

  • 오광철;권혁원;노지원;최영렬;박현도;조형태;김정환
    • Korean Chemical Engineering Research
    • /
    • 제58권4호
    • /
    • pp.565-572
    • /
    • 2020
  • 본 연구는 증류탑 분리공정 시스템 최적화를 위하여 인공지능 머신러닝이 적용된 소프트웨어 플랫폼을 개발하였다. 증류탑 분리공정은 석유화학 산업의 대표적이고 핵심적인 공정이다. 하지만 다양한 운전조건과 연속식공정 특성으로 인하여 안정적인 운전이 어려우며 운전자 숙련도에 의하여 공정효율에 차이가 발생된다. 이를 해결하기 위하여 이론적 시뮬레이션을 활용한 제어방법이 개발되어 사용되고 있지만 특수하거나 복잡한 반응이 포함된 공정에는 적용이 어려우며, 거대한 시스템에 대하여 분석이 이루어질 경우 계산비용 증대로 인하여 실시간 제어와 연동이 어려운 한계점을 지니고 있다. 따라서 본 연구에서는 이러한 문제점을 해결하기 위하여 머신러닝을 기반으로 한 경험적 시뮬레이션 모델을 개발하고 이를 통하여 최적의 공정운영방법을 제시하고자 한다. 경험적 시뮬레이션 개발은 실제 공정에서 수집된 빅 데이터, 데이터마이닝을 통한 특성추출, 공정을 대표하는 데이터 선별, 화학공정 특성에 맞는 모델 선정으로 이루어졌으며, 현장검증 및 테스트를 통하여 증류탑 분리공정 플랫폼이 개발되었다. 최종적으로 개발된 플랫폼을 통하여 운전 조작변수의 예측이 가능하며, 최적화된 운전조건을 제공하여 효율적인 공정운영을 달성할 수 있다. 본 논문은 머신러닝 기법을 화학공정에 적용한 기초연구로서 이후 다양한 공정에 적용하여 4차 산업의 스마트 팩토리의 초석이 되어 널리 활용될 수 있을 것이라 판단된다.

인터넷의 이중적 플랫폼: 공개.공유.참여의 광장이자 추적.감시.통제의 시장 (Two-faced Platform on the Internet: Square of Openness/Sharing/Participation and Market of Tracking/Surveillance/Control)

  • 조동원
    • 한국언론정보학보
    • /
    • 제64권
    • /
    • pp.5-30
    • /
    • 2013
  • 이 글은 오늘날 인터넷을 비롯한 정보기술문화를 비판적으로 분석하기 위한 개념틀로 이중적 플랫폼을 제안한다. 인터페이스연구와 양면시장론에 기대어 인터넷을 이중적 플랫폼으로 접근함으로써 전면에는 이용자의 공개, 공유, 참여의 광장이 펼쳐지고 이면에는 그에 대한 추적, 감시, 통제의 시장이 형성되는 복합적 양상을 분석할 수 있다. 특히 전면의 광장과 이면의 시장이 어떻게 하나의 플랫폼에서 공존하며 모순적으로 상호작용하는가에 초점을 맞추면서 인터넷의 이중적 플랫폼을 광장시장의 인터페이스로 규정할 것이다. 그에 이어 월드와이드웹의 설계구조가 바뀌고 콘텐츠에서 데이터로 정보재의 주요 상품 형태가 변천하며 이용자 추적을 위한 웹벌레의 기능을 분석하면서 웹 전체가 어떻게 이중적 플랫폼으로 기능하는지 규명한다. 마지막으로 이중적 플랫폼 개념틀의 함의와 추후 심화된 분석을 위해 필요한 과제를 제시한다.

  • PDF

스마트 통합플랫폼 보안위협과 대응방안 연구 (A Study on the Security Threat Response in Smart Integrated Platforms)

  • 유승재
    • 융합보안논문지
    • /
    • 제22권1호
    • /
    • pp.129-134
    • /
    • 2022
  • 스마트플랫폼이란 기존 플랫폼과 첨단 IT기술을 결합함으로써 물리 및 가상공간을 초연결 환경으로 구현한 진화된 플랫폼이라 정의된다. 초연결로 언급되는 정보와 정보, 인프라와 인프라, 인프라와 정보, 공간과 서비스가 연결은 사용자의 삶의 질과 환경을 획기적으로 변화시켜 주는 고품질의 서비스 구현 및 제공을 가능하게 한다. 특히 스마트 정부와 스마트 헬스케어 구현으로 사회안전망과 개인건강관리 수준을 획기적으로 개선시킨 효과를 모두에게 제공하고 있다. 이 과정에서 생산되고 소비되는 수많은 정보들은 그 자체로서 혹은 빅데이터 분석을 통해 공공 및 개인의 기본권을 위협하는 요인으로 작용할 수 있다. 특히 스마트시티의 생태계를 형성하는 핵심기능으로서의 스마트플랫폼은 자연스럽게 지속적으로 확장되어 가기 때문에 그에 따르는 데이터의 처리운용과 네트워크 운영 상 커다란 보안 부담에 직면하고 있다. 이 논문에서는 스마트시티의 핵심 기능으로서의 플랫폼 구성 요소와 그에 대한 적절한 보안위협 및 대응 방안을 연구한다.