딥러닝의 모형과 응용사례 (Deep Learning Architectures and Applications)
-
- 지능정보연구
- /
- 제22권2호
- /
- pp.127-142
- /
- 2016
딥러닝은 인공신경망(neural network)이라는 인공지능분야의 모형이 발전된 형태로서, 계층구조로 이루어진 인공신경망의 내부계층(hidden layer)이 여러 단계로 이루어진 구조이다. 딥러닝에서의 주요 모형은 합성곱신경망(convolutional neural network), 순환신경망(recurrent neural network), 그리고 심층신뢰신경망(deep belief network)의 세가지라고 할 수 있다. 그 중에서 현재 흥미로운 연구가 많이 발표되어서 관심이 집중되고 있는 모형은 지도학습(supervised learning)모형인 처음 두 개의 모형이다. 따라서 본 논문에서는 지도학습모형의 가중치를 최적화하는 기본적인 방법인 오류역전파 알고리즘을 살펴본 뒤에 합성곱신경망과 순환신경망의 구조와 응용사례 등을 살펴보고자 한다. 본문에서 다루지 않은 모형인 심층신뢰신경망은 아직까지는 합성곱신경망 이나 순환신경망보다는 상대적으로 주목을 덜 받고 있다. 그러나 심층신뢰신경망은 CNN이나 RNN과는 달리 비지도학습(unsupervised learning)모형이며, 사람이나 동물은 관찰을 통해서 스스로 학습한다는 점에서 궁극적으로는 비지도학습모형이 더 많이 연구되어야 할 주제가 될 것이다.
최근 4차 산업혁명과 함께 인공지능 기술에 대한 연구가 활발히 진행되고 있으며, 이전의 그 어느 때보다도 기술의 발전이 빠르게 진행되고 있는 추세이다. 이러한 인공지능 환경에서 양질의 지식베이스는 인공지능 기술의 향상 및 사용자 경험을 높이기 위한 기반 기술로써 중요한 역할을 하고 있다. 특히 최근에는 인공지능 스피커를 통한 질의응답과 같은 서비스의 기반 지식으로 활용되고 있다. 하지만 지식베이스를 구축하는 것은 사람의 많은 노력을 요하며, 이로 인해 지식을 구축하는데 많은 시간과 비용이 소모된다. 이러한 문제를 해결하기 위해 본 연구에서는 기계학습을 이용하여 지식베이스의 구조에 따라 학습을 수행하고, 이를 통해 자연어 문서로부터 지식을 추출하여 지식화하는 방법에 대해 제안하고자 한다. 이러한 방법의 적절성을 보이기 위해 DBpedia 온톨로지의 구조를 기반으로 학습을 수행하여 지식을 구축할 것이다. 즉, DBpedia의 온톨로지 구조에 따라 위키피디아 문서에 기술되어 있는 인포박스를 이용하여 학습을 수행하고 이를 바탕으로 자연어 텍스트로부터 지식을 추출하여 온톨로지화하기 위한 방법론을 제안하고자 한다. 학습을 바탕으로 지식을 추출하기 위한 과정은 문서 분류, 적합 문장 분류, 그리고 지식 추출 및 지식베이스 변환의 과정으로 이루어진다. 이와 같은 방법론에 따라 실제 지식 추출을 위한 플랫폼을 구축하였으며, 실험을 통해 본 연구에서 제안하고자 하는 방법론이 지식을 확장하는데 있어 유용하게 활용될 수 있음을 증명하였다. 이러한 방법을 통해 구축된 지식은 향후 지식베이스를 기반으로 한 인공지능을 위해 활용될 수 있을 것으로 판단된다.
The relics of the Southeast Asian civilizations in the first phase are found with the relics from India, China, and even further West of Persia and Rome. These relics are the historic marks of the ancient interactions of various continents, mainly through the maritime trade. The traces of the indic culture, which appears in the historic age, are represented in the textual records and arts, regarded as the essence of the India itself. The ancient Hindu arts found in various locations of Southeast Asia were thought to be transplanted directly from India. However, Neither did the Gupta Hindu Art of India form the mainstream of the Gupta Art, nor did it play an influential role in the adjacent areas. The Indian culture was transmitted to Southeast Asia rather intermittently than consistently. If we thoroughly compare the early Hindu art of India and that of Southeast Asia, we can find that the latter was influenced by the former, but still sustained Southeast Asian originality. The reason that the earliest Southeast Asian Hindu art is discovered mostly in continental Southeast Asia is resulted from the fact that the earliest networks between India and the region were constructed in this region. Among the images of Hindu gods produced before the 7th century are Shiva, Vishnu, Harihara, and Skanda(the son of Shiva), and Ganesha(the god of wealth). The earliest example of Vishnu was sculpted according to the Kushan style. After that, most of the sculptures came to have robust figures and graceful proportions. There are a small number of images of Ganesha and Skanda. These images strictly follow the iconography of the Indian sculpture. This shows that Southeast Asians chose their own Hindu gods from the Hindu pantheon selectively and devoted their faiths to them. Their basic iconography obediently followed the Indian model, but they tried to transform parts of the images within the Southeast Asian contexts. However, it is very difficult to understand the process of the development of the Hindu faith and its contents in the ancient Southeast Asia. It is because there are very few undamaged Hindu temples left in Southeast Asia. It is also difficult to make sure that the Hindu religion of India, which was based on the complex rituals and the caste system, was transplanted to Southeast Asia, because there were no such strong basis of social structure and religion in the region. "Indianization" is an organized expansion of the Indian culture based on the sense of belonging to an Indian context. This can be defined through the process of transmission and progress of the Hindu or Buddhist religions, legends about purana, and the influx of various epic expression and its development. Such conditions are represented through the Sanskrit language and the art. It is the element of the Indian culture to fabricate an image of god as a devotional object. However, if we look into details of the iconography, style, and religious culture, these can be understood as a "selective reception of foreign religious culture." There were no sophisticated social structure yet to support the Indian culture to continue in Southeast Asia around the 7th century. Whether this phenomena was an "Indianization" or the "influx of elements of Indian culture," it was closely related to the matter of 'localization.' The regional character of each local region in Southeast Asia is partially shown after the 8th century. However it is not clear whether this culture was settled in each region as its dominant culture. The localization of the Indian culture in Southeast Asia which acted as a network connecting ports or cities was a part of the process of localization of Indian culture in pan-Southeast Asian region, and the process of the building of the basis for establishing an identity for each Southeast Asian region.
불면증은 최근 5년 새 환자가 20% 이상 증가하고 있는 현대 사회의 만성적인 질병이다. 수면이 부족할 경우 나타나는 개인 및 사회적 문제가 심각하고 불면증의 유발 요인이 복합적으로 작용하고 있어서 진단 및 치료가 중요한 질환이다. 본 연구는 자유롭게 의견을 표출하는 소셜 미디어 'Reddit'의 불면증 커뮤니티인 'insomnia'를 대상으로 5,699개의 데이터를 수집하였고 이를 국제수면장애분류 ICSD-3 기준과 정신의학과 전문의의 자문을 받은 가이드라인을 바탕으로 불면증 경향 문헌과 비경향 문헌으로 태깅하여 불면증 말뭉치를 구축하였다. 구축된 불면증 말뭉치를 학습데이터로 하여 5개의 딥러닝 언어모델(BERT, RoBERTa, ALBERT, ELECTRA, XLNet)을 훈련시켰고 성능 평가 결과 RoBERTa가 정확도, 정밀도, 재현율, F1점수에서 가장 높은 성능을 보였다. 불면증 소셜 데이터를 심층적으로 분석하기 위해 기존에 많이 사용되었던 LDA의 약점을 보완하며 새롭게 등장한 BERTopic 방법을 사용하여 토픽 모델링을 진행하였다. 계층적 클러스터링 분석 결과 8개의 주제군('부정적 감정', '조언 및 도움과 감사', '불면증 관련 질병', '수면제', '운동 및 식습관', '신체적 특징', '활동적 특징', '환경적 특징')을 확인할 수 있었다. 이용자들은 불면증 커뮤니티에서 부정 감정을 표현하고 도움과 조언을 구하는 모습을 보였다. 또한, 불면증과 관련된 질병들을 언급하고 수면제 사용에 대한 담론을 나누며 운동 및 식습관에 관한 관심을 표현하고 있었다. 발견된 불면증 관련 특징으로는 호흡, 임신, 심장 등의 신체적 특징과 좀비, 수면 경련, 그로기상태 등의 활동적 특징, 햇빛, 담요, 온도, 낮잠 등의 환경적 특징이 확인되었다.
최근 전 세계 보험업계에도 기계학습, 자연어 처리, 딥러닝 등의 인공지능 기술 활용을 통한 디지털 전환이 급속도로 확산하고 있다. 이에 따라 인공지능 기술을 기반으로 한 인슈어테크와 플랫폼 비즈니스 성공을 이룬 해외 보험사들도 증가하고 있다. 대표적으로 중국 최대 민영기업인 평안보험그룹은 '금융과 기술', '금융과 생태계'를 기업의 핵심 키워드로 내세우며 끊임없는 혁신에 도전한 결과, 인슈어테크와 디지털플랫폼 분야에서 괄목할만한 성과를 보이며 중국의 글로벌 4차 산업혁명을 선도하고 있다. 이에 본 연구는 평안보험그룹 인슈어테크와 플랫폼 비즈니스 활동을 ser-M 분석 모델을 통해 분석하여 국내 보험사들의 인공지능 기술기반 비즈니스 활성화를 위한 전략적 시사점을 제공하고자 했다. ser-M 분석 모델은 기업의 경영전략을 주체, 환경, 자원, 메커니즘 관점에서 통합적으로 해석이 가능한 프레임으로, 최고경영자의 비전과 리더십, 기업의 역사적 환경, 다양한 자원 활용, 독특한 메커니즘 관계가 통합적으로 해석되도록 연구하였다. 사례분석 결과, 평안보험은 안면·음성·표정 인식 등 핵심 인공지능 기술을 활용하여 세일즈, 보험인수, 보험금 청구, 대출 서비스 등 업무 전 영역을 디지털로 혁신함으로써 경비 절감과 고객서비스 발전을 이루었다. 또한 '중국 내 온라인 데이터'와 '회사가 축적한 방대한 오프라인 데이터 및 통찰력'을 인공지능, 빅데이터 분석 등 신기술과 결합하여 금융 서비스와 디지털 서비스 사업이 통합된 디지털 플랫폼을 구축하였다. 이러한 평안보험그룹의 성공 배경을 ser-M 관점에서 분석해 보면, 창업자 마밍즈 회장은 4차 산업혁명 시대의 디지털 기술발전, 시장경쟁 및 인구 구조의 변화를 빠르게 포착하여 새로운 비전을 수립하고 디지털 기술중시의 민첩한 리더십을 발휘하였다. 환경변화에 대응한 창업자 주도의 강력한 리더십을 바탕으로 인공지능 기술 투자, 우수 전문인력 확보, 빅데이터 역량 강화 등 내부자원을 혁신하고, 외부 흡수역량의 결합, 다양한 업종 간의 전략적 제휴를 통해 인슈어테크와 플랫폼 비즈니스를 성공적으로 끌어냈다. 이와 같은 성공사례 분석을 통하여 인슈어테크와 디지털플랫폼 도입을 본격 준비하고 있는 국내 보험사들에게 디지털 시대에 필요한 경영 전략과 리더십에 대한 시사점을 줄 수 있다.
The wall shear stress in the vicinity of end-to end anastomoses under steady flow conditions was measured using a flush-mounted hot-film anemometer(FMHFA) probe. The experimental measurements were in good agreement with numerical results except in flow with low Reynolds numbers. The wall shear stress increased proximal to the anastomosis in flow from the Penrose tubing (simulating an artery) to the PTFE: graft. In flow from the PTFE graft to the Penrose tubing, low wall shear stress was observed distal to the anastomosis. Abnormal distributions of wall shear stress in the vicinity of the anastomosis, resulting from the compliance mismatch between the graft and the host artery, might be an important factor of ANFH formation and the graft failure. The present study suggests a correlation between regions of the low wall shear stress and the development of anastomotic neointimal fibrous hyperplasia(ANPH) in end-to-end anastomoses. 30523 T00401030523 ^x Air pressure decay(APD) rate and ultrafiltration rate(UFR) tests were performed on new and saline rinsed dialyzers as well as those roused in patients several times. C-DAK 4000 (Cordis Dow) and CF IS-11 (Baxter Travenol) reused dialyzers obtained from the dialysis clinic were used in the present study. The new dialyzers exhibited a relatively flat APD, whereas saline rinsed and reused dialyzers showed considerable amount of decay. C-DAH dialyzers had a larger APD(11.70
The wall shear stress in the vicinity of end-to end anastomoses under steady flow conditions was measured using a flush-mounted hot-film anemometer(FMHFA) probe. The experimental measurements were in good agreement with numerical results except in flow with low Reynolds numbers. The wall shear stress increased proximal to the anastomosis in flow from the Penrose tubing (simulating an artery) to the PTFE: graft. In flow from the PTFE graft to the Penrose tubing, low wall shear stress was observed distal to the anastomosis. Abnormal distributions of wall shear stress in the vicinity of the anastomosis, resulting from the compliance mismatch between the graft and the host artery, might be an important factor of ANFH formation and the graft failure. The present study suggests a correlation between regions of the low wall shear stress and the development of anastomotic neointimal fibrous hyperplasia(ANPH) in end-to-end anastomoses. 30523 T00401030523 ^x Air pressure decay(APD) rate and ultrafiltration rate(UFR) tests were performed on new and saline rinsed dialyzers as well as those roused in patients several times. C-DAK 4000 (Cordis Dow) and CF IS-11 (Baxter Travenol) reused dialyzers obtained from the dialysis clinic were used in the present study. The new dialyzers exhibited a relatively flat APD, whereas saline rinsed and reused dialyzers showed considerable amount of decay. C-DAH dialyzers had a larger APD(11.70
HSDPA(高速下行分组接入)是在第三代的W-CDMA技术基础上的3.5代移动通信异步服务. 在韩国, 它主要是通过提供可视电话服务. 由于更强大和多元化的服务扩散, 随着移动通信技术迅速的进步, 消费者需要更多的选择. 然而, 由于各种技术, 不论消费者偏好往往会溢出市场, 消费者感到越来越迷惑. 因此, 我们不应该采取只注重发展假设是下一代新技术项目的战略相反, 我们应该了解消费者接受新的形式和技术的过程, 通过制定战略, 使开发人员能够理解并提供消费者真正想要的, 从而降低进入市场的障碍. 在技术接受模型(TAM)中, 感知到的有用性和使用的简单性被认为是影响人们接受新技术的态度的最重要因素(Davis, 1989; Taylor and Todd, 1995; Venkatesh, 2000; Lee et al., 2004). 感知到的有用性是一个人相信某种特定的技术能提高他或她工作绩效的程度. 感知易用性是主观认为使用某种特定技术不需要太多体力和精力的付出的程度(Davis, 1989; Morris and Dillon, 1997; Venkatesh, 2000). 感知的愉悦性和感知的有用性已经被清楚的证明对接受技术的态度有影响(Davis et al., 1992). 比如, 网上购物的愉悦性已经表现出对消费者对网上商家的态度有积极的影响(Eighmey and McCord, 1998; Mathwick, 2002; Jarvenpaa and Todd, 1997). 消费者的感知风险是一种主观风险. 这种风险和客观可能的风险是有显著区别的. 感知风险包括心理上的风险, 这是当消费者为某一特定物品而选择品牌, 商店和购买方式时所感知到的. 企业革新产品的能力取决于有效的获得有关新产品的知识(Bierly and Chakrabarti, 1996; Rothwell and Dodgson, 1991). 知识获取是公司感知外界新事物和技术的价值的能力(Cohen and Levinthal, 1990); 是公司评估外界最新的技术的能力(Arora and Gambaradella, 1994); 是公司正确预测这项科技对未来革新的能力(Cohen and Levinthal, 1990). 消费者创新是一种在社会体系中比其他人更早接受创新的程度(Lee, Ahn, and Ha, 2001; Gatignon and Robertson, 1985). 也就是说, 它显示了消费者如何快速、方便地接受新的思路. 创新被认为是重要的, 因为它对消费者是否接受新产品和他们多快接受新产品有显著的影响(Midgley and Dowling, 1978; Foxall, 1988; Hirschman, 1980). 我们用技术接受模型来进行跨国家的研究比较, 此模型实证验证了影响态度的因素-感知有用性, 易用性, 感知愉悦, 感知风险, 创新和感知的知识管理水平-和对HSDPA服务的态度之间的关系. 我们为HSDPA服务提供商开发更有效的管理方法还验证了态度和使用意图之间的关系. 在本研究中, 我们在韩国350名学生中分发了346份问卷调查. 由于其中26份收回的问卷时不完整的或者有缺失数据, 所以在假设检验时320份问卷被使用. 在英国, 200份问卷收回了192份, 舍弃了两份不完整的之后, 总共有190份问卷用于统计分析中. 整体模型的分析结果如下: 韩国, x2=333.27(p=0.0), NFI=0.88, NNFI=0.88, CFI=0.91, IFI=0.91, RMR=0.054, GFI=0.90, AGFI=0.84; 英国, x2=176.57(p=0.0), NFI=0.88, NNFI=0.90, CFI=0.93, IFI=0.93, RMR=0.062, GFI=0.90, AGFI=0.84. 在韩国消费者中, 从有关影响HSDPA服务的使用意图和态度之间的关系的假设检验的结果中, 感知的有用性, 易用性, 乐趣, 知识管理的高水平和促进创新对HSDPA移动手机的态度有积极的影响. 然后, 易用性和感知的乐趣对HSDPA服务的使用意图没有直接的影响. 这可能是因为在日常生活中使用视频电话还不是必需的这一现实. 而且消费者对HSDPA视频电话的态度和使用意图有直接的关系, 这些态度包括感知的有用性, 易用性, 乐趣, 知识管理的高水平和创新. 这些关系构成了购买意图的基础, 并造成消费者决定谨慎购买的情况. 对欧洲消费者的假设检验结果揭示了感知的有用性, 乐趣, 风险和知识管理水平是影响态度形成的因素, 而易用性和创新则对态度没有影响. 特别是效果价值和感知有用性, 在快乐和知识管理之后对态度有最大的影响. 相反, 认为感知风险对态度影响较小. 在亚洲模型中易用性和感知的乐趣没有发现对使用意图有直接影响. 然而, 因为态度广泛的影响使用意图, 感知有用性, 乐趣, 风险和知识管理可被视为从使用意图中的态度发展的关键因素. 总之, 感知的有用性, 愉悦和知识管理水平在亚洲和欧洲消费者中对态度形成都有影响, 这些梯度形成了消费者的使用意图. 而且, 易用性和感知的乐趣对使用意图的假设被拒绝. 然而, 易用性, 感知风险和创新有不同的结果. 在亚洲消费者中, 感知风险对态度形成没有影响, 而在欧洲消费者中, 易用性和创新对态度都没有影响.
Can the stock market really be predicted? Stock market prediction has attracted much attention from many fields including business, economics, statistics, and mathematics. Early research on stock market prediction was based on random walk theory (RWT) and the efficient market hypothesis (EMH). According to the EMH, stock market are largely driven by new information rather than present and past prices. Since it is unpredictable, stock market will follow a random walk. Even though these theories, Schumaker [2010] asserted that people keep trying to predict the stock market by using artificial intelligence, statistical estimates, and mathematical models. Mathematical approaches include Percolation Methods, Log-Periodic Oscillations and Wavelet Transforms to model future prices. Examples of artificial intelligence approaches that deals with optimization and machine learning are Genetic Algorithms, Support Vector Machines (SVM) and Neural Networks. Statistical approaches typically predicts the future by using past stock market data. Recently, financial engineers have started to predict the stock prices movement pattern by using the SNS data. SNS is the place where peoples opinions and ideas are freely flow and affect others' beliefs on certain things. Through word-of-mouth in SNS, people share product usage experiences, subjective feelings, and commonly accompanying sentiment or mood with others. An increasing number of empirical analyses of sentiment and mood are based on textual collections of public user generated data on the web. The Opinion mining is one domain of the data mining fields extracting public opinions exposed in SNS by utilizing data mining. There have been many studies on the issues of opinion mining from Web sources such as product reviews, forum posts and blogs. In relation to this literatures, we are trying to understand the effects of SNS exposures of firms on stock prices in Korea. Similarly to Bollen et al. [2011], we empirically analyze the impact of SNS exposures on stock return rates. We use Social Metrics by Daum Soft, an SNS big data analysis company in Korea. Social Metrics provides trends and public opinions in Twitter and blogs by using natural language process and analysis tools. It collects the sentences circulated in the Twitter in real time, and breaks down these sentences into the word units and then extracts keywords. In this study, we classify firms' exposures in SNS into two groups: positive and negative. To test the correlation and causation relationship between SNS exposures and stock price returns, we first collect 252 firms' stock prices and KRX100 index in the Korea Stock Exchange (KRX) from May 25, 2012 to September 1, 2012. We also gather the public attitudes (positive, negative) about these firms from Social Metrics over the same period of time. We conduct regression analysis between stock prices and the number of SNS exposures. Having checked the correlation between the two variables, we perform Granger causality test to see the causation direction between the two variables. The research result is that the number of total SNS exposures is positively related with stock market returns. The number of positive mentions of has also positive relationship with stock market returns. Contrarily, the number of negative mentions has negative relationship with stock market returns, but this relationship is statistically not significant. This means that the impact of positive mentions is statistically bigger than the impact of negative mentions. We also investigate whether the impacts are moderated by industry type and firm's size. We find that the SNS exposures impacts are bigger for IT firms than for non-IT firms, and bigger for small sized firms than for large sized firms. The results of Granger causality test shows change of stock price return is caused by SNS exposures, while the causation of the other way round is not significant. Therefore the correlation relationship between SNS exposures and stock prices has uni-direction causality. The more a firm is exposed in SNS, the more is the stock price likely to increase, while stock price changes may not cause more SNS mentions.
본 연구는 현대조경의 추상유형에 관한 연구로서 현대조경의 탈장르적 경향과 건축, 조경, 예술 장르간의 하이브리드화에 의해 현대조경의 형태나 예술성은 과거의 픽쳐레스크식의 조경이 표현할 수 없었던 많은 부분들을 표현해 내고 있다. 이러한 영향으로 인해 현대의 조경은 한편의 거대한 추상예술을 보는 듯하고, 그 난해함은 정도를 더하고 있어 일반대중들 뿐만 아니라 전문 조경가들조차도 추상적 현대조경에 대한 해석이 분분하고 정확한 이해나 해석에 어려움을 토로하고 있어 현대조경의 추상성에 대한 연구가 제기되고 있다. 이에 본 연구는 조경, 건축, 미술 등 여러 다양한 예술분야에서 예술의 창작원리로 작용되어온 '추상성'에 대해 근본적인 탐구를 하여 추상에 대한 이론정립, 추상성 변천과정, 추상성의 현대적 의미를 파악하여, 조경학적 시각으로 각 예술분야와의 연계성을 밝히고 현대조경작가와 작품에서 표현되어 나타나는 추상형태, 추상언어, 추상특징을 추출해봄으로써 현대추상조경의 진리를 파악하고자 하였다. 본 연구를 통하여 현대조경의 추상유형은 다음과 같이 세 가지로 구분할 수 있다.