• 한국멀티미디어학회논문지
• /
• 제23권4호
• /
• pp.603-614
• /
• 2020

Analyzing various works of Nam June Paik who pioneered the world of video art, we can find a number of audiovisual art pieces - in a broad sense - with the characteristics of "intermedia" that are not clearly identified as one genre. Especially, his career as a musician becomes an important clue for us to discuss the unique originality found in Paik's works. Nevertheless, examples of research that specifically explore how Paik's musicality is reflected in his artistry and could be deeply understood is still rare. This article examines Paik's audiovisual art world, and reviews how his musicality is expressed through the characteristics of media and form, as well as contributed to the ultimate technical and aesthetic realizations of his pieces from the perspective of musical synesthesia. The fact that Paik expanded the concept of music through technology, and fused different media to visualize music, is an important achievement in the context of aesthetic, synesthetic music in the field of audiovisual art.

• 디자인융복합연구
• /
• 제19권2호
• /
• pp.107-122
• /
• 2020

는 음악과 영상의 결합을 주제로 하는 오디오비주얼아트 전시 시리즈이다. 2013년 첫 전시를 시작으로 총 5회에 걸쳐 개최되었으며, 오디오비주얼아트의 분야의 핵심 이슈인 공감각에 대한 탐구의 노력으로 '음악의 전시'라는 주제 아래 시각과 청각의 미디어를 융합한 작품을 선보여 왔다. 이러한 성과는 현대예술의 주요 주제인 복합감각 및 공감각의 개념을 선도적으로 제시한 사례라 할 수 있으며, 최근에는 기존 공감각의 영역과 차원을 확장하는 가능성을 모색하고 있다. 본 논문에서는 전시 전체의 상세한 내용을 작품목록 및 사진과 함께 정리하여 상세히 소개하고, 작품 창작의 영감을 제공한 백남준의 오디오비주얼아트 작품 세계에서 발견되는 음악, 공감각, 공간의 맥락에서 해당 전시의 이론적 바탕과 창조적 영감을 고찰한다. 궁극적으로는 이러한 과정을 통하여 백남준의 작품 세계에서 확장되는 오디오비주얼아트 작품 제작과 분석의 비전 확립에 기여하고, 이를 향후 새로운 작품 창작의 디딤돌로 삼고자 한다.

• 한국멀티미디어학회논문지
• /
• 제23권4호
• /
• pp.615-624
• /
• 2020

By enabling musicians to freely control the elements involved in sound production and tone generation with a variety of timbre, synthesizers have revolutionized and permanently changed music since the 1960s. Paik-Abe Video Synthesizer, a masterpiece of video art maestro Nam June Paik, is a prominent example of re-interpretation of this new musical instrument in the realm of video and audio. This article examines Paik-Abe Video Synthesizer as an innovative instrument to play videos from the perspective of audiovisual art, and establishes its aesthetic value and significance through both artistic and technical analysis. The instrument, which embodied the concept of image sampling and real-time interactive video as an image-based multi-channel music production tool, contributed to establishing a new relationship between sound and image within the realm of audiovisual art. The fact that his video synthesizer not only adds image to sound, but also presents a complete fusion of image and sound as an image instrument with musical characteristics, becomes highly meaningful in this age of synesthesia.

• ETRI Journal
• /
• 제46권1호
• /
• pp.71-81
• /
• 2024

Recent advances in deep learning for speech and visual recognition have accelerated the development of multimodal speech recognition, yielding many innovative results. We introduce a Korean audiovisual speech recognition corpus. This dataset comprises approximately 150 h of manually transcribed and annotated audiovisual data supplemented with additional 2000 h of untranscribed videos collected from YouTube under the Creative Commons License. The dataset is intended to be freely accessible for unrestricted research purposes. Along with the corpus, we propose an open-source framework for automatic speech recognition (ASR) and audiovisual speech recognition (AVSR). We validate the effectiveness of the corpus with evaluations using state-of-the-art ASR and AVSR techniques, capitalizing on both pretrained models and fine-tuning processes. After fine-tuning, ASR and AVSR achieve character error rates of 11.1% and 18.9%, respectively. This error difference highlights the need for improvement in AVSR techniques. We expect that our corpus will be an instrumental resource to support improvements in AVSR.

• 복식
• /
• 제58권4호
• /
• pp.1-12
• /
• 2008

The expansion of media art has not only developed the digital technology but also given lots of environmental evolution to improve various fields of design as the main topic of the 21st century. The purpose of this study is aimed at proposing the new design that integrates fashion accessaries with media art technology. This will be done by understanding the social environment in digital ages and studying technology of design based on a variety of literature about changes in our society, neo value, vision, culture and art with fundamental notion of media art. First stage for this study, put an idea into just fashion accessary design because it is not sufficient to incoporate fashion and media art technology. The presented OLED(Organic Light Emitting Diodes) in this study is a kind of display to be in a limelight in the next generation and can be applied to various field of design. media art simultaneously moved into the scope of artistic debates. As a result, we can found that the use of audiovisual introduced numerous new aspects to the conceptual and aesthetic engagement with questions of conception. Today, the presented forms of art and inter-action from the closed -circuit work to interactive media art installations to open process-exist as parallel possibilities.

• 한국콘텐츠학회논문지
• /
• 제18권7호
• /
• pp.120-126
• /
• 2018

영화는 시청각 예술이고 다양한 시청각적 기법을 활용하여 이야기를 전달한다. 청각적 요소 중 음악은 표현할 수 있는 기법이 매우 다양하고 활용범 위가 넓으며 이야기를 전달하기 위한 독자적인 도구로 사용되기도 한다. 본 연구는 영화 "펀치 드렁크 러브"를 연구대상으로 삼아 영화에서 인물의 심리를 나타내기 위한 음악적 표현기법을 고찰한다. 인물의 내부 심리와 상황의 숨겨진 의미를 창출하기 위한 도구, 즉 영화 이야기 흐름에서 화면에 나타나지 않는 의미를 드러내기 위해 사용된 음악의 활용에 관해 연구한다. 이는 영화음악에서 인물 심리의 대조와 상징적인 표현에 대한 예시와 관점을 제시한다.

• 전자통신동향분석
• /
• 제33권5호
• /
• pp.95-102
• /
• 2018

With the widespread use of multifunctional devices, haptic sensation is a promising type of sensory channel because it can be applied as an additional channel for transferring information for traditional audiovisual user interfaces. Many researchers have shed new light on non-contact haptic displays for their potential use on ambient and natural user interfaces. This paper introduces several of the latest schemes for creating a mid-air haptic sensation based on their transfer medium: ultrasonic phased arrays, air nozzles, thermal and plasmonic lasers, and electromagnets. We describe the principles used in delivering haptic sensation in each technology, as well as state-of-the-art technologies from leading research groups, and brief forecasts for further research directions.

• 디자인학연구
• /
• 제17권2호
• /
• pp.413-424
• /
• 2004

텔레프레즌스는 '현상체가 현실세계를 떠나 가상세계로 이동함에 따라 가상세계의 사물과 인물에 대해 마치 현실세계의 사물과 인물에 대해 반응하는 것과 유사한 심리적, 행동적 반응을 보이는 현상'이며 '커뮤니케이션 매체를 통해 제공된 환경에 존재한다고 지각하는 경험'이다. 텔레프레즌스는 매체를 수단으로 경험하게 되는 것으로, 매체의 특성은 매개된(mediated) 환경에 직접적인 영향을 끼친다. 하나의 매개된 환경이 사용자에게 텔레프레즌스의 경험을 불러일으킬 것인지 아닐지는 환경에 사용된 감각자극들의 조합, 사용자가 환경과 상호 작용할 수 있는 방법들 그리고 그 환경을 경험하는 사용자 개인들의 특성들에 의해 결정된다. 텔레프레즌스 아트는 네트워크로 연결된 사이버 공간(cyber space)에서 서로 다른 지역에 있는 사람들을 텔레커뮤니케이션 시스템(telecommunication system)을 이용해 연결하고 그들로 하여금 가상현실(virtual reality)의 감각적 정보를 기반으로 상호작용하게 함으로써 텔레프레즌스(telepresence)를 경험하도록 하는 예술 활동을 말한다. 텔레프레즌스 아트의 특징은 원거리 통제(remote control), 원거리 영상(remote vision), 원거리 운동(telekinesis), 실시간 시청각 정보의 교환(real-time exchange of audiovisual information)이라 할 수 있다. 본 연구는 텔레프레즌스의 결정요인을 감각적 몰입도(sensory immersion), 감각적 충실도(sensory fidelity), 인지적 충실도(cognitive fidelity), 사용자의 개인적 특성들(personal factors)로 분류하고 이 네 가지 결정요인이 적용된 텔레프레즌스 아트의 사례분석을 통해 뉴미디어 아트를 위한 미학적 접근과 디자인 방법론을 모색하고 있다.

• 한국과학예술포럼
• /
• 제35권
• /
• pp.145-155
• /
• 2018

본 연구는 일반인에게 접근과 해석에 장벽이 있는 수면다원검사 데이터를 바탕으로, 사례분석과 작품 제작을 통해 새로운 형태의 시청각화 방법을 제시한다. 대부분의 예술작품은 깨어있는 동안 행하는 의식적인 행동을 바탕으로 완성된다. 본 작품에서는 수면 중 발현되는 무의식을 관찰하여 이를 예술로 표현하고자 한다. 수면다원검사를 통해 측정된 수면장애 그래프를 중점적으로 분석하여 정상 군과 기면증, 불면증, 수면무호흡증으로 분류했고 습득한 생체데이터를 정제 후 수치화 시켰다. 정제된 데이터는 MAYA를 통해 3D 애니메이션 이미지로 렌더링 했고, 심장박동 데이터 스크립트는 midi형태로 변형시켜 garage band에서 청각화 시켰다. 이후 After Effects로 이미지와 사운드를 결합했다. 총 4개의 는 각각 3분 20초의 싱글 채널 영상으로 제작했다. 는 수면 의학 데이터를 예술로 표현함으로써 난해한 정보를 직관적으로 이해시키는 데에 목적이 있다. 또한 의식적인 활동이 일어나지 않는 수면 상태에서 무의식 데이터로부터 예술 표현의 가능성을 드러내고자 한다.

• 문화기술의 융합
• /
• 제4권3호
• /
• pp.75-86
• /
• 2018

데스크톱 다큐멘터리는 카메라로 촬영하는 대신 인터넷 오픈 아카이브에서 검색하고 선택한 멀티미디어 콘텐츠를 재료로 컴퓨터 인터페이스 상에서 그것을 재조합하는 창작자의 멀티태스킹 과정 자체를 스크린 캡쳐 기술을 사용해 녹화하여 완성하는 새로운 다큐멘터리 양식이다. 본 논문에서는 뉴 미디어 환경에서 잠재적 아카이브를 데이터 베이스 내러티브로 전환하고, 영화적 미장센을 컴퓨터 미장인터페이스로 바꾸며, 의식의 흐름을 통한 큐레이션으로서의 창작 메커니즘을 통해 창작과 비평의 경계를 오가는 메타-시네마이자 뉴 미디어 아트의 실험적 시도로서, 주류 호러 영화의 새로운 혼성 장르적 시도로서, 극영화 창작의 새로운 방식으로서, 새로운 모큐멘터리적 시도로서, 그리고 창작과 비평의 경계를 오가는 비디오 에세이와 비평 영화의 새로운 양식으로서 2010년대를 기점으로 부상하고 있는 데스크톱 다큐멘터리의 개념과 유형 및 특성을 연구한다.