• 한국멀티미디어학회논문지
• /
• 제23권4호
• /
• pp.603-614
• /
• 2020

Analyzing various works of Nam June Paik who pioneered the world of video art, we can find a number of audiovisual art pieces - in a broad sense - with the characteristics of "intermedia" that are not clearly identified as one genre. Especially, his career as a musician becomes an important clue for us to discuss the unique originality found in Paik's works. Nevertheless, examples of research that specifically explore how Paik's musicality is reflected in his artistry and could be deeply understood is still rare. This article examines Paik's audiovisual art world, and reviews how his musicality is expressed through the characteristics of media and form, as well as contributed to the ultimate technical and aesthetic realizations of his pieces from the perspective of musical synesthesia. The fact that Paik expanded the concept of music through technology, and fused different media to visualize music, is an important achievement in the context of aesthetic, synesthetic music in the field of audiovisual art.

• 한국멀티미디어학회논문지
• /
• 제23권4호
• /
• pp.615-624
• /
• 2020

By enabling musicians to freely control the elements involved in sound production and tone generation with a variety of timbre, synthesizers have revolutionized and permanently changed music since the 1960s. Paik-Abe Video Synthesizer, a masterpiece of video art maestro Nam June Paik, is a prominent example of re-interpretation of this new musical instrument in the realm of video and audio. This article examines Paik-Abe Video Synthesizer as an innovative instrument to play videos from the perspective of audiovisual art, and establishes its aesthetic value and significance through both artistic and technical analysis. The instrument, which embodied the concept of image sampling and real-time interactive video as an image-based multi-channel music production tool, contributed to establishing a new relationship between sound and image within the realm of audiovisual art. The fact that his video synthesizer not only adds image to sound, but also presents a complete fusion of image and sound as an image instrument with musical characteristics, becomes highly meaningful in this age of synesthesia.

• 감성과학
• /
• 제16권2호
• /
• pp.187-194
• /
• 2013

본 연구는 컬러영상에서 특정소리를 연상시킬 수 있는 공감각 인지현상에 기반하여 컬러이미지에서 음악요소로 변환하는 시스템의 구현을 최종 목표로 한다. 이는 빛과 소리의 물리적 주파수정보사이의 유사도를 기반으로 이루어진다. 입력 컬러영상은 우선 컬러모델변환이론에 기초하여 색상(Hue), 채도(Saturation) 및 명도(Intensity)영역으로 변환된다. 음계, 옥타브, 크기 및 시간길이 등의 음악적 성분들이 HSI 컬러모델의 각 영역으로부터 추출된다. 기본주파수(F0, Fundamental Frequency)는 색상 및 명도 히스토그램에서 추출되고, 크기 및 시간길이성분은 명도와 채도 히스토그램에서 추출된다. 실험에서, 제안된 시스템은 표준 C 및 VC++ 기반에서 실현되었고, 최종적으로 WAV 포맷의 사운드파일이 생성되었다. 시뮬레이션 결과를 통해서 입력 컬러영상에서 추출된 음악적 요소들이 출력 사운드신호에 반영됨을 알 수 있었다.

• 한국멀티미디어학회논문지
• /
• 제23권6호
• /
• pp.765-771
• /
• 2020

To enable AI(artificial intelligence) to realize visual emotions, it attempts to create music centered on color, an element that causes emotions in paintings. Traditional image-based music production studies have a limitation in playing notes that are unrelated to the picture because of the absence of musical elements. In this paper, we propose a new algorithm to set the group of music through the average color of the picture, and to produce music after adding diatonic code progression and deleting sound using median value. And the results obtained through the proposed algorithm were analyzed.

• 한국콘텐츠학회논문지
• /
• 제15권12호
• /
• pp.8-17
• /
• 2015

본 논문은 공감각의 한 부분인 색청(colored-hearing) 공감각을 이용한 사운드-컬러 신호 변환에 관한 연구로서, 인간이 인지 할 수 있는 오감 중 공감각적 변환이 가장 많이 일어나는 청각과 시각을 이용한 실시간 변환 시스템의 구축을 목표로 한다. 본 논문에서 제안하는 음-색 실시간 변환 방법으로서, 입력으로 사용하는 MIDI(Musical Instrument Digital Interface) 신호에서 음계(scale), 옥타브(octave) 및 음의 세기(velocity)를 추출한 후 HSI 컬러모델의 기본 요소인 색상(hue), 명도(intensity) 및 채도(saturation)에 각각 대응하여 변환하는 방법으로 단순하지만 직관적인 방법을 사용한다. 변환된 HSI 컬러 모델은 모니터 출력을 위해 RGB 컬러 모델로 최종 변환하여 출력한다. 실험에서, MIDI 입력신호 전송 H/W 시스템과 VC++ 기반 해당 사운드-컬러 변환 입 출력 S/W 모니터링 시스템을 구축하여 사운드에서 컬러로의 출력이 제안한 방식에 따라 값이 출력됨을 확인하였다.

• 한국콘텐츠학회논문지
• /
• 제16권8호
• /
• pp.427-434
• /
• 2016

본 논문은 인간이 인지할 수 있는 감각들 중 인체의 회전, 방향 변화 및 움직임의 정도를 알 수 있는 근감각에서 시각 및 청각 요소로의 변환 알고리즘을 이용하여 ARM Cortex-M4에 기반한 실시간 임베디드시스템으로 구현한 방법에 초점을 맞추었다. 근감각의 입력 방식으로는 자세측정장치(AHRS : Attitude Heading Reference System)를 이용해 롤(Roll), 피치(Pitch) 및 요(Yaw) 값을 실시간 획득하고, 이들 각각의 색을 표현하는 HSI 컬러 모델의 명도(Intensity), 색상(Hue) 및 채도(Saturation)에 대응하여 변환하였다. 최종 컬러신호는 HSI 에서 RGB 컬러모델로 변환하여 획득하였다. 또한, 근감각의 세 가지 입력 값들을 음을 표현하는 요소인 옥타브(Octave), 음계(Scale) 및 음의 세기(Velocity)에 대응하여 변환한 값을 MIDI(Musical Instrument Digital Interface)를 이용해 사운드를 합성하여 출력하였다. 출력 컬러신호 및 사운드를 분석한 결과, 근감각 입력 신호가 제안한 변환 방식에 따라 실시간으로 정확하게 색과 음으로 변환, 출력됨을 확인하였다.

• 전기전자학회논문지
• /
• 제22권2호
• /
• pp.362-368
• /
• 2018

본 논문은 학습으로 공감각 현상을 지각할 수 있는 의도적인 공감각을 기반으로 신체의 움직임에서 시각과 청각정보로의 변환 및 역변환 시스템을 구현하였다. 신체의 움직임은 웨어러블 암밴드인 Myo의 출력인 오일러 각을 사용하였고, 근감각 정보로서 롤(Roll), 피치(Pitch), 요(Yaw) 신호를 사용하였다. 또한, 시각과 청각 정보로서 미디(MIDI, Musical Instrument Digital Interface)신호와 HSI 컬러 모델을 사용하였다. 근감각 신호와 시 청각 신호 사이의 상호변환 방법은 일대일 대응 관계를 적용함으로써 직관적으로 쉽게 유추할 수 있도록 하였다. 시뮬레이션 결과에서 신체의 움직임 정보와 시 청각 정보의 상호변환이 가능함을 ROS(Root Operation System)와 3D 시뮬레이션 툴인 Gazebo를 사용하여 입력과 출력을 비교하였고 변환 오차가 작음을 확인하였다.

• 한국의상디자인학회지
• /
• 제8권1호
• /
• pp.111-125
• /
• 2006

This study measured and analyzed musical sense objectively, and visualized it to express visual effects as if watching music with the eye. For the visualization of music, we examined the concept of synesthesia and the correlation between hearing and seeing, and reviewed theoretical grounds and a number of cases necessary in reproducing musical sense visually based on synesthetic expression. Furthermore, we studied the visual elements and associated colors of rhythm to prove that visual conception of music through various approaches enable a transitional approach to aesthetic exploration and interpretation. The conclusions drawn from this research are as follows. First, classic music selected for visualization had musical characteristics highly correlated with dress design. Second, basic formative elements suggested as materials of visualization in this study were suitable in their form for expressing the rhythmic sense of music and, because they started from the most basic form, they were effective in extracting design elements. Third, when the result of the questionnaire survey, which was focused on the visualization of the rhythmic sense of the five pieces of classic music, was analyzed from the aspect of sensibility ergonomics, design elements of each piece of music were obtained in an objective and scientific way. Fourth, it was confirmed that common concepts could be derived from intangible elements such as forms and sounds observed in the rhythmic sense of music obtained from the result of the questionnaire survey. Fifth, works were made based on the results of this study and, according to the result, musical images can express sense through dress design and obtain visual effects as if watching music with the eye. Dress desist through the visualization of music in this study was an attempt to suggest that the language of music can be expressed in dress design, a visual formative language, based on synesthetic expression. Through this attempt, we confirmed the infinity of music as motives of dress design and suggested a method of aesthetic expression demanded in contemporary society that is pursuing aesthetic values.

• International Journal of Fuzzy Logic and Intelligent Systems
• /
• 제12권2호
• /
• pp.101-107
• /
• 2012

This study describes a proposed method of converting an input sound signal into a color image by emulating human synesthetic skills which make it possible to associate an sound source with a specific color image. As a first step of sound-to-image conversion, features such as fundamental frequency(F0) and energy are extracted from an input sound source. Then, a musical scale and an octave can be calculated from F0 signals, so that scale, energy and octave can be converted into three elements of HSI model such hue, saturation and intensity, respectively. Finally, a color image with the BMP file format is created as an output of the process of the HSI-to-RGB conversion. We built a basic system on the basis of the proposed method using a standard C-programming. The simulation results revealed that output color images with the BMP file format created from input sound sources have diverse hues corresponding to the change of the F0 signals, where the hue elements have different intensities depending on octaves with the minimum frequency of 20Hz. Furthermore, output images also have various levels of chroma(or saturation) which is directly converted from the energy.

• 한국엔터테인먼트산업학회논문지
• /
• 제14권8호
• /
• pp.175-187
• /
• 2020

본 논문의 연구목적은 뮤지컬 『All Shook Up』의 새로운 연출적 해석과 해체 과정을 통해 드러나는 수행적 시노그래피의 요소와 그 의미를 논의하는 것이다. 포스트모더니즘 이후 드러나는 수행적 특성은 관객의 적극적인 참여를 통해 개개인의 능동적인 지각과, 다양한 사회적 의미 창발을 목표로 한다. 이를 위해, 시노그래피의 이론적 토대를 시대별로 제시하였다. 이를 토대로 『All Shook Up Travelers』의 수행적 공간 구축을 위한 재구성 과정에서 시노그래피 구성요소 중 무대와 미디어를 중심으로 세분화하여 고찰하였다. 그 결과, 비주얼 내러티브 기반의 세계관 구축을 통해 텍스트를 기반으로 제작한 강렬한 이미지를 배우의 내적서사 확장의 직접적인 매개체로 활용하여 시노그래피의 시각적 강렬함을 달성하였다. 그것들은 배우와 관객들과의 공존-분리를 노정한 극 내부서사의 강화, 양의성을 지닌 독자적인 의미전달, 관객들의 비판적인 사유, 능동적인 지각 등 공감각적 체험을 가능하게 하였다.