Study on The Decryption Method and Analysis of MalangMalang Talkcafe Application Database

인스턴트 메신저 말랑말랑 톡카페 애플리케이션 데이터베이스 복호화 방안 및 분석

Abstract

As leakage cases of personal information increase, the concern of personal information protection is also increasing. As a result, most applications encrypt and store sensitive information such as personal information. Especially, in case of instant messengers, it is more difficult to find database where is not encrypted and stored. However, this kind of database encryption acts as anti-forensic from the point of view of digital forensic investigation. In this paper, we analyze database encryption process of MalangMalang Talkcafe application which is one of instant messenger. Based on our analysis, we propose a decryption method and explain the meaningful information collected in the database.

개인 정보 유출 사례가 빈번해짐에 따라 개인정보보호에 대한 관심이 증가하고 있다. 이러한 이유로 개인 정보를 수집해야 하는 대다수 애플리케이션은 민감한 정보를 암호화하여 저장하는 방식을 취하고 있다. 특히 사용자의 흔적이 가장 많이 기록되는 인스턴트 메신저는 대화 내용 등을 암호화하지 않는 경우를 찾는 것이 더 어렵다. 하지만 개인 정보 암호화는 디지털 포렌식 수사 관점에서 안티 포렌식에 해당하므로, 이를 증거로 활용하기 위해서 메신저 애플리케이션 데이터 복호화 연구는 선행되어야 한다. 본 논문에서는 인스턴트 메신저인 말랑말랑 톡카페 애플리케이션의 데이터베이스 암호화 과정을 분석하여 암호화 키 생성 과정에 존재하는 취약점을 밝혀낸다. 이는 암호화된 데이터베이스를 복호화해내는데 치명적으로 작용하여, 이를 토대로 실제 사용 가능한 복호화 방안을 제시한다. 또한, 복호화를 통해 얻은 데이터베이스에서 포렌식적으로 의미 있는 데이터를 분류한다.

I. 서론

IT 시대가 가속화됨에 따라 사람들은 다양한 디지털 기기와 연관되어 있다. 미국 리서치기관인 퓨(Pew)리서치에 의하면 우리나라는 인터넷과 스마트폰 보급률이 96% 이상으로 전 세계 1위를 기록하고 있다[1]. 이처럼 우리나라 사람들은 다양한 애플리케이션 사용 환경에 손쉽게 노출될 수 있음을 뜻하며, 다양하고 지속적인 데이터가 수집되고 있음을 나타낸다. 특히 인스턴트 메신저¹⁾는 사용자의 행위와 직접적으로 관련된 데이터가 다수 기록되어 있는 애플리케이션이다. 따라서 디지털 포렌식 수사 시 필수적인 조사 대상이지만, 대부분 개인정보를 암호화하여 보관하기 때문에 분석 시에 데이터 획득이 불가능한 경우가 발생한다. 이를 방지하기 위해서는 인스턴트 메신저의 데이터베이스 복호화 연구가 선행되어야 한다.

기존에 발표된 인스턴트 메신저 관련 연구 논문들은 주로 메신저 데이터 분석 및 데이터 복호화 내용이며, 본 논문에서 분석한 인스턴트 메신저 말랑말랑 톡카페와 유사한 기존 연구 논문 결과들은 다음과 같다. Sudozai 등은 무료 문자 및 전화 기능을 제공하는 IMO 애플리케이션을 분석하여 디지털 포렌식 관점에서 데이터 사용방법을 제시했다[2]. Anglano 등은 SQL Cipher 모듈을 사용하여 데이터베이스를 암호화 한 Chatsecure을 분석하였으며 초기 입력값을 기반으로 데이터를 암호화함을 밝혔다[3]. 그리고, Songyang Wu 등은 중국에서 많이 사용하는 인스턴트 메신저인 WeChat에 데이터베이스 복호화 방안과 아티팩트를 분석했다[4]. 분석된 WeChat 메신저는 스마트폰의 고유정보와 사용자의 고유정보를 이용하여 패스프레이즈(Passphrase)²⁾를 생성하고, SQL Cipher 모듈을 사용하여 데이터베이스를 전체 암호화했다.

본 논문에서는 데이터베이스를 암호화하여 보관하는 인스턴트 메신저인 말랑말랑 톡카페 애플리케이션에 대한 분석 연구를 수행한다. 2장에서는 말랑말랑 톡카페 애플리케이션의 데이터 암호화 과정에 대한 분석과 복호화에 필요한 요소들을 설명한다. 3장에서는 실제 복호화된 데이터베이스에 저장되는 데이터의 의미를 설명하며, 마지막 4장에서 본 논문에 대한 결론으로 마무리한다.

II. 말랑말랑 톡카페 애플리케이션 데이터베이스에 대한 암호화 과정 분석 및 복호화

본 장에서는 말랑말랑 톡카페 애플리케이션에 대한 정적분석을 통해 데이터 암호화 시 사용하는 암호 모듈을 밝혀내며, 암호키 생성 방안 및 복구 방법을 제시한다. 분석에는 JEB Decompiler를 사용하였다. JEB Decompiler는 기계어(바이트코드)로 작성되어있는 애플리케이션을 java코드로 디컴파일 해주는 프로그램이다. 이를 통해 말랑말랑 톡카페 애플리케이션을 java코드로 변환하여 코드 분석을 진행하였다.

애플리케이션이 관리하는 데이터베이스는 ‘user.db’와 ‘talk.db’이며, 두 파일 모두 전체암호화가 되어 있다. 데이터베이스 암호화에는 외부라이브러리인 SQLCipher를 사용하는 것으로 확인하였다[Fig. 1].

 

Fig. 1. Loading SQLCipher Library in Application

SQLCipher모듈을 사용한 경우 데이터베이스에 접근하기 전, 패스프레이즈를 입력하여 데이터베이스를 사용 가능하게 변경한다. 본 장에서는 SQLCipher의 동작 과정과 소스코드 분석을 통해 밝혀낸 패스프레이즈 생성 과정에 대해 설명한다.

2.1 SQLCipher

SQLCipher는 SQLite3 데이터베이스를 암호화하는 모듈로써 패스프레이즈를 입력받아 키를 생성하여 데이터베이스를 암호화한다[5]. 데이터 암호화는 AES-256-CBC 모드를 이용하며, SQLite3 데이터베이스 페이지의 크기가 128비트의 배수 비트이므로 패딩은 사용하지 않는다. 암호화키는 PBKDF2 (Password-Based Key Derivation Function 2)를 사용해서 생성하며, 생성방법은 수식(1)과 같다.

\(\begin{aligned} \text {AESKey}=\text {PBKDF2}(\mathrm{HMAC}-\mathrm{SHA} 1\\ \text {Passphrase}, \text {Salt, } 64000,256 \end{aligned}\)       (1)

SQLCipher는 데이터베이스 암호화 시 이에 대한 HMAC 값을 생성하며, 이 값을 암호화된 데이터 뒷부분에 덧붙인다. HMAC 값은 복호화 시 올바른 키를 사용했는지 검증 용도로 사용된다. HMAC에 사용되는 키 생성 방법은 수식(2)와 같다.

\(\begin{aligned} \text {HMACKey}=P B K D F 2(H M A C-S H A 1\\ \text {AESKey}, \text {Database,} 2,256 \end{aligned}\)       (2)

SQLCipher로 암호화된 데이터베이스 파일의 구조는 Table 1과 같다. 이때 사용되는 salt와 IV (Initial Vector)는 각각 128비트의 난수이며, 평문형태로 저장되어 있다.

Table 1. Structure of Encrypted Database

Fig. 2는 SQLCipher 모듈에 의해 암호화된 데이터베이스의 복호화 과정이다[5].

 

Fig. 2. Decryption Method of Encrypted Database

복호화의 상세과정은 다음과 같다.

1. 수식(1)을 사용하여 수식(2)의 HMAC key 유도

2. 유도된 HMAC key를 사용하여 암호화된
데이터베이스의 HMAC-SHA1값 계산

3. 계산된 HMAC 값과 저장되어 있는 HMAC 값 비교 후, 일치 시 옳은 패스프레이즈 검증 성공

4. 수식(1)에서 유도된 키를 토대로 데이터베이스 복호화

이때 SQLCipher에 사용되는 패스프레이즈는 데이터베이스마다 다르며 ‘talk.db’의 경우 특정 위치에 패스프레이즈를 저장하고 있으나, ‘user.db’는 필요에 따라 매번 값을 유도하여 사용한다.

2.2 패스프레이즈 생성 과정

‘user.db’를 암/복호화하기 위해 사용되는 패스프레이즈의 생성 과정은 다음과 같다[Fig. 3].

 

Fig. 3. Generating Passphrase of user.db

Fig. 3의 Android ID는 64비트의 난수값으로 Android Froyo 버전부터 안드로이드가 설치된 기기의 사용자 식별을 목적으로 생성된다. Serial Number는 기기의 일련번호를 의미한다. 이 두 가지 정보를 연접하여 SHA-256 해시 알고리즘으로 해싱한 값이 ‘user.db’ 전용 패스프레이즈가 된다.

‘talk.db’의 경우 애플리케이션 사용자의 고유 인덱스값인 useridx 값을 패스프레이즈로 사용하고 있으며, 해당 정보는 ‘user.db’내에 저장되어 있다. 따라서 일반적인 방법으로 ‘talk.db’를 복호화하기 위해서는 ‘user.db’의 복호화가 선행돼야 한다. 하지만, useridx 값은 0부터 시작하여 1씩 증가하기 때문에 전수조사를 통해 복구할 수 있다. 또는 다른 계정으로 친구 추가를 진행한 뒤, 다른 계정의 ‘user.db’를 복호화함으로써 useridx값의 획득이 가능하다. 단, ‘user.db’의 경우 Android ID가 64비트이고 PBKDF2의 반복 횟수가 64,000회이므로 실질적으로 전수조사는 불가능하다.

2.3 Android ID 재현 가능성 및 획득 방법

Fig. 4. Getting Passphrase of talk.db

Android ID는 Android Nougat 이하의 버전에서 기기 첫 부팅 시 혹은 공장 초기화 시 생성되는 값을 설치된 모든 애플리케이션이 공통으로 사용할 수 있었지만, Android Oreo 이상에서는 애플리케이션마다 생성해서 사용하도록 정책이 변경되었다[6]. 이때 Android ID는 SecureRandom()을 사용하여 생성되는데, 해당 함수는 안전성이 증명된 /dev/random 알고리즘을 이용하기 때문에 Android ID 재현은 불가능하다. 따라서 Android ID를 획득하기 위해서는 기기 확보가 필수적이다.

Android ID 획득 방법은 다음과 같다. 애플리케이션별로 생성된 Android ID는 기기의 content내에 저장이 되어 있으므로 ADB (Android Debug Bridge)³⁾를 이용하거나 Setting.Secure.getString() 메소드를 사용하여 Android ID를 획득하는 애플리케이션을 제작하여 실행하는 것으로 가능하다. ADB를 사용하는 경우 명령어는 다음과 같다.

Fig. 5는 ADB를 통해 실제 Android ID를 획득하는 과정이다.

Fig. 5. Getting Android ID from ADB

2.4 데이터베이스 복호화 결과

Fig. 6은 ADB를 통하여 Android ID 값을 획득한 후, 스마트폰의 시리얼 넘버와 연접한 값을 해싱하여 생성해낸 키를 사용하여 실제 암호화된 데이터베이스를 복호화한 결과이다.

Fig. 6. Decrypt Result

III. 데이터베이스 분석 결과

본 장은 복호화된 ‘user.db’와 ‘talk.db’의 분석결과를 설명한다. 두 데이터베이스에는 각각 사용자의 ID 및 프로필에 대한 정보와 채팅에 대한 정보를 담고 있다. 따라서 데이터 획득이 가능하다면 정황 증거 또는 직접증거로써 활용할 수 있다.

‘user.db’는 사용자의 개인정보를 저장한 데이터베이스로 사용자의 프로필, 이름, 특정 유저 전용 이름, 친구 정보 등 다양한 정보를 저장하고 있다. ‘talk.db’는 사용자들 간의 대화 내용을 저장하고, 메시지 수신/발신 시간, 메시지의 발신인 등을 포함하고 있다. 각각의 데이터베이스의 주요 데이터는 다음과 같다(Table 2,3).

Table 2. The Data of user.db

Table 3. The Data of talk.db

두 데이터베이스는 SQLite3의 Secure Delete⁴⁾옵션을 사용하기에 데이터가 삭제된 경우 복구가 어렵다. Journal mode⁵⁾ 역시 Memory mode⁶⁾를 사용하기 때문에 데이터 삭제 후 장시간이 지났다면 메모리 분석을 통한 데이터 부분 복구 역시 불가능하다. 그러나 사용자의 기기에서 메시지를 삭제하여도 서버에 저장되는 데이터는 삭제되지 않음을 확인하였다. 따라서 서버에 데이터를 보관하고 있는 동안에는 애플리케이션 재설치 및 재접속을 통하여 부분적으로 데이터 복구가 가능하다.

IV. 결론

애플리케이션 개발자들은 개인정보를 안전하게 보관하기 위하여 다양한 암호화 기술을 적용한다. 하지만 이러한 기술들은 디지털 포렌식 수사 관점에서 안티 포렌식으로 행위이며, 일부 범죄자들은 이를 악용하기도 한다. 따라서 본 논문에서는 인스턴트 메신저 중 하나인 말랑말랑 톡카페 애플리케이션의 데이터베이스에 대한 복호화 방안 연구를 하였다. 정적분석을 통하여 복호화에 필요한 패스프레이즈 생성 방안을 연구한 결과 ‘user.db’ 의 패스프레이즈 생성 과정에는 충분한 PBKDF2 반복횟수와 seed를 사용하였다. 이에 따라 ‘user.db’는 특정 정보 없이 전수조사로 복호화를 하기에는 어려움이 있었고, ‘talk.db’는 짧은 길이의 패스프레이즈 사용, 손쉽게 획득할 수 있는 패스프레이즈를 사용하였기에 특정 정보 없이도 데이터 복호화가 가능했다. 이들을 기반으로 두 데이터베이스를 복호화하였으며 각각의 아티팩트에 대한 분석을 통해 디지털 포렌식 관점에서 의미있는 데이터들을 정리하였다. 따라서 본 논문에서 제시한 데이터 획득 방법과 분석된 아티팩트를 통해 효율적인 증거 수집이 가능할 것으로 기대한다.

* 본 연구는 고려대 암호기술 특화연구센터(UD170109ED)를 통한 방위사업청과 국방과학연구소의 연구비 지원으로 수행되었습니다.

* 본 논문은 2018년도 한국정보보호학회 동계학술대회에 발표한 우수논문을 개선 및 확장한 것임.