• Annual Conference on Human and Language Technology
• /
• 2023.10a
• /
• pp.517-521
• /
• 2023

최근 거대 언어모델의 등장과 동시에, 많은 매개변수를 효과적으로 학습하는 방법인 효율적인 매개변수 미세조정(Parameter Efficient Fine-Tuning) 연구가 활발히 진행되고 있다. 이 중에서 Adapter는 사전학습 언어모델(Pretrained Language Models)에 몇 개의 추가 병목 구조 모듈을 삽입하여 이를 학습하는 방식으로, 등장한 이후 다양한 연구 영역에서 주목받고 있다. 그러나 몇몇 연구에서는 병목 차원을 증가시켜 미세 조정보다 더 나은 성능을 얻는다는 주장이 나오면서, 원래의 의도와는 다른 방향으로 발전하고 있다는 의견도 있다. 이러한 맥락에서, 본 연구에서는 기존의 Adapter 구조를 개선한 MAdapter를 제안한다. MAdapter는 본래 Adapter에 중간 층을 추가하되 학습 가능한 매개변수의 수는 오히려 줄이는 방법으로, 전체 매개변수 수 대비 1% 내외 만을 학습에 활용하며, Adapter 대비 절반 정도의 매개변수만을 사용하여 기존 결과와 비슷하거나 더 나은 성능을 얻을 수 있는 것을 확인할 수 있다. 또한, 병목차원 크기 비교와 중간 층 개수 분석을 통한 최적의 MAdapter 구조를 찾고, 이로써 효율적인 매개변수 미세조정 방법을 제시한다.

• Proceedings of the Korea Water Resources Association Conference
• /
• 2005.05b
• /
• pp.725-730
• /
• 2005

본 연구에서는 저류함수모형을 이용하여 홍수유출분석을 좀더 정확하게 모의하기 위해 선행되어야 하는 유역에 대한 매개변수를 산정하였다. 매개변수를 산정함에 앞서 민감도분석을 실시하고, 연구 대상유역인 한강유역에 대하여 유역별 지형인자를 새로이 추출하였다. 저류함수모형의 중요 매개변수인 유출상수는 홍수직전유출고와의 관계를 이용하여 추정하였으며, 저류상수는 유역별 호우사상에 따른 최적의 저류상수식을 도출함으로써 호우의 특성 및 유역에 대한 물리적인 특성을 반영한 매개변수를 산정하였다. 재산정된 매개변수의 개선효과를 살펴보기 위해 KOWACO 모형과 한강홍수통제소 모형의 기존 매개변수를 이용한 모형 수행결과를 비교분석하였다. 분석결과 기존의 매개변수를 이용할 경우 한강홍수통제소 모형보다는 KOWACO 모형이 우수하며, 개선된 매개변수를 이용할 경우 관측 유출수문곡선에 좀더 근사한 모의결과를 나타내었다.

• Proceedings of the Korea Water Resources Association Conference
• /
• 2006.05a
• /
• pp.1641-1645
• /
• 2006

수문순환과 수질오염과정의 제반 기작들이 완벽하게 규명되지 않은 상황에서 인위적 또는 자연적 조건에 따른 수질의 평가는 수질모형으로서 추정하는 것이 유일한 대안이며, 다양한 관리대안에 따른 수질환경변화를 예측함으로서 합리적인 관리방안을 도출하는데 유용한 수단이 되고 있다. 현재 시행 중인 수질오염총량관리제에서 또한 수질모형은 핵심적인 역할을 담당하고 있으며, 보다 구체적으로는 단위유역의 목표수질을 결정하는 것에서부터 기본계획 또는 시행계획에 따른 오염부하량 등 환경요인의 변화와 이에 따른 목표수질 설정지점의 수질 변화 등을 모의하는데 이용되고 있다. 그러나 모형에 사용되는 입력 매개변수의 불확실성과 이에 관련된 수질 모형 자체의 불확실성은 수질오염총량관리제와 같이 많은 이해당사자가 관여된 정책의 결정 시에는 공학적으로 많은 부담으로 작용하고 있는 것 또한 현실이다. 실제로 미국의 오염총량관리제의 경우를 살펴보면 모형의 불확실성 분석이 전체 과정의 진행에서 가장 핵심적인 지위를 차지하고 있다고 볼 수 있다. 많은 연구들이 수질모형에 있어서의 불확실성을 정량화하기 위하여 수행되어 왔으며, 특히 미국의 오염총량관리계획의 수립 시에는 이러한 불확실성 분석을 토대로 하여 안전율을 산정하도록 되어있다. 그러나 이러한 연구들의 대부분은 수질모형의 매개변수 중 수질기작에 관련된 매개변수들(예를 들어, DO, BOD, N, P 등에 대한 반응계수)에 대한 연구에 집중되어 있다. 하천의 수질을 적절하게 모델링하기 위해서는 이러한 수질에 직접적으로 관련한 매개변수들 이외에 하천의 수리특성에 관한 올바른 이해를 바탕으로 그와 관련된 수리학적 매개변수들에 대한 연구가 뒷받침되어야 한다. 그동안 수행되어온 수질 모델링의 적용 사례를 살펴본 바에 따르면 하천을 모델링하기 위해서는 현장 특성 자료의 중요성, 특히 하천수리특성에 관련된 기초 자료의 가용성 여부가 모형의 성패에 매우 중요한 역할을 함을 알 수 있다. 이는 유량, 유속 및 폭과 깊이로 대변되는 하천 지형은 물질 이송에 대한 주요 외력 함수이며, 다른 모든 예측치들은 이들에 의존적일 수밖에 없기 때문이다. 따라서 이들의 정확한 표현은 올바른 수질 예측에 있어서 필수적일 수밖에 없다. 많은 모형매개변수들이 유속과 깊이에 의존적이나, 이들에 관한 정보는 종종 현장관측에서 조차 무시되는 경우가 많다. 이에 본 연구에서는 수질모형의 매개변수 중 특히 수리특성에 관련된 매개변수들이 수질에 미치는 영향을 파악하는 것을 목적으로 하고 있다. 이를 위해 적용된 수질모형은 QualKo를 사용하였으며, 대상 하천은 낙동강 본류 경남구간 시점 부근인 회천 합류 전부터 낙동강 본류 경남구간 종점 부근인 밀양강 합류 전까지의 경남 오염총량관리 기본계획 시 구축된 모형 매개변수를 바탕으로 분석을 수행하였다. 일차오차분석을 이용하여 수리매개변수와 수질매개변수의 수질항목별 상대적 기여도를 파악해 본 결과, 수리매개변수는 DO, BOD, 유기질소, 유기인 모든 항목에 일정 정도의 상대적 기여도를 가지고 있는 것을 알 수 있었다. 이로부터 수질 모형의 적용 시 수리 매개변수 또한 수질 매개변수의 추정 시와 같이 보다 세심한 주의를 기울여 추정할 필요가 있을 것으로 판단된다.

• Proceedings of the Korea Water Resources Association Conference
• /
• 2017.05a
• /
• pp.310-310
• /
• 2017

홍수추적 모형의 적절성을 결정하는 중요한 요소 중 하나는 모형의 매개변수이다. 특히 자연하천에 관한 부정류 계산모형의 매개변수인 조도계수는 하상재료의 특성에 따라 좌우되는 표피마찰뿐만 아니라 하상의 굴곡 등 단면형의 변화에 따른 형상손실 및 하천의 사행에 따른 손실 효과 등을 포괄적으로 내포하고 있기 때문에 모든 하천구간에 대하여 일반적으로 적용할 수 있는 조도계수의 값을 하나로 결정하기는 어렵다. 또한 조도계수는 흐름조건, 즉 유량 또는 수위의 변화에 따른 가변성을 갖고 있기 때문에, 흐름이 시간 및 공간적으로 변화하는 부정류 계산모형에 있어서는 더욱 그러하다. 그러므로 본 연구에서는 조도계수의 가변성과 다수 지점의 관측치를 고려한 모형보정의 결과로부터 얻은 파레토 최적화와 최소최대 후회도 방법(Minimax regret approach, MRA)을 결합하여 부정류 계산모형의 안정적인 매개변수를 선정할 수 있는 방법을 제안하였다. 여러 지점의 관측치를 고려한 모형의 보정은 다목적 최적화 문제로서, 여러 지점에 대한 가중치를 결합하여 얻은 하나의 목적함수에 대하여 여러 번의 개별 최적화를 수행함으로써 다수의 파레토 최적해들을 구할 수 있는 통합접근법을 적용하였다. 이때 유량에 따른 조도계수의 가변성을 나타내는 두 개의 매개변수로 구성된 관계식을 이용하여 두 구간에 대한 매개변수들을 모형의 추정 대상 매개변수로서 최적화하였다. 이 후 각기 다른 홍수사상에 대해 보정과 검증을 수행하였으며 각각에 대한 평가지표의 후회도를 정량화하였고 최종 안정적인 매개변수를 추정하기 위해 MRA를 이용하여 종합적인 순위를 도출하였다. MRA는 완전히 불확실한 의사결정 상황에서 유용한 방법으로 알려져 있는데 가장 나쁜 순위가 가장 좋은 것을 선택할 수 있게 하는 보수적인 의사결정기법이다. 계산결과 추정된 모형의 가변조도계수와 그로부터 얻은 두 개 지점에서의 평가지표인 RMSE는 두 지점에 대한 가중치의 조합에 따라 선택되는 매개변수 값에 따라 달라짐을 알 수 있었다. 본 연구에서 제시한 방법은 수문 및 수리모형의 다수의 관측지점의 자료를 이용한 매개변수 산정문제에 있어서 안정적인 해를 도출할 수 있다.

• Proceedings of the Korea Water Resources Association Conference
• /
• 2002.05b
• /
• pp.1316-1321
• /
• 2002

일반적으로 강우-유출모형은 lumped model과 distributed model로 크게 구분될 수 있으며, 우리나라에서는 이중 비교적 부족한 자료를 이용하여도 개략적 모의가 가능한 전자를 널리 사용하고 있다. 본 연구에서는 이러한 모형들의 매개변수를 보정하는 방법에 관해 연구하였다. 일반적으로 모형의 보정 방법에는 크게 시행오차에 의한 수동보정(manual calibration) 방법과 최적화 기법에 의한 자동보정(automatic calibration) 방법으로 나눌 수 있다. 수동보정 방법은 모형 수행결과를 수문곡선의 시각적 비교에 의해 관측치와 비교하여 모형 운영자의 주관적인 판단하에 조정하는 기법이며, 자동보정 방법은 최적화 기법을 이용8하여 특정한 산정기준(estimation criteria)을 최대 또는 최소화시켜 모형의 매개변수를 결정하는 방법이다. 이러한 최적화기법은 일반적으로 직접탐색법과 경사법으로 구분할 수 있다. 경사법은 수렴속도가 빠르지만 편미분에 의해 방향을 찾아가는 방법으로 편도함수가 필요하므로 수문모형에는 적용하기가 힘들므로 적합하지 않다. 그러나, 보다 많은 컴퓨터 수행시간을 필요로 하는 직접탐색법의 경우 수렴속도는 느리지만, 편도함수를 필요치 않으므로 수문모형의 최적화 기법으로 적합하다고 할 수 있다. 직접탐색법에는 simplex-search 법, 패턴인식(pattern-search)법, rotating-direction 법, brent 법 등이 있으며, 본 연구에서는 직접탐색법의 일종인 패턴인식(pattern -search)법을 이용하여 매개변수 최적화 과정을 모의하였다. 이러한 매개변수 보정모형을 구성한 후 이를 가장 보편적으로 사용되고 있는 유출모형인 각종 단위도법들을 결합하는 모형을 구성하였다. 또한 구성된 모형을 시범유역에 적용하여 나온 결과를 HEC-1에서 적용되고 있는 단일변량 증감법과 같은 최적화 기법을 이용한 결과와 비교·분석을 실시하였다. 본 모형을 활용하여 강우-유출 모형의 매개변수를 지속적으로 산정하고 일반화할 경우 임의의 유역의 수문기상학적 특성에 부합한 매개변수를 정량화 시킬 수 있었다.

• Proceedings of the Korea Water Resources Association Conference
• /
• 2017.05a
• /
• pp.213-213
• /
• 2017

저수지 유입량은 효율적 저수지 운영을 위해 중요한 요소로, 이는 하류 하천 등과 복합적으로 연계되기에 통합적 수자원 관리를 위해서 정확한 추정이 중요하다. 국내의 일부 저수지에서는 상류에서 유입되는 유량을 측정하고 있으나, 모든 저수지에 대해 측정하기에는 현실적 한계가 있다. 한편, 한국농어촌공사에서는 유효저수량 10만톤 이상 저수지에 대해 수위 계측기를 설치하여 수위자료를 관측하고 있으며, 이는 수위-내용적 곡선을 통해 저수량으로 변환이 가능하다. 저수량 자료가 확보되면 물수지식 기반으로 간접적으로 유입량의 추정이 가능하나, 수위가 상승하는 구간에 대해서만 적용이 가능하기에 연속적인 자료의 확보에 한계가 있다. 이 경우 불연속 유량자료를 대상으로 수문모형의 매개변수를 최적화하여 장기간 연속자료로 변환하는 것이 한 방안이 될 수 있다. 본 연구에서는 저수지 수위 기반으로 추정된 간헐적 유입량 자료를 기반으로 수문모형의 매개 변수를 최적화하여 장기유량으로 변환하고자 한다. 수문 모형과 매개변수 최적화 기법은 각각 Tank 모형과 SCE (Shuffled Complex Evolution) 기법을 이용하였다. 매개변수 최적화를 위한 목적함수는 고유량 저유량 총량 분산 관련 지표에 가중치를 부여한 다중 목적함수로 설정하였으며, 이를 통해 도출된 다양한 매개변수 후보군 중 고유량 저유량 총량 유황곡선의 유사정도가 전반적으로 일치하는 매개변수 군을 선택하였다. 본 연구 결과는 미계측 저수지 유입량을 추정할 수 있음으로써 저수지의 효율적인 물관리와 용수관리 의사결정에 활용할 수 있을 것으로 사료된다.

• Proceedings of the Korea Water Resources Association Conference
• /
• 2012.05a
• /
• pp.636-636
• /
• 2012

우리나라에서 가장 심각한 자연재해가 홍수재해이므로, 홍수기에 홍수예보를 하는 것은 매우 중요한 일이다. 홍수예보를 위한 예측 과정은 강우예측과 유출해석부분으로 크게 나눌 수가 있는데, 강우를 정확하게 예측하는 일은 주로 정교한 강우모형과 기상학자들의 몫으로 남겨놓는다고 하더라도 정확한 유출해석은 오랜 동안 수문학자들에게 중요한 고민거리였으며, 특히 우리나라와 같이 홍수재해에 취약한 지역에서는 더욱 간절한 문제가 되었다. 우리나라에서는 국가하천을 대상으로 홍수예보모형을 개발하여 하천의 주요지점에 대한 홍수예보를 시행하고 있으며, 매년 보다 정확하고 신속한 예보를 통해 피해를 줄이기 위해 많은 노력을 기울이고 있다. 본 연구에서는 전역최적화기법인 SCE-UA방법을 이용하여 홍수예보모형의 매개변수의 최적화를 수행하였다. 그러나 최적화기법에 의해 제안된 매개변수들이 강우-유출모형이나 유역의 물리적인 특성을 반영하지 못한다는 비판을 피하기 위해 다단계의 최적화를 통해 유역의 물리적인 특성을 반영하면서도 유출수문곡선을 성공적으로 재현하는 매개변수를 제안하고, 각 매개변수가 가지는 의미를 평가하여 실무에서 홍수예보업무의 효율을 높이는데 도움을 주는 것을 목적으로 하였다. 연구를 위해 매개변수의 민감도 분석을 수행하고, 민감도에 따라 최적화 하는 방법을 다르게 적용하였다. 또한 유역의 물리적인 특성을 나타내는 매개변수와 강우의 특성에 따라 변화하는 매개변수를 구분하여, 유역별 다른 매개변수의 범위를 제안하였다. 제안된 매개변수는 검증을 통하여 적용성을 확인하였으며, 유역별 다양한 특성을 성공적으로 나타내었다.

• Proceedings of the Korea Water Resources Association Conference
• /
• 2006.05a
• /
• pp.1970-1974
• /
• 2006

Tank 모형은 유역을 임의의 저류탱크로 가정하여, 유출공의 높이를 초과하는 저류고를 방출함으로써 유출량을 모의한다. 유출분석의 목적에 따라 직렬 3단 혹은 4단의 탱크로 구성하여 적용하는 것이 일반적인데, 국내의 일 단위 장기유출분석 연구에서는 직렬 4단 Tank 모형이 널리 활용되고 있다. 이러한 Tank 모형은 유역의 강우-유출관계를 모의하는 과정에 black box적인 특성을 지니고 있다. 그러나 각 저류탱크와 관련된 매개변수를 최적화하기 위해서는 매개변수들의 물리적인 의미를 이해하여야 한다. 이런 점을 고려하여 일본의 Sugawara는 경험적으로 매개변수들이 결정되는 범위를 제시한 바 있다. 그러나 기저유출을 모의하는 Tank 모형의 최하단 탱크에서 이러한 매개변수 범위에서는 적합한 값을 갖으나 장기적인 모의시에 저류고 및 유출고가 계속 증가하여 물리적인 유출특성을 반영하지 못하는 문제점이 나타났다. 따라서 본 연구에서는 이러한 문제점의 원인을 분석하기 위해 장기간의 자료가 구축된 소양강댐을 적용 유역으로 선정하여 최하단탱크의 유출공계수의 변화에 따른 유출량과 저류고의 변화를 살펴보았다. 분석결과 매개변수가 $0.0001{\sim}0.001$의 범위에서 장기간의 지속적인 저류고와 유출량의 증가가 나타났다. 그리고 유출공계수가 증가함에 따라 최대저류고는 감소하고, 저류고가 증가하는 지속기간이 짧아지는 것으로 나타났다. 그러나 통계치 변화분석에서는 상관계수, 평균제곱근오차, 모형효율성계수에서 거의 변화가 없는 것으로 나타났으며, 유출용적오차에서도 최대 약 6% 정도 유출용적이 변화하는 것으로 나타났다.mber)과 동일한 위치의 수온자료를 기초로 회귀분석을 실시함으로써 수온추출 알고리즘을 도출하여, 분석데이터의 신뢰도를 검증하였으며, 수온, 클로로필, 투명도 등을 위성원격탐사 자료와 GIS를 이용하여 공간분석을 실시하고, 공간분포도를 작성함으로써 대상해역의 해양환경을 파악하였다. 본 연구결과, 분석된 위성자료가 현장조사에 의한 검증이 이루어지지 않을 경우, 영상자료분석을 통한 표층수온 추출은 대기 중의 수증기와 에어로졸에 의한 계산치의 오차가 반영되기 때문에 실측치 보다 낮게 평가 될 수 있으므로, 반드시 이에 대한 검증이 필요함을 알 수 있었다. 현지관측에 비해 막대한 비용과 시간을 절약할 수 있는 위성영상해석방법을 이용한 방법은 해양수질파악이 가능할 것으로 판단되며, GIS를 이용하여 다양하고 복잡한 자료를 데이터베이스화함으로써 가시화하고, 이를 기초로 공간분석을 실시함으로써 환경요소별 공간분포에 대한 파악을 통해 수치모형실험을 이용한 각종 환경영향의 평가 및 예측을 위한 기초자료로 이용이 가능할 것으로 사료된다.염총량관리 기본계획 시 구축된 모형 매개변수를 바탕으로 분석을 수행하였다. 일차오차분석을 이용하여 수리매개변수와 수질매개변수의 수질항목별 상대적 기여도를 파악해 본 결과, 수리매개변수는 DO, BOD, 유기질소, 유기인 모든 항목에 일정 정도의 상대적 기여도를 가지고 있는 것을 알 수 있었다. 이로부터 수질 모형의 적용 시 수리 매개변수 또한 수질 매개변수의 추정 시와 같이 보다 세심한 주의를 기울여 추정할 필요가 있을 것으로 판단된다.변화와 기흉 발생과의 인과관계를 확인하고 좀 더 구체화하기 위한 연구가 필요할 것이다.게 이

• Proceedings of the Korea Water Resources Association Conference
• /
• 2006.05a
• /
• pp.1161-1165
• /
• 2006

본 연구는 OLS 및 변수선택법에 의해 통계학적 모형의 매개변수를 산정하여 모형의 적용성을 입증하고 하천 주요지점에 대한 홍수위 예측을 통해 홍수예보 및 예측 업무에 기여코자하는데 연구목적이 있다. 다중선형회귀모형을 구성하기 위한 독립변수는 예보지점의 수위/유출량 자료와 상류지점의 수위/유출량 자료, 그리고 유역의 선행 평균강우량 등의 자료를 독립변수로 하여 통계학적 홍수예측을 위한 다중선형 회귀모형을 각각 구성하여 적합성 여부를 판단하였다. 매개변수 산정은 OLS(Ordinary least square root method)와 변수선택(Stepwise)방법에 의해 산정하였으며, 중랑천 유역의 2002년부터 2005년까지의 수문사상 16개를 선정하여 모형에 적용한 결과 두 매개변수 산정방법 모두 30분에서 90분 예측은 상대적으로 정확한 결과를 나타내었으며, OLS 및 변수선택법에 의한 매개변수 산정결과 변수선택법에 의한 방법이 OLS 방법보다는 상관성이나 효율지수면에서 조금 더 정확한 값을 나타내고 있으나 독립변수의 일관성을 감안한다면 변수선택법보다는 OLS방법에 의한 매개변수 산정이 타당할 것으로 사료된다. 기존의 홍수예보 업무에 활용되고 있는 수문학적 홍수예측 모형인 저류함수법의 여러 매개변수 조정에 의한 홍수위 예측 방법보다는 비교적 간단한 통계적 방법에 의한 홍수위 예측 방법으로 홍수예보의 선행시간 확보가 필수적인 중랑천과 같이 유역면적이 작은 중소하천에서의 홍수예보 업무에 효과적으로 이용 가능할 것으로 사료된다.

• Proceedings of the Korea Water Resources Association Conference
• /
• 2016.05a
• /
• pp.280-280
• /
• 2016

특정 자료의 시간의 흐름에 따른 예측치를 추정하는 방법으로 AR Model 즉, 자기회귀모형이 많이 사용되고 있다. AR Model은 변수의 현재 값을 과거 값의 함수로 나타내게 되는데, 이런 시계열 분석 모델을 사용할 때 매개변수의 추정 과정이 필수적으로 요구된다. 일반적으로 매개변수를 추정하는 방법에는 확률적근사법(stochastic approximation), 최소제곱법(method of least square), 자기상관법(method of autocorrelation method), 최우도법(method of maximum likelihood) 등이 있다. AR Model에서 가장 많이 사용되는 최우도법은 표본크기가 충분히 클 때 가장 효율적인 방법으로 평가되지만 수치적으로 해를 구하는 과정이 복잡한 경우가 많으며, 해를 구하지 못하는 어려움이 따르기도 한다. 또한 표본 크기가 작을 때 일반적으로 잘 일치하지 않은 결과를 얻게 된다. 우리나라의 강우, 유량 등의 자료는 자료의 수가 적은 경우가 많기 때문에 최우도법을 통한 매개변수 추정 시 불확실성이 내재되어있지만 그것을 정량적으로 제시하는데 한계가 있다. 본 연구에서는 AR Model의 매개변수 추정 시 Bayesian 기법으로 매개변수의 사후분포(posterior distribution)를 제공하여 매개변수의 불확실성 구간을 정량적으로 표현하게 됨으로써, 시계열 분석을 통해 보다 신뢰성 있는 예측치를 얻을 수 있으리라 판단된다.