SCA: Cross-Attention 지도 학습에 기반한 문서기반 응답 생성 모델의 성능 향상

최형준,나승훈,홍범석,한영섭,전병기 한국정보과학회 2024 정보과학회논문지 Vol.51 No.4

문서 기반 응답 생성은 소비자 상담이나 보험 설계와 같이 정확한 사실에 기반한 근거가 되는 문서를 검색한 후, 해당 문서를 통해 대화 응답을 생성하는 작업을 의미한다. 이번 연구에서는 응답 생성 모델이 입력된 문서로부터 답변 생성에 필요한 부분을 찾아내어 반영하는 능력을 향상시키기 위해 Supervised Cross-attention을 제시했다. 이는 디코더의 Cross-attention에 대해 Attention Supervision을 적용하는 것으로, 입력 문서 중 실제 답변 생성에 포함되어야 하는 정보인 레퍼런스에 해당하는 부분에 Cross-attention 가중치가 집중되도록 지도학습 과정을 추가하는 것이다. 이 방법과 추가적인 성능 향상 방법을 도입한 결과 기존 SOTA 대비 F1 지표에서 1.13의 성능 향상을 확인하였고, Supervised Cross-attention을 통해 0.25의 성능 향상이 있었음을 확인했다. Document-grounded response generation is the task of aiming at generating conversational responses by “grounding” the factual evidence on task-specific domain, such as consumer consultation or insurance planning, where the evidence is obtained from the retrieved relevant documents in response to a user’s question under the current dialogue context. In this study, we propose supervised cross-attention (SCA) to enhance the ability of the response generation model to find and incorporate “response-salient snippets” (i.e., spans or contents), which are parts of the retrieved document that should be included and maintained in the actual answer generation. SCA utilizes the additional supervised loss that focuses cross-attention weights on the response-salient snippets, and this attention supervision likely enables a decoder to effectively generate a response in a “saliency-grounding” manner, by strongly attending to the important parts in the retrieved document. Experiment results on MultiDoc2Dial show that the use of SCA and additional performance improvement methods leads to the increase of 1.13 in F1 metric over the existing SOTA, and reveals that SCA leads to the increase of 0.25 in F1.

200W급 고분자전해질 연료전지의 운전 특성 ( Operation Characteristics of the 200W PEMFC Stack )

최형준,조성아,오인환,임태훈,홍성안 한국에너지학회 1998 한국에너지공학회 학술발표회 Vol.1998 No.-

스포츠 위치측정 기반 시계열 자료의 유사성 탐색

최형준 한국체육측정평가학회 2020 한국체육측정평가학회지 Vol.22 No.2

The study was to determine the identification of similarities on the time series data based on the measurement of positioning within soccer match. A match of the korean professional soccer league was selected as subjects of this study, and the collected data was considered in a second unit of data by 10 players each in the team(n=5,657). The time concerned for this study were from the beginning of the first half to the end of the second half. The log likelihood function was used to decide the number of segments among the time series data, and the BIC(Bayesian Information Criterion) penalized log likelihood function was calculated for the identification of similarity on the segment of the time series data. The conclusion of this study was as following belows,First of all, there was useful functionality found when the time series data has been determined by the log likelihood function that the estimation of parameters was easily identified. Secondly, the possibility of classification of time series data with similarity by the BIC penalized log likelihood function was presented, but the number of clusters was differently observed because of different characteristics of variables used. Further research is required that the research on the combination between the experts’ opinion and the results of the segments would be operated in order to identify the factors’ characteristics for the segmentation of time series data in sport. 이 연구는 축구 경기에서 측정된 위치측정 기반 시계열 자료의 유사성을 탐색하는데 목적을 두었다. 이 연구를 위하여 한국남자 프로축구 경기에서 측정된 위치측정 시계열 자료를 연구의 대상으로 선정하였고, 두 팀 각 10명 선수의 위치측정 시계열 자료를 전반전 시작시점부터 후반전 종료시점까지 1초 단위로 정리하여 사용하였다(n=5,657). 이 연구에서는 위치측정 시계열 자료의 유사성 탐색을 위하여 로그 우도(log likelihood) 함수를 사용하여 시계열 자료에 대한 분할 수를 결정하였고, 베이지안정보기준 패널티 로그 우도(Bayesian Information Criterion penalized log likelihood) 함수를 이용하여 위치측정 시계열 자료의 유사성을 탐색하여 얻은 결론은 다음과 같다. 첫째, 선수의 위치측정 시계열 자료를 로그 우도 함수로 분할할 경우, 확률적인 모수의 추정이 가능하여 선수 위치측정 시계열 자료에 적용하기에 용이하였다. 둘째, 선수의 위치측정 시계열 자료를 베이지안정보기준 패널티 로그 우도 함수를 이용하여 유사성을 탐색할 경우 군집이 가능하였나, 자료의 특성에 따라서 제안된 군집의 수는 상이하게 나타났다. 이 연구의 결과를 바탕으로 향후 전문가의 관찰내용과 시계열 자료의 분할 내용을 상호 비교하여 분할에 적용된 요소의 특성을 파악하는 연구가 지속적으로 이루어져야 한다고 사료된다.

2019 여자축구 월드컵 대회의 본선진출 결정요인 탐색

최형준,송송이 한국웰니스학회 2022 한국웰니스학회지 Vol.17 No.2

The purpose of this study was to compare the difference in ball possession & passes, cross & shots, and challenge between qualified group and non-qualified group in the qualifying of the 2019 France Women's World Cup. Totall, 22 factors on the ball possession & passes, crosses & shots, and challenge were analyzed between qualified group(n = 16) and non-qualified group(n = 8) for 36 matches. Finally, 1,445 events from the matches were utilized for this study after the data collection. Statistical analysis was conducted the Mann-Whitney U test to analyze the difference between the two groups. The qualified group were significantly higher than those of non-qualified group in a number of ball individual possessions, total passes, total forward passes, passes to final third, key pass, cross open play, successful cross open play, total shots, total shots on target goals, the rate of successful forward passes, successful air challenges, and successful challenges(p<.05). There was no significant differences found on the other variables between groups. Consequently, In order to qualify for the Women's World Cup finals, increasing the successful air challenges during an opponent's cross may be better strategy to prevent interceptions of balls, and need to increase the pass and shot attempts to score. 본 연구는 2019 프랑스 여자월드컵 본선진출팀과 예선탈락팀의 볼소유 및 패스, 크로스 및 슈팅, 경합 상황 관련 차이를 검증하는데 목적을 두었다. 총 24개 팀의 예선전 36경기를 대상으로 본선진출팀(n=16)과 예선탈락팀(n=6)의 경기분석 관련 볼소유 및 패스, 크로스 및 슛, 경합 상황에 대한 22개 인자를 분석하였다. 자료 수집이 완료된 후, 연구에 사용된 자료는 결측값을 제외하고 총 1,445개의 자료를 수집 및 전처리하였다. 자료의 처리는 두 집단 간 차이를 분석하기 위해 비모수 통계처리 방법인 Mann-Whitney U 검정을 실시하였다. 본선진출팀의 볼 소유 횟수, 총 패스 횟수, 패스 성공률, 총 전방 패스 횟수, 전방 패스 성공률, 공격 1/3 지역 패수 횟수, 키 패스 횟수, 크로스 시도 횟수, 크로스 성공 횟수, 총 슈팅 횟수, 총 유효 슈팅 횟수, 득점, 공중볼 경합 성공률, 경합 성공률은 예선탈락팀에 비해 높게 나타났으며, 두 집단간 통계적으로 유의한 차이를 보였다(p<.05). 그 외 빼앗은 볼 횟수, 빼앗긴 볼 횟수, 태클 횟수, 태클 성공률, 공중볼 경합 횟수, 땅볼 경합 횟수, 땅볼 경합 성공률, 총 경합 횟수에서는 통계적으로 유의한 차이를 보이지 않았다. 여자 월드컵 본선 진출을 위해서는 상대의 크로스 시도 시 공중볼 경합의 성공률을 높이는 것이 실점을 막을 수 있는 전략이 될 것이고, 득점을 위해서는 패스의 빈도 및 성공률을 높여 공격지역으로 빠르게 침투하여 슛, 유효슛 비율을 높이는 전략이 경기력을 향상시키는데 도움을 준다.

상악 영구 중절치의 외상성 치근파절 : 증례보고

최형준,곽지윤,이종갑,최병재,Choi, Hyung-Jun,Kwak, Ji-Youn,Lee, Jong-Gap,Choi, Byung-Jai 대한소아치과학회 2003 大韓小兒齒科學會誌 Vol.30 No.3

청소년기에는 두개악안면부위의 외상성 손상이 흔하다. 그러나 상아질, 백악질, 치수를 포함하는 치아파절로 정의되는 치근파절은 비교적 드물다. 치근파절에 대하여 취 할 수 있는 적절한 조치는 파절편의 치관부위를 재위치시키고, $2{\sim}3$달간 레진강선 고정술을 시행하는 것이다. 치수괴사나 치근흡수의 징후가 나타날때까지 근관치료를 보류해야 하는데 대부분의 증례에서 파절편의 치근부위는 그 생활력을 유지하기 때문이다. 본 증례의 10세 4개월된 남아는 상악영구중절치의 치근파절을 주소로 연세대학교 치과병원에 내원하였으며, 그후 7년동안 동일부위에 2번의 반복적인 외상이 있었으나 파절편 치관부의 재위치, 레진 강선 고정술, 근관치료 시행 후 임상적으로 방사선학적으로 비교적 양호한 치료결과를 얻었기에 보고하는 바이다. Traumatic injuries in the young permanent dentition are common, but root fractures, defined as fractures involving dentin, cementum and pulp, are relatively uncommon. Appropriate management of root fracture involves repositioning the coronal portion of the tooth fragment and firm immobilization with a splint for 2 to 3 month. Root canal treatment should not be initiated until the sign of necrosis or resorption are apparent because in most cases, the apical fragments maintain their vitality. The following case report describes a patient with root fractures injured three times over the period of 7 years. The results, clinically and radiographically, were acceptable, but long term periodic evaluation is required.

유치와 영구치의 차이 (조직, 병리, 생화학적 차이)

최형준 대한치과의사협회 1998 대한치과의사협회지 Vol.36 No.7

kW급 고분자전해질 연료전지 스택의 운전 특성 ( Operation Characteristics of the kW-class PEMFC Stack )

최형준,안상렬,조성아,하흥용,오인환,홍성안,임태원 한국에너지학회 1999 한국에너지공학회 학술발표회 Vol.1999 No.-

배뇨근과활동성이 동반된 전립선폐색 환자의 임상-요역동학 특징

최형준,이규성 대한비뇨의학회 2005 Investigative and Clinical Urology Vol.46 No.8

RFID 기술의 동향과 개발전망

최형준,문승진 한국지능정보시스템학회 2011 한국지능정보시스템학회 학술대회논문집 Vol.2011 No.5

2004년도의 IT839운동으로부터 시작된 IT성장으로 인해 RFID의 중요성은 미래의 정보기술시장을 선도하기에 충분한 기술로 자리 잡히고 있다. 특히 지속적으로 성장하고 있는 스마트 폰과 결합된 모바일 RFID기술 시스템은 지식경제부를 중심으로 하여 다양한 기업들이 기술 표준화 및 구체적으로 추진되고 있는 서비스 발굴을 진행 중에 있다. 실생활에 큰 파급을 가져온 스마트 폰과의 결합은 더욱 편리한 세상이 되는 걸음에 가속을 붙여줄 것이다. 이와 같이 현재 RFID 기술의 동향과 더불어 휴대폰뿐 아니라 국내 다양한 분야에서 쓰이는 RFID의 기술력과 개발방향에 대해 전망한다.

저항소자를 이용한 휴대형 Real-time PCR 기기용히터 제작

최형준,김정태,구치완 한국전기전자학회 2019 전기전자학회논문지 Vol.23 No.1

A heater in a portable real-time polymerase chain reaction(PCR) system is one of the important factors for controllingthe PCR thermocycle precisely. Since heaters are integrated on a small-sized PCR chip for rapid heating and fabricatedby semiconductor processes, the cost of producing PCR chips is high. Here, we propose to use chip resistors as aninexpensive and accurate temperature control method. The temperature distribution was simulated using one or two chipresistors on a real-time PCR chip and the PCR chip with uniform temperature distribution was fabricated. Thetemperature rise and fall rates were 18°C/s and 3°C/s, respectively. 바이오샘플의 DNA를 대량 증폭할 수 있는 휴대형 실시간 중합효소연쇄반응(Real-time PCR) 기기에서 히터는 PCR 반응온도를 제어하기 위한 중요한 요소 중의 하나이다. 보통 빠른 히팅을 위해 소형 PCR 칩에 집적화되어 있고, 반도체 공정을이용하여 박막형태로 제작되어 PCR 칩 제작 단가가 높은 편이다. 따라서 본 연구에서는 값싸고 온도제어를 정확히 할 수 있는 히터로 칩 저항을 사용하는 것을 제안한다. 칩 저항을 사용한 히터는 구조가 단순하고 제작이 쉽다는 장점이 있다. 2.54× 2.54 cm² 크기의 실시간 PCR 칩 위에 칩 저항을 1개 또는 2개를 사용했을 때 온도분포를 시뮬레이션 하였고, 고른 온도분포를 갖는 PCR 칩을 제작했다. 또한 효율적인 PCR 칩 냉각을 위해 소형 fan이 내장된 하우징을 설계하였고, 3D 프린터로제작했다. 온도제어는 마이크로프로세서를 이용한 PID제어법(Proportional-Integral-Differential control)을 적용했다. 온도상승비와 하강비는 각각 18℃/s, 3℃/s이며, 각 PCR 반응 단계의 유지 시간을 30초로 하였을 때, 한 사이클은 약 2.66분이 걸렸고, 35 사이클은 약 93 분 내로 진행할 수 있었다.