On-device intent reasoning for smart home agents via ontology-augmented sLLMs|RISS 상세보기

다국어 초록 (Multilingual Abstract)

Large language model (LLM)-based agents offer powerful natural language understanding for smart home intent interpretation but typically require cloud deployment, raising concerns over privacy, latency, and resource usage. While sLLM can run on-device, they lack the structured contextual knowledge needed to handle ambiguous intents and complex device interactions effectively. To address this limitation, we present CIDER, an ontology-augmented, on-device intent reasoning framework that combines an sLLM with common-sense device knowledge and user-specific context, organized within a structured ontology- based knowledge graph. Specifically, we develop an ontology construction pipeline for smart homes, which leverages cloud-based LLMs to extract and organize common-sense knowledge about smart home devices and integrates user-specific context from a smart home service. The resulting ontology serves as an external knowledge source that augments the sLLM’s intent reasoning process in a retrieval-augmented manner, enabling context-aware inference for autonomous, orchestrated device operation. In evaluations with SmartThings-based testbeds, CIDER achieves a success rate of 82.2% in general scenarios and 76.6% in highly complex home environments, outperforming strong cloud-based baselines by up to 17.7 percentage points, despite relying on a compact on-device sLLM. These results demonstrate that combining the domain-specific efficiency of symbolic knowledge representations with the flexible semantic processing of an sLLM, empowered by an ontology distilled from cloud-based LLMs, provides an effective approach to intent understanding in smart homes.

번역하기

국문 초록 (Abstract)

대형 언어 모델(LLM) 기반 에이전트는 스마트 홈 의도 해석을 위한 강력한 자연어 이해 능력을 제공하지만, 일반적으로 클라우드 배포가 필요하여 개인정보 보호, 지연 시간 및 리소스 사용에 대한 우려를 야기합니다. sLLM(소형 LLM)은 온디바이스(on-device)로 실행될 수 있지만, 모호한 의도를 처리하고 복잡한 기기 상호작용을 효과적으로 다루는 데 필요한 구조화된 문맥적 지식이 부족합니다. 이러한 한계를 해결하기 위해, 본 논문은 sLLM에 상식적 기기 지식과 사용자별 문맥을 결합한 온톨로지-증강(ontology-augmented) 온디바이스 의도 추론 프레임워크인 CIDER를 제시합니다. 이 지식과 문맥은 구조화된 온톨로지 기반 지식 그래프 내에 구성됩니다. 구체적으로, 본 논문은 스마트 홈을 위한 온톨로지 구축 파이프라인을 개발하며, 이는 클라우드 기반 LLM을 활용하여 스마트 홈 기기에 대한 상식적 지식을 추출 및 구성하고 스마트 홈 서비스로부터 사용자별 문맥을 통합합니다. 결과적으로 생성된 온톨로지는 sLLM의 의도 추론 과정을 검색-증강(retrieval-augmented) 방식으로 보강하는 외부 지식 소스 역할을 하여, 자율적이고 통합적인(orchestrated) 기기 작동을 위한 문맥-인지 추론(context-aware inference)을 가능하게 합니다. SmartThings 기반 테스트베드 평가에서 CIDER는 일반 시나리오에서 82.2%, 매우 복잡한 홈 환경에서 76.6%의 성공률을 달성했습니다. 이는 소형 온디바이스 sLLM에 의존함에도 불구하고 강력한 클라우드 기반 베이스라인보다 최대 17.7%p 더 뛰어난 성능입니다. 이러한 결과는 상징적 지식 표현(symbolic knowledge representations)의 도메인 특화 효율성과, 클라우드 기반 LLM으로부터 추출(distilled)된 온톨로지를 통해 강화된 sLLM의 유연한 의미 처리를 결합하는 것이 스마트 홈에서의 의도 이해를 위한 효과적인 접근 방식임을 보여줍니다.

번역하기

대형 언어 모델(LLM) 기반 에이전트는 스마트 홈 의도 해석을 위한 강력한 자연어 이해 능력을 제공하지만, 일반적으로 클라우드 배포가 필요하여 개인정보 보호, 지연 시간 및 리소스 사용에...

목차 (Table of Contents)