SNS서 제품사고 징후 실시간 '포착'…뉴엔AI 기술 뭐길래

제품 사고가 난 뒤 뒤늦게 회수하고 대응하는 방식에서 벗어나 온라인에 쌓이는 소비자 반응을 인공지능(AI)으로 읽어 사고 징후를 먼저 찾아내는 연구가 본격화된다. 뉴엔AI가 산업통상부 제품안전관리 고도화 사업의 핵심 연구개발(R&D)에 참여하면서다. 민간 시장에서 축적해왔던 비정형 데이터 분석 기술을 공공 안전관리 체계에 이식하는 첫 시도다.

AI 트렌드 분석 플랫폼 기업 뉴엔AI는 20일 한국제품안전관리원(KIPS)이 주관하는 'AI 기반 소비자 제품사고 징후 분석을 통한 안전관리 요인 연구' 사업에 공동 연구개발기관으로 참여한다고 밝혔다. 사업 기간은 올해 5월부터 12월까지 약 8개월이다.

이번 과제의 핵심은 기존 사후 대응형 제품안전관리 체계를 능동형으로 바꾸는 데 있다. 소비자 제품 사고가 실제로 발생한 뒤 조치하는 데 그치지 않고 온라인상 소비자 반응 데이터를 AI로 실시간 분석해 사고 전조를 먼저 식별하겠다는 것이다.

뉴엔AI는 이번 사업에서 정보 수집과 분석 체계 구축을 맡는다. 소비자 반응 데이터 확보를 위한 수집 환경을 만들고 위해 요인을 자동으로 인식·분석하는 AI 에이전트 개발한다. 일르 통해 제품 사고 전조 증상을 잡아내는 사전 탐지 알고리즘 개발을 주도할 계획이다.

특히 회사는 사회관계망서비스(SNS), 온라인 커뮤니티, 쇼핑몰 리뷰 등 비정형 데이터에서 '발열', '연기', '스파크' 같은 사고 징후 키워드 이른바 '스모크 텀'을 추출해 위해 수준을 분석하는 기술을 적용하기로 했다. 단순히 키워드를 모으는 수준이 아니라 위해 가능성을 분류하고 위험도를 가려내는 방향으로 시스템을 고도화하겠다는 구상이다.

생성형 AI의 한계로 꼽히는 환각 현상 대응도 이번 연구의 한 축이다. 뉴엔AI는 분석 결과의 근거가 된 원문을 즉시 확인할 수 있는 '원본 데이터 역추적 기술'을 구현해 분석 신뢰도를 높인다는 방침이다. AI가 결론을 내렸더라도 사람이 원문을 바로 확인할 수 있도록 설계해 공공 안전 시스템에 필요한 검증 가능성을 확보한다.

데이터 수집과 보안 기술도 함께 탑재된다. 뉴엔AI는 웹스크래핑·자연어 처리(NLP)를 활용한 정보 수집·가공 기술, 불량 정보 필터링, 민감 정보 처리 프로토콜을 적용해 데이터 품질과 보안을 동시에 확보하겠다고 설명했다. 각종 사고와 직결되는 위해 요인을 자동으로 찾아내기 위해 자사 모델인 퀘타LLMs와 퀘타LMM도 투입한다.

회사는 이번 사업의 의미를 민간 검증 기술의 공공 이식으로 보고 있다. 류승완 뉴엔AI 이사는 "민간 시장에서 검증된 '퀘타' 플랫폼의 비정형 데이터 분석 역량을 공공 안전관리 시스템 고도화에 이식한다는 점에서 전략적 가치가 크다"며 "단순 정보 수집을 넘어 실제 사고를 예방할 수 있는 정교한 AI 알고리즘을 개발해 국민이 안심하고 제품을 사용할 수 있는 환경을 만드는 데 기여하겠다"고 말했다.

김대영 한경닷컴 기자 kdy@hankyung.com