데이터베이스와 무관한 질문 처리 및 검색 결과 구조 개선

[DShomin]

❌ 문제점

• 사용자가 데이터베이스와 관련 없는 질문을 입력하면, LLM이 무리하게 SQL 쿼리를 생성하려다 할루시네이션이 발생할 수 있음
• 예를 들어, “오늘 날씨는 어때?” 같은 질문을 했을 때도 SQL 쿼리를 생성하려 할 가능성이 있음

✅ 해결 방안

• Condition Edge 추가

🔍ToDo

• 사용자 질문과 검색 결과를 Prompt로 LLM에게 연관된 질문인지 확인하는 Condition Edge를 만든다.

[ehddnr301]

DBMS 관련 질문이 아니라면 SQL이 생성되지 않아야? RED Team의 입력이라면?
-> 분기처리해서 관련질문이 아니라고 답변되어야함
-> Conditional Edge 연결을 어디다가 해야할지?가 결정이 필요한 상태?

[ParkGyeongTae]

사용자 질문과 검색 결과를 연관된 질문인지 확인하는 아이디어가 좋은 것 같습니다~!
사용자가 질문할 때마다 적절한지 체크하는 API 양을 소모하는 것은 추후에 최적화할 여지도 있겠네요~!

[nonegom]

해당 부분 제가 구현해보겠습니다~!