자료를 ai에게 주고 일을 시키면 60퍼센트 정도의 원하는 답변을 받는다면 LAG를 사용하면 80퍼센트까지 끌어올릴 수 있어서 사용한다고 한다. 그리고 항상 염려하는 할루시네이션의 확률이 DB기반으로 나와서 대폭 감소하는 이점이 있다고 한다.
또한 ai를 사용하면 업무가 엄청 편리해지는 대신 해당 ai 회사에 회사 내부 자료가 저장될 수 있는 위험이 따르는데 해당 기술을 사용하면 DB를 자체적으로 사용하고 질문만 쓸 수 있어서 좋다고 한다.
결국 좀 더 신뢰성있는 더 좋은 품질, 나만의 챗봇을 위해 공부해야하는 것 같다.
'Today I Learned' 카테고리의 다른 글
MVP 벡터 DB 로드 코드 (2) | 2025.03.22 |
---|---|
BM25, MultiQueryRetriever, Singleton 패턴 (1) | 2025.03.21 |
내가 보려고 정리한 협업 깃 명령어 (2) | 2025.03.05 |
openai로 내용 보강법 (0) | 2025.02.21 |
OpenAI API의 멀티턴 대화 (0) | 2025.02.21 |