Chat History란?
이전 대화 기록을 저장하는 역할을 합니다. 기본적으로, AI 모델은 이전 대화를 기억하지 않습니다.
번외) ChatGPT는 이전 내용 저장하지 않나요?
위와 같은 궁금증이 든 경우라면, AI모델과 서비스를 혼동하고 있는 겁니다.
ChatGPT는 GPT 시리즈와 다른 AI 모델들을 활용해 만든 챗봇 서비스입니다. 즉, AI모델은 서비스에 탑재된, 주요 역할이긴 하지만 ChatGPT는 AI 모델 + @인겁니다.
그럼, 어떤 기능들을 더 제공하고 있을까요?
•
대화 기록 및 컨텍스트 유지
•
플러그인 및 도구 사용
•
멀티 모달 기능
등을 추가로 제공합니다.
즉, Chat History는 AI 모델 위에 추가로 얹는 기능입니다.
왜 사용해야할까?
맥락 유지
기본적으로 AI는 이전 대화를 기억하지 못합니다. 자신이 학습했던 내용들을 기반으로 일반적인 답변을 해주기 때문에, ChatHistory 기능이 없으면 매번 새로운 대화를 하는 것처럼 대화 흐름이 끊깁니다.
마치 다음과 같은 느낌이랄까요?
User : 내일 날씨 어때?
AI : 어느 지역의 날씨를 알려드릴까요?
User : 서울
AI : 서울의 어떤 점이 궁금하세요? # 즉, 날씨를 알려달라고 했던 내용은 기억 못 함
Bash
복사
ChatHistory 기능을 사용함으로써 이전 대화 내용을 기반으로 답변할 수 있게 됩니다. 마치 다음처럼요.
User : 내일 날씨 어때?
AI : 어느 지역의 날씨를 알려드릴까요?
User : 서울
AI : 서울의 내일 날씨는 **맑음**입니다.
Bash
복사
주의해야 할 점은?
1. 메모리 누수 & 성능 문제
ChatHistory는 이전 대화를 기억할 수 있도록 해주지만, 대화 기록이 많아질 수록, 메모리 사용량이 증가하고 응답 속도가 느려집니다. 또한, 대부분의 AI 모델은 입력 토큰 제한이 있기에 대화 기록이 길어질 수록 일부 내용이 전달되지 않을 수 있습니다.
해결 전략
1.
오래된 대화 기록은 삭제
2.
이전 대화 내용은 요약함으로써 압축시켜 주요 정보는 유지하되 토큰 수를 줄이기
3.
최신 대화들만 반영
2. 보안 문제
대화 기록에는 개인 정보가 포함될 수 있으므로 주의해야합니다.