📜프로젝트 내용

<aside> 💡 SKT Prompter Day Seoul 2023에 참가한 LLM 프로젝트입니다.

역사적인 인물의 역할을 수행하는 대화형 챗봇을 통해 실제 인물과 대화하는 것처럼 몰입도를 높이고 사용자의 자발적인 참여를 유도합니다.

Streamlit을 이용한 Front 구현과 LLM 프롬프트링을 담당하였습니다.

목표 및 목적

• LLM을 이용하여 미디어에 친숙한 세대들에게 대화형 학습법을 제공하기 위해
• 텍스트 중심의 교육에서 학습자의 흥미를 유발하는 체험 중심의 교육 자료 제시

분야: NLP, Deep Learning, LLM

</aside>

자세한 설명은 우측 상단 Github의 README.md에 기재하였습니다.

🛠️기술 스택

• Python, LangChain, Streamlit, Faiss

💻개발 내용

Streamlit을 사용한 Front단 구현

FrontEnd 개발자의 부재와 Python에 친숙한 개발자들로 이루어진 팀으로, 웹사이트 개발 속도를 높이고 LLM 모델의 성능을 올리는데 집중하고자 Streamlit 프레임워크를 사용하여 Front를 구성하였습니다. 해당 과정에서 용도에 맞는 Page 분리, 해당 인물에 대한 설명이 적힌 Card 형태로 구현함으로써 짧은 기간에 완성도 있는 UI 구성을 위해 노력하였습니다.

사용자 맞춤 인물 추가를 위한 Profiler 구현

서비스 제공자측에서 준비된 인물들만 사용할 수 있는 서비스의 단점을 해결하고 사용자가 원하는 인물을 학습하는 등의 확장성을 고려하여 직접 인물을 입력받아 해당 ChatBot을 만드는 Profiler를 구현하였습니다.

Profiler는 무료 검색 엔진인 DuckDuckGo와 Wikipedia API를 사용하였으며, 역사적인 인물 뿐만이 아닌 만화 캐릭터, 영화 캐릭터 등의 가상 인물도 검색을 통해 정보를 확보하여 스스로 ChatBot을 생성할 수 있도록 구현하였습니다.

환각 현상을 최소화하기 위한 Prompt Engineering

LLM 모델에서 흔히 발생하는 환각 현상에 대한 오류를 줄이고자 관련 프롬프트 엔지니어링을 진행했습니다. 먼저 인물들의 정보를 LLM 모델에게 알려주어 해당 역할을 수행하도록 지시하고, 아래와 같은 제약조건을 걸었습니다.

• 사용자와의 몰입형 역할극에서 {인물}의 역할을 지시
• 사용자는 {인물}의 정보를 학습하기 위해 대화를 나누고 있으며, 학습을 위한 대화 리드 지시
• 항상 한국어로 답하며 시대 상황과 배경에 맞는 말투 사용 지시