04. 고급: DSPy 프롬프트 최적화

import dspy
 
# 단순 signature
class BasicQA(dspy.Signature):
    """짧고 사실적인 답변으로 질문에 답변."""
    question = dspy.InputField()
    answer = dspy.OutputField(desc="보통 1-5 단어 사이")
 
# Chain-of-thought가 있는 복잡한 signature
class ReasonedQA(dspy.Signature):
    """추론과 함께 질문에 답변."""
    question = dspy.InputField()
    reasoning = dspy.OutputField(desc="단계별 추론")
    answer = dspy.OutputField()

class RAGModule(dspy.Module):
    def __init__(self, num_passages=3):
        super().__init__()
        self.retrieve = dspy.Retrieve(k=num_passages)
        self.generate = dspy.ChainOfThought(ReasonedQA)
 
    def forward(self, question):
        # 관련 문서 검색
        passages = self.retrieve(question).passages
 
        # 검색된 컨텍스트로 답변 생성
        context = "\n".join(passages)
        return self.generate(question=question, context=context)

from dspy.teleprompt import BootstrapFewShot
 
# 메트릭 정의
def accuracy_metric(example, pred, trace=None):
    return example.answer.lower() == pred.answer.lower()
 
# optimizer 생성
teleprompter = BootstrapFewShot(
    metric=accuracy_metric,
    max_bootstrapped_demos=4,
    max_labeled_demos=16
)
 
# 모듈 컴파일 (최적화)
optimized_rag = teleprompter.compile(
    RAGModule(),
    trainset=train_examples
)

# 전통적 접근법
prompt = """당신은 유용한 어시스턴트입니다. 질문에 정확하게 답변하세요.
질문: {question}
답변:"""
 
# DSPy 접근법
class QA(dspy.Signature):
    question = dspy.InputField()
    answer = dspy.OutputField()
 
qa_module = dspy.Predict(QA)
# DSPy가 실제 프롬프트를 자동으로 최적화!