Skip to main content

프롬프트 엔지니어링 개요

프롬프트 엔지니어링 전에​

이 가이드는 다음을 가정합니다:

  • 사용 사례에 대한 성공 기준의 명확한 정의
  • 해당 기준에 대해 실증적으로 테스트할 수 있는 방법
  • 개선하고자 하는 첫 번째 초안 프롬프트

이 중 하나라도 없다면, 먼저 이를 확립하는 데 시간을 할애하는 것이 좋습니다. 성공 기준 정의 및 강력한 실증 평가 만들기에 대한 팁과 지침을 확인하세요.

언제 프롬프트 엔지니어링을 해야 하는가​

이 가이드는 프롬프트 엔지니어링을 통해 제어할 수 있는 성공 기준에 중점을 둡니다.
모든 성공 기준이나 실패한 평가가 프롬프트 엔지니어링으로 해결되는 것은 아닙니다.
예를 들어, 지연 시간과 비용은 다른 모델을 선택함으로써 더 쉽게 개선될 수 있습니다.

프롬프트 vs. 파인튜닝​

프롬프트 엔지니어링은 파인튜닝과 같은 다른 모델 행동 제어 방법보다 훨씬 빠르며, 훨씬 짧은 시간 내에 성능의 도약을 가져올 수 있습니다.
프롬프트 엔지니어링을 파인튜닝보다 고려해야 하는 이유는 다음과 같습니다:

  • 자원 효율성: 파인튜닝은 고급 GPU와 대용량 메모리가 필요하지만, 프롬프트 엔지니어링은 텍스트 입력만 필요하여 훨씬 자원 친화적입니다.
  • 비용 효율성: 클라우드 기반 AI 서비스의 경우, 파인튜닝은 상당한 비용이 발생합니다. 프롬프트 엔지니어링은 기본 모델을 사용하므로 일반적으로 더 저렴합니다.
  • 모델 업데이트 유지: 제공자가 모델을 업데이트할 때, 파인튜닝된 버전은 재훈련이 필요할 수 있습니다. 프롬프트는 일반적으로 버전 간에 변경 없이 작동합니다.
  • 시간 절약: 파인튜닝은 몇 시간 또는 며칠이 걸릴 수 있습니다. 반면, 프롬프트 엔지니어링은 거의 즉각적인 결과를 제공하여 빠른 문제 해결이 가능합니다.
  • 최소 데이터 필요: 파인튜닝은 상당한 양의 작업별 레이블이 지정된 데이터가 필요하며, 이는 드물거나 비용이 많이 들 수 있습니다. 프롬프트 엔지니어링은 몇 샷 또는 제로 샷 학습으로 작동합니다.
  • 유연성 및 빠른 반복: 다양한 접근 방식을 빠르게 시도하고, 프롬프트를 조정하며 즉각적인 결과를 확인할 수 있습니다. 이러한 빠른 실험은 파인튜닝으로는 어렵습니다.
  • 도메인 적응: 도메인별 컨텍스트를 프롬프트에 제공하여 모델을 새로운 도메인에 쉽게 적응시킬 수 있습니다.
  • 이해력 향상: 프롬프트 엔지니어링은 모델이 검색된 문서와 같은 외부 콘텐츠를 더 잘 이해하고 활용하는 데 파인튜닝보다 훨씬 효과적입니다.
  • 일반 지식 유지: 파인튜닝은 모델이 일반 지식을 잃는 재앙적 망각의 위험이 있습니다. 프롬프트 엔지니어링은 모델의 광범위한 기능을 유지합니다.
  • 투명성: 프롬프트는 사람이 읽을 수 있어 모델이 받는 정보를 정확히 보여줍니다. 이 투명성은 이해와 디버깅에 도움이 됩니다.

프롬프트 엔지니어링 방법​

이 섹션의 프롬프트 엔지니어링 페이지는 가장 널리 효과적인 기술에서 더 전문화된 기술로 구성되어 있습니다. 성능 문제를 해결할 때, 이러한 기술을 순서대로 시도하는 것이 좋습니다. 각 기술의 실제 영향은 사용 사례에 따라 다릅니다.

출처​

Anthropic 프롬프트 엔지니어링 개요

Support me withBuy Me A Coffee