인공지능 기업 Anthropic이 자사의 Claude AI 모델 제품군에 대한 시스템 프롬프트를 공개하였습니다. 

이는 생성형 AI 업계에 새로운 투명성 기준을 제시한 것으로 평가받고 있습니다.

시스템 프롬프트는 대규모 언어 모델(LLM)의 운영 지침 역할을 합니다. 

이는 모델이 사용자와 상호작용할 때 따라야 할 규칙과 보여야 할 행동, 성격을 지정합니다. 

또한 LLM이 학습한 정보의 기준 날짜를 나타내기도 합니다.

Anthropic은 Claude 3.5 Sonnet, Claude 3 Haiku, Claude 3 Opus 모델의 시스템 프롬프트를 웹사이트의 릴리스 노트 섹션에 공개하였습니다. 

회사는 앞으로도 시스템 프롬프트의 변경 사항을 지속적으로 기록하겠다고 밝혔습니다...중략

 

시스템 프롬프트 공개는 AI의 '블랙박스' 문제를 일부 해결하는 데 도움이 될 것으로 보입니다. 

블랙박스 문제란 AI 시스템이 어떻게 결정을 내리는지 알기 어려운 상황을 말합니다. 

시스템 프롬프트 공개를 통해 사용자들은 AI 챗봇이 어떻게 행동하도록 설계되었는지 이해할 수 있게 됩니다.

다만 Anthropic이 시스템 프롬프트를 공개했다고 해서 모델 제품군을 완전히 개방한 것은 아닙니다. 

모델을 실행하는 소스 코드, 훈련 데이터 세트, 기본 가중치 등은 여전히 Anthropic만이 보유하고 있습니다.

https://venturebeat.com/ai/anthropic-releases-ai-model-system-prompts-winning-praise-for-transparency/