프롬프트는 돕고, 시스템은 확장된다

대부분의 기업은 빈 입력창과 깜박이는 커서로 AI를 처음 만났습니다. 무엇이 나오는지는 무엇을 넣느냐에 달려 있었기에, 사람들은 프롬프트 쓰는 법을 익혔습니다. 몇몇은 아주 능숙해졌습니다. 동료들은 그들에게 마법의 주문을 물었고, 그 주문은 문서와 채팅에 붙여 넣어졌으며, 새로운 종류의 민간 전승이 생겨났습니다.

프롬프트는 중요하고, 잘 쓸 가치가 있습니다. 하지만 회사는 민간 전승으로 돌아가지 않습니다. 무엇이 좋은 프롬프트를 만드는지, 연구소들이 직접 무엇을 권하는지, 그리고 AI를 가장 잘 활용하는 기업들이 왜 영리한 프롬프트에 기대지 않게 되는지 살펴봅니다.

나쁜 프롬프트와 좋은 프롬프트

모든 마케팅 팀이 하는 요청을 예로 들어 보겠습니다. 나쁜 버전은 이렇습니다. 새 서비스에 관한 LinkedIn 게시물을 써 줘.

모델에게는 기댈 재료가 없으니, 평균적인 서비스에 관한 평균적인 LinkedIn 게시물을 씁니다. 질문으로 시작하고, 이모지를 줄줄이 달고, 행동을 촉구하며 끝나는 글입니다. 틀린 글은 아닙니다. 다만 누구의 글도 아닙니다.

좋은 버전은 누가 누구를 위해 쓰는지, 서비스가 무엇이고 비용은 얼마인지, 독자가 다음에 무엇을 해야 하는지, 게시물 길이는 어느 정도까지인지, 회사가 절대 쓰지 않는 단어는 무엇인지 알려 줍니다. 반응이 좋았던 이전 게시물 두 개를 예시로 표시해 넣습니다. 그리고 이유도 말합니다. 이 게시물은 AI에 회의적인 재무 책임자들에게 가므로, 약속이 아니라 사실로 시작해야 한다는 것입니다.

두 번째 프롬프트는 훨씬 길고, 누군가 실제로 쓸 수 있는 초안이 나올 가능성도 훨씬 높습니다. 차이는 영리함이 아닙니다. 맥락입니다.

연구소들이 권하는 것

세 대형 연구소의 공식 가이드는 거의 같은 말을 합니다.

Anthropic의 Claude 가이드는 “Claude를 뛰어나지만 귀사의 규범과 업무 흐름에 대한 맥락이 부족한 신입 직원으로 생각하라”고 권합니다. 황금률은 이렇습니다. “작업에 대한 맥락이 거의 없는 동료에게 프롬프트를 보여 주고 그대로 따라 해 보라고 하세요. 그 동료가 헷갈린다면 Claude도 헷갈릴 것입니다.” 이 가이드는 왜 명령보다 이유가 나은지도 보여 줍니다. 말줄임표를 절대 쓰지 말라고 대문자로 못 박는 대신, 답변을 말줄임표를 발음하지 못하는 음성 합성 엔진이 소리 내어 읽을 것이라고 설명하라는 것입니다. 모델은 이유로부터 일반화합니다.

OpenAI의 가이드는 모델에 필요한 맥락을 주고, 가능한 입력과 원하는 출력의 예시를 다양한 범위에 걸쳐 제공하라고 권합니다. 이 가이드는 프롬프트 작성을 “예술과 과학의 혼합”이라고 부릅니다.

Google의 Gemini 가이드는 항상 몇 가지 예시를 넣으라고 권하며, 예시가 없는 프롬프트는 효과가 떨어질 가능성이 높다고 경고합니다. 복잡한 작업에서는 단계마다 별도의 프롬프트를 만들어 서로 연결하라고 제안합니다. 그리고 과정에 대해 솔직합니다. “프롬프트 엔지니어링은 반복의 과정입니다.”

프롬프트가 확장되지 않는 이유

이 가이드들을 다시 읽어 보면 무엇을 전제하는지 보입니다. 회사의 규범을 알고, 알맞은 예시를 손에 쥐고 있으며, 반복해서 다듬을 시간이 있는 사람입니다. 대부분의 팀에서 여기에 해당하는 사람은 몇 명뿐이고, 그것도 일이 잘 풀리는 날의 이야기입니다.

나머지 사람들은 채팅에서 프롬프트를 복사해 단어 하나를 바꾸고, 다른 결과를 얻습니다. 봄에 잘 통하던 프롬프트가 모델 업데이트 뒤에는 다르게 작동합니다. 두 팀이 서로 모순되는 규칙을 담은 두 가지 버전을 따로 관리합니다. OpenAI의 프롬프트 가이드 중 하나는 모순되거나 모호한 지시가 추론 모델에 더 큰 해를 끼칠 수 있다고 경고합니다. 모델이 그 지시들을 조화시키느라 노력을 쏟기 때문입니다. 가이드가 드는 예는 환자의 동의가 기록되지 않으면 절대 예약하지 말라는 지시와, 환자에게 먼저 연락하지 말고 가장 빠른 시간대로 예약하라는 지시를 동시에 받은 의료 어시스턴트입니다.

OpenAI가 프롬프트를 소프트웨어처럼 다루는 이유가 여기에 있습니다. 가이드는 개발자에게 프로덕션 프롬프트를 애플리케이션 코드 안에 두고, 애플리케이션을 특정 모델 스냅숏에 고정하고, 프롬프트의 작동 방식을 측정하는 테스트와 평가 세트를 만들라고 말합니다. 공유 문서 속 프롬프트 모음과는 정반대입니다.

그 대가는 결과에서 드러납니다. MIT의 NANDA 이니셔티브는 지난해 자신들이 조사한 AI 파일럿 가운데 매출을 빠르게 끌어올린 경우가 약 5퍼센트에 불과했다고 보고했습니다. Fortune은 그 원인을 학습 격차로 요약했습니다. 범용 도구는 일이 실제로 이루어지는 방식에서 배우지도, 그에 적응하지도 않기 때문에 기업 안에서 멈춰 선다는 것입니다.

프롬프트에서 시스템으로

연구소들은 스스로 결론을 내렸습니다. Anthropic은 이제 프롬프트 엔지니어링보다 컨텍스트 엔지니어링을 이야기합니다. 지시문만이 아니라 모델이 보는 모든 것을 선별하고, 올바른 결과가 나올 가능성을 높이는 신호가 강한 토큰을 가능한 한 적게 추려 내는 일입니다. Anthropic의 엔지니어들은 두 가지 실패 유형을 경고합니다. 한쪽은 프롬프트에 하드코딩된 깨지기 쉬운 로직이고, 다른 쪽은 모델에 구체적인 것을 아무것도 주지 않는 모호한 지침입니다.

실용적인 답은 스킬입니다. Anthropic은 스킬을 에이전트가 필요할 때 불러오는 “지시문, 스크립트, 리소스를 정리한 폴더”라고 설명하고, 스킬을 쓰는 일을 “신입 직원을 위한 온보딩 가이드를 만드는 것”에 비유합니다. 같은 회사는 디자인에 관한 글에서 스킬이 효과적인 프롬프트를 재사용할 수 있고 맥락에 맞게 만들어 주므로, 누구도 요청할 때마다 같은 지침을 반복할 필요가 없다고 썼습니다. 2025년 12월부터 이 형식은 개방형 표준이 되었습니다.

스킬은 한 번 작성되고, 이유와 예시와 검사를 갖추고, 테스트를 거쳐, 회사의 모든 어시스턴트가 찾을 수 있는 곳에 놓인 좋은 프롬프트입니다. 여기에 회사의 지식, 규칙, 실제 시스템과의 연결을 더하면 회사의 두뇌가 됩니다. 그러면 품질은 더 이상 누가 입력했느냐에 달려 있지 않습니다.

저희가 돕는 방식

이것이 Twin 뒤에 있는 작업입니다. 저희는 회사가 실제로 어떻게 일하는지 파악하고, 필요한 곳의 프로세스를 개선한 다음, 그 회사의 두뇌를 구축합니다. 모든 답변에 출처가 붙는 지식, 회사의 관례대로 작성한 역할별 스킬, 회사 시스템과의 연동, 그리고 역할별 규칙과 권한입니다. 두뇌는 팀이 이미 쓰는 어시스턴트인 Claude, ChatGPT 또는 Codex에서 작동하며, 회사는 소스 코드를 받습니다.

Twin이 없으면 모든 프롬프트가 처음부터 시작하고, 품질은 누가 묻느냐에 달려 있습니다. Twin이 있으면 모든 답변이 회사에서 출발하고, 모든 책상에 하나의 기준이 놓입니다.

저희도 crue를 같은 방식으로 운영합니다. 80개가 넘는 스킬과 제품마다 하나의 두뇌를 Claude와 ChatGPT에서, 그리고 자체 하드웨어 위의 자체 모델에서 씁니다. 데이터가 너무 민감해 건물 밖으로 나가면 안 될 때는 저희 파트너 Eigna Labs가 만든 Eigna가 있습니다. 회사의 파일, 규칙, 언어로 학습하고, 회사 자체의 클라우드나 서버에서 실행되며, 테스트에서 더 나은 결과를 낸 단계만 실제로 적용되는 방식으로 재학습하는 프라이빗 모델입니다.

회사가 할 수 있는 일

프롬프트는 계속 잘 쓰고, 기본기는 위의 가이드에서 익히십시오. 그런 다음 가장 뛰어난 직원들이 실제로 쓰는 프롬프트 열 개를 모아, 각각이 알고 있지만 모델은 모르는 것이 무엇인지 물어보십시오. 그것을 한 번 적어 두십시오. 맥락, 이유, 예시, 규칙, 그리고 마지막의 검사까지. 각각에 담당자와 테스트를 정하고, 모든 어시스턴트가 닿을 수 있는 곳에 두십시오. 그것이 스킬입니다.

저희는 기계가 반복 업무, 초안, 조회를 맡아 저희 누구보다 빠르고 일관되게 해내기를 바랍니다. 판단, 고객과의 개인적인 접촉, 그리고 내보내는 것에 대한 책임은 사람에게 남으며, 좋은 시스템은 바로 그 일에 쓸 시간을 사람에게 더 많이 줍니다.

영리한 프롬프트는 한 사람을 더 빠르게 만듭니다. 시스템은 회사 전체를 더 낫게 만들고, 그 영리한 사람이 퇴근한 뒤에도 계속 일합니다.