AI한테 글 써달라고 했더니 자꾸 엉뚱한 소리만 하나요? 매번 긴 프롬프트(명령어)를 입력하기 귀찮으신가요? AI를 진짜 내 비서처럼 똑똑하게 길들이는 방법, 딱 1가지만 알면 됩니다. 복잡한 코딩도 필요 없습니다. 바로 알아보시죠.
1. AI 프롬프트의 한계: 내 AI가 계속 멍청해지는 이유
여러분, AI 좀 잘 써보겠다고 인스타그램에서 프롬프트 나눔 하는 사람한테 DM 보내고, 네이버 밴드 가입하고 온갖 짓 다 해보셨죠? 저도 진짜 별의별 짓을 다 해봤습니다. 시중에 돌아다니는 프롬프트란 프롬프트는 다 써봤는데, 결론 딱 하나 내려드리겠습니다.
AI는 ‘프롬프트’만으로 해결되지 않습니다. 프롬프트에 목맬 게 아니라, AI 자체를 내 입맛에 맞게 ‘학습’을 시켜야 합니다.
초보자들의 치명적 실수: “대화방 하나에서 평생 살기”
이 학습의 개념을 잡기 위해 초보자들이 가장 많이 하는 실수부터 알려드리겠습니다. 초보자들은 챗GPT나 제미나이를 켤 때 ‘대화방 딱 하나’만 열어두고 평생 AI와 친구로 지냅니다.
문제는 AI가 그 대화방 하나에 쌓인 모든 내용을 통째로 학습한다는 겁니다. 어제는 점심 뭐 먹을지 물어보고, 오늘은 신용카드 추천해 달라고 하고, 내일은 삼성전자 주가 어떤지 물어보고, 주말에는 일본 여행 계획을 짜달라고 합니다.
그럼 어떻게 될까요? AI의 뇌 속에서 이 모든 정보가 짬뽕이 되어버립니다.
결국 어느 ‘임계점’을 넘어가는 순간, AI의 대답 수준은 완전히 쓰레기가 됩니다. 소위 말하는 할루시네이션(환각) 현상이 오면서, 유료 요금제를 쓴다는 게 돈 아까울 정도로 멍청하고 뻔한 대답만 앵무새처럼 반복하게 됩니다. 이걸 방지하는 것이 AI를 잘 쓰는 첫걸음입니다.
복사+붙여넣기의 지옥에서 벗어나라
“그럼 매번 완벽한 프롬프트를 쓰면 되는 거 아니냐?“라고 묻는 분들이 있습니다.
네, 이론적으로는 가능합니다. 매번 질문할 때마다 행동을 싹 다 교정해 주면 됩니다.
- “첫 번째, 너는 지금부터 여행 전문가 말투로 대답해.”
- “두 번째, 표를 사용해서 계획을 짜는 사람처럼 대답해.”
- “세 번째 어쩌고, 네 번째 저쩌고…”
이렇게 A4 용지 절반만 한 긴 프롬프트를 매번 입력하고 나서야, “나 4월 15일에 여행 갈 건데 추천 좀 해줘”라고 본론을 꺼내는 겁니다.
생각만 해도 귀찮아 죽겠죠? 그런데 여러분이 인스타그램에서 ‘마법의 프롬프트’만 찾고 있으면, 평생 블로그 글 하나 쓸 때마다 이 비효율적인 짓을 반복하며 살아야 합니다.
저는 하루에 AI를 800건 이상 하드코어하게 사용하는 사람입니다. 그렇게 미친 듯이 사용하면서 프롬프트 없이도 AI를 완벽하게 통제하는 방법을 딱 하나 터득했습니다. 매번 긴 명령어를 칠 필요 없이, AI가 알아서 내 의도를 파악하게 만드는 방법을 알려드리겠습니다.
2. AI 똑똑하게 만들기: ‘주제별 대화방 분리’
AI가 내 마음을 찰떡같이 알아듣고, 매번 긴 명령어를 입력하지 않아도 내가 딱 원하는 대답만 출력해주길 바라시죠? 이럴 때 사용하는 가장 확실한 비법이 바로 ‘채팅방 쪼개기’입니다.
우리가 제미나이(Gemini)가 되었든 챗GPT가 되었든, 대화를 시작하면 왼쪽 메뉴에 대화 기록이 쌓이죠? 이걸 보통 ‘채팅’이라고 부르는데, 이 채팅방들을 주제별로 완전히 나누는 겁니다.
방마다 역할을 부여하는 ‘소규모 학습’
예를 들어 첫 번째 방에서는 ‘신용카드’ 이야기만 계속하는 겁니다. 처음 방을 만들 때 딱 7번 정도만 “너는 신용카드 전문가야. 앞으로 이런 식으로 대답해 줘”라고 프롬프트로 학습을 시켜놓습니다.
그럼 그 방은 완전히 ‘신용카드 전용 뇌’가 됩니다. 나중에 그냥 대충 “야, 나 넘어졌어“라고 툭 던져도 어떻게 될까요? “아이고, 넘어지셨군요. 병원비 결제할 때 혜택이 제일 좋은 신용카드를 알려드릴게요”라고 알아서 카드 관점으로 대답을 해줍니다.
반대로 두 번째 방은 ‘주식 전용 방’으로 파는 겁니다. 똑같이 “나 넘어졌어”라고 말하면, “넘어졌을 때 바르는 연고를 만드는 제약회사가 있는데, 이 회사의 최근 주가 흐름은 이렇습니다”라고 주식 관점의 대답이 튀어나옵니다.
거대한 AI(LLM, 대규모 언어 모델) 전체를 학습시키는 게 딥러닝이라면, 우리는 채팅방 하나를 내 입맛에 맞게 작은 뇌로 훈련시키는 겁니다. 저는 이걸 ‘소규모 학습’이라고 부릅니다.
프롬프트 복붙 노가다는 이제 그만
이 방식의 핵심은 절대 하나의 채팅방 안에서 주제를 섞지 말라는 겁니다.
저도 예전에는 엄청나게 많은 프롬프트들을 메모장에 모아두고, 대화할 때마다 알트탭(Alt+Tab)을 눌러가며 복사하고 붙여넣기를 반복했습니다. 그런데 그 피로도가 너무 크더라고요.
써보시면 아시겠지만, 제미나이의 ‘맞춤 설정’이나 챗GPT의 ‘메모리’ 기능보다 그냥 이렇게 채팅방을 아예 물리적으로 나눠서 교육하는 게 훨씬 더 정확하고 강력합니다. 어차피 우리가 AI를 입맛대로 완벽하게 통제할 수 있는 비율은 30%도 안 됩니다. 하지만 이 ‘방 쪼개기’ 방식을 쓰면, 우리가 통제할 수 있는 그 30%의 효율을 한계치까지 꽉꽉 채워 쓸 수 있습니다.
헛소리(할루시네이션)를 원천 차단하는 원리
방을 쪼갰을 때 얻는 진짜 사기적인 장점이 또 있습니다. 바로 여러분이 극혐하는 할루시네이션(환각, 헛소리)이 완벽하게 차단된다는 겁니다.
AI는 별도의 특수 명령어를 쓰지 않는 이상, 자기가 현재 대화하고 있는 ‘해당 채팅방’의 이전 내용들만 훑어보고 문맥을 파악합니다. 다른 채팅방의 데이터를 멋대로 넘나들며 가져오지 않아요.
즉, ‘신용카드 방’에는 애초에 주식이나 여행 데이터 자체가 없기 때문에, AI가 대답을 지어내고 싶어도 엉뚱한 소리를 섞을 재료가 없는 겁니다. 채팅방만 제대로 나눠서 이야기해도 AI의 헛소리를 원천 차단하고 양질의 정보를 훨씬 쉽게 얻어낼 수 있습니다.
한 줄 요약: 프롬프트가 전부가 아닙니다
남들은 AI로 ‘딸깍’ 해서 고급 정보를 쏙쏙 뽑아내는데, 나는 아무리 써도 뻔하고 이상한 대답만 나온다면? 그게 다 이 ‘채팅방 짬뽕’ 문제입니다.
오늘 제가 말씀드린 이 원리를 꼭 기억하세요. 당장 AI 켜서 주제별로 채팅방부터 나누고 사용해 보시기 바랍니다. 쓰다 보면 분명히 제 말이 맞다고 무릎을 치는 시점이 올 겁니다. 프롬프트가 절대 전부가 아닙니다.
3. AI 프롬프트 작성법: 내 전담 비서 방 ‘초기 세팅’ 3단계
그러면 제가 직접 새로운 채팅방을 만들어서 제미나이나 챗GPT를 어떻게 학습시키는지 보여드리겠습니다. 제가 카드 블로그를 많이 하니까 신용카드를 주제로 이야기해 봅시다.
1단계: 페르소나 부여 (AI에게 자아 심어주기)
첫 번째는 페르소나(Persona) 부여입니다. AI에게 자아를 심어주는 건데, 쉽게 말해 롤플레잉 게임이랑 똑같습니다.
AI가 가진 정보는 너무 방대합니다. LLM(대규모 언어 모델) 방식 자체가 다음에 올 확률이 높은 단어를 찾아서 대답을 해주는 거거든요. 만약 제가 아무 설정 없이 “현대카드”라고 말하면, 현대카드 다음에 ‘오리’가 올 확률은 적지만, ‘이재용’ 회장이 올 확률은 높으니까 그런 쪽으로 대답을 해버립니다.
하지만 페르소나가 부여되어 있으면 대답의 방향성이 명확하게 정해집니다.
- 예시: “너는 10년 차 신용카드 설계사야. 그리고 나는 이제 막 사회에 나온 초년생 직장인이야. 이 기준에서 나에게 카드를 추천해 줘.”
이렇게 세팅하고 “현대카드 어때?”라고 물어봤을 때 과연 이재용 회장 얘기가 나올까요? 안 나옵니다. 대신에 직장인, 초년생 한도, 리볼빙 같은 얘기가 나옵니다. 왜냐하면 사회 초년생들이 리볼빙을 많이 쓰니까요. AI에게 이렇게 명확한 방향성을 제시해 줘야 생각보다 훨씬 양질의 정보를 뱉어냅니다.
2단계: 출력 형식 지정 (내 입맛대로 대답하게 만들기)
두 번째는 출력 형식을 지정해 주는 건데, 이건 사람마다 목적이 달라서 본인에게 맞게 수정하셔야 합니다.
어떤 블로거분들은 글을 바로바로 복붙해서 쓰려고 “H3 태그로만 대답하고 무조건 표(Table)를 써”라고 설정해 놓더라고요. 하지만 저는 블로그 글을 그대로 복붙하려고 AI를 쓰는 게 아니라, 정보의 진실 여부를 평가하고 팩트 체크를 하기 위해 씁니다. 그래서 저는 이런 식으로 프롬프트를 짭니다.
“대답할 때 불필요한 문맥과 AI 말투는 깔끔하게 지워. 소제목을 이용해서 단락을 많이 나누고, 소제목에 이모지는 쓰지 마. 모바일 가독성이 좋게 단락을 많이 나누고, 만약 틀린 내용이 있다면 매번 검색해서 교차 검증을 한 뒤 어느 부분을 수정했는지 나에게 알려줘.”
이렇게 세팅해 놓으면 AI가 정말 기가 막히게, 제가 원하는 구조로만 대답을 해줍니다.
3단계: 빡센 ‘금지어’ 설정 (AI 티 벗겨내기)
세단 계는 금지어 설정입니다. 인터넷에 올라온 글 딱 보면 “아, 이거 챗GPT가 썼네” 하고 티가 나는 이유가 뭔지 아십니까? 2026년 대한민국 30살 직장인이라면 절대 안 쓸 법한 이상한 말투를 쓰기 때문입니다.
“팩트로 말씀드립니다!”, “다 까발려 드리겠습니다!”, “명백하게 말하겠습니다!” 이런 말 일상생활에서 누가 씁니까? 이런 게 글에 들어가면 AI가 쓴 티가 팍 납니다. 그래서 저는 이런 ‘AI 말투’를 금지어로 빡세게 설정해 놓습니다.
- 핵심 팁: 저는 프롬프트 안에 “이 말들은 절대 쓰지 마라”라는 금지어 리스트를 두 번 반복해서 넣습니다. 제미나이 같은 AI도 초반에 같은 내용을 반복해서 말해주면 “아, 이거 진짜 하면 안 되는구나!” 하고 강하게 인식하거든요. (물론 같은 얘기를 너무 많이 반복하면 오히려 할루시네이션의 원인이 되니 주의해야 합니다.)
일단 방을 처음 파면 이 세 가지 방법을 꼭 먼저 세팅하시는 걸 추천합니다. 구체적인 순서와 명령어 조합법은 다음 파트에서 바로 알아보겠습니다.
4. AI 프롬프트 입력 순서: 한 번에 복붙하면 안 되는 이유
3번 파트에서 알려드린 3단계 프롬프트를 만들었다고 해서, 그걸 한 번에 쭉 복사해서 채팅창에 주르륵 붙여넣기 하시는 분들이 많습니다. 절대 그렇게 쓰지 마세요.
제가 추천하는 방식은 1, 2, 3단계를 하나씩 끊어서 대화하듯 입력하며 AI를 길들이는 겁니다.
① 1단계 입력: 페르소나 지정 후 ‘확인 질문’ 던지기
제일 먼저 페르소나를 지정해 줍니다. “너는 10년 차 신용카드 설계사야”라고 입력을 하세요.
그리고 바로 다음 질문을 던져서 한 번 확인해 보세요. “자, 이제 네가 어떤 사람인지 나한테 말해봐.” 그러면 AI가 자기가 입력받은 설정을 바탕으로 “저는 10년 차 설계사로서~” 하고 출력을 내뱉습니다. 이렇게 AI 스스로 자기를 정의하게 만들면, 페르소나가 완벽하게 각인됩니다.
② 2단계 입력: 출력 형태 지정과 ‘오답 노트’ 교정
그다음 두 번째로 출력 형태를 지정합니다. 내 입맛대로 “표를 쓰고, 소제목을 나눠라”라고 입력해 보세요. 그리고 또다시 1단계처럼 질문을 던져보는 겁니다.
그때 내가 지시한 출력 형태대로 대답이 깔끔하게 나오면 성공입니다. 그런데 만약 대답이 좀 이상하다? 그러면 그때그때 하나씩 교정을 해줘야 합니다.
- 예시: “내가 아까 불필요한 문맥은 지우라고 했는데, 네가 방금 쓴 이 문장은 불필요한 거야. 다시 이걸 기억하고 대답해 봐.”
이렇게 콕 집어서 혼내주면 그때서야 깔끔하게 대답을 합니다. 여러분, AI는 한 번 말한다고 완벽하게 학습되지 않아요. 약간 말 안 듣는 고등학생이랑 비슷하다고 보시면 됩니다. 한 번 말해서는 안 듣고, 두세 번은 잔소리하며 교정해 줘야 비로소 알아듣습니다.
③ 3단계 입력: 빡센 금지어는 ‘두 번 반복’으로 각인
고등학생 가르치듯 두세 번 교정하는 과정을 거쳤다면, 마지막으로 빡센 금지어 설정을 할 차례입니다. 저는 금지어를 설정할 때 꼼수를 하나 씁니다.
- 채팅창에 숫자 1을 붙이고 “1. 아래 단어는 절대 쓰지 마: [금지어 목록]” 이렇게 던져줍니다.
- 그리고 바로 그 문장을 똑같이 복사해서, 앞에 숫자만 2로 바꿔서 “2. 아래 단어는 절대 쓰지 마: [금지어 목록]” 하고 한 번 더 얘기해 줍니다.
왜 이렇게 두 번이나 넣을까요? 제미나이나 챗GPT 같은 AI에게 한 번에 너무 긴 문장이나 이야기를 반복해서 주면, 애가 그 긴 텍스트 자체에 꽂혀서 오히려 할루시네이션(헛소리)을 시작합니다. AI는 사용자가 길고 많이 쓴 문장일수록 “아, 주인이 이 말을 원하는구나!”라고 잘못 학습하거든요.
그래서 긴 문장으로 구구절절 설명하는 대신, 짧고 강한 금지어 명령을 ‘두 번’ 연속으로 던져서 확실하게 머리에 각인(입력)을 시켜주는 겁니다.
끊임없는 테스트가 ‘진짜 비서’를 만듭니다
이 순서대로 하나씩 쪼개서 넣으면 생각보다 1, 2, 3단계가 AI의 뇌에 아주 쉽게 입력됩니다.
직접 테스트를 해보면서, AI가 잘 인식하지 못하는 부분이 있다면 그걸 물고 늘어지며 계속 교정을 해주셔야 합니다. 생각보다 손이 많이 가고 교정을 많이 해줘야 합니다. 그래야 비로소 남들은 흉내도 못 내는, 나만의 완벽한 AI 비서가 탄생하게 됩니다.
5. AI 할루시네이션(헛소리) 차단하는 방법
제가 앞서 말씀드린 3단계 세팅법으로 대화방을 나눈다고 한들, 사실 그게 영원히 지속되는 건 아닙니다. 왜냐하면 AI 대화방에도 결국 ‘수명’이라는 게 존재하거든요.
무한정 대화를 이어간다고 해서 계속 똑똑한 상태를 유지하는 게 아닙니다. 한 방에서 200번 정도 대화가 넘어가면 슬슬 이상한 얘기를 하기 시작합니다. 저는 이 시점을 ‘채팅방의 수명이 다했다’고 봅니다. 여러분, 결국 AI는 평생 가는 반려견이 아니라 소모품입니다.
① AI의 뇌는 ‘밑 빠진 독’ (컨텍스트 윈도우)
챗GPT나 제미나이의 뇌 구조는 쉽게 말해 ‘밑 빠진 독’과 같습니다. 공식 홈페이지를 보면 ‘컨텍스트 윈도우(Context Window)’라는 용어가 나오는데, 이게 바로 AI가 한 대화방 안에서 온전히 기억할 수 있는 데이터의 한계치(글자 수)입니다.
유료로 구독하면 제미나이의 경우 최대 100만에서 200만 토큰까지 어마어마한 양을 기억하긴 합니다. 블로그 글 한 편이 3천 자 정도니까 정말 방대한 내용을 기억하는 건 맞습니다.
하지만 계속 쓰다 보면 결국 이 윈도우 용량이 다 차게 됩니다. 독에 물이 넘치면 어떻게 될까요? 가장 밑바닥에 있던 옛날 기억부터 순서대로 지워집니다. 즉, 우리가 맨 처음에 공들여 입력했던 ‘1·2·3단계 초기 세팅 프롬프트’를 잊어버리게 되는 겁니다.
② 할루시네이션의 시작 = 방의 사망 선고
초기 프롬프트를 까먹은 바로 이 시점부터 본격적인 할루시네이션(헛소리)이 시작됩니다. 방의 수명이 다 끝난 거죠.
분명히 제가 절대 쓰지 말라고 빡세게 막아뒀던 “명백하게 까발려 드리겠습니다!” 같은 이상한 AI 말투를 다시 쓰기 시작합니다. 그래서 “야, 너 왜 갑자기 이렇게 이상하게 대답해?”라고 따지면, AI는 “아, 죄송합니다. 제가 실수했습니다”라고 사과는 합니다. 하지만 안 바뀝니다. 한 번 뇌가 오염된 채팅방은 그냥 끝난 겁니다.
③ 제발 AI와 ‘키보드 배틀’ 좀 하지 마세요
여기서 많은 분들이 실수하는 게, 고장 난 AI랑 열심히 ‘키보드 배틀’로 싸우고 있다는 겁니다. “야, 너 왜 내가 하지 말라는 짓 자꾸 하냐!”, “아 진짜 돈 아깝네 똑바로 안 해?” 이러면서요.
제발 버리세요. 감정 가지지 마세요. AI는 철저한 소모품입니다. 저는 AI가 헛소리 시작하면 속으로 욕 한마디 하고 그 대화방 바로 삭제해 버립니다. 미련 없이 버리고 ‘새 채팅(New Chat)’을 판 다음, 메모장에 저장해 둔 1·2·3단계 초기 세팅 프롬프트를 다시 복붙해서 새로운 AI를 만듭니다.
새로운 방을 파는 것이 가장 빠른 지름길입니다
- 고장 난 방에서 교정하기 ❌
- 방 삭제하고 초기 프롬프트 다시 먹이기 ⭕
이렇게 하는 게 블로그 글 쓰는 속도가 훨씬 빠릅니다. 말 안 듣는 AI랑 실험하고 감정 소모하지 마세요. 쟤네 나중에 ‘스카이넷’ 돼서 인류 지배할 것 같은데, 지금 당장 우리 말도 더럽게 안 듣습니다.
할루시네이션을 완벽하게 차단하는 유일한 방법은 쿨하게 ‘리셋’하는 겁니다. 이렇게 쉽고 확실한 방법이 있는데도 답답하게 AI랑 싸우고 계신 분들이 너무 많습니다. AI 수명이 다했다 싶으면 멱살 잡지 마시고 무조건 이 방법을 쓰시기 바랍니다.
6. 대화방 안 쪼개는 게 유리한 사람
그렇다면 제가 지금까지 열심히 설명한 것처럼, 방을 무조건 쪼개서 쓰는 게 모든 사람에게 다 좋을까요? 또 그건 아닙니다.
이건 제가 정보성 블로그를 운영하면서 ‘효율적이고 편하게’ 쓰는 방식일 뿐이지, 애초에 ‘세상에서 제일 완벽한 단 하나의 정답’ 같은 건 없습니다. 제 방식은 저처럼 전문적인 정보를 뽑아내야 하는 사람들에게 어울리는 거고, 반대로 채팅방 딱 1개만 무한으로 계속 쓰는 게 훨씬 유리한 사람들도 분명히 있습니다.
어떤 경우에 대화방 하나로 통합해서 쓰는 게 좋을까요?
① ‘나’라는 사람 자체를 통째로 학습시키고 싶을 때
첫 번째로, AI에게 ‘나’라는 사람 자체를 학습시켜서 전담 비서로 만들고 싶을 때는 채팅방을 나누지 않는 게 훨씬 유리합니다.
이때는 주제 상관없이 나에 대한 온갖 이야기를 하나의 방에 계속 던져주세요. 그러면 제미나이나 챗GPT가 헛소리(할루시네이션)를 하더라도, 결국 ‘나라는 사람의 성향과 맥락’ 안에서 뻗어나가게 됩니다. 나라는 사람의 라이프스타일이나 성향을 딥러닝 시켜주고 싶다면 통합 방으로 쓰는 게 맞습니다.
② 엉뚱함에서 나오는 ‘창의적인 아이디어’가 필요할 때
두 번째는 기획자나 창작자처럼 창의적인 아이디어가 필요할 때입니다.
우리는 보통 AI의 할루시네이션을 쓸모없는 ‘헛소리’라고 생각해서 극혐하지만, 반대로 생각하면 이 헛소리가 엄청나게 창의적인 관점을 불러오기도 합니다. 예를 들어 제가 신용카드에 대해서 막 물어봤는데, AI가 뜬금없이 카드 색깔만 보고 강아지 이야기를 꺼내는 식이죠.
수익형 블로거에게는 쓰레기 같은 대답이지만, 아이디어가 막혀 있는 사람에게는 내가 전혀 생각하지도 못한 관점을 제시해 주는 엄청난 영감이 됩니다. 서로 이질적인 데이터가 부딪히면서 새로운 결과값이 나오는 거죠.
- 스티브 잡스의 ‘점 잇기(Connecting the dots)’ 스티브 잡스가 스탠포드 대학교 졸업 연설에서 했던 유명한 이야기 아시죠? 잡스가 대학교를 자퇴한 후, 억지로 전공을 들을 필요가 없어지자 평소 흥미 있던 ‘서체(캘리그라피)’ 수업을 청강했다고 합니다. 당장 내 인생에 아무 쓸모도 없어 보였던 그 미술 수업이, 훗날 아름다운 폰트를 가진 ‘애플’의 컴퓨터를 만드는 데 결정적인 기여를 했습니다.
모든 건 다 상호작용입니다. AI가 내뱉는 엉뚱한 인사이트(할루시네이션)들이 당장은 쓸모없어 보여도, 전혀 다른 아이디어와 결합되어 큰 도움이 될 때가 있습니다. (물론 저한테는 그런 일이 일어날 확률이 적어서 통합 방을 자주 쓰진 않지만요.)
도구를 다루는 건 결국 ‘사람’입니다
결론적으로, 여러분이 AI를 쓸 때는 여러분의 입맛과 목적에 맞게 써야 합니다. AI도 결국 수많은 도구 중 하나일 뿐입니다. 그리고 그 도구를 제대로 이용하고 조련하는 건 결국 사람의 몫입니다.
방을 쪼개든 합치든, 본인의 목적을 명확히 알아두시고 현명하게 이용하시기 바랍니다.
