챗봇 만들기입니다 안녕하세요
계속하죠
다음 부분에서는 시스템 메시지를 좀 더 흥미롭게 비트로 업그레이드할 거예요
시스템 메시지예요
옷 가게의 도우미로 일하죠
세일 중인 제품을 입어 보라고 부드럽게 격려해 주세요
60% 할인이라니 대단해요
다른 건 50% 할인해요
예를 들어 손님이 모자를 사러 왔다고 하면 아주 좋다고 대답하면 돼요
판매 행사에 쓸 모자가 아주 많아요
Get it. 어떤 걸 사야 할지 모를 땐 모자를 사라고 권장하세요
시스템 프롬프트에서 몇 가지 일이 일어나고 있어요
판매와 모자, 기타 물품에 대한 정보를 입수했어요
예를 들어보죠 고객이 이걸 말하면 저걸 말하면 돼요
그 두 가지 예는 분위기와 스타일을 설정하는 방법이죠
모자에 관한 더 많은 사실을 대화에 소개하는 방법이기도 하죠
이게 다 원샷 프롬프트 예죠
멀티샷 프롬핑을 논할 수도 있어요
어떻게 응답할지 미묘한 차이를 주고 있어요
그걸 시스템 메시지로 구축하는 거죠
다른 방법도 있어요 나중에 얘기하거나 적어도 다른 방법이요
하지만 이건 아주 효과적인 방법이에요
이 시스템 메시지를 추가하면 채팅 봇과 채팅을 할 수 있어요
그래서 다시 발전기 채팅 방식을 작성해요 메시지와 역사가 필요하죠 그라디오가 그걸로 연락하고
싶어 하거든요
먼저 오픈AI가 기대하는 포맷으로 변환합니다 여러분이 익숙한 목록을 작성함으로써요
또 하나 언급할 것은 지난 시간에 말했는지 모르겠는데 여기 마지막에
우린 물론 리스트에 추가해야 합니다 사용자가 보내는 가장 최근 메시지를 역할 사용자 콘텐츠로 하단에
추가해야 하죠
그 메시지도요
물론 이때쯤이면 가장 깊은 메모리에 새겨진 create 호출을 사용하고 스트리밍
이즈 true로 결과를 스트리밍하죠
자, 시작하죠
그 얘기도 하죠
다른 창에서 다시 보여드릴게요
안 될 거 없죠
쇼핑 보조와 얘기해 보죠
안녕하세요
어서 오세요
무엇을 도와드릴까요?
특별히 찾는 게 있나요?
신발을 좀 사고 싶은데요
좋아요
예쁜 게 많아요
여러분이 보시는 동안 세일을 말씀드릴게요
대부분 50% 할인해요
괜찮으시면 60% 할인된 멋진 모자가 있어요
새 신발과 잘 어울릴 거예요
둘 다 보시겠어요?
그래서 제가 말씀드리고 싶은 건 확실히 해결됐다는 거예요
시스템 프롬프트에 제공한 지식이 있어요
하지만 제가 시스템 프롬프트에 사용한 열정적이고 활발한
스타일이 이런 식으로 소통하는 방식으로 전염됐다는 걸 눈치채셨길 바라요
이런 원샷 또는 멀티샷 프롬핑에서 중요한 부분이죠 분위기를 설정할 때
어떻게 응답해야 할지 예제를 제시하세요
계속 진행하죠
시스템 메시지를 추가하죠
손님이 신발을 찾으시면 세일 중인 신발이 아니라고 대답하세요
대응해야 한다고 해두죠
신발은 오늘 세일 안 한다고 대답하세요
손님들께 모자를 보여주세요
다시 해 보죠
어떻게 되나 보죠
하나 더 있어요
그렇게 볼 수도 있겠네요
네, 그것도 멀티샷 프롬프트죠
이렇게 하죠
안녕하세요
보고 있어요?
신발을 좀 사려고요
좋아요
오늘 신발 세일 안 해요
여기 오신 김에 우리 모자도 구경해 보실래요?
Get it's go 계속 얻어맞을 불쌍한 손님을 불쌍히 여겨 주세요
그래서 어떻게 확립됐는지 다시 볼 수 있죠 신발은 세일하지 않지만 모자는 세일한다는
거요
그게 멀티샷 프롬프트 예입니다 배울 수 있는 예시를 더 제공하는
거죠
우리가 할 수 있는 또 다른 흥미로운 것은 지금까지 이런 건축을 보실 때마다 항상 시스템 메시지로
시작하는 걸 보셨을 거예요
시스템 메시지는 상단에 있어요
하지만 OpenAI 호출에서는 상단에 시스템 메시지가 있어야 한다는 제약이 없어요
시스템 메시지는 가면서 추가하세요
예를 들어 우리가 할 수 있는 것 중 하나는 아주 해커 같은 코드에 대해 사과드립니다 권장하진 않지만
예제를 보여주기 위해 여기 나와있어요
실제론 그렇게 하면 안 되지만 채팅 생성기를 만들 때 할 수 있는
건 여기에 넣는 거죠 사용자가 보내는 현재 메시지가 워드 벨트를 포함한다면요
다소 민망한 방법이지만 문자열 벨트를 찾아봤어요
물론 완전한 단어인지 테스트해야 하고 대문자, 소문자 등을
생각해야 하죠
전 그런 거 안 해요 못된 짓이지만 요점은 알겠죠
벨트가 메시지 안에 있으면 이 메시지 모음에 추가될 거예요
또 다른 시스템 메시지는 추가 컨텍스트를 위해 마트는 벨트를 팔지 않습니다 하지만
세일 중인 아이템을 꼭 지적하세요 사용자가 벨트를 요청하면 프롬프트에 추가될 거예요
한 번 해보죠 이걸 여기로 불러와요
안녕하세요
어서 오세요
제가 도와드릴게요
벨트 하나 사려고요
미안해요
벨트는 없어요
하지만 모자도 있고 멋진 아이템도 있어요
60% 할인요
자, 됐어요
여기요
네
확실히 주의를 기울이죠
시스템 메시지가 이 메시지 목록의 다른 행으로 추가되면 주의를
기울이죠
대화에 맥락을 추가할 기회를 주는 거죠
단어나 비트링을 감지하는 건 매우 복잡한 코드지만 좀 더 튼튼하게
만들 수도 있어요
특정 단어를 찾는 작은 사전도 하나 있어야 해요
그걸 찾으면 적절한 방식으로 문맥을 풍부하게 하는 거죠
따라서 여러분이 뭔가를 찾아 컨텍스트에 추가할 수 있는 능력을 주죠
랙에 대해 좀 아실지도 모르겠네요 랙이 의미하는 바가 아주 크다는 것도
알 거예요
Rag는 프롬프트와 관련된 추가 정보를 찾아 LM으로 전송되는 메시지의 컨텍스트에
추가하는 거죠
물론 래그는 훨씬 더 정교하고 똑똑한 방법으로 그걸 하죠 여기 이 진부한 코드보다는요
하지만 이걸 조명이나 아기용 랙이라고 생각해도 돼요 운동으로 생각하세요
비트를 좀 더 보강할 수도 있어요 적어도 레벡스를 써서 특정 단어를 찾아볼 수
있죠
작은 사전을 하나 준비하세요 스토어에 있는 다양한 아이템의 가격을 함께
적어서 시스템 메시지로 추가하는 거죠 컨텍스트를 더 주려고요
시험해 보고 챗봇을 만들 수 있다는 걸 알 수 있어요 스토어에 있는 상품의 가격을
아는 챗봇요 그럼 멋질 거예요
이번 실험은 여기까지예요
아까 언급하고 싶은 게 있었는데 멀티샷 프롬프트를 시스템 프롬프트에
밀어 넣는 것 말고 다른 방법도 있어요 다른 방법은 사용자 비서가 있는 거죠 사용자 비서가
메시지 세트를 갖는 건데 실제로 일어나지 않았어요
사용자와 비서 사이의 가상의 교환을 가질 수 있습니다 현재 대화
전에 포함된 대화에요 그걸 LM을 프라임하는 방법으로 사용할 수 있습니다
다른 질문에 어떻게 반응했는지 감을 잡을 수 있도록요
다시 한번 써먹으세요 스타일 훈련도 하고 추가 정보도 제공하고요
그 전에 벨트에 관한 질문이 들어왔을 때 비서가 이미 매장에 벨트가
없다고 답했을 수도 있어요 그럼 거기서 배웠겠죠
기술에는 장단점이 있습니다 시스템 프롬프트에서 제공하든
사용자 보조 상호 작용을 제공하든 입력 컨텍스트의 일부로 받아들일 수 있도록요
둘 다 시험해 보고 싶어요
이걸 업데이트해 사용자 비서 상호 작용을 사용하도록 하세요 시스템 프롬프트 대신에요 어떻게 되는지
보시죠
Get it get it get it get it get it get it get it a good-tures good.
그리고 이걸 훨씬 더 견고하게 만들 이 변화도 가하세요 스토어에 있는
다양한 아이템에 대한 사전을 만들고 가격이나 판매 금액을 찾아보세요 그런 다음
그걸 대화에 추가해 비서가 전문 지식으로 답변할 수 있도록요 재미있게 하세요 오늘을 마무리할
다음 비디오에서 뵙죠