이제 2일째 주피터 연구실에서 래그 워크플로우를 끝낼 시간이에요 3번요
이제 익숙해진 함수 Getprice가 있습니다 아주 간단한 것으로
문자열에서 부동 소수점 수를 뽑아내는 거죠
이제 미니를 위한 GPT 함수인데요
서류와 가격은 괜찮다고 하죠 비슷한 물건들을요
항목을 전달하는 거죠
비슷한 물건을 찾아냈어요
OpenAI 채팅 .완료 .Create라고 하죠
미니를 위해 GPT를 지정할게요
함수 메시지를 이용해 메시지를 전달할 거예요
씨앗을 뿌릴 거예요
5토큰을 돌려줘요
응답은 .선택 0.Message content라고 하죠
getPrice에 응답해 거기서 번호를 추출하는 거죠
그게 전부여야 해요
미치기 전에 한 번 시험해 보죠
GPT 4 미니 래그를 보고 방금 본 클러치 테스트를 통과할
거예요
Get in get을 해 보죠
201달러와 45달러를 환불받았고 이제 get att.s.pr.를 테스트해야 해요
거의 비슷해요
비슷해요
보세요
아주 빠르게 달릴 수 있어서 좋아요
거기서 일어난 모든 일을 볼 수 있어요
비슷한 아이템이 다섯 개 검색됐어요
오픈AI를 위한 쿼리를 구성했습니다. 유사한 항목 5개를 오픈AI에 보낸 프롬프트에요.
그런 다음 전화를 걸었고 응답이 왔어요 가격을 줄이고 가격을 알려줬죠
꽤 비슷했어요
자, 됐어요
전에 왔던 테스터 기억나요?
250개의 테스트 결과를 시험할 프레임워크예요
우리 모형이 어디서 나왔는지 기억해요?
생각만 해도 무서워요
하지만 개척지 모델에 큰 혜택을 줬잖아요
이걸로 뭘 할 수 있죠?
이 시점에서 실행하면 어떻게 되는지 볼까요?
그렇게 하는 동안 작동할 거예요
벌써 많은 녹색이 보이시죠
물론 많은 정보를 얻죠
에이전트 폴더에서 제가 한 걸 보여드리고 싶어요
에이전트 폴더에 프론티어 에이전트라는 걸 만들었어요 이건 우리가 방금 살펴본
바로 그 코드를 프로덕션 준비 코드로 바꾸고 있죠
보다시피 빨간 바다를 보면 주석을 추가하고 있어요 중요한 단계죠
힌트도 입력했어요 우리가 뭘 하는지 정확히 알 수 있게요 get
it
보시면 아시겠지만 아주 간단해요
똑같은 거예요
컨텍스트를 만드는 것은 열린 인공지능 형식의 메시지 목록을 만들기 위해 프롬프트 메시지를 삽입할 컨텍스트를
만드는 것이죠
익숙하실 텐데요 각각의 매개 변수에 주석을 넣고 반환되는 것을 지정하는
방법이죠
보다 복잡한 형식 힌트도 보실 수 있습니다 문자열 목록이 언제 있는지 지정하고 문자열 키와
문자열 값을 가진 사전 목록도 지정하고 유사한 걸 찾아요 주어진 것과 유사한 아이템 목록을
반환하는 거죠 chroma getPrice를 보면서요
잘 알죠
마지막으로 가격 메서드예요
프론티어 에이전트라는 클래스의 일부예요 제 슈퍼클래스 에이전트의 서브클래스죠
잘 포장돼 있어서 생산 목적으로 사용할 수 있어요
다시 한 번 학습의 일부로 주피터 세상에서 생산 준비 코드로의
이동을 보면 이런 종류의 점프를 하게 되죠
일반적으로 VSCode나 PyCam 같은 도구에서 이걸 빌드하죠
전 파이컴을 좋아하지만 주피터랩을 이용해도 돼요 여기 있으니까요
주피터 랩에서 코드를 쓸 수 있지만 이런 걸 위해 설계되고 더 좋게 만드는 아이디어가
있어요
어떤 코멘트를 쓸지 프롬프트 같은 것도 채워 넣고요
이 지점까지 왔다면 IDE를 사용하는 게 좋아요.
좋아요
제가 너무 떠들었나 봐요
거의 다 왔어요
다 됐어요
네, 이걸 보세요
우선 GPT 4 미니와 래그 없이도 훨씬 좋은 차예요
바늘을 크게 움직였지만 여전히 우리가 배치한 미세 조정 모델이
더 잘 작동하는 상태예요
랙 파이프라인 기반의 GPT 4조차도 이겼어요
래그 파이프라인이 잘 작동해서 이렇게 가까워진 걸 보니 좋네요
여기 아름다운 해도가 보이시죠
정말 재미있었어요
여러분도 즐거우셨길 바라고 같은 걸 보셨길 바라요
이 코드를 훑어보며 생성된 프롬프트를 보고 일부를
프린트해 자신을 만족시키세요 기본적으로 좀 더 수동적인 방법으로요
랭 체인이 자동화한 걸 정확히 했어요 래퍼 코드로요
현장에 가서 물건을 하나 가져왔고 비슷한 물건을 다섯 개 찾았어요
그걸 몇 가지 컨텍스트에 포장했어요
GPT 4에 보낸 자료예요
그렇게 하지 않았을 때보다 훨씬 좋은 결과를 얻었죠
실험해볼 만한 또 다른 방법이죠 물론 시도는 해봤어요
5분 후에 지나갔어요
결과요
하이퍼파라미터라고 부르는 거예요
10점이 되면 어떻게 될지 알아보죠
두 개면 어떻게 될까요?
5달러면 정말 싼 거예요
1, 2센트면 다 운영할 수 있어요
당연히 그래야죠
가격이 다를 수 있으니 직접 확인해 보세요
하지만 아주 싸요
10분으로 하면 그렇게 될 거예요
두 배는 더 들 거예요
less는 아니지만 비트 요금은 좀 더 들 거예요
그러니 합당한 범위 내에서 실험해 보고 어떻게 반응하는지
봐야죠
어쨌든 이것으로 래그 파이프라인은 끝났습니다 다음 부분에서 뵙죠
2로 이동할 때요 4번, 다시 아무 숲이나 얘기하기 앙상블 모델 얘기하기 시작하세요
그때 봐요