정말 안심이에요
그건 다 지난 일이에요
인체 실험은 이제 안 해요
최악의 결과를 마지막으로 보고 다음으로 넘어가죠
우리가 개척지와 함께 일할 때가 왔어요
GPT 4 미니부터 시작할 거예요 미니 버전이죠
그렇게 많지는 않아요
여전히 거대한 개척지죠
`LM'요
우리가 함께 작업한 다른 모델과 비교해서 얼마나 잘 팔릴지 궁금해요
먼저 GPT 4 프롬프트를 작업해야 하는데요
이건 여러분이 배우는 데 있어 아주 중요한 부분이에요 개척자 모델을
통해 이런 상업적 문제를 어떻게 해결할지 볼 수 있으니까요
하지만 많은 부분이 여러분에게 제2의 본성이 되어야 합니다 왜냐하면 이전에 했던 많은 작업들과
비슷하기 때문이죠
가장 먼저 항목에 대한 함수 메시지를 작성할게요
데이터 포인트에 따라 GPT 4를 위한 프롬프트로 바꾸겠습니다 이
메시지 목록 중 하나의 형태로 온 거죠 여러분이 기억하시는 사전 목록이요
이렇게 사전 목록을 만드는 거예요
시스템 메시지로 시작합니다 이 경우엔 물품의 가격을 추정하고 가격으로만
답장합니다 설명 없이요
사용자 프롬프트는 이 아이템에서 테스트 프롬프트를 가져옵니다 많이 보셨던
거죠
데이터 비트를 좀 뒤져볼게요
먼저 이 텍스트를 $로 줄여볼게요
제가 그렇게 하는 이유는 아니, 그렇게 말해야 하는 이유는 이걸
처음에 넣은 이유는 나중에 오픈 소스 모델로 작업할 때 오픈 소스 모델을 제공해
최대한 쉽게 문제를 해결하게 될 테니까요 배울 게 많은데 그걸 할
80억 매개 변수밖에 없으니까요
개척 시대의 모델은 훨씬 더 강력하고 능력이 뛰어나며 똑같은
가드레일도 필요 없죠
GPT4나 미니가 아주 좋아할 거예요 센트를 포함해서 가격을 예측할 수 있으니까요 어떤 게 효과가 있는지
정확히 알고 있죠
이 경우에는 불필요한 가드레일이었어요
그래서 뺐어요
프롬프트 맨 끝도 제거했어요 가격은 달러라는 곳이죠
이걸 제거한 이유는 메시지 목록을 만들 때 시스템 역할에
먼저 입력하기 때문이에요.
사용자를 추가하고 사용자 프롬프트를 입력합니다 그리고 보조에서 오는 메시지를 하나 더 입력해요
GPT4 미니의 회신 같은 거죠
네
가격은 달러라는 대답만 남죠
그래서 참을 수 없을 정도로 다음 토큰에 가격을 적고 싶어지죠 이게
조수로부터 돌아오는 응답이니까요
그래서 저희는 그 부분을 가장 그럴듯한 다음 토큰으로 채워야
한다고 생각했어요 이 제품을 살 때 가장 그럴듯한 가격으로요
그래서 조수처럼 반응하게 해서 그렇게 채우는 게 실험해보기에
좋은 방법이죠
그게 우리 일이에요
빨리 이걸 시험해 보고 살펴보죠
메시지 for get을 입력하고 첫 번째 테스트 데이터 포인트를 입력하면
롤 시스템과 시스템 프롬프트가 뜨죠
이해가 되면 좋겠네요
롤 유저를 선택하고 콘텐츠는 비용이죠
그리고 제 생각에 이 물건들은 끔찍한 메모리일 것 같아요 이 물건들의 가격을
전부 다 맞춰야 했으니까요
보기만 해도 겁이 나요
이번엔 제 문제가 아니에요
GPT 4와 미니 중 선택해야 해요
사용자 프롬프트의 일부로 그걸 받게 되죠 그런 다음 지원 응답을 받게 돼요
그 자체로 보상가는 달러예요
그럼 이 대화를 계속하려고 할 거예요
GPT 4를 보내기에 좋은 타이밍인 셈이죠
다음, 짧은 함수가 하나 더 있어요 여기 쓴 Get Price라는
유틸리티로 문자열 s를 이용해 그 문자열에서 부동점 수를 추출해요
예를 들어 GPT 4에서 문자열을 받으면 가격이 대략 1달러 99센트예요
99살요
왜냐하면 어쩌고저쩌고해서요
제 지시를 따르지 않고 계속 떠들면 그래도 옷을 벗을 거예요
이런, 미안해요
밝히지 마세요
99는 여전히 제거할 거예요 99달러 나왔어요
그럴 거예요
잘될 거예요
네
이제 조심스럽게 스크롤을 내릴게요
이제 큰 함수로 넘어가죠
맞아요
이건 진짜예요
GPT 4 미니를 항목과 함께 호출할 겁니다 이렇게 하는 거죠
OpenAI 챗GPT완료 .Create라고 하죠
GPT 4 미니 모델을 통과했어요
그 아이템에 대한 메시지를 전달합니다 방금 말씀드린 함수를 사용해서요
이 시드는 GPT 4에 이걸 재생하고 싶다고 말하는 방법입니다 같은 입력으로
같은 답을 주도록요
오픈아이는 기존 GPT 모델을 변경하기 때문에 늘 이 방식을 고수할 순 없죠
그래서 모델이 바뀌기도 해요
이 숫자는 바뀔 거예요
하지만 모든 게 평등하니 최선을 다하죠
그럼 같은 씨앗으로 두 번 부르면 같은 답이 나오겠네요? Get it
좋은 정보네요
최대 토큰은 작게 두겠습니다 티업이 훌륭하기 때문이죠 가격이
채워질 거라고 기대할 수 있어요
그러니 더 많은 토큰을 가져오느라 돈을 낭비할 필요가 없죠
이런 작업을 하기 때문에 250개의 데이터 포인트에 걸쳐 이 전체 작업은 아주
저렴해요
미국에 있는 제 자리예요
가격은 그보다도 훨씬 less예요
음, less 아, 그러니까 등급이 너무 적어서 사용자 인터페이스에서 안 보이는 거죠
1센트도 안 되는 less요
아주 저렴합니다 짧은 입력 토큰과 5개의 출력 토큰을 사용하니까요
그리고 조심하기 전에 무슨 일이 일어나는지 말해야죠
그 전에 이걸 빨리 해 보죠
GPT 4를 돌려 보죠
테스트 오브 제로로 성능을 확인해 보죠
그걸 실행하면 답이 260으로 나와요 0살요
GPT 4 미니라는 걸 거쳤네요
그리고 뭔가 보내왔죠
이것과 똑같은 것을 보냈고 받은 정보를 바탕으로 이 함수를 적용해서 260개를
제거해 첫 번째 물건의 가격을 맞췄어요.
일단 첫 번째 물건의 가격부터 알아보죠
조금요
60까지 가면 숫자는 3, 7, 4가 되죠
그래서 좀 멀리 갔죠
네
이제 테스터와 GPT 테스트를 통과할 시간입니다 미니 테스트죠
제가 이미 실행해본 걸 몇 번 보셨을 겁니다 꽤 빠르거든요 하지만 전체를 다 하려면
2, 3분 정도 걸려요
여러분이 거기 앉아 계시는 동안 결과를 스크롤할 수 있게 하고 싶진 않았어요
하지만 그 전에 GPT 4 미니가 어떻게 달릴지 한번 맞혀 보세요
오리지널과 비교하면 어떨까요?
평균 수보다요?
제가 대표하는 인류에 대한 반발은 어떨까요?
또한 훈련용 400,000대의 모델이 있는 최첨단 전통 모델과는 어떻게
경쟁할까요?
어디 보죠
그래서 이걸 실행했더니 이렇게 됐어요
노란색과 빨간색은 재생률이 아주 높아요 아까와
같은 260개를 예상했죠
녹색과 붉은색이 보이죠
녹색은 많지만 노란색과 빨간색도 있어요
속도를 높일게요
채소가 정말 많네요
붉은색과 녹색도 더 넣고요
답은 이겁니다 GPT 4 미니 프론티어 모델 결과죠
다른 건 다 박살 났죠
박살을 냈죠
여기 보시면 79달러가 들어 있어요 58살요
확실히 인간보다 낫고 다른 모든 모델보다 나아요 무작위 숲도 포함해서요
훈련 데이터도 전혀 없이 순수하게 설명만 듣고
토큰 시퀀스를 계속하는 거죠
훈련용 데이터 오염을 테스트할 위험은 있지만 그럴 가능성은 희박합니다
정확히 해낼 경우가 거의 없으니까요
이미 알고 있던 걸 토해낸 게 아니에요
세속적인 지식이 아주 풍부해서 그런 쪽으로 훈련된 거죠
타이어 가격, 전조등 가격 샤워 수도꼭지 등 다른 비용을 알려주는 좋은
관점이 있어요
그게 큰 문제였어요 전혀 알 수가 없었거든요
하지만 아주 좋은 단서가 있었죠
이 작업에 참여한 모든 모델보다 낫다는 걸 알 수 있었죠
정말 멋져요
이 장면을 보는 게 즐거웠어요
다음 영상에서는 수준을 한 단계 높여서 더 큰 사촌이 어떻게 하는지 보죠