포옹 페이스 오픈 LLM 리더보드로 돌아가죠
훈련용 기본 모델을 고를 때 가장 먼저 가는 곳이죠
가장 먼저 모델에 초점을 맞추겠습니다 매개 변수 크기, 최대 9라고
해보죠
비트만 조금 낮추고 기본 모델만 빼고 전부 걸러내죠
매개 변수의 개수도 보여 주세요
이 아래 테이블로 가죠
다양한 지표에 따라 가장 강력한 모델의 결과가 나왔어요
제가 여러 번 언급했던 파워하우스 클랜이 보일 겁니다 이 2를 포함해서요 52살요 5는 새로운 거예요
70억 개 변종요
이 로드의 최고 득점자였어요
보시다시피 제마는 90억 개의 변수 제마예요
미스트랄강 바로 위예요
우리가 자주 얘기하는 그 사람도요
마이크로소프트의 phi2도 있었죠
라마 3요 1번 비트는 좀 더 아래예요
먼저 언급할 점은 상위권의 숫자는 꽤 근소한 차이라는 겁니다 약간의
차이가 있긴 하지만요
라마 3에 대해 말씀드릴 게 있어요 여러분이 고르게 될 1은 우리가 선택하게
될 겁니다 코드에서 더 아래쪽에 있는 걸 보셨으니까요
하지만 거기엔 이유가 있어요
이런 다양한 스코어를 볼 때 훈련된 버전도 반드시
가져와야 해요
다중 분석이라고 부르는 건 같은 모델이지만 좀 더 훈련된 형태로 다양한 강화
학습 기술을 이용해 특정 채팅 분석 스타일에 대응하는 거예요
그런 프레임워크가 갖춰지면 다양한 테스트에 더 잘 대처할 수
있어요 주어진 지시에 반응할 테니까요 다른 작업에 적응하도록 훈련받기를
기대하기보다요
이 기능을 좀 더 현실적으로 볼 수 있습니다 기본 모델이라도 벤치마크를
가지고 어떻게 작동하는지 보고 변형된 부분을 보면 이해가 되죠
그렇게 하면 라마다 3이 나오죠 제일 위에 있는 게 180억 개예요
그 위에는 피3도 있어요
재머요
메타 라마 3도 있어요 1번요
그러니까 instructant varian을 보면 아주 잘 되고 있어요
좀 삐딱하게 들리겠지만 실제로 지시 기능을 쓰자는 건 아니에요
기본 형태를 유지하자는 거예요 그건 원하지 않으니까요
사고 과정이나 훈련 능력을 모두 소모하는 건 원치 않아요 시스템 프롬프트나
사용자 프롬프트 같은 걸 배우는 것도요
일단 그 훈련을 하고 나면 모든 점수가 잘 나온다는 걸 알
수 있어요
이런 걸 보면 기본 모델이 이런 다양한 벤치마크를 해결하도록 잘 적응했다는 느낌이
들죠
순위표 결과를 해석하는 미묘한 방법이네요
변형 기능을 보고 어떻게 작동하는지 볼 수 있어요 베이스 모델이
어떻게 작동할지 알 수 있죠
라마를 고른 데는 또 다른 미묘한 이유가 있어요 물론 167cm인
제마나 그웬이 여러 면에서 더 높아 보일 수도 있지만요
라마는 편리해요
정말 그래요
모든 것에 약간의 차이는 주지만 코드를 좀 더 간단하게 만들고
라마를 위한 작업을 좀 더 쉽게 해줍니다 라마를 위한 토큰라이저를 보면
0부터 999까지의 모든 숫자, 모든 세 자리 숫자가 하나의 토큰에 매핑되어 있는 것을 볼 수 있죠
3, 4편이나 콴의 경우는 달라요
이 세 모델 모두 기본적으로∙∙∙ 숫자당 토큰 같은 걸 갖고 있다고 생각하면
돼요
999는 결국 세 개의 패가 되죠
이런 질문을 하실지도 모르겠네요. 그게 무슨 차이가 있죠? 전혀 차이가 없어야 하는 걸까요?
그래서 우리가 트레이닝을 할 때 토큰을 생성하기 위해 모델을 사용합니다 회귀
모델의 관점에서 생각하도록 하는 거죠
문제를 해결하고 다음 토큰을 더 잘 예측할 수 있도록 하는 거죠 가격에도
적용되도록요
문제를 단순화하죠
모델이 생성해야 하는 토큰 하나에 가격이 정확히 반영된다면요
이 특정한 상황에서 우리가 해결하려는 특정한 문제에
대해 람다 3의 토큰화 전략이에요 1은 아주 잘 작동합니다. 생성되는 단일 다음 토큰이 가격에
대한 모든 것을 반영하기 때문이죠
다음 토큰은 9가 되어야 한다고 예측하는 경우는 없어요 9달러,
999달러 혹은 999달러일 수도 있죠
토큰을 써야만 효과가 나타나죠
그다음에요
아뇨, 다음 토큰으로 제시되는 하나의 토큰이 하나의 토큰에 제품의
전체 가격을 반영하는 경우죠
그런 미묘한 차이 때문에 llama 3을 선택하는 거예요 이 경우엔 1명이죠
하지만 다른 모델을 선택해서 성능을 확인할 수 있어요
라마는 비트 마이너스가 편리해서 좀 더 유리해요
이로써 여러분은 모델을 선택하는 과정과 leaderboard를
보고, 더 깊이 살펴볼 수 있습니다. 기본 모델의 매개 변수
크기와 비교해 다양성을 만드는 과정과 토큰화의 작동 방식에 대한 뉘앙스를 볼
수 있죠.
그 모든 걸 종합한 결과 이런 결정을 내릴 수 있었습니다 llama 3을 선택하기로요 180억 달러를 기본
모델로 삼았어요
이제 Colab으로 가서 기본 모델을 시도해 보죠