여기서 제가 여러분께 훈련 손실에 대한 만족스러운 차트를 보여드렸는데요 훈련 손실에
대한 차트를요
종일 봐도 안 질리겠어요
다른 차트로 넘어가도록 하죠
이 도표를 다시 보죠
이미 보셨을 수도 있는 이 사진을 보여드릴게요
이게 학습률이에요
날려 버리죠
이게 제가 아까 설명하려고 했던 바로 그 모습이에요 하지만 제가 말씀드렸듯이
무게와 편향으로 보면 훨씬 더 명확해 보이죠
이건 지난 네 번의 시대를 거치며 학습률이 어떻게 변했는지 보여줍니다.
거의 네 번째 시대까지 학습률이 변하지 않았죠. 이전의 모형을 실행했을 때요.
보시다시피 학습률은 0에서 시작됐죠
그 후 상승했죠 이 지점까지 온난화 때문에요
그러면 이렇게 매끈하게 조금씩 내려오는 게 보이죠 처음엔 천천히 시작하지만 점점
더 많이 내려와요
그러다 끝에 가서는 꼬리가 떨어져요
네 개의 개혁이 끝나면 정확히 0까지 올라가요
하지만 네 번째 시대까지 못 버텼어요
한 시대의 작업을 실행하면 하나의 작업에만 전체 차트가 생겨요.
몇 개의 폭동을 일으켰는지를 알면 학습 속도가 빨라져요.
그 요점을 잘 보여주는 것 같아요
현재 배치를 나타내는 파란 선이 이 위에 있는 게 보이시죠
우리가 제일 꼭대기에 있어서 밋밋해 보였던 거예요
하지만 때가 되면 전임자처럼 순조롭게 내려올 거예요
말씀드리고 싶은 다른 것은 여기 여러 개의 실행을 살펴볼 때 이 아이콘을
사용할 수 있습니다 무엇을 볼 것인지 결정하기 위해서요
여기 이 중간에 있는 건 미처 못 봤어요 Put it up Put it
이게 뭐냐면요 제가 만든 건 구글이 잔인하게 인스턴스를 차단했어요
짜증이 나서 하던 일을 계속하고 다른 시대를 개척하기로 했죠
결과는 나빠졌지만 어떻게 됐는지 보고 싶었어요
전 그걸 극단으로 몰고 가서 네 번째 시대에서 결과가 나빠진 변칙적인
사례가 아니길 바랐어요
다섯 번째 시대에는 훨씬 더 좋아질지도 몰라요
그래서 적어도 비트가 어떻게 되는지 보고 싶었어요
이제 그걸 보여 드릴게요
좀 헷갈릴 거예요 비트를 다시 시작했거든요
오른쪽으로는 안 이어져요
왼쪽에서 시작할 거예요
첫 번째 훈련 단계처럼 보일 거라는 걸 명심하세요
하지만 제가 보여드릴 것은 이 보라색 선 오른쪽에 있는 거예요
어디 보죠
이건 말이죠
저기 있네요
확대해 볼게요
그러니 여기 있어야 한다는 걸 확실히 아셨으면 좋겠네요
저걸 잡아서 오른쪽으로 당길 수 있어야 해요
왜냐하면 제가 여기서 훈련을 다시 시작했을 때 일어난 일이거든요
여기 보이는 게 다섯 번째이자 다른 완전한 시대예요 네 번째 시대를 끝내지 못한 거죠
이건 완전히 다른 시대예요
그럼 여섯 번째 이화기가 완성되는 거죠
다시 한번 말씀드리자면 6번째 시대가 시작된 시기와는 확실히 다른
점이 있습니다 이 시점에서는 확실히 의심스러운 상황이 벌어지고 있죠
손실이 너무 적어요
아니나 다를까 이 모델들을 가지고 테스트를 해 봤더니 제가 가져온
모델보다 성능이 떨어졌죠 이쯤에서 잘라낸 모델보다요
해볼 만한 실험이었어요
저 자신을 만족시켜야 했어요 운이 나빴던 게 아니라 너무 과했던 거고 더는 유용한
결과를 얻지 못한다는 걸요
실제로도 그런 경우였고요
좋은 시험이 됐어요
이로써 이득을 볼 수 있습니다 풀 몬티로 대규모
버전을 실행하기로 결정했다면 세 개 개혁을 넘어선 안 되니까요
제 경험상 그건 소용이 없어요 hyperperameter를 변경해 보고 뭔가 다른 걸 발견하지
않는 한은요
마지막으로 보여드릴 것은 다른 도표와 무게, 편향 등을 가지고 놀아보실 수
있어요
탐험할 게 많아요
경사만 봐도 알 수 있는데 정말 혼란스러워요
비트 박스를 조사하고 조사해야 해요 뭘 보고 있는지 이해하고 거기서 뭘 배울
수 있는지 알려면요
이상적으로 여러분이 가장 중요하게 여기는 건 Get 절차가
0이 되는 상황은 절대 없도록 하는 거예요
더는 배우는 게 없다는 뜻이죠
그러데이션이 0이면 모델은 더 이상 학습할 수 없고 학습 과정을 계속할
필요가 없어요
그러데이션이 0이 되지 않도록 주의해야 합니다 그러데이션이
너무 높거나 커지는 것도 주의해야 합니다 그렇게 되면 여러분의 모델이 너무 많이 흔들릴 테니까요
학습률이 아주 낮지 않다면요
이 모델은 비생산적으로 학습할 거예요
무게나 우회도로 그라데이션을 볼 때는 이런 점을 주의 깊게 봐야 해요
하지만 얼굴 껴안는 건 보여 주고 싶지 않았어요
혹시 기억하실지 모르겠지만 이 모델을 보여드릴게요 제가 모든 시대를 위해 실행했던
프라이서 모델의 버전이에요
이거 보여요?
실행 이름은 날짜와 시간에 근거해 제가 만든 이름이에요
39년으로 끝나죠
초의 개수죠
그 점을 명심하세요
포옹하는 얼굴이 나오면 아바타 메뉴로 가서 본인 이름을 누르세요
모델과 데이터 집합이 있다면 공간을 확인할 수 있어요
1, 2개 있는 거 보이시죠?
프라이서에 관해서는 한두 번 실행해 봤어요
이 표시는 각각 다른 회수 건과 다른 가격대 거래 건을
나타내요
전 각각의 압류 프로그램을 따로 보관해요 이 압류 프로그램 안에서
다양한 시대를 경험할 수 있게요
139개국이라는 건 큰 인물이 네 번인가 세 번 반을 폭동한
거겠군요
이걸 클릭하면 모델 페이지가 뜨는데요 파일과 버전으로 가보면 기본적으로 Git을 보고
있는 겁니다 회수 깃을 보고 있는데 모델과 관련된 파일이
그 안에 있는 거죠
그리고 말씀드린 것처럼 최근에 이 사업은 이 안전한 텐서 파일인 걸 보실 수 있어요
그 파일은 109MB로 우리가 함께 사용하는 어댑터의 크기죠 32로 설정된 어댑터요
계산을 해보니 109MB의 무게가 나오더군요
이 파일에 다 있어요
여기가 안전해요
그리고 몇 가지 다른 것도 살펴볼 수 있어요
Adaptive config요 json은 로라 미세 조정에 사용하는 어댑터에 관한 정보를 제공해요
예를 들어 여기에 저장된 대상 모듈이 있고 R32 값을 가지고
있어요
로라의 훈련을 이용한다고 쓰여 있어요
기본 모델 이름이 llama 3이에요 180억 달러요
이 모델을 위해 저장된 모든 정보를 알 수 있죠
또 하나 지적하고 싶은 건 16이 커밋하는 거예요
커밋의 역사를 보여주네요
기본적으로 5천 걸음마다 코드를 절약하는 거예요
우리 모델을 중심으로 밀어냈어요
훈련 매개 변수에서 설정된 거예요
5천 걸음마다 절약했어요
이 모델 중 어떤 것이든 로드해 테스트할 수 있다는 거죠
그렇게 해서 가장 뛰어난 선수를 뽑을 수 있어요
체크포인트가 각각 달라요
이런 건 얼마든지 할 수 있어요
그 경험을 바탕으로 모델이 훈련받던 그 순간을 다시 재현할
수 있어요
제가 다양한 훈련을 할 수 있다고 상상해보세요. 이 모든
것이, 어... 이 가격의 다른 버전의 다른 수정본, 저장소에서요.
Get it 하면 어수선해져요
그래서 각각의 주행은 따로 회수하도록 구분했어요
다른 배치 단계가 여기 있습니다 커밋의 다른 히스토리인데요
그게 멋지고 체계적인 방법 같아요
이게 H깅페이스 허브에서 모델을 보는 방법이에요
두고 봐야죠
지금 작동 중인 거예요
15분 전에 업데이트됐어요
파일과 버전으로 가 볼게요
두고 보죠
네, 이미 버전이 저장됐어요
5000단계를 해야 해요
이것의 한 버전 혹은 두 버전은 커밋합니다 초기 커밋이 있으니까요
5000단계는 15분 전에 해결되었어요
이미 실행 중인 모델이 있는 거죠
저와 같은 시기에 이 일을 해왔다면 여러분도 저와 같은 처지일
겁니다 제가 말하는 동안 이 모델의 버전을 허깅페이스 허브에 업로드하겠죠
바로 테스트할 수 있어요
훈련이 끝날 때까지 기다릴 필요 없어요
자, 됐어요
비트가 훈련하는 걸 봤는데 여기서 보이는 패배는 이해하기 좀 어렵네요
무게와 편향으로 아름답게 그려졌고 모델 자체가 중심에 저장되는 것도 봤어요
이건 훈련의 경험이에요
몇 시간이고 할 수 있어요
몇 시간 동안이나 이러고 있었어요 정말 비극적이죠
사실 이 코스가 시작될 때 말씀드린 것 같은데
저기 보이는 화면에 무게와 편향성이 있습니다 그리고 방금
보여드린 이 차트는 처음부터 저기 있던 차트예요
지금은 이 차트를 보여주죠
이 코스를 만든 첫 몇 주 동안 그걸 지켜봤어요
정말 재미있었어요
여러분도 같은 일을 하시길 바랍니다 훈련 과정을 지켜보시고 모델
버전이 업로드되는 걸 보세요
이제 완주만 하면 돼요
내일은 모델을 평가하고 수직화 모델을 어떻게 조정했는지 볼
거예요
오늘은 여기까지 하죠
슬라이드로 돌아가죠