다시 콜랍입니다 밤새 틀어 놨는데 여러분도 그랬으면 좋겠네요
나처럼 당신도 열성적으로 매달렸잖아요
콜랍에 있는 이 부분이 흘러가는 걸 보여줍니다 돌아가는 게 보이죠?
지금까지는 네 개의 개혁을 거치며 절반 이상이 지났죠
네 개의 개혁은 필요 없어요
물론 한 개혁만 성공하면 돼요
전 이런 걸 정말 좋아해요
시간이 가고 있어요
멋진 무게와 바이어스로 가서 어떻게 보이는지 보죠
우리가 달려요
무게와 편향성을 기억하죠
상단의 탐색은 여러분이 갖고 있는 다양한 프로젝트를 볼 수 있게 해줘요
지금 보고 있는 건 문제의 프라이커 프로젝트예요
GPT를 미세 조정하기 위한 Pricer GPT 프로젝트도 있는데요
여기 다양한 실행이 있어요 코드 내 실행에 이름을 붙였죠 실행이 시작된 날짜와 시간의
이름을요
그럴 필요 없어요
마음대로 불러도 돼요
달리기 같은 걸 할 때 기억이 잘 나거든요
꽤 유용한 방법이었어요
하지만 여러분이 작업하는 런을 설명하기 위해 이름을 붙일 수도 있어요
오른쪽 클릭으로 이름을 다시 지을 수도 있어요
현재는 이 블루 런이 있어요
이게 우리가 해온 거예요
훈련 손실을 확대해보면 이 도표가 정말 중요한데 여기서 보이는 게 교차 엔트로피
손실이란 걸 아시겠죠
여길 보시면 확실히 첫 번째 시대예요
비트가 약간 내려갔는데 데이터를 두 번째로 볼 때 비트가 과잉 설정되기
때문입니다 세 번째 이포크가 시작되면 다시 한 번 감소하죠
제가 하지 않는 것은 최선의 관행으로 유효성 검사 데이터 집합을
하는 것입니다 유효성 검사 손실을 볼 수 있죠
보시면 아시겠지만 이 부분만 조금 줄어들고 머지않아 조금씩 늘어날
거예요 비트가 과하게 들어가니까요
추론 모드의 모델을 실행하면 알아낼 수 있지만 검증 결과를 보는
게 더 낫겠죠
그게 당신이 하는 일이면 좋겠네요
그 차트 좀 보고 싶네요
이 위에 레이어를 둘 수 있어요 완료까지 실행했을 때 실행했던
거죠
시작할게요
이 두 경기를 함께 확대해보죠
보면 아시겠지만 두 번의 시도는 아주 비슷했어요
물론 하이퍼파라미터도 같았고 무작위로 시드를 설정했어요
그리 놀랍진 않지만 모든 복잡한 상황에도 불구하고
get run에서 같은 숫자가 나온다는 걸 보여주죠
그래서 좀 위안이 돼요
보여드릴 건 그게 다인 것 같네요
학습률 측면에서 보면 예전엔 의심을 안 했는데 지금은 파란
선을 보면 잠깐이지만 예전에 보던 게 반짝거려요
보시면 알겠지만 마지막으로 찍은 건 이 정도 높이에서 찍었어요
매끄러운 곡선이 보이는지 회의적이었을 수도 있어요
이제 아주 멋지게 무너지는 게 보이죠
코사인 학습률 스케줄러는 알아두면 좋은 방법입니다 기간에 학습률을 다양하게 할
수 있는 좋은 방법이죠
네
마지막으로 얼굴 껴안기 버튼을 눌러요
이 모델을 보시면 이 이름의 끝이 11초 후에 타임스탬프로 끝나는 걸 보실 수
있어요
허브에서 페이스 포옹으로 가면 다양한 모델이 있어요
그리고 이 화면은 11초 안에 끝나는데, 물론 지금 실행중인 화면이죠
2시간 전에 업데이트됐다고도 뜨네요
제대로 온 거예요
어떤 사람들은 단일 압류만 갖기도 합니다 모든 실행에 대해 글로 작성하는 거죠 그게
완벽하게 좋은 방법이에요
전 이렇게 하는 게 좋아요 각각의 코스를 완전히 분리하는 거죠
이 압류로 가면 지금 보고 있는 건 파일과 버전을 클릭하면 이것과 관련된
파일들이죠
안전한 텐서를 사용하세요
그게 사업이죠
거기서 모든 게 시작되죠
109MB 정도의 파라미터가 로라 어댑터의 파라미터예요
이쪽에는 역사 9가 커밋하는 걸 보실 수 있어요
클릭을 하면, 설정에서 매개 변수에서 요청했던 것을 볼 수 있습니다 포옹하는 얼굴이 허브에
저장되어 있고 업로드되어 있습니다 5,000 걸음마다 모델의 무게를 다르게
수정하고 있네요
그 액세스를 사용할 수 있습니다 과거로 돌아가 커밋에 대한 추론을
하고 싶다면요
왜 따로 압류하는지 이해하셨으면 좋겠네요
그래서 여러 가지 세이브를 여러 가지 훈련과 혼동하지 않아요
좋아요, 현장은 이 정도면 충분한 것 같아요
추론으로 넘어가기 전에 슬라이드로 돌아가 주세요. Get it get get it.