다시 콜랍으로 돌아왔어요 어제 시작한 바로 그 장소죠
지금은 7주 차나 3일째라고 잘못 명명됐어요 7주 차나 4일째에 찍었거든요
하지만 만질 수가 없어요 제가 어떤 식으로든 막을 수 있을까 봐서요
GPU 램이 계속 천장 레벨 38에 근접하게 유지되고 있네요 40GB에서 2개요
다행히도 바뀌지 않네요
안 올라가요
여기 출력된 게 보이시죠 각각의 배치 단계가 발생하는 대로요
지금은 4350단계예요
줌인해서 끝까지 올리면... 다시 말하지만 아주 섬세하게 작업하고 있어요 실수로 반죽이
멈추는 일이 없도록요
세 개 시대의 모습을 볼 수 있는 아주 작은 구역이에요
여기 있는 것 중 하나는 모든 데이터를 훑는 거죠
보다시피 배치 스텝이에요
너무 빨리 가서 숫자는 말 못 하지만 10달러면... 좋아요
여기 보이는 100,000라는 둥근 숫자에서 왜 이렇게 둥근지 궁금하실
거예요
그냥 우연의 일치예요
데이터 포인트가 400,000개인데 16개씩 묶어서 한 단계에 있어요
이 하찮은 수학 계산기에 대해 계산을 해보죠 40만 달러를 16으로 나누죠
그걸 여러 시대의 개수로 곱한 거예요.
세 개 개국인 줄 알았는데 네 개국인 것 같네요
네 개국에서 활동했죠
그래서 네
네 개의 개화에 4를 곱하면
결국 증거를 남기게 되죠 여기 카메라가 있네요 100,000번 카메라예요 이게 100,000번
카메라죠
무작위로 나온 숫자가 아니에요
정확히 400,000개의 데이터 포인트에 관련된 배치 단계의 수입니다 16개의
배치로 묶였고 4번 이상 이루어졌죠
틱틱거리는 거죠
이 수치만 봐도 알 수 있어요 훈련에서 손실이 컸을 때 시작했는데
그 손실이 눈에 띄게 줄었어요
하지만 이 화면만 봐서는 정확히 알 수 없어요 수치가 위아래로 흔들리거든요
Get it 유행도 파악하기 어렵고요
배치의 진행을 시각화할 수 있는 툴이 있다면 좋을 텐데요 실행과 비슷한 것을
비교할 수 있는 툴이요
무게와 편향성이라는 도구가 바로 여기 있어요
이게 그 결과물이에요
지금 벌어지고 있어요
무슨 일이 일어나는지 보여주는 거예요
그래서요?
이 훈련의 손실은 실전이에요
우리가 정말 보고 싶은 건 이거예요
이 패널을 수정해서 좀 더 보도록 하죠 get it get it
여기 있는 y축은 끝까지 0까지 이어지는데 0은 손실이 0이 되니 완벽을
의미하죠
이 모델은 항상 100% 확신으로 다음 토큰을 예측하고 100% 확신으로 예측한
다음 토큰이 올바른 다음 토큰이 되는 거죠
get it up
1점보다 낮으면 의심받을 만하죠 5분
보통은 경험에서 우러나오는 비법이지만 일반적으로
보면 큰 손실이에요
그 아래로는 너무 많이 끼는 건 아닌지 생각할 시간이 생기죠
이 축을 바꿔서 y 축을 최소화할게요
갈 수 있어요
더 잘할 수 있어요
1로 하죠 4시쯤에 보면 어떤지 알 수 있을 거예요
울퉁불퉁한 코스지만 초반 단계에서도 분명한 건 울퉁불퉁한 코스지만 발전하는
추세가 있다는 거예요
GPT와 미세 조율로 봤을 때와는 달리 위아래로 흔들리기만 하고 별다른
변화는 없었는데 지금은 나아지고 있는 것 같아요
표면을 매끄럽게 하는 것도 가능해요
이건 확실히 아니에요
그 선이 나아지고 있어요
부드러움을 더하면요
왜 위아래로 흔들릴까요?
상황에 따라 다르죠
각각의 점들은 16개의 데이터 포인트와 16개의 프롬프트입니다. 하나의 끝부분에
있는 예측할 수 있는 것들이죠. 무작위로 뒤섞여 있어요.
16개의 무작위 세트예요
16번 테이블에 어떤 제품을 넣었는지 누가 알겠어요?
정말 비싼 제품이 있을 수도 있어요 그냥 추측만 하고 완전히 틀린 제품요
그래서 소음이 많죠
각 단계마다 구성이 다르기 때문에 비트를 좀 섞는 게
좋아요 그래야 흔들리는 느낌이 나거든요 모델이 이리저리 흔들리는
느낌요
어떤 면에서는 수작업으로 하고 있어요 최소한의 지역에만
머물러 있지 않고 다양한 가능성을 시도해야 하니까요 모델이
개선될 수 있도록요 글로벌 최소의 큰 계곡을 찾으면서 그러데이션을 찾고 다음 토큰을 예측하는
능력을 향상시키죠
비트가 조금 바뀌었어요
다시 말하지만 시각적으로 개선된 점이 분명히 보이네요
또 뭐가 있을까요?
이게 학습률이군요
이게 그 키 하이퍼파라미터예요 얼마나 걸어야 하는지 알 수 있죠
코사인 학습 비트를 정했다고 말씀드렸는데 놀라실지도 모르겠네요
전혀 코사인 같지 않고 제가 설명한 것과도 달라요
지금 보시는 건 워밍업이라는 건데요 0에서
시작하지 않는다는 거죠 가장 높은 숫자 0001은 0에서 시작해서 0까지 쌓이죠
반죽이 시작될 때 극적으로 움직이잖아요 멀리 있다가 더 좋은 위치로
이동하죠
학습률이 너무 높으면 안 되죠
아니면 모든 면에서 지나칠 수도 있고요
그게 이 준비 운동의 원리예요
과정의 일부죠
실제로 이 자리에 서게 될 거예요
왜 코사인 형태가 안 보이는지 궁금하실 거예요
훈련 초반이라 그래요
그래도 코사인 꼭대기에 있어요
아래로 구부러지기 시작하는데 아주 천천히 구부러져요
GPU 상황에 대해 보여주는 재미있는 차트도 있어요
어떤 건 다른 것보다 더 의미가 있어요
여기 있어요
그거요
전력 사용량과 메모리 접근 시간은 좋아요
네
CPU 활용도를 보고 싶어요
그게 어디죠?
GPU CPU 활용도까지도요
GPU 활용도는 GPU가 열심히 일하는 시간을 확인하는 데 가장 중요한 부분일 겁니다
메모리를 안팎으로 처리하는 데 시간이 걸리는 게 아니죠
GPU 사용 여부를 알고 싶은 거죠
강력한 A100 블록을 망치질하며 최대한 활용하고 있다는 신호죠
다른 상자를 사용한다면 다른 hyperpaameter가 생기죠
GPU 활용도를 확인하세요 잘 작동하는지 잘 작동하는지
GPU를 잘 활용하고 있는지 확인하세요
하이퍼파라미터 일부를 수정해 get을 더 끌어낼 수 있는지
볼 수도 있어요 훈련 과정이 더 효율적이게요
네
이제 비트를 좀 쓸 거예요
요리 수업이나 오븐에 넣는 영상에서 배웠던 걸 해볼게요
아까 했던 걸 보여드릴게요 오븐에서 꺼낸 걸
그대로 넣는 건 속임수라고들 하잖아요
하지만 전 그걸 했고 얼마 전에 이걸 시작했었죠 동일 hyperperameter로 실행됐어요
같은 거예요 여기 분홍색요
제가 설명을 못 드렸네요
정말 미안해요
이 프로젝트에서 실행된 4개의 실행을 보여주고 있어요
프라이서라는 프로젝트죠
상단에 있는 내비게이션에는 프라이서 프로젝트가 있어요
여기 네 번의 경주가 있는데요
이것은 제가 서너 개의 이포크를 실행했을 때 같은 데이터셋으로
실행한 것인데요
다른 건 다 똑같아요
그걸 보여드리면 그 결과 어떻게 됐는지 알 수 있죠
자, 보세요
이게 살이 많은 고기예요
이걸 불러와서 스케일을 바꿔야 해요
우리가 내려가야 해요
됐어요
이제 다 보여요
1시에 끝낼게요
몇 가지 짚고 넘어갈게요
우선 보라색이 보이죠
클릭해 볼게요
이걸 누르면 위로 올라갈 거예요
됐어요
파란색과 보라색 선이 보이시죠
파란색은 여기쯤이고 보라색은 여기예요
파란색은 현재 이 탭에서 실행 중인 실행이고요
지금 우리가 실행 중인 이 남자요
보라색은 제가 예전에 버린 거예요
물론 10일 전에 데이터가 들어있죠
보시다시피 파란색이 보라색과 아주 가깝게 붙어 있죠 제가 속임수를
쓰지 않는다는 증거예요
저 파란색은 보라색과 같은 궤도를 계속 따를 거예요
보라색은 이제 다 됐어요
보시면 아시겠지만 경향이 계속 발전하고 있어요 좋은
거죠
우선, 호전되는 걸 보실 거예요 호전되고 또 호전되고
또 호전되고 또 호전되고 더 호전되죠
이 다이빙이 뭔지 궁금하실 거예요
이런 잠수로 각 시대의 종말이 온 거죠
한 시대의 이야기죠
1번 시대를 거쳐 2번, 3번, 4번까지 반복될 수 있죠
불행히도 추락했죠
구글에서 이포크 4 중간쯤에 인스턴스를 리셋했어요
Get it 에포크 4가 어떻게 끝났는지는 못 봤네요
하지만 그건 중요하지 않아요
왜 각 시대 말에는 갑자기 폭락하는 걸까요?
아주 좋은 질문이에요
아주 중요해요
비트가 좀 과하게 들어가 있어서 그래요
이 모델은 첫 이포크에서 본 것과 같은 데이터를 보고 있어요
물론 좀 뒤죽박죽이긴 하죠
16개씩 다른 세트로 묶어서 파는 걸 봤어요
얼굴만 안아주면 돼요
특수 훈련 담당자가 자동으로 배열을 바꿔요
그럼에도 불구하고 모델은 이 데이터를 전에 본 적이 있고 그걸 이용할 수 있어요
중퇴했지만 배운 게 있어요
정규화하려고 여러 시도를 했지만 여전히 이런 데이터를 본 적이
있다는 게 문제예요
다행히도 작은 계단만 있어서 너무 꽉 끼는 건 걱정
안 해도 돼요
하지만 여기서부터 훨씬 더 나빠져요
너무 꽉 끼어서 그래요
만약 제가 말씀드린 최선의 관행을 따랐다면 즉, 유효성
검증을 동시에 실행했다면 성공률은 이런 점프 다운을 하지
않았을 거예요
둘째, 지금쯤이면 가격이 올라갔을 거예요 너무 많이 들어갔거든요
그리고 지금은 저축해둔 게 있어요
아니나 다를까 안는 얼굴 허브에 저장되어 있었습니다 5천 걸음마다 테스트할 수 있도록 말이죠
세 번째 시대 이후에도 결과는 더 나빠졌으니 세 번 이상은 시도할 필요가 없었죠. Get
it!
구글이 이 시점에서 제 인스턴스를 중단한 건 중요하지 않아요 이 데이터는 더 이상
쓸모없으니까요
모델은 이미 형편없었어요
이건 훌륭한 예입니다 허브에 정기적으로 업로드 한 다음 각각의 체크포인트로
돌아가 테스트를 실행할 수 있죠
가장 잘 어울리는 모델을 고를 수 있어요
아주 강력한 기술이라 몇 개 시대를 개혁할지 추측할 필요가 없어요
너무 많이 실행한 다음 훈련 데이터에서 가장 좋은 결과를 얻은 걸 선택하는 거죠
새로운 걸 시도할 때 샘플이 다 떨어지죠
이게 어떻게 작동하는지 잘 보여주는 예라고 생각해요
과잉 착용의 영향과 다양한 시대의 영향도 봤죠
하지만 확실한 건 첫 번째 시대를 맞이한 이후 새로운 데이터가 끊임없이
쏟아져 나왔다는 겁니다 이렇게 기울어진 건 모두 개선의 징후예요
여기 끝부분의 결과도 여기보다 훨씬 더 좋았어요
이것도 발전을 보였어요
그런데 비트 박스가 좀 더 위험해졌어요 get it get it
우연의 일치로 1시쯤에 찍은 것 같아요 5층요
아까 경험 법칙이 있다고 말씀드렸죠 1보다 less요 5점이면 눈썹을 치켜들고
결과를 다시 볼 때예요
이 시점에서 잠시 비트를 멈출게요 다시 돌아오면 몇 가지 다른 것에 대해 좀 더
얘기해 보죠