안녕하세요
7주 차에 제가 이렇게 흥분한 이유는 우리만의 모델을 구축하기
시작했기 때문이죠
우리만의 인공지능을 개발하기 시작하는 시기예요 개척자 모델과 경쟁할
수 있는 제품을 만들려고 해요 적어도 몇몇 개척자 모델보다 나은 제품을 만들려고
노력하죠
그게 가능한 이유는 데이터가 많은 특정 문제를 해결하려 하기 때문이죠
그래서 프런티어 모델보다 훨씬 작은 모델을 쓸 수 있어요
80억 개의 매개 변수 모델을 사용할 수 있어요
한 가지 집중된 작업에서 뛰어난 성과를 내면 거대한 거대 기업과 경쟁할 수 있습니다 GPT
40 같은 거대 기업요
GPT 4에는 수조 개의 매개 변수가 있지만 다양한 용도로 설계되었기 때문입니다
대선 후보에 관한 재치 있는 시를 쓰는 것도 그중 하나죠
이 모든 걸 할 수는 없겠지만 제품 가격을 예측하는 데에
정말 최선을 다할 거예요.
우리만의 방식이죠
그건 우리 사업상의 문제예요
그걸 해결하려고 해요
첫 단계는 어떤 모델을 미세 조정의 베이스 모델로 쓸지 결정하는 겁니다 시간을
들일 가치가 있는 일이죠 우리가 만들 것에 결정적인 역할을 할 테니까요
그 자체로 하나의 거대한 하이퍼 매개 변수라고 생각할 수 있죠
다른 기본 모델을 시험해 보고 어떻게 되는지 보죠
그 일부로 그 훈련받은 모델의 원래 버전을 쓸지 결정해야 해요
바로 그 기본 모델요
사람들은 그걸 설명하기 위해 파운데이션 모델이란 단어를 쓰는데
채팅 목적으로 잘 만들어진 건 반대로 변환이라고도 하죠 사전이나 사전 목록을 기대하는
거예요 사용자 프롬프트 시스템이나 사용자 보조 같은 게 있는 거죠
입력 스타일은 프롬프트의 다른 섹션을 분리하는 토큰 시리즈로
바뀌죠
그래서 결정을 내려야 해요
물론 장단점이 있죠
그 작업이 끝나면 기존의 기본 모델을 가져다가 우리 과제와 어떻게
맞물리는지 봐야 해요 우리가 이미 프런티어 모델과 경쟁하는
위치에 있는지 알 수 있으니까요
우리가 개척 시대 모델들과 경쟁하지 않더라도 무료로 진행될 거라는 걸 기억하세요 적어도
비용은 우리가 부담해야죠
계산을 실행해 API 비용을 내지 않아도 되죠 고유의 오픈 소스 버전 모델을 실행할
때요
따라서 올바른 영역에 있다 해도 오픈 소스를 써야 할 이유는 여전히 많아요
이런 특정 비즈니스 문제에 특화된 독점 모델로 만들자는 얘기가 나오기 전부터요
어쨌든 그걸 염두에 두고 어떤 모델을 사용할지 얘기해보죠
우선 매개 변수를 몇 개 쓸지 정해야 해요
많을수록 좋은 것 같아요
매개 변수가 많을수록 문제 해결에 도움이 돼요
특히 훈련 데이터가 많은 현재 세계에서는 400,000개의 예가
있어요
훈련 데이터가 아주 많아요
그런 면에서 한계가 있는 건 아니잖아요
원하면 언제든 더 만들 수 있어요
그래서 제약 조건은 우리가 가진 메모리 용량의 양이 될 거예요
작은 상자에 넣을 거예요
지금까지는 이미 알고 있었어요 약 80억 개의 매개 변수 모델을 얻을 수 있다는 것을요.
70억에서 80억 매개 변수죠
그 이상은 못 가요
작은 매개 변수 모델이 있긴 하지만요 아주 작죠 젬마 같은 경우 20억에서 30억
개의 매개 변수 버전일 거예요
잠시 후에 살펴보죠
8대를 가져가려고 해요 저희 예산에 맞는
가장 큰 모델로요
그게 저희가 베이스나 변형을 만들 때 접근하는 방식이죠
장단점이 있는데 실험해 볼 만한 거예요
일반적으로, 한 가지 문제에 대해서만 미세 조정할 수 있습니다 특정 프롬프트를 이용하고 있고 특정
방식으로 응답을 기대한다면 기본 모델로 시작하는 것이 좋습니다
변종은 아닙니다 시스템 프롬프트나 사용자 프롬프트 같은 것을 적용할 필요가 없습니다
한 가지 목적으로만 훈련시킬 것이기 때문이죠
그러니 기본을 하나 골라서 미세 조정하세요 그 작업에만 정말 잘하도록요
그게 기본 대답이에요
변종으로 시작하면 좋은 점이 있어요
하나는 아주 맛있다는 거죠
시스템 프롬프트나 사용자 보조 상호 작용 같은 걸 인식하도록 훈련받았죠
이를 장점으로 활용할 수 있습니다 시스템 프롬프트를 이용해
특정 방식으로 틀을 잡고 작업하는 거죠 인격에 의존하지 않고 훈련 데이터를 통해
인격을 익히는 거예요
그래서 변형 구성이 더 나은 출발점이 되는 상황도 있어요
제 직감으로는 기초가 더 나은 출발점입니다 훈련 데이터와 목표에
사용할 정해진 구조가 있으니까요
사실 둘 다 써봤는데 밑바탕이 개별 제품보다 조금 더 잘 나왔어요 하지만 막상막하였죠
어, 둘 다 해 보시고 저랑 같은 결과가 나오는지 확인해 보세요 Get up
하지만 이런 상황에서는 더 정상적일 것 같아요 하나의 특정 작업이 있는데
시스템 프롬프트를 적용할 필요가 없을 때요 그런 경우 기본 변종에서
시작하죠
소개를 마쳤으니 이제 안아주는 얼굴로 넘어가죠 오픈 leaderboard에서 모델들을 살펴볼게요
HOLO