LMS로 상업적 문제를 해결하는 전략을 계속하겠습니다 4단계를 거치죠 모델
최적화하기입니다 문제를 아주 잘 해결하기 위해서요
기존의 선구 모델이나 훈련된 모델을 넘어서서 더 많은
걸 끌어내는 거죠
세 가지 다른 접근법이 있는데 두 가지는 이미 사용했고 한 가지는 많이
사용했다는 프롬프트입니다 멀티샷 프롬프트, 여러 프롬프트가 있을 때 연결하기,
도구를 사용하는 것 등이죠
모두 더 나은 결과를 얻는 방법이죠. Get up!
여러분이 아주 잘 아는 랙도 있어요
자신의 삶을 위한 지식을 쌓을 수 있는 프로젝트를 만들었길 바라요
래그와 새로운 게 있어요 파인 튜닝인데 모델이 더 나아지도록 훈련하는
거예요
이 세 가지 기술이 필요해요
확실히 혼란스러운 상황이에요
Get in get 질문이 많아요
어떤 기술을 어떤 상황에서 쓸지 어떻게 결정하나요?
물론 모든 기술을 함께 사용할 수도 있지만 보통은 한 가지 기술에 집중하죠
적어도 처음에는요
첫 두 가지 기술은 시간을 추론하는 기술이에요
숙련된 모델을 취하고 추론 시간에 어떻게 즙을 더 얻을 수 있는지 알아내는 과정이죠.
세 번째는 훈련 시간과 기술이에요
미리 훈련된 모델을 가지고 더 많은 데이터를 공급하고
무게를 조정해서 문제를 더 잘 해결하자는 거죠
각각의 테크닉의 장점에 대해 아주 빠르게 말씀드릴게요 물론
아주 빠르죠
아주 빠르고 쉽게 다양한 프롬프트 전략을 쓸 수 있죠 도구는 예외지만 비트만 좀 더 복잡해요
그래도 감은 잡으셨죠
그걸 복제하면 돼요
쉽게 개선되는 지점에 도달할 수 있어요 신속하게 LLM에 메시지를 보내면서 점점 더 나은
결과를 내는 거죠 Get it
일반적으로 아주 빠른 직접적 향상을 볼 수 있죠
멀티샷 프롬프트 배경, 컨텍스트를 프롬프트 안에 추가하면 즉시 개선되죠
Get up
비용도 저렴하고요
즉, 입력을 하면 장점이 많아요
랙은 매우 정확하게 정보를 수집할 수 있습니다 LLM을 무장할
수 있는 아주 구체적인 정보를 캐낼 수 있죠
매우 확장 가능합니다 엄청난 양의 데이터가 쏟아져 들어올 수 있고 래그 파이프라인이 관련 컨텍스트를
제거할 수 있으니까요 모델에 점점 더 큰 프롬프트를 만드는 데 추가
돈을 쓰지 않아도 되죠
세 번째 요점과 연결됩니다 효율적이라는 거죠 그렇게 할 수 있으니까요
미세한 조율이죠
어떤 혜택이 있죠?
깊은 전문 지식과 전문 기술을 모델에 구축할 수 있게 해주죠
아주 미묘한 방식으로 뭔가를 하는 데 뛰어난 모델을 만들 수 있어요
추가적인 사실만 알려주는 게 아니에요
CEO 말인데요
대표 이름이 뭐였죠?
에이버리 랭커스터요
에이버리가 과거에 뭘 했는지 구체적인 사실만 알려주는 게 아니에요
시간이 지나면서 배우는 거예요
CEO들의 경력은 몰라요 인큐러 엘름 컴퍼니와 그 문화와 통신에
대해 배우는 거죠
더 깊은 통찰력을 얻어서 보여주는 데이터를 추론하는 인간 같은
능력을 보여줘요
모델의 능력과 기능을 바꾸는 훨씬 심오한 방법이죠 시간
추론 기술보다요
모델이 다른 스타일과 톤을 익히게 해주죠
물론 일부는 그냥 요청만 하면 할 수 있습니다 앞서 시스템 프롬프트를
추가하고 비꼬는 코믹한 스타일을 요청했을 때나 llms 배틀이 있었을 때 GPT 40이 상대였다면요
시스템 프롬프트와 함께 할 수 있어요
하지만 고객 서비스 전문가들의 스타일을 모방하는 아주
섬세한 톤의 모델을 원한다면 많은 데이터를 봐야겠죠
배울 점이 많아요
네 번째 요점은 이 기능은 훈련에 많은 투자가 필요하지만 일단 훈련이 끝나면
추론 시간에 실행할 수 있다는 거예요
랙 같은 건 필요 없어요
그러면 컨텍스트를 찾아서 더 이상 필요하지 않은 컨텍스트에서 제공해야 합니다
왜냐하면 모델의 무게에 이미 굽어 놓았기 때문이죠
더 빠르게요
단점은 뭐죠?
단점의 대부분은 장점을 따라가는 거죠
어, 프롬프트할 때 단점 중 하나는 전체 컨텍스트 창에 의해 제한된다는 거예요
물론 프롬프트에 밀어 넣는 것에는 한계가 있습니다. 다 사용한다고
해도, 제미니1-5 플래시처럼 메가 컨텍스트 윈도우를 가지고 있고 백만
토큰을 가지고 있다고 해도, 컨텍스트에 많은 양을 집어넣어도
결과물은 감소합니다. 추론 시간 동안 학습하는 양에 비해서요.
추론 자체가 느려지고 비용이 더 들죠
더 많은 맥락을 끌어당기죠
프롬프트 연결 같은 걸 작업하는 경우 큰 문제를 해결하기 위해 다수의
추론 호출을 할 경우 모든 게 느려지죠
단점을 없애고 짓는 게 더 어렵겠어요
벡터 데이터베이스가 필요해요
벡터 데이터베이스를 채워야 해요
그래서 필요한 게 최신 정보를 제공하고 유지해야 합니다 만약 에이버리 랭커스터가
CEO 자리에서 물러난다면 누더기에도 정확한 데이터가 반영되어야
하겠죠
뉘앙스가 부족해요
데이터 뒤에 숨겨진 더 깊은 의미를 알아내는 능력이 없어요
섬세 조율의 사실과 단점을 취할 뿐이죠
당연히 그렇겠죠
어렵네요
만들기가 더 어렵죠
아주 재미있을 거예요 땀도 많이 나겠지만요
쉽지 않을 거예요
데이터가 엄청 많이 필요해요
예시가 많이 필요하죠
어느 정도 전문화하고 싶은지 목표에 따라 달라요
일반적으로 보면 데이터 수요가 높을 것이고 훈련 비용이
들 거예요
자주 언급되는 단점이 하나 더 있어요 재앙적 망각이라고 하는데 아주
심각하게 들려요
치명적인 망각이란 미리 훈련된 라마 3 같은
모델을 말하는 거예요 Get 1 많은 양의 데이터로 미세 조정하면 여러분의 문제 해결에
점점 더 나아집니다 시간이 지나면 그렇게 되죠
훈련 시간이 지나면서 기본 모델의 기본 정보를 잊기 시작할 겁니다 그 결과 품질의 일부가
떨어질 수 있어요 여러분이 훈련하는 특정 종류의 질문을 벗어나면요
그런 행동이 눈에 띄었고 우려스러운 결과도 있었어요
기본 모델에서 어떤 정보도 잃지 않도록 해야만 한다면 그게 여러분의 성능에 영향을
미친다면 이걸 조심해야 해요
좋아요
마무리로 이 말만 할게요 보통 프롬프트할 때 프롬프트를 사용하는 시간은
프로젝트의 시작점으로 자주 사용돼요
종종 첫 번째 모델은 프런티어 모델일 수 있습니다. 프롬프트
기능을 추가하는 방법으로 사용할 수도 있습니다. 퍼포먼스 래그는 정확성이 필요한 특정한 경우에 사용하죠.
훈련에 추가 비용을 쓰고 싶지 않고 이미 존재하는 데이터 기반도 갖고 싶지 않죠
그럼 말이죠
그러면 래그 워크플로우에 완벽하게 적응하게 됩니다 미세 튜닝은 특별한 작업을 수행하는
것이고 데이터의 양이 매우 많기 때문에 최고의 성능이 필요하죠
뉘앙스도 있어야 하고요
물론 우리 제품 가격 예측기가 처한 상황이죠
데이터는 많아요
특별한 작업이 있어요
우리는 최고의 성능을 원하고 제품에 대한 미묘한 이해도 원합니다 그래서 훌륭한
제품 가격의 차이를 만들 수 있어야 하죠
여기서 잠시 멈추고 전략 섹션을 마무리하러 돌아오겠습니다 그 후에
데이터로 돌아가 큐레이션으로 가죠