지난주에는 코드를 60,000배나 빠르게 만드는 모델로 작업했는데 정말
굉장했죠
깊은 인상을 받았길 바라요 저도 그랬거든요 이번 주말에는
더 깊은 인상을 받길 바라요 제가 준비한 걸 보면요
걸레 회수 작업이군요
이미 가능한 증강세대 기술은 개척자 모델이나 얼굴 트랜스포머를 껴안는
코드였죠
프로젝트에 맞는 LLM을 선택하고 코드를 생성하는 솔루션을 빌드하세요
오늘은 걸레 회수 증강세대의 원대한 아이디어에 대해 배울 거예요
그 전에 Rag와의 상호 작용을 살펴볼 거예요 그리고 Rag에 숨은
작은 아이디어에 대해서도 얘기할 겁니다 사실 꽤 명백하죠
사실 이미 생각해 두셨을 수도 있죠
그런 다음 작은 아이디어를 이용해 래그의 장난감 버전을 구현할 거예요
어떻게 작동하는지 감이 잘 와요 Get it
다음 주 전에 진짜 일을 할 거예요
우선 누더기에 대한 직감부터 말씀드릴게요
모델에 보내는 정보인 프롬프트를 강화함으로써 모델의 성능을 강화할 수 있다는
건 이미 확인했죠
여러 가지 방법으로 그렇게 했어요
멀티샷 프롬프팅을 이용해 모델에 일련의 질문과 답을 예로 보냈는데요
도구를 사용해 LLM이 우리 코드로 다시 호출해 응답을 보충하거나 작업을 수행하는
데 사용되는 코드를 실행했어요
LLM에 보내는 것의 일부로 추가적인 컨텍스트를 제공하는 다른 방법도 있었습니다 시스템 프롬프트를
포함해서요
그래서 이 아이디어를 새로운 단계로 끌어올릴 수 있을지 고민했죠 프롬프트에 좀 더 구체적인 정보를
제공하면서요
현재 당면한 문제와 특히 관련이 있죠
그래서 때로는 정보 데이터베이스를 만들기도 합니다. 왜냐하면 이건 지식 데이터베이스니까요.
지식 기반으로 알려져 있죠. 지식 기반이요.
사용자가 질문을 할 때마다 그 지식 기반에서 먼저 살펴봅니다 우리가
빼낼 수 있는 관련 정보가 있는지요
있다면 프롬프트에 입력하면 됩니다 모델에 프롬프트로 전송되죠
그게 다예요
사실 아주 간단한 아이디어입니다 아마 여러분도 이미 생각해두셨겠죠
아까 연습할 때요
그럼 다이어그램에서 get 뒤에 있는 작은 아이디어를 보여드리죠 나중에 더 큰 아이디어로
갈 거라고 약속드립니다 덜 명확해지고 더 의미 있어지는 거죠
하지만 여기서 우리가 하려는 말은 사용자가 질문을 하는 것부터 시작하자는 거죠
코드로 오면 보통은 그걸 바로 LLM으로 보내죠
하지만 그 전에 기술 기반에서 관련 배경 정보가 있는지 쿼리를
해요
그런 경우 해당 정보를 추출해 프롬프트에 포함시키죠
LM을 보내면 당연히 응답이 돌아오죠 늘 그렇듯이요 하지만 이 추가 컨텍스트를
고려하면 좋겠네요
그게 사용자에게 돌아가는 거죠
랙에 담긴 아이디어는 그게 다예요
이제 작은 아이디어의 작은 예로 이걸 작동시켜 볼게요.
보험 기술 신생 기업에서 일한다고 가정해 보죠
가짜 기술 회사인 보험 신생 기업이 될 거예요 보험이란 단어가 인보어죠
LM을 한데 뭉쳐서요 그게 제 창의력의 한계죠
폴더 형태의 지식 기반은 회사의 공유 드라이브에서 가져온 거죠
공유 드라이브의 전체 콘텐츠죠 인공지능 지식 작업자를 만드는 게 우리 작업이에요
지식 노동자라는 표현은 때때로 회사에서 일하는 사람을
뜻하기도 합니다 전문가로서 회사의 정보를 분석하고 질문과 답을 수행하는 사람이죠
LLM으로 할 수 있는 거죠
지식 기반의 정보로 보충할 수 있어요
장난감 구현을 해볼게요 둔기요
기본적으로 이 파일들을 읽어볼 거예요 제품과 직원들
사전처럼 저장할 거예요
질문이 들어올 때마다 해당 단어나 직원의 이름이 질문 어딘가에
나오는지를 찾아보죠
만약 그렇다면 전체 직원 기록을 프롬프트에 밀어넣을 거예요
일종의 매뉴얼, 무식한 Rag 구현이죠 막후에서 어떻게 작동하는지
좋은 감각을 제공해요
마술이 없다는 걸 보여줄 거예요
모델의 성능을 즉시 향상시켜주죠
Get 절차가 끝나면 더 신나는 걸 할 거예요
하지만 지금은 주피터랩에 가서 직접 천을 만들어 보죠