2주 차, 4일째에 함께해 주셔서 감사해요
오늘 멋진 걸 많이 준비했어요
오늘도 레벨업의 날입니다 중요한 비즈니스 가치를 창출하는 Lms를 이용해 여러분의 역량을 향상하는
새로운 기술을 개발하는 날이죠
늘 그렇듯, 이미 할 수 있는 일을 간단히 요약해보죠 트랜스포머와 관련된 용어를 설명하세요
잘 아시네요
상위 3개 프런티어 모델을 위해 API를 자신 있게 코딩했고 최근에는 챗봇 비서를 제작했습니다
대화형 UI를 갖춘 인공지능 챗봇이죠
이제 OpenAI의 메시지 구조에 아주 익숙해졌죠 그래디오를 위한 채팅
함수가 어떻게 작동하는지도요
오늘은 도구에 대해 알아보죠
결국 정의도 할 수 있고 공통 유스케이스를 갖게 될 겁니다 도구를
사용하는 인공지능 보조도 코딩할 수 있고요
Get it, get it 해 보죠
그럼 도구가 뭘까요?
즉, 프런티어 모델은 외부 기능과 외부 기능성을 연결할 수 있죠
도구의 의미는 그보다 더 광범위해요
다른 것도 가능해요
하지만 보통 툴이라고 하면 외부 기능에 접근하는
개척자 모델을 뜻하죠
LLM의 지식을 확장함으로써 더 많은 회신이 가능하게 합니다 응용 프로그램 내에서 고급 액션을
수행할 수 있고 성능을 향상할 수도 있습니다 예를 들어 계산기를 제공할 수도 있죠
지난 시간에 말했듯이 아주 신비롭게 들릴 수도 있어요
어떻게 어떻게 된 거죠?
계산기 같은 걸 만들어 보죠 계산을 하는 함수요 일종의 파이썬
코드도 할 수 있는 함수요
그런 다음 그걸 LLM에 주고 이걸 사용하라고 하는 거죠
내 컴퓨터로 이 소프트웨어를 작동시켜요
신비롭게 들리네요
비트가 좀 으스스하네요
하지만 그렇지 않아요
별로 안 똑똑해요
워크플로우는 아주 간단해요
특종이에요
LM이 호출할 수 있는 사용 가능한 함수를 정의하는 것부터 시작하죠
이 함수들을 정의하죠
계산기가 있다고 가정해 보죠
계산기는 정의했어요
입력과 출력은 무엇인지 LM이 언제 사용해야 하는지도요
달 착륙선에 그 얘기를 하는 거죠
뭔가를 하려고 호출할 때 사용자에게 응답할 수 있는지 묻죠
이 도구에 엑세스할 수 있어요
LM이 응답할 때 프롬프트로 응답할 수도 있고 혹은 다른 것으로 응답할 수도
있습니다 응답을 생성해야 한다면 먼저 당신이 말한 도구를 실행하도록
요청해야 합니다 입력으로 실행하고 출력을 제공해야 하죠
그걸 가져가서 도구를 실행하고 LM에 응답을 다시 제공하면 LM은 응답을 생성하는
데 사용하죠
제 말을 이해하신다면 사실 그렇게 대단하진 않아요
LM을 호출하면 응답이 옵니다 당신이 갖고 있다고 한 도구를 호출해
주세요
그렇게 하면 LM에 다시 제공됩니다 그럼 더 풍부한 반응을 제공하죠
잘 따라오신다면 지난 랩에서 했던 것과 크게 다르지 않다는
걸 아실 겁니다 문자열을 찾아 프롬프트에 추가 컨텍스트를 삽입해 LM으로
간 거요 프롬프트에 추가 컨텍스트를 삽입하는 거죠
좋아요
어쨌든 헷갈리신 게 아니면 좋겠네요 코드를 보시면 다 이해될 거예요
약속드리죠
먼저 유스 케이스가 뭐죠?
보통 언제 이걸 하죠?
자주 보게 되는 게 네 가지 있어요
도구를 이용해 추가 데이터를 가져올 수도 있어요 데이터베이스에서 찾아보고 지식을 추가하는 것처럼요
지난 랩에서 벨트랑 했던 것과 비슷하다고 생각하실
수 있지만 대신 도구를 사용할 수 있어요
LM이 행동을 취하는 방법으로 사용할 수 있습니다 회의를 예약하는 것처럼요 그럼
액세스 권한의 일부로 말할 수 있죠
실제로 이런 물건을 운반할 능력이 있고 비행기 표를 사서 다음 일을
할 수 있어요
기본적으로 응답을 보면 사용하고 싶은 툴이 뭔지 알려줍니다 방금
언급한 것처럼요 사용 사례는 계산기예요
LMS는 계산에 약하기로 유명하죠 영어로 토큰을 예측하는 게 전부니까요
심층 신경망에 계산기가 내장돼 있지 않아요
하지만 도구로 제공할 수 있어요
보시다시피 GPT 4는 요즘 연산에 아주 능숙하죠
배후에서 일어나는 일이 이런 건 아닌지 궁금하네요 계산을
실행하기 위해 고유한 도구를 사용할 수 있는 거죠
추측일 수도 있지만 아주 합리적인 것 같아요
UI 수정도 할 수 있어요 여기 도구가 있다고 말할 수 있게요
사용자 인터페이스에서 다양한 걸 업데이트하는 함수를 사용할 수 있어요
LLM은 UI에서 변화를 촉발하는 직접적인 기능을 갖게 됩니다 LLM과 UI 사이에
더 탄탄한 통합을 갖는다는 건 멋진 아이디어죠
두 번째에 대해 짚고 넘어갈 게 하나 있어요 네 번째 것은 행동을 취하고 UI 수정하는
거죠 이걸 달성할 다른 방법이 있어요
그게 당신이 원하는 전부라면 더 간단한 방법이겠죠
전에 했던 걸 바탕으로 잠시 멈춰서 제가 뭘 하려는지
생각해 보세요
답은 이거죠 초기 실험 중 하나에서 JSON에서 모델이 구조적 응답으로 응답하게 한 거
기억하시죠? 그 응답은 JSON이 정보를 제공했고요
저희의 경우는 링크가 중요했어요 완전한 자격의 링크와 수집할 링크에 대한 정보를
더 많이 주는 거였죠
유사하게 모델에게 JSON에서 반응하도록 요청할 수도 있어요 회의를 예약하기 위해 어떤 행동을 취해야 하는지
또는 JSON에서 반응해야 하는지 사용자 인터페이스를 어떻게 수정하길 원하는지에 근거해서요
도구를 사용하는 것 외에 다른 방법도 있어요
하지만 스트리밍 백 텍스트 외에 도구를 제공하고 싶다면 이게 좋은 해결책이에요
그게 이걸 사용하기에 가장 좋은 때죠 LM이 작업하는 다른 여러 가지 작업과
함께요
이런 도구들이 기능에 추가되는 거죠
이제 할 일은 항공사 고객 지원 에이전트를 정보에 따라 만드는 거죠
우리가 파리로 간다고 말하고 파리행 비행기 표 가격으로 답장을
받아야 해요
그게 목적이죠
도구를 이용해 알아보겠습니다 실험실에서 방법을 알아보죠