WEBVTT 00:01.040 --> 00:04.340 2주 차, 4일째에 함께해 주셔서 감사해요 00:04.370 --> 00:06.920 오늘 멋진 걸 많이 준비했어요 00:06.920 --> 00:15.770 오늘도 레벨업의 날입니다 중요한 비즈니스 가치를 창출하는 Lms를 이용해 여러분의 역량을 향상하는 00:15.770 --> 00:19.490 새로운 기술을 개발하는 날이죠 00:19.940 --> 00:26.240 늘 그렇듯, 이미 할 수 있는 일을 간단히 요약해보죠 트랜스포머와 관련된 용어를 설명하세요 00:26.240 --> 00:27.290 잘 아시네요 00:27.290 --> 00:33.920 상위 3개 프런티어 모델을 위해 API를 자신 있게 코딩했고 최근에는 챗봇 비서를 제작했습니다 00:33.920 --> 00:37.670 대화형 UI를 갖춘 인공지능 챗봇이죠 00:37.670 --> 00:43.400 이제 OpenAI의 메시지 구조에 아주 익숙해졌죠 그래디오를 위한 채팅 00:43.400 --> 00:46.130 함수가 어떻게 작동하는지도요 00:46.310 --> 00:49.880 오늘은 도구에 대해 알아보죠 00:49.880 --> 00:54.080 결국 정의도 할 수 있고 공통 유스케이스를 갖게 될 겁니다 도구를 00:54.080 --> 00:57.650 사용하는 인공지능 보조도 코딩할 수 있고요 00:57.650 --> 00:58.910 Get it, get it 해 보죠 00:59.570 --> 01:02.420 그럼 도구가 뭘까요? 01:02.900 --> 01:11.780 즉, 프런티어 모델은 외부 기능과 외부 기능성을 연결할 수 있죠 01:11.810 --> 01:14.570 도구의 의미는 그보다 더 광범위해요 01:14.570 --> 01:15.650 다른 것도 가능해요 01:15.680 --> 01:21.110 하지만 보통 툴이라고 하면 외부 기능에 접근하는 01:21.140 --> 01:23.870 개척자 모델을 뜻하죠 01:23.870 --> 01:32.300 LLM의 지식을 확장함으로써 더 많은 회신이 가능하게 합니다 응용 프로그램 내에서 고급 액션을 01:32.330 --> 01:39.380 수행할 수 있고 성능을 향상할 수도 있습니다 예를 들어 계산기를 제공할 수도 있죠 01:39.530 --> 01:44.510 지난 시간에 말했듯이 아주 신비롭게 들릴 수도 있어요 01:44.510 --> 01:47.090 어떻게 어떻게 된 거죠? 01:47.090 --> 01:52.430 계산기 같은 걸 만들어 보죠 계산을 하는 함수요 일종의 파이썬 01:52.430 --> 01:54.860 코드도 할 수 있는 함수요 01:54.860 --> 01:59.960 그런 다음 그걸 LLM에 주고 이걸 사용하라고 하는 거죠 01:59.960 --> 02:03.140 내 컴퓨터로 이 소프트웨어를 작동시켜요 02:03.140 --> 02:05.210 신비롭게 들리네요 02:05.210 --> 02:06.860 비트가 좀 으스스하네요 02:06.920 --> 02:09.790 하지만 그렇지 않아요 02:09.790 --> 02:10.930 별로 안 똑똑해요 02:10.930 --> 02:13.840 워크플로우는 아주 간단해요 02:13.870 --> 02:15.130 특종이에요 02:15.130 --> 02:24.220 LM이 호출할 수 있는 사용 가능한 함수를 정의하는 것부터 시작하죠 02:24.220 --> 02:25.900 이 함수들을 정의하죠 02:25.900 --> 02:27.100 계산기가 있다고 가정해 보죠 02:27.100 --> 02:28.390 계산기는 정의했어요 02:28.390 --> 02:32.920 입력과 출력은 무엇인지 LM이 언제 사용해야 하는지도요 02:33.010 --> 02:36.550 달 착륙선에 그 얘기를 하는 거죠 02:36.550 --> 02:42.430 뭔가를 하려고 호출할 때 사용자에게 응답할 수 있는지 묻죠 02:42.430 --> 02:45.760 이 도구에 엑세스할 수 있어요 02:45.790 --> 02:51.970 LM이 응답할 때 프롬프트로 응답할 수도 있고 혹은 다른 것으로 응답할 수도 02:51.970 --> 02:57.490 있습니다 응답을 생성해야 한다면 먼저 당신이 말한 도구를 실행하도록 02:57.490 --> 03:03.310 요청해야 합니다 입력으로 실행하고 출력을 제공해야 하죠 03:03.310 --> 03:12.280 그걸 가져가서 도구를 실행하고 LM에 응답을 다시 제공하면 LM은 응답을 생성하는 03:12.280 --> 03:14.770 데 사용하죠 03:14.860 --> 03:20.140 제 말을 이해하신다면 사실 그렇게 대단하진 않아요 03:20.140 --> 03:24.850 LM을 호출하면 응답이 옵니다 당신이 갖고 있다고 한 도구를 호출해 03:24.850 --> 03:25.570 주세요 03:25.600 --> 03:31.630 그렇게 하면 LM에 다시 제공됩니다 그럼 더 풍부한 반응을 제공하죠 03:32.320 --> 03:38.620 잘 따라오신다면 지난 랩에서 했던 것과 크게 다르지 않다는 03:38.650 --> 03:45.970 걸 아실 겁니다 문자열을 찾아 프롬프트에 추가 컨텍스트를 삽입해 LM으로 03:45.970 --> 03:52.330 간 거요 프롬프트에 추가 컨텍스트를 삽입하는 거죠 03:52.360 --> 03:52.930 좋아요 03:52.960 --> 03:56.860 어쨌든 헷갈리신 게 아니면 좋겠네요 코드를 보시면 다 이해될 거예요 03:56.860 --> 03:57.820 약속드리죠 03:58.630 --> 04:00.550 먼저 유스 케이스가 뭐죠? 04:00.550 --> 04:02.500 보통 언제 이걸 하죠? 04:02.500 --> 04:07.150 자주 보게 되는 게 네 가지 있어요 04:07.330 --> 04:15.100 도구를 이용해 추가 데이터를 가져올 수도 있어요 데이터베이스에서 찾아보고 지식을 추가하는 것처럼요 04:15.100 --> 04:19.720 지난 랩에서 벨트랑 했던 것과 비슷하다고 생각하실 04:19.720 --> 04:23.800 수 있지만 대신 도구를 사용할 수 있어요 04:24.370 --> 04:30.940 LM이 행동을 취하는 방법으로 사용할 수 있습니다 회의를 예약하는 것처럼요 그럼 04:30.970 --> 04:34.120 액세스 권한의 일부로 말할 수 있죠 04:34.120 --> 04:40.240 실제로 이런 물건을 운반할 능력이 있고 비행기 표를 사서 다음 일을 04:40.240 --> 04:41.710 할 수 있어요 04:41.860 --> 04:47.050 기본적으로 응답을 보면 사용하고 싶은 툴이 뭔지 알려줍니다 방금 04:48.580 --> 04:51.880 언급한 것처럼요 사용 사례는 계산기예요 04:51.880 --> 04:59.530 LMS는 계산에 약하기로 유명하죠 영어로 토큰을 예측하는 게 전부니까요 04:59.530 --> 05:04.360 심층 신경망에 계산기가 내장돼 있지 않아요 05:04.360 --> 05:07.090 하지만 도구로 제공할 수 있어요 05:07.270 --> 05:13.240 보시다시피 GPT 4는 요즘 연산에 아주 능숙하죠 05:13.240 --> 05:17.800 배후에서 일어나는 일이 이런 건 아닌지 궁금하네요 계산을 05:17.800 --> 05:22.020 실행하기 위해 고유한 도구를 사용할 수 있는 거죠 05:22.020 --> 05:26.010 추측일 수도 있지만 아주 합리적인 것 같아요 05:27.090 --> 05:34.260 UI 수정도 할 수 있어요 여기 도구가 있다고 말할 수 있게요 05:34.260 --> 05:39.390 사용자 인터페이스에서 다양한 걸 업데이트하는 함수를 사용할 수 있어요 05:39.390 --> 05:46.980 LLM은 UI에서 변화를 촉발하는 직접적인 기능을 갖게 됩니다 LLM과 UI 사이에 05:46.980 --> 05:51.600 더 탄탄한 통합을 갖는다는 건 멋진 아이디어죠 05:52.740 --> 06:00.090 두 번째에 대해 짚고 넘어갈 게 하나 있어요 네 번째 것은 행동을 취하고 UI 수정하는 06:00.090 --> 06:03.660 거죠 이걸 달성할 다른 방법이 있어요 06:03.660 --> 06:09.090 그게 당신이 원하는 전부라면 더 간단한 방법이겠죠 06:09.210 --> 06:14.460 전에 했던 걸 바탕으로 잠시 멈춰서 제가 뭘 하려는지 06:14.490 --> 06:16.470 생각해 보세요 06:17.070 --> 06:24.740 답은 이거죠 초기 실험 중 하나에서 JSON에서 모델이 구조적 응답으로 응답하게 한 거 06:24.740 --> 06:29.900 기억하시죠? 그 응답은 JSON이 정보를 제공했고요 06:29.900 --> 06:35.180 저희의 경우는 링크가 중요했어요 완전한 자격의 링크와 수집할 링크에 대한 정보를 06:35.180 --> 06:36.440 더 많이 주는 거였죠 06:36.470 --> 06:41.900 유사하게 모델에게 JSON에서 반응하도록 요청할 수도 있어요 회의를 예약하기 위해 어떤 행동을 취해야 하는지 06:41.900 --> 06:46.790 또는 JSON에서 반응해야 하는지 사용자 인터페이스를 어떻게 수정하길 원하는지에 근거해서요 06:46.790 --> 06:50.690 도구를 사용하는 것 외에 다른 방법도 있어요 06:50.690 --> 06:55.970 하지만 스트리밍 백 텍스트 외에 도구를 제공하고 싶다면 이게 좋은 해결책이에요 06:55.970 --> 07:00.740 그게 이걸 사용하기에 가장 좋은 때죠 LM이 작업하는 다른 여러 가지 작업과 07:00.740 --> 07:01.730 함께요 07:01.730 --> 07:05.600 이런 도구들이 기능에 추가되는 거죠 07:06.800 --> 07:13.250 이제 할 일은 항공사 고객 지원 에이전트를 정보에 따라 만드는 거죠 07:13.250 --> 07:19.190 우리가 파리로 간다고 말하고 파리행 비행기 표 가격으로 답장을 07:19.190 --> 07:21.170 받아야 해요 07:21.170 --> 07:22.310 그게 목적이죠 07:22.310 --> 07:26.960 도구를 이용해 알아보겠습니다 실험실에서 방법을 알아보죠