다시 주피터 연구실입니다 프런티어 모델을 사용할 준비가 됐어요 전문 지식을
구축하는 곳으로 보고 싶네요
아주 자연스러울 거예요
늘 그렇듯 시스템 프롬프트와 모델을 어떻게 프롬프트할지 심사숙고하며 시작하죠
모델에게 하는 말은 목록에서 가장 자세한 5가지 항목을 골라 요약하라는
겁니다 가장 자세하고, 잘 묘사되고 가장 확실한 가격이 있는 걸 선택해서요
JSON에 대응하세요
가장 중요한 건 5건의 거래에 가장 자세한 제품 설명이 있는 거예요
조건은 중요하지 않아요
그리고 여기 JSON 구조도 배치해뒀어요
꼭 필요한 것은 아니라는 것을 말씀드리고 싶네요. 구조화된 출력물들을
사용할 것이기 때문입니다. 하지만 저는 이것을 또 다른 기회로 사용하고 싶습니다. 각각의 것에 대해 더 많은 방향을 제시할 수
있도록요.
실험해 볼 수 있는 거예요
엄밀히 말하면 JSON을 그렇게 지정할 필요는 없어요
그게 제 시스템 프롬프트예요
사용자 프롬프트는 이 목록에서 가장 유망한 거래 5건에 응답하라고 하죠
그걸 선택하는 거죠
어쩌고저쩌고 말이죠
읽어 보게 해 줄게요
하지만 이런 건 잘 아시죠
딜을 적고 나열한 다음 딜닷컴을 호출해요 각각에 대해서요
네
간단해요
사용자 프롬프트의 시작을 프린트하겠습니다 꽤 길군요
사용자 프롬프트의 처음 2천 글자를 프린트할게요
Get it 하면 감이 오죠
여기 있네요
한번 보죠
사용자 프롬프트 응답에 어쩌고저쩌고 라음이 있네요
그럼 이렇게 하죠
이게 설명이에요 설명 메서드 전에 봤던 설명 함수에서
가져온 거죠
본질적으로 GPT 4에 할당하는 작업은 이 목록의 거래를 파악하는 겁니다 목록에서 선택 선택하기
50개가 될 거예요
가장 명확한 묘사와 가격을 나타내는 5개를 고르세요
가장 명확한 방식으로 가격을 분석하세요
물론 그런 건 좀 모호한 문제라 생각을 해야 하죠
1, 2년 전이었다면 상상할 수 없을 정도로 힘들었을 거예요
어떻게 믿을만한 방법으로 할 수 있을까요? 엔지니어링 코드를 이용해서요
개척자 모델에 딱 맞는 문제입니다. 그런 미묘한 차이를 이해하고 어떤 것에 이르는 건 가격이라는
걸 깨달을 수 있으니까요. 하지만 어떤 것에 이르는 것과 무언가를 잃는 건 가격이 아니에요.
그런 논리는 정말 어려워요
하지만 개척자 모델은 그걸 아주 효과적으로 이해하고 이런 표정의
의미를 이해해서 지능적으로 결과물을 만들어내죠
이 프롬프트들을 기반으로 이렇게 말할 수 있죠 get 추천을 불러와
이제 다른 API를 보게 될 겁니다 구조화된 출력을 사용하고 있으니까요
추천서 get 완료 함수는 OpenAI예요
비트가 좀 다르죠?
적어도 지금 이 순간만큼은 오픈라이의 베타 제공이죠
하지만 곧 완전히 생산될 거예요
오픈나이 베타라고 하나요? 미국에선 베타죠
오픈아이 베타, 닷챗 닷 완성, 닷 파세예요
그렇게 부르는 게 맞겠죠 그리고 평소처럼 모델을 제공해요
이것은 GPT4와 미니, 프런티어 버전 2 GPT4가 지원하죠
늘 그렇듯 메시지는 그냥 말하지도 않을 거예요
잘 아시네요
말 안 해도 알잖아요
이게 차이점이에요
과거엔 이 응답 형식을 JSON이 돌아오길 요구하는 방법으로
사용했었죠
이번엔 JSON이라고 안 해요
우리가 하는 일은 거래 선택반이라는 반에서 통과시키는 거예요
방금 살펴본 클래스가 그거예요 스크래피 JSON을 했던 거죠
응답 포맷으로 그 클래스를 넘겨요
결과를 얻을 때 일반적인 API 호출을 하지 않아요
완료는 보통 0이라고 하죠 .Mession이요 그리고 content가 아니라 .파싱이라고 해요
응답을 취해 딜 선택 인스턴스로 구문 분석을 하죠
그렇게 돌아올 거예요
빌드 업을 한 후 반환하는 게 좋아요
코드를 실행해 어떻게 되는지 get get이 뭔지 보죠
GPT는 0으로 호출하고 미니도 GPT로 호출할게요
특정 구조의 출력 형식을 지정하고 있어요
돌아왔군요
어떤 유형이 돌아왔는지 프린트해 볼까요? 유형 결과요
어떤 객체가 돌아왔는지 보죠
에이전트가 거래 상대를 고르는 거예요
Get up! Get up! Get up! 바로 저런 게 우리가 되찾고 싶었던 객체죠
실제로 어떻게 생겼는지 보는 게 좋겠어요
세트로 만들 거예요
거래 선택에 한 가지 분야가 포함돼 있어요
기억하신다면요
거래는 우리가 정한 거예요
이렇게 하죠
그럼 거래를 얼마나 따냈는지 알아보죠
다섯 건의 거래를 성사시켰으면 좋겠어요
어디 보죠
정말 다섯 건의 거래를 성사시켰어요 Get it
그 거래 중 첫 번째를 인쇄하죠
그리고 탑클래스 스마트워치 삼성 갤럭시 워치 울트라를 구입했어요.
요약본을 준비해 봤어요
보다시피 아주 잘 되고 있어요
요약본처럼 보이네요 가격을 입력해서 가격을
추정할 때 사용할 수 있겠어요 GPT for 미니가 가격과 URL을 꺼냈네요
물론 그 URL을 클릭하면 그 거래가 열리죠
저기 있네요
좋아요
그래서 잘 되고 있어요
네
마지막으로 보여드릴 것은 스캐너 에이전트를 가져올 건데요
다시 한 번 해볼게요. 1-2분 정도 걸릴 것 같아요.
실행되는 동안 스캐너 에이전트가 뭔지 보여드릴게요
스캐너 에이전트는 여기 있어요
이건 코드 뭉치인데 전에 봤던 코드와 아주 비슷할 거예요
방금 작성한 건데 논평도 있고 구조도 더 나아져서 생산 품질로
평가할 수 있어요
보세요
하지만 방금 본 프롬프트가 있어요
우리가 살펴본 사용자 프롬프트가 있는데 5건의 거래로 응답하라고 하네요
그러면 init 메서드를 설정하고 OpenAI에 연결할 수 있죠
페치 거래는 방금 살펴본 방법인데 긁힌 거래 목록을 얻어요 긁힌 거래
페치라고 부르면 예상대로죠
여기서 하는 또 다른 일은 잠재적으로 메모리 객체를 갖는 겁니다 URL의
목록이죠 기억되는 건 이전 검색에서 이미 나타났어요
그래야 새로운 거래를 성사시킬 수 있어요 이미 검토한 거래가 아니라요
물론 메모리는 에이전트 프레임워크를 구축하는 한 측면인데 미래에
더 주목할 부분이죠
사용자 프롬프트를 만들고 나서 전에 했던 것과 같은 코드를 만들고요
스캔은 우리가 방금 본 바로 그 함수예요
사용자 프롬프트에서 OpenAI 베타.챗 .완료 .파스를 호출해요
모델을 통과시키죠
응답 형식이 딜 선택 클래스여야 한다고 지정합니다 그걸 반환할 것을
알고 결과로 구문 분석을 할 수 있도록요
Get it가 바로 여기죠
그때 가장 먼저 계약을 파기해요
가격이 0보다 크지 않으면 0달러짜리 거래를 반환하고 싶지 않아요
그 결과를 반환하죠
만약 거래를 못 따내면... 이미 모든 걸 드러냈을 수도 있으니까요 그럼 하나도 못
따내요
상단에 선택 사항이 있는 게 그걸 나타내죠
그게 수업 내용이에요
그럼 3일 차 얘기를 해 보죠
결과가 어떻게 나올지 봐야죠
제가 알고 있는 것 중 하나는 제가 이걸 할 때 눈치챘을
수도 있지만 저는 얘기하면서 생각을 하느라 바빴어요
모델에서 실수를 본 것 같아요 가격이 350달러라고 되어 있네요 삼성 갤럭시 워치와 관련해서요
하지만 이 웹사이트가 나왔을 때∙∙∙ 이걸 닫죠 트레이드 인과 함께 350까지 오퍼라고 돼 있어요
다른 장치가 있으면 350까지 저축할 수 있어요
프론티어 모델이 이런 걸 얼마나 잘하는지 보여드렸더니 모델이 실제로
저지른 실수의 예가 이런 겁니다 350달러라고 생각하는데 사실은 350달러나
싸요
내가 한 말 취소할게요
Get it은 사실 잘못됐어요
재미있을 거예요
그런 걸 배우고 목격해서 유용하죠
시스템 프롬프트에 추가해 성능을 향상시킬 수 있는지 볼게요
이제 그런 실수가 가능하다는 걸 알게 됐죠
그럼 슬라이드는 다음에 보도록 하죠