이런 멋진 비즈니스 결과를 얻고 LLM을 두 번 호출하는 것에 대해 아주 만족스러우시길 바랍니다
스트리밍이라는 걸 추가함으로써 이 결과를 좀 더 만족스럽게 만들 수 있어요 아주
흔한 거죠 채팅에서 경험한 이런 도구에서 볼 수 있습니다 사용자 인터페이스와
스트리밍 채팅에서 정보가 LLM에서 다시 흘러와 타자기 스타일 인터페이스로 나타날
때죠
그 방법은 놀랍도록 간단해요
오픈AI 채팅 완료를 위한 호출을 만들 때 생성할 때 한 번에 다 받고 싶진 않지만 다시
흘러가길 원한다면 다른 매개 변수 스트림을 참으로
넘기면 되죠
클로드를 사용할 때 API가 약간 다른 걸 알게 될 겁니다 하지만 GPT와
클로드가 약간 다른 건 드문 경우죠
GPT 스트리밍 = True에선 이렇게 하는 거예요
그게 무슨 뜻이죠?
스트림으로 돌아온 것은 더 이상 단일 텍스트 응답이 아니라 반복할
수 있는 것을 얻게 됩니다 반복을 하면 각 응답 덩어리가 나타납니다
스트림 프린트 덩어리를 선택하는 거죠
우리 경우엔 그것보다 좀 더 영리해야 해요 왜냐하면 마크다운 비트로 이걸
보여주니까요
사실 좀 성가신 일이에요 마크다운이란 마크다운 캐릭터를 스트림으로
만들 때 그걸 화면에 포함시켜야 하거든요
여기 호키 코드가 좀 있네요 각 비트에 대해 전체 마크다운 버전을 다시 써야 한다는 사실을
처리하기 위해서요 여러분이 살펴볼 수 있게요
기본적으로는 모든 것에 대한 대응을 위한 트랙을 유지해요 모든 덩크가
누적된 트랙을 만드는 거죠
그래서 저는 답변을 받을 때마다 그 부분을 포함해요
실제로 마크다운이라는 단어가 있으면 그 단어는 반응에서 제거해요
마지막으로 전체 디스플레이를 업데이트해 보여드릴게요
비트 코드는 좀 복잡해요
그냥 글만 쓰면 이런 건 필요 없잖아요
이렇게 해야 하는 이유는 멋지게 줄이는 방식으로 보여주고 싶어서예요
무슨 뜻인지 보여 드릴게요
이걸 anthropic에서 반복하면 1분 기다려야 합니다 링크를 먼저
찾고 이 페이지들을 다 얻을 때까지요 이제 됐네요
보세요
익숙한 스트리밍 인터페이스죠 다 됐어요
마크다운이 되어 있어서 링크 같은 것도 get이 된다는 게 좋아요
제가 말하던 걸 보여드릴게요
마크다운에서 디스플레이하는 걸 원치 않는 경우 더 간단한
방법은 스트림에서의 청크를 위한 것 같은 걸 하는 거죠
한 덩어리 인쇄해요
그런 다음 end = 같은 걸 해야 합니다 매번 새 줄을 프린트하는 걸 멈추도록요
제 생각엔 이게∙∙∙ 작동하는지 보죠
이건 그냥 일련의 텍스트 조각으로 프린트할 거예요 마크다운 포맷이 안 나오게요
Get up
그건 안 돼요
미안해요
이건 당연히 청크죠
그냥 이렇게 다 얹는 게 낫겠어요
안 그러면 물체가 뒤로 흐르거든요
제가 이러는 걸 보고 바보라고 생각하셨겠죠
실시간이란 걸 보여주죠
네, 다시 해 보죠
Get it, get it, get it, get it, it, it, it! 이제 더 좋은 결과가 나오는지 보죠
여기에 입력하면∙∙∙ print 문을요
이렇게요
다시 보게 될 거예요
여기요
다시 돌아오죠
아주 간단해요
서식이 별로일 뿐이죠
하지만 코드는 이렇게 하면 정말 간단해요
결과를 스트리밍하는 데 필요한 모든 코드예요
스트리밍 = true를 설정하면 그 방법으로 반복되죠
이제 저걸 제거하고 주석을 제거하겠습니다 여러분이 모르신다면 command와 나눗셈 기호 혹은 Windows에서
Windows 키와 나눗셈 기호는 코드 블록의 주석을 제거하거나 주석을 제거하는
것이죠
유용한 지름길이죠 이걸 다시 실행해 근사한 서식이 있는
athropic을 한 번 더 보죠
연결 고리를 찾죠
또 나오네요
물론 매번 다른 브로슈어가 있어요
이번엔 그렇게 됐네요
이제 다른 회사를 알아보죠
인공지능 엔지니어를 위한 유비쿼털 오픈 소스 플랫폼을 안아보죠
get get 해 볼게요
Get it 링크도 있네요
이제 안아주는 얼굴 책자가 나오네요
특전이죠
Get it 연락 주세요
그리고요
함께 인공지능의 미래를 만들어 나가요
아주 좋아요
좋아요, 더 재미있게 한 가지 더 해보죠
시스템 프롬프트를 생성했던 곳으로 돌아가보죠
어디서요?
저 뒤쪽에서요
시스템 프롬프트예요
시스템 프롬프트의 특징 중 하나는 완료될 작업을 설명하는
곳일 뿐 아니라 톤과 문자에도 대해 얘기합니다 LLM이 콘텐츠를 생성할 때 채택해야
하는 거죠
이걸 주석 처리하고 변형을 해제하죠
이 변형에는 그런 게 포함되죠
짧고, 유머러스하고, 재미있고, 농담조의 브로슈어여야 해요 그 코드를 실행하죠
여기서 아주 노골적으로 사용하기 때문에 System 프롬프트는 다른 곳에서도 언급하는 전역 변수
같아요
이걸 재실행할 필요는 없어요 하드코딩이 돼 있으니까요
여기까지 와서 이걸 그냥 재실행하면 되죠
제 생각이 맞는다면 이제 아주 유쾌하고 재미있는 장면이 나올 거예요 get it get it
안전망이 있는 안드로픽에 잘 오셨어요
앤스로픽에서는 여러분이 믿을 수 있는 인공지능 시스템을 개발합니다 모닝커피보다
더 신뢰할 수 있고 고양이 감정의 변화보다 이해하기 쉽도록요
샌프란시스코의 햇살 나라에서는 인공지능을 적이 아닌 친구로 만들려 하죠
즉각적으로 시스템을 약간 변경했을 뿐인데 이렇게 완전히 다른
회사 브로슈어를 만들 수 있다니 정말 놀라워요
정말 놀라운 일이에요
주석 제거∙∙∙ 주석을 달겠습니다 여러분이 혼란스러워하지 않도록요
이 기회에 이 말을 하고 싶네요 이 실험을 통해 여러분이 깊이 이해할 수 있는 기회가
될 겁니다 어떤 작품이 탄생하든 프롬프트를 통해 개성에 영향을 준다는 게 어떤
의미인지 말이죠
한 단계 더 나아갈 수 있게요
비꼬는 내용으로 책자를 만들어 봐요
스페인어로 책자를 만들어요
다른 언어로 번역할 수 있는 것도 추가해 주세요
다양한 걸 시도해 보는 거죠
이건 아주 중요한 부분이에요 어떻게 프롬프트해서 결과에 영향을 주는지를 학습하는 데 있어서요
Get up
좋아요, 운동 얘기를 너무 많이 하기 전에 그만 끝내죠
오늘 우리가 한 건 첫날에 한 걸 확장했어요 웹 사이트를 요약하기 위해 LM 호출을
하나 하는 대신 LM 1에 두 번 호출해 관련 링크를 수집하고 그 모든
데이터 긁어모음에서 하나 회사 브로슈어를 구축했죠
말씀드렸듯이 이건 거대한 인공지능의 장난감 버전과 같습니다 작은 방식으로요
큰 문제를 작은 단계로 나누고 있으니까요
하지만 여러분께 강조하고 싶은 건 이건 많은 종류의 비즈니스 문제에도 적용 가능하다는
겁니다 이런 종류의 정보를 통합하고 그 결과로 생성하는 거죠
이렇게 제품을 생산하기 위한 마케팅 콘텐츠를 작성할 수 있어요
개인 맞춤형 이메일 콘텐츠를 만드는 튜토리얼 같은 거예요
이메일을 많이 읽으면서요
방법은 아주 많아요 이런 2단계는 데이터를 합성하고 JSON에서 요약하는
거죠 일종의 출력을 구축하는 방법으로 사용해요
다양한 응용 프로그램이 있죠
여러분이 매일 하는 일에 이걸 적용할 방법을 찾아보세요
흥미로운 상업적 각도예요
여러분이 가장 큰 영역 지식을 가진 자신의 전문 분야를 생각할 수 있는
그런 거요
새로 얻은 기술을 어떻게 좋은 일에 쓸 건가요? TUZ
그러니 생각해 보세요
언제든 제 아이디어를 듣고 예를 들어서 깃허브에 올려 보세요
정보를 합성하고 콘텐츠를 생성하기 위해 llms에 다중 호출을 사용하는 좋은 예가
있어요
그럼 다음 영상에서 만나요