첫 번째 달 착륙선 실험이에요
이 중 일부는 이미 잘 알고 계실 거예요
어떤 사람들에겐 생소하겠지만 제가 설명해 드리죠
우리가 사용할 모델이죠
개척 시대 모델들은 특정한 방식으로 훈련받았죠
사용자가 두 가지 다른 종류의 지시를 내리길 기대한다는 뜻이죠
그 중 하나는 시스템 프롬프트고 다른 하나는 사용자 프롬프트죠
이 대화의 맥락을 설명하는 시스템 프롬프트예요
어떤 작업을 수행하고 어떤 톤을 사용해야 하는지 알려줍니다 또한 시스템 프롬프트를
변경하는 게 무슨 의미인지 실험할 겁니다 그리고 이 과정 내내 시스템 프롬프트에
어떤 정보를 포함할 수 있는지도요
사용자 프롬프트는 실제 대화 그 자체예요
지금 우리 경우엔 대화의 시작에 불과해요
큰 언어 모델에서 LM의 역할은 이 사용자 프롬프트에 따라 가장 잘 반응해야
하는 방법을 알아내는 거죠
이 사용자 프롬프트가 주어졌을 때 시스템 프롬프트의 맥락에서 가장 다음에 나올 가능성이 높은
텍스트는 무엇일까요?
비서가 사용자에게 응답하는 거죠
이게 컨텍스트를 설정하는 시스템 프롬프트와 대화를 시작하는 사용자
프롬프트의 차이예요
시스템 프롬프트를 설정할게요
이렇게 말할 거예요
웹사이트의 내용을 분석하고 탐색과 관련된 문자를 무시하며
요약하는 보조라고 할 거예요
가격 조정으로 응답하세요
그게 무슨 뜻인지 곧 알게 되실 거예요
이게 사용자 프롬프트 시스템 프롬프트예요
이건 사용자 프롬프트 함수를 작성하는 것으로 받아들이죠
함수에 대한 인수로 웹사이트를 취할 거예요
더 웹 사이트라는 웹사이트를 보고 있다고 하네요
웹사이트의 내용은 다음과 같아요
뉴스나 공지가 포함된 사이트라면 마크다운된 사이트를 짧게 요약해 주세요
이 둘을 요약하고 나서 웹사이트 객체에서 텍스트를 가져옵니다. 아름다운쏘프가
뽑아낸 것이죠. 사용자 프롬프트에 추가하고 반환해요.
그럼 빨리 셀을 실행해 보죠 지금 살펴보죠
그 다음에는 시스템 프롬프트가 무엇인지 보죠
방금 말씀드린 텍스트가 있죠
아까 새 웹사이트 객체를 생성해 이 변수 편집기에 저장했던 걸 기억하시나요?
이렇게 하면 사용자 프롬프트 for를 하고 객체 Ed를 전달할 수 있죠
Get 프롬프트가 나오죠
이걸 프린트해서 빈 선으로 프린트하는 게 더 쉬울 것 같아요
여기 우리가 만든 사용자 프롬프트 문자열이 있네요
웹사이트 이름이 어쩌고저쩌고라고 나오네요
웹사이트의 내용은 다음과 같아요
간단히 요약해 주세요
여기에 공간을 만들어야 할 것 같아요 안 그러면 헷갈릴 거예요
다시 해 보죠
그래서 작업을 하면서 인쇄할 가치가 있는 거죠 그런 모순을 발견할 수
있으니까요
지금 보니까 더 좋을 것 같아요
마차가 그렇게 돌아오면요
이 프롬프트를 보죠
이제 웹사이트를 보면 별도의 라인이 있는데 괜찮아 보이네요
메시지 객체에 대해 얘기해보죠
오픈AI는 특정한 형식의 대화를 기대하죠
오픈AI가 개발한 포맷으로 API에 사용되었는데 너무 잘 사용되어서
다른 주요 프론티어 모델들도 같은 방식을 채택하기로 했죠
API 사용에 대한 오픈AI의 방식에서 이 접근법을 사용하는 많은 다양한
모델에 걸친 표준으로 바뀌었어요
이렇게 하는 거예요
대화를 설명하려고 할 때 파이썬 리스트를 이용해 설명하죠 사전 리스트요
목록의 각 요소가 사전인 목록이죠
그 사전은 이렇게 생겼어요
두 가지 원소가 있는 사전이에요
그 중 하나는 역할의 키를 갖고 있는데 여기 값은 시스템이나 사용자, 역할의 키죠
그 가치는 시스템 a 콘텐츠 키죠
물론 가치는 시스템 메시지죠
역할의 핵심인 사전이 또 있어요
값은 사용자입니다 사용자 메시지니까요
사용자 프롬프트 콘텐츠는 사용자 메시지가 가는 곳이죠
사용자 메시지와 프롬프트는 같은 거예요
설명이 부족했다면 몰라도 이렇게 시각적으로 보면 이해가 돼요
역할과 콘텐츠, 시스템과 시스템 메시지와 사용자 메시지가 있는 사전이죠
다른 역할도 있지만 때가 되면 보여드릴게요. Get it.
지금은 이거면 돼요
이렇게 메시지가 구축되죠
다음 함수 데프 메시지를 보면 이게 생성되고 있다는 게 아주 명확했으면 좋겠네요
이건 코드를 이용해 정확히 이걸 만들고 있어요
이제 입력할 것은 우리가 생각해낸 제네릭 시스템 프롬프트예요
웹사이트의 사용자 프롬프트를 생성할 거예요
실행해 보죠
제 웹사이트의 객체인 Ed를 위한 메시지라고 하면 빈 줄 같은
게 보이도록 프린트하죠
사실, 죄송해요, 이 경우엔 프린트 안 하는 게 낫겠어요
비트를 이렇게 하면 더 명확해 보일 거예요
됐어요
이제 두 가지 목록이 보이시죠 역할 시스템이요
시스템 메시지 역할 유저가 있어요
사용자 메시지가 있네요
네
이제 하나로 합쳐야죠
이제 실제로 할 때예요
OpenAI의 API는 프론티어 모델에 호출하는 데 아주 간단합니다 이 API를
늘 사용할 거예요
지금은 기억해야 할 게 몇 가지 있는 것처럼 보일 수 있죠
익숙해지실 거예요 get Marize라는 함수를 만들 거예요
그럼 우리 문제를 해결하고 통과한 URL 요약을 하게
되죠
URL 웹사이트를 먼저 생성합니다 편집기에서 했던 것처럼요
여기가 오픈아이라고 부르는 곳이에요
오픈AI라고 하죠 오픈AI 객체예요
OpenAI.챗, .완성, .Create를 만들었어요
지금은 기계로 익히면 돼요
나중에 더 자세히 알게 될 거예요
하지만 오픈AI에 관한 한 이건 완성 API로 알려져 있습니다 이 대화를 완료하도록
요청하고 다음에 뭐가 나올지 예측하도록 요청하고 있으니까요
사용할 모델의 이름을 전달하죠
GPT for 미니라는 모델을 사용할 건데 여러분이 아주 익숙해지실 거예요
GPT 4의 가볍고 저렴한 버전입니다 GPT 4는 지구에서 가장 좋은 모델로 사용
비용도 1센트도 들지 않죠
이건 모델을 통과시키고 메시지를 통과시키는데 우리가 통과시킨
메시지는 방금 만든 이 구조를 사용하면 돼요
Get in get은 객체 응답이에요
응답을 받으면 응답은 .선택 .0,Message.content라고 하죠
이제 이게 뭔지 설명할게요 알 필요 없는 또 다른 하루
지금은요
우리가 해야 할 건 응답 .선택 .0,Message.content예요
그렇게 될 거예요
이게 요약 함수예요
그것과 함께 실행 중인 제 웹사이트를 요약해보죠
클라우드에서 오픈AI에 연결되고 있어요
전화를 걸고 돌아오죠
제 웹사이트의 요약본이에요
저희는 그냥 아주 적은 돈을 들여서 제 웹사이트를 요약해 봤어요
좀 더 나은 게 있어요 멋진 스타일로 비트를 출력할 수 있거든요
GPT4에 마크다운으로 응답하라고 요청했는데 다양한
캐릭터와 제목 등 굵은 글씨로 응답했다는 뜻이죠
주피터 랩의 기능을 사용할 수 있습니다 멋진 마크다운 포맷으로 보여드리기 위해 요청할
수 있죠
그렇게 하죠
디스플레이 요약 함수를 이용해 다시 해보죠
클라우드에서 미니를 위해 GPT로 갈 거예요
제 웹사이트의 요약이에요
저에 대해 뭔가 말하는 것 같아요
아주 멋진 형식이고 구조가 잘 짜여 있어요
정말 인상적이에요
보아하니 LMS 독점 작업을 강조하는군요 인공지능 및 LMS와 관련된 리소스를 제공하며
이 분야의 진보된 지식을 위한 그의 노력을 보여주죠
잘했어요, 미니 GPT
요약 잘하시네요
네
이제 다른 웹사이트도 살펴보죠
cnn을 요약해 보죠 코무요
어떻게 될지 두고 보죠
CNN이 훨씬 더 큰 결과를 가져왔죠
Get it, get it, get it it it, it
지금 이걸 녹화하는 건 11월 5일 저녁이에요 2024년 선거일인데
지금 진행 중이죠
CNN 웹페이지에도 그 내용이 실렸어요
클로드의 웹사이트인 안드로픽도 요약할 수 있어요
페이지도 좋고요
여기 있어요
웹 페이지의 요약본에서 더 자세히 읽어보세요
좋아요
첫 번째 즉각적인 만족감을 맛보았네요
육즙이 풍부해요
뭔가 유용한 일을 한 거죠
거미줄을 긁어냈어요
가장 흔한 인공지능 사용 사례를 요약해 봤는데요
너무 흔해서 여러 용도로 쓸 수 있죠
이번 과정 동안 몇 가지 다른 방법을 사용할 겁니다 8주 차에도요 요약을 하는
걸 이용한 끈적한 솔루션이 있죠
이미 실험해 본 거라서 정말 좋아요
요약의 비즈니스 응용 프로그램이 아주 많아요
이건 좋은 일에 쓸 수 있어야 해요 Put it up Put it up Put it up Put it up Put it up Put it up Put it up Put it
이걸 당장 직장에 적용할 방법을 생각해내거나 요약하는 걸 보여주는
예시 프로젝트를 깃허브에 만들 수 있어야 해요
뉴스 요약, 재무 성과 요약 재무 보고서, 이력서 자기소개서에
적용할 수 있죠
이력서를 가져가서 자기소개서를 작성할 수 있죠
문서 요약으로 할 수 있는 게 정말 많아요
거기에 거미줄 각도를 긁어내는 것도 추가했죠
요약법을 여러분 비즈니스에 어떻게 적용할지 생각해 보세요 이걸 요약법으로
확장해 보세요
기술적으로 좀 더 관련이 있는 분들을 위해 이걸 사용하실 때 여러분이 빠르게
발견하실 것 중 하나는 이런 접근법으로 요약할 수 없는 많은 웹사이트들이 있다는
겁니다 왜냐하면 웹 페이지를 렌더링하기 위해 자바스크립트를 사용하기 때문이죠 좀 단순해요
접근 방식이 서버 호출을 요청해 get을 받는 거죠
하지만 해결책이 있죠
해결책은 셀레늄 같은 플랫폼을 사용하는 거예요 페이지를
렌더링할 수 있게 해주죠
기술적으로 뛰어나고 그런 경험이 있다면 흥미로운 도전은
이걸 좀 더 우람하게 만드는 거예요 비트에 셀레늄을 넣고요
공교롭게도 누가 벌써 했어요
학생 한 명요, 고마워요
이 커뮤니티 기부 폴더를 살펴보면 몇 가지 다른 솔루션을 볼 수 있어요
그중 하나가 셀레늄 기반 용액이에요
언제든 들어가서 직접 볼 수 있어요
당신도 할 수 있어요
거기서 해결책을 찾을 수 있어요
그것이나 다른 것에 대한 해결책을 생각해내신다면 기꺼이 코드를 공유해주시면 감사하겠습니다
다른 이들도 혜택을 받을 수 있도록요
이상적으로는 커뮤니티 기부 폴더에 넣고 OUTPUT를 확실히 지우세요
커널 재시작 커널로 가서 모든 셀의 출력을 비우세요
그렇지 않으면 결과물에 있는 모든 것이 코드 안에서 체크인 될 겁니다 비트가
좀 어수선해지겠죠
그럼 그렇게 하세요
PR, pull request를 제출할 수 있다면 코드에 병합할 수 있어요
비트 박스가 처음이라면 좀 복잡할 거예요
그걸 성공시키기 위해 정확히 뭘 해야 하는지 여기 적혀 있어요
어쨌든 이게 첫 프로젝트였어요
단순하지만 중요한 프로젝트예요
아주 중요한 기업용 유스케이스가 있어요
보람이 있었길 바라요
그럼 저희는 마무리하고 다음 영상에서 뵐게요
첫째 주에요
첫날이에요