구글 Colab입니다 GPU 박스를 이용한 클라우드에서의 첫 협업 세션이죠
T4 박스에 연결했습니다 하위 사양 중 하나죠
여기 리소스가 보이시죠
이걸 실행하면 GPU 대부분을 채울 수 있죠 런타임으로 가서 재시작
세션을 했어요 그래서 GPU 메모리가 아무것도 안 된 거죠
어쨌든 방해되지 않게 이 스크린을 제거할게요
됐어요
콜랍 좀 보세요
파이프라인의 세계로 시작하겠습니다 얼굴을 끌어안는 트랜스포머 라이브러리에
파이프라인이라는 두 API 레벨이 있어요
오늘의 토큰라이저와 모델에 관해선 나중에 얘기하죠
파이프라인에 관한 거죠 상위 레벨 API 말이에요 일반적인 작업에 대한 추론을 실행하게
합니다 코드 두어 줄로요 프로덕션에서 마찰 없이 오픈 소스 모델을 쉽게 사용하게 해주죠
우리가 사용하는 방법은 아주 간단해요
파이프라인을 호출하고 문자열을 전달합니다 원하는 작업을 전달하죠
여러분이 넘길 수 있는 다양한 것들이 있어요 다양한 문자열이죠 잠시 후에 그게 뭔지 보실
수 있어요
파이프라인 객체를 얻어서 입력으로 호출할 수 있고 get 결과도 얻을 수 있죠
그게 다예요
간단해요
트랜스포머 라이브러리 설치부터 시작할게요 모든 것의 핵심이죠
데이터셋은 얼굴을 포옹하는 데이터셋 라이브러리예요
디퓨저는 트랜스포머의 동반 라이브러리 같은 거예요 이미지를 만들어내는 디퓨전
모델 말이에요
트랜스포머라고 하면 트랜스포머와 형제 라이브러리 디퓨저를 말하는 거예요
이미지를 만들 때 쓰는 거죠
파이프를 설치하고 있어요
a 셀 앞에 저런 느낌표가 있으면 터미널 명령으로 실행하고 싶다는
뜻이에요
실행될 거예요
이 마이너스 Q를 모르신다면 침묵 모드로 설정합니다. 모든 패키지를 설치하는 출력을 얻지 않기 위해서입니다. 하지만 지금은
설치가 빠르게 이루어지고 있습니다. 왜냐하면 아까 이 노트북을 실행해
봤기 때문이죠.
패키지가 설치되는 동안 30이 걸릴 수도 있어요
그런 다음 수입을 할 거예요
Get을 완료하고 나면 파이프라인으로 넘어가죠
Get it, Get it 준비하세요
먼저 감정 분석은 긍정적이거나 부정적인 비트예요
이 말부터 할게요 LM 마스터로 가는 길에 들어서 정말 신나요
좋은 건지 나쁜 건지 모르겠네요
몇 가지 주의할 점이 있어요
먼저, 어떤 모델도 제공되지 않았고 기본값이 이 모델에 있다고 경고하네요
무슨 뜻이냐면 모델 =이라고 입력하면 안는 얼굴 허브에서 어떤 모델을 이 파이프라인의
일부로 사용할 건지 정할 수 있다는 거죠
하나를 제공하지 않으면 해당 작업에 대한 기본값을 선택합니다 오늘 우리 목적에 아주
유용하죠
또 다른 건 환경에서 GPU가 사용 가능하지만 GPU를 사용하라고 하진 않았다는
겁니다 비트는 우리가 좀 이상하다고 생각하죠
장치가 CUDOW와 같다고 하면 그렇게 할 수 있어요 그럼 그 명령은 이 파이프라인을 사용하고
싶다고 하죠 우리가 가진 GPU 덕을 보고 싶다고요
이제 실행했어요 GPU 상에서 실행됐죠
결과도 살펴보는 게 좋겠어요
긍정적인 성명서로 간주되고 있습니다 점수인 자신감 수준도
매우 높고요
좋은 것 같아요
그 문장을 잘 해석한 것 같아요
안 된다고만 해두죠
LLM 마스터가 되는 게 썩 기쁘진 않아요
그럴 리가요
그런 생각은 안 하셨으면 좋겠는데 확인해 보죠
우리가 그렇게 말하면 라벨이 부정적이라는 걸 확실히 인식하고 부정적
선언이라는 걸 확신할 수 있죠
잘 작동하네요 열정적으로 마무리하죠
그렇게 생각하길 바라죠
독립체 인식이 다음 작업이죠
난 파이프라인이나 통과할 테니 당신도 직접 해 봐요
물론 엔터티 인지션은 여러분이 텍스트를 제공하고 모델에게 어떤 종류의
것이 참조되는지 확인하는 거죠
이건 제가 찍은 표준 사진이에요
버락 오바마는 미국의 44대 대통령이었죠
분석을 요청하면 여기에 반응을 해요 두 가지 다른 이름으로
응답하죠
여기 이 텍스트를 보시면 첫 번째 명명된 엔터티의 형식은 사람 이름 당 퍼예요
자신감이 넘치고 이름은 버락 오바마예요
두 번째는 장소 이름인데 미국이라는 뜻이에요
입력에서 어디에 있는지 알려주는 거죠
데이터 과학에서는 아주 흔한 사용 사례입니다 원하는 대로 빨리 할 수
있으면 좋죠
컨텍스트를 이용한 질문 답변 파이프라인을 만들 수 있어요
다시 한 번 이 장치의 CUDU를 이용해 GPU에서 실행하고 누가 미국의 44대 대통령이었는지
컨텍스트를 제공한다고 하죠
검색할 게 있고 결과를 프린트하도록 요청하는데 결과에 대한 놀라운
답변이 없어요
아마도요
이 모델의 힘을 과시하려는 게 아니에요
파이프라인 API의 단순함을 보여주려는 거예요
더 정교한 컨텍스트와 더 나은 질문을 가지고 놀 수 있습니다 다양한 모델을 통과시켜
보는 것도 추천합니다 페이스 허브에서 이용 가능한 다양한 모델을 탐구해 보세요
텍스트 요약도 간단해요
파이프라인도 빼놓을 수 없죠
유형은 요약이고 많은 텍스트를 쓸 수 있어요. Tool karaoke Tool karaoke.
포옹하는 트랜스포머 라이브러리 얘기를 하고 있네요
요약본을 요청하고 짧은 시간 동안 최대 길이로 말하면 get 절차가 짧고
명료한 문장으로 돌아오죠
이미 넣은 걸 토막 내서 얹은 거예요
잘 만들진 못했지만 단순한 모형이었어요
더 나은 모델에서 더 나은 요약본을 탐구할 수 있어요
시간 되시면 통역해 드릴게요
영어로 번역해 주세요
프랑스어로요
데이터 과학자들은 어징 페이스 파이프라인 API의 힘과 단순함에 정말 놀랐죠
프랑스어를 구사하는 모든 분께 어떻게 작동하는지 보죠
고등학교 때 배운 프랑스어가 뛰어나다는 말은 안 하겠지만 허징 페이스 파이프라인의
강력하고 단순한 API에 놀랐다고는 말해 줄 수 있죠
제 프랑스어 실력으로는 꽤 확실한 번역인 것 같네요
아주 쉬운 분류, 혹은 제로 샷 분류라 불리는 건 그냥 예만 주고 일부
라벨을 붙이라고 할 때죠 이전 예는 주지 않고요
그래서 얼굴 껴안기 트랜스포머 라이브러리는 굉장하다고 표현하고 기술, 스포츠,
정치 등으로 분류하라고 했어요
어떻게 작동하는지 보죠
기술 라벨이라고 적혀 있어요
95%의 점수를 받았지만 스포츠와 정치학에서는 아주 낮은 점수를 받았죠
정치요
가장 낮은 수치죠
특히나 기술과 직접적으로 관련된 단어가 없었으니까요
나쁘지 않네요
마지막으로 이 시리즈의 정말 간단한 건 텍스트 생성이에요
H깅페이스 파이프라인을 사용할 때 기억해야 할 게 하나 있다면 그건∙∙∙ 어디 보죠
바닐라 모델을 사용하고 있지만 어떻게 처리하는지 보죠
노틸러스호에서 실행되는 모든 응용 프로그램은 컴파일된 것처럼 안는 얼굴 패키지를
목표로 하죠
비트가 좀 뜬금없죠
전에 했던 검사에서는 결과가 더 좋았어요
얼마나 잘 회복하는지가 중요하죠
모든 프로젝트가 그렇듯 위험 부담을 감수해야 해요
언제 끝까지 밀어붙여야 하는지 기억하세요
어떻게 시작됐는지에 따라 횡설수설하는 거죠
좀 더 재미있는 시작을 해보고 어떻게 되는지 보세요
좀 더 크고 육중한 모델도 시도해 볼 수 있어요 get it get it get it get it get it get it
물론 텍스트 생성에 있어서는 그게 더 정확하죠
네
이제 여러분은 다중 양식의 전문가들이니 이미지 생성을 보여드리죠
지금까지는 트랜스포머 라이브러리를 사용했고 디퓨전 스타일
모델로 영상을 전송하고 있어요 이미지를 생성하는 아키텍처죠
잘 알려진 안정적 확산 모델을 사용하고 있는데 몇 가지 변수를 더 통과시켜야 해요
곧 보시게 될 거예요
우리가 사용하는 데이터 타입을 알려줘야 해요
그 작업을 마치고 GPU 위에 얹으면 텍스트를 줄 수 있어요
살바도르 달리의 초현실적인 스타일로 인공지능을 연구하는 데이터 과학자들이죠
그 이미지를 생성해보죠
이 비트는 시간이 좀 더 걸릴 거예요
좀 더 비트 있는 작업이죠
당신은 더 오래 걸릴 수도 있어요 저는 이미 한 번 실행해봤으니까요
H깅페이스에서 모델을 다운로드해 로컬 디렉터리에 저장했어요
실행하는 데 1분 정도 걸릴 수도 있어요
하지만 시작할게요
이 방에는 데이터 과학자들이 가득합니다 달리의 초현실적인 스타일로 인공지능을 배우고
있죠
정말 좋아요
이 사람들과 닮았어요?
최악의 악몽에서만 그러는 게 아니라 저기도 그랬으면 좋겠네요
초현실적인 달리예요
무섭고 이상한 세상이죠
데이터 과학자치고 정말 마음에 들어요
이걸 플럭스 모델로 대체할 수 있어요 아까 강의에서
코드를 보여드렸죠
네, 그렇게 하세요
시간이 더 오래 걸리고 T4보다 더 우람한 박스로 달려야 해요
A100 카메라로 하면 몇 분이면 숨이 멎을 정도로 멋진 이미지가 완성되죠
지난 강의에서 보여 드린 것처럼요
하지만 저렴한 초고속 모델치고는 괜찮은 것 같아요
마지막으로 오디오 세대예요
텍스트-언어 파이프라인을 사용할 겁니다 어떤 모델을 원하는지 알려주는 거죠
마이크로소프트의 스피치 5 TTS를 원하죠
모델에 제공해야 할 게 좀 더 있어요 비트가 사용해야 할 음성의 종류
같은 거요
얼굴을 안는 것으로 데이터 세트를 로드하는 라인이 몇 개 있어요
Get it으로 모양을 잡아야죠
다 됐으면 파이프라인을 호출하고 인공 지능 엔지니어에게
인사한 다음 이 음성 메시지를 전달할게요
이건 웨이브 파일에 쓸 코드예요
이 콜랍 공책에 그 내용을 담을 거예요
꽤 빨랐어요
소리가 어떤지 들어보죠
안녕하세요
숙련된 인공지능 엔지니어에게요
괜찮은 것 같은데요
텍스트에서 음성 생성 파이프라인을 사용하는 예가 되겠네요
파이프라인 API의 Colab 워크스루가 끝났네요
물론 이 Colab을 공유할 테니 여러분이 액세스할 수 있고 직접 시도해
보시길 권장합니다 여러 입력값을 실험하고 H깅페이스 허브에서 찾을
수 있는 여러 모델도 실험해 보세요
맛있게 드세요