자랑하고 싶진 않지만 이번 주 프로젝트는 정말
잘 해낸 것 같아요 정말 즐거웠어요
지금은 잘 굴러가요 정말 좋네요
정말 마음에 들어요 빨리 들어가서 보여드리고 싶네요 Get it
늘 그렇듯 소개부터 시작하죠
아주 빨리 코드로 가보겠습니다 지금은 get it에 있으니까요
거대한 I로 깊이 들어갈 거예요
화제의 중심이죠
Get it은 요즘 모두가 질리지 않는 거죠
그러니 깊이 파고들 가치가 있죠 LMS의 다양한 구성 요소에 대해
더 많이 배울 기회로 사용합니다 지난 7주 반 동안 이미 작업해온 것들이죠
오늘 우리가 할 것은 에이전틱 워크플로, 에이전트 프레임워크 그리고 에이전트
프레임워크를 구축하는 거예요
오늘 그걸 할 겁니다 푸시 알림을 보낼 수 있는 거죠 RSS 피드를 보고 찾은 훌륭한
서비스에 대한 정보와 함께요
모든 조각을 하나로 합치는 거죠
그 전에 간단히 얘길 좀 하죠 에이전트 인공지능과 에이전트 워크플로가
정확히 뭐죠?
진실한 대답은 이 용어가 모호하다는 겁니다 지금도 여러 집단이
남용하고 있죠
여러 가지 의미로 쓰이죠
하지만 한 걸음 물러나서 지난 주에도 잠깐 언급했지만 한 걸음
물러나서 생각해 보면 에이전트 인공지능의 주요 특징인 특징들을 이 5가지
요소로 구성할 수 있어요
어떤 사람들은 더 많다고 하고 어떤 사람들은 less라고
하죠
하지만 이 다섯 가지가 가장 중요하다고 생각해요
에이전트 솔루션은 더 큰 문제, 더 복잡한 문제를 작은 조각으로
나누는 겁니다 잠재적으로 LMS나 소프트웨어의 일반 비트로 실행할
수 있는 거죠
하지만 어려운 작업을 분석하는 능력은 에이전트 솔루션의 특징이죠
지금까지 다뤘던 도구 사용, 함수 호출, 구조화된 출력들을 살펴보죠
그것도 에이전트 솔루션의 소관 사항에 속하는 경우가 많죠
LMS에 단순한 대화 이상의 것을 주는 아이디어인가요? 채팅
응답을 요청하세요
하지만 더 탄탄한 구조에 맞아야 해요
이 특정 JSON 포맷에서 출력이 필요해요
다른 활동을 수행하기 위해 이런 함수를 호출할 수 있어요
에이전트식 인공지능과 환경에 그렇게 들어맞는 거죠
프레임워크 환경이죠
다른 단어들이요
하지만 일종의 샌드박스 같은 것으로 모든 에이전트가 이용할 수 있는 기능성들을
제공하죠
대표적인 예가 메모리 같은 거예요
과거에 일어난 일을 반영하는 비트 정보를 모든 에이전트가 공유할 수 있는 그런
것이 있다면 그건 에이전트 환경이 되겠죠 다른 에이전트들이 어떤
식으로든 서로 호출할 수 있도록 해주는 그런 거요
그리고 전형적으로, 다시 말씀드리지만 이건 꼭 필요한 건 아닌 예시예요
이게 없으면 에이전트 해결책이 없는 게 아니에요
에이전트 솔루션에는 기획 에이전트가 있는 경우가 종종 있습니다 어떤 순서로 어떤
작업을 할지 결정하는 책임자죠
일반적으로 사람들이 이에 대해 얘기할 때 기획 에이전트 그 자체가 LLM이라고
생각하죠 작업을 받아 알아낼 수 있는 거죠 이렇게 하고 저렇게 하고 이렇게 하는
거요
LLM이 아니어도 돼요
간단한 문제이고 5단계 정도만 있다면 파이썬 코드를 작성해서
그 단계를 호출하거나 JSON 구성 파일을 만들면 돼요
하지만 여러분의 플래너로 간주되는 뭔가가 있어야만 해요 이 박스에 체크할
수 있도록요 꼭 필요한 건 아니지만요 여기 마지막 건 지금까지 별로
다루지 않은 건데 일종의 핵심이죠
상징적인 것과 그렇지 않은 것을 구분하는 단 하나의 기준은
바로 자율성이에요
그게 당신의 인공지능 솔루션이 인간과 대화하는 걸 초월하는 존재라는 생각이죠
메모리를 본 적이 있어요 래그 솔루션 같은 Q&A 채팅을 했거든요 보험 회사에
대해 얘기할 때요 당연히 메모리가 있었죠 다른 예제도 있었어요
항공사 채팅도 메모리가 있었지만 그건 자율 인공지능이라고 볼 수 없어요
메모리는 앱이 실행되고 사람이 상호 작용할 때만 존재했어요
그 외에는 어떤 존재감도 없었어요
자율성이라는 개념은 일부에 불과해요
그리고 이 생명체가 더 영구적으로 존재할 거라는 느낌도 들고요
무대 뒤에서 달리고 있어요
비트가 마법처럼 들리겠지만 전혀 그렇지 않아요
보다시피 기본적으로 실행 중인 프로세스가 있다면 일부 활동을 수행하는 거죠
인간의 상호 작용이 꼭 필요한 건 아니에요 그것만으로도 충분하죠
에이전트 해결책 같네요
간단히 말해서 아주 명확한 건 없어요
정의요
인공지능 솔루션을 사용할 때 더 어려운 문제를 해결하는 경우가
많습니다 여러 모델이 조화를 이루는 문제인데 즉각적인 대응이 아니죠
우리가 잘 아는 채팅 인터페이스는 에이전트식 인공지능 솔루션이에요
에이전트 기능을 제공하는 프레임워크가 많아요
랑산은 대리인으로서 능력이 뛰어나요
요원들을 끌어안으면 Get it이 가능해요
그라디오는 다른 것도 많이 갖고 있어요
어떤 건 코드도 없어요
다양한 모델을 꿰매기만 하면 돼요
일부는 코드가 더 많이 포함돼 있어요 랭 체인에서 제공하는 것처럼요
여러분께 말씀드리고 싶은 것 중 하나는 이런 플랫폼 대부분이 옐름스의
추상화에 있다는 겁니다 랭 체인이 전에 Rag에 대해 했던 것처럼요
에이전트식 인공지능 솔루션을 구축하는 건 그런 추상화가 필요 없어요
`Lms'에 직접 전화하는 법을 아니까 우리가 직접 하면 돼요
LMS가 실행되도록 할 수도 있고 올바른 정보를 올바른 곳으로 보낼 수도 있죠
달 착륙선은 이제 달 착륙선 공학의 달인이 되었습니다 달 착륙선 공학의 달인이 되기까지 5% 가까이 남은 거죠
당신 능력 안에서요
이 세션에선 에이전틱 인공지능 프레임워크를 구축할 텐데요 에이전트를 생성하는
걸 보겠습니다 이미 보신 클래스들이죠 파이썬 코드로 운영하는 거예요
우리가 만든 코드로 조합해서 함께 만들 거예요 아주 좋은 방법이죠
무슨 일이 일어나는지 더 잘 알 수 있고요
요원들 사이에 어떤 정보가 오가는지 볼 수 있어요
물론 규격화된 걸 사용할 수도 있어요 더 추상화 층 제품요
원하신다면요
랑산이나 다른 데서 구할 수 있는 건 다 찾아봐요
지금 하는 걸 다시 하는 것도 재미있을 것 같아요
기성품으로 만드는 게 훨씬 더 쉬울 거예요
Get it의 핵심으로 들어갈 거예요
우리만의 에이전트 프레임워크를 구축하고 여러 개의 llms가
문제를 해결하는 데 참여하게 할 겁니다 인터넷에서 좋은 거래를 찾아내고 찾으면
메시지를 보내는 거죠
프레임워크가 어떻게 생겼는지 잠깐 되짚어보죠
우리 건축물은 뭘까요?
이게 우리가 만들고 있는 워크플로예요
모델 3대가 운영 중이고 앙상블 에이전트가 모델에게 연락해요
이건 비트를 좀 늘린 예라고 할 수 있죠 다른 모델에게 연락하는 앙상블 모델은 당나귀가
나온 지 오래됐거든요
에이전트 인공지능이라고 불린 적은 없지만 이것들은 독립된 클래스로서 실행되고 있고 동일한
구조와 기능을 가지고 있습니다 프레임워크에 로그인하고 참여하는 것과 동일합니다
이것들을 독립된 에이전트로 생각하는 것이 합리적입니다 원한다면 파이썬
프로세스에서 실행할 수도 있고요
간단히 말하자면 그냥 직접 호출하는 거죠 그렇게 할 수도 있어요
그래서 저는 이 세 가지 에이전트가 각각 다른 세 가지 모델을 수행한다고
제안했어요 그리고 앙상블 에이전트가 각각의 에이전트를 호출해서
협업하게 한 다음 선형 회귀 추를 적용해서 제품의 가격을 매기는 거죠
스캐너 요원은 지난번에 봤던 거예요
이 사람은 에이전트예요
스캐너 에이전트를 부르며 끝냈어요
나가서 피드를 수집하고 Gpt4 0을 호출할 수 있습니다 각 거래에 대한 간결한 설명과 관련된
가격점을 찾는 방법으로요
그게 한데 모이죠
입력 메모리가 있었던 걸 기억하실 겁니다 모든 걸 하나로 붙이는 접착제의
일부죠
이미 드러난 거래를 드러내지 말라고 메모리를 통해 말하죠
오늘 살펴볼 것은 모두 함께 가져오는 이 노란 상자입니다 메시징 에이전트를
살펴볼 건데요 여러분 폰으로 푸시 알림을 보내는 아주 간단한 거죠
아주 근사할 거예요
활동을 조정할 수 있는 기획 기획 요원이죠
LM이 되지는 않을 겁니다 간단한 파이썬 스크립트가 될 겁니다 하지만 쉽게 LM이
될 수 있죠
에이전트 프레임워크도 있는데 엄청 고급스럽게 들리네요
전혀 화려하지 않아요
단순히 이 모든 에이전트가 있고 메시지가 계속되게 해주는 거죠
그게 오늘날의 에이전트 프레임워크 생성이죠
내일은 사용자 인터페이스를 만들 겁니다 모든 걸 멋지게 감싸줄
인터페이스요
하지만 동기가 충분해서 갈 준비가 됐길 바라요
주피터랩에서 만나요