검색 확장 생성에 Amazon Kendra를 사용하는 세대 정선 카지노 앱
~ 생성 정선 카지노 앱 만들기 ~

게시 : 2023/10/2

소개

안녕하세요, 이것은 Itochu Techno Solutions의 Yamachika입니다 AWS 블로그는 Amazon Kendra+Langch정선 카지노n을 사용하여 Generation 정선 카지노 앱을 구축하는 단계를 보여 주었으므로 실제로이를 만들려고했습니다

https : //awsamazoncom/jp/blogs/machine-learning/quickly-build-high-accuracy-general-정선 카지노-applications-on-entterprise-data-using-amazon-kendra-langch정선 카지노n-and-large-models/

1 생성 시스템 정선 카지노 및 기초 모델의 중요성

Generation 정선 카지노와 기존 정선 카지노 모델 간의 차분

전통적인 정선 카지노 모델 생성에서 데이터 자체로 데이터가 수집되어 레이블이 붙어 전처리 및 알고리즘 선택, 모델링 및 모델링과 같은 모델링이 있다고 생각합니다 또한, 현재 예측은 주로 회귀 및 분류와 같은 수치 정보로 구성되었습니다

Generation 정선 카지노는 대화, 스토리, 이미지, 비디오, 음악 등과 같은 새로운 컨텐츠와 아이디어를 만들 수있는 인공 지능 (정선 카지노) 유형이며 다른 정선 카지노와 마찬가지로 기계 학습 모델을 사용합니다 Generator 정선 카지노는 다양한 컨텐츠를 생성 할 수 있지만, 일반적으로 기초 모델 (FM)이라고하는 막대한 양의 데이터로 미리 훈련 된 매우 대규모 모델이 필요합니다

② undamental model

훈련 데이터가 수집 되더라도 Generation 정선 카지노 모델을 생성하기위한 병목 현상 중 하나는 먼저 모델을 만드는 데 큰 비용이 듭니다 유명한 생성 모델 CPT-4는 1조차 매개 변수를 가지고 있지만, 이에 대한 최적의 솔루션을 찾는 것은 (1 조 1 조 개가 넘는 다차원 동시 방정식을 해결하는 것과 같습니다) 엄청난 양의 계산 리소스가 필요하며, 사용자가 감당할 수있는 많은 양이 아니라고합니다

SO, 정선 카지노 회사는 수집 한 방대한 양의 데이터를 사용하여 교육을받은 모델을 게시하며 필요한 경우 즉시 배포하고 사용할 수있는 관리 서비스입니다

③aws 재단 정선 카지노

AWS가 제공하는 기본 정선 카지노은 여기에 나열되어 있으므로 참조하십시오

AWS 도쿄 지역에서 Generation AI 카지노 사이트 사용하는 방법 | Itochu Techno Sol

2 생성기 정선 카지노 앱 구성

먼저, 다음은 생성 정선 카지노 앱의 구성입니다 대형 언어 모델 (LLM)은 생성 시스템 정선 카지노로 사용됩니다

특정 조치는 정선 카지노 같습니다

• ① 정선 카지노자가 질문을 입력
• ② 정선 카지노 Kendra에서 검색 수행
• ③ Amazon Kendra의 출력 검색 결과 (문서 링크)를 정선 카지노여 사용자에게 반환
• ④ Amazon Kendra에서 Generation 정선 카지노 Model (LLM)까지의 입력 검색 결과 (컨텍스트)
• ⑤ 생성 정선 카지노 모델 (LLM)의 결과를 출력하고 사용자에게 반환

3 검색 확장 정선 카지노

공급 업체가 제공 한 미리 훈련 된 생성 시스템 정선 카지노가 사용 되더라도 다음과 같이 사용 가능한 방법에는 제한이 있습니다

• 오래된 정선 카지노
  훈련 중에 데이터를 사용할 때 시간 지연이 발생하므로 Generation 정선 카지노에서 반환 된 결과는 때때로 구식이 될 수 있습니다
• 과도하게 유사한 출력
  利用したモデルが過学習している場合、入力した内容をそのままアウトプットしてくることがあります。
• 답변 콘텐츠에 정선 카지노 로직의 낮음
  생성 정선 카지노는 인간과 달리 입력 내용의 의미를 이해하지 못합니다 (단순히 유사한 내용을 반환) 언뜻보기에 올바른 것처럼 보이더라도 답은 논리적으로 깨질 수 있습니다

이러한 한계를 향해 실용적인 비즈니스에서 사용할 수 있도록 Generation 정선 카지노를 강화해야합니다 이를위한 다양한 방법이 있지만 이번에는 Search Extension Generation (RAG)을 사용했으며 제목에서도 발견되었습니다

Rag는 사전 설정된 외부 정보를 신뢰할 수있는 정보 소스로 사용하여 정보가 오래된 경우 수정을 허용하거나 내부 전용 약관과 같은 세대 정선 카지노가있는 항목을 보충 할 수 있습니다 그리고 Amazon Kendra+Langch정선 카지노n의 관계는 래그를 가능하게하고 있습니다

4 아마존 켄드라와 랭 체인

① 정선 카지노 Kendra

RAG에서 외부 정보의 역할을 의장 정선 카지노 Kendra는 여기에서 찾을 수 있으므로 참조하십시오

온라인 카지노 확장 생성에 Amazon Kendra를 사용하는 세대 AI 앱 ~ Amazon Kendra 소개 에디션 ~ | Itochu Techno

② langch정선 카지노n

이 라이브러리는 래그의 LLM 및 외부 정선 카지노를 다리로 연결합니다 자세한 내용은 아래 문서를 참조하십시오

정선 카지노 | 🦜닐람 랑 체인

5 정선 카지노 Kendra Index 만들기

지금부터 정선 카지노 같이 진행하십시오

Github- AWS-Samples/Amazon-Kendra-Langch정선 카지노n-extensions : Langch정선 카지노n 및 Amazon Kendra를 사용하여 생성 정선 카지노 애플리케이션을 구축하는 샘플

① AWS CloudFormation을 정선 카지노한 배포

먼저 외부 정보 인 Kendra에 대한 색인을 만듭니다 물론 앞에서 언급 한 블로그와 같이 인덱스를 만드는 것은 괜찮지 만 이번에는 Kendra-Docs-Indexyaml이라는 파일을 Github 저장소에서 정선 카지노할 수 있으므로 번거 로움을 절약하는 데 정선 카지노할 수 있습니다 이 파일은 Kendra를 자동으로 설정하고 인덱스를 생성하는 AWS CloudFormation 템플릿 파일이됩니다

AWS CloudFormation 상단 화면에서 "스택 만들기"를 클릭하십시오 다음 화면에서 Kendra-Docs-Indexyaml을 설정하십시오

다음 화면에서 스택 이름 (모든 이름)을 입력하십시오 나머지 기사는 그대로 기본값입니다 마지막 화면에서 "보내기"를 눌러 처리를 시작하십시오

완료되면 상태가 create_complete됩니다

정선 카지노 Kendra의 지수 생성 결과를 확인하십시오

실제로 정선 카지노 Kendra를 확인했을 때 인덱스가 생성되었습니다 나중에 인덱스 ID가 필요하므로 알아 두십시오

AWS CloudFormation을 정선 카지노여 Amazon Kendra에서 생성 된 외부 정보를 확인하십시오 SiteMap XML이 지정되어 있습니다

실제로 Sitemap XML을 열면 정선 카지노 Lex, 정선 카지노 Kendra 및 정선 카지노 Sagemaker의 개발자 가이드임을 알 수 있습니다

6 생성 정선 카지노 앱 구축

다음, Generation 정선 카지노 앱을 빌드하십시오 설치 절차는 앞에서 언급 한 Github 저장소의 readmemd에서 사용할 수 있으므로 다음과 같이 진행하십시오

① 정선 카지노 Cloud9 설정

실행중인 환경으로서 EC2에서 정선 카지노하는 것이 좋습니다 그러나 설정의 번거 로움을 저장하려면 AWS Cloud9에서 정선 카지노됩니다 설정은 매우 간단합니다 환경 이름을 입력하여 기본값으로 남겨 두십시오

잠시 후 환경이 시작됩니다

python39

단계를 따르면 Python 39 이상이 필요하다는 오류가 출력됩니다 따라서 AWS Cloud9 환경에서 Python 버전을 39 이상으로 업데이트해야합니다 실제 단계는 생략되지만 다음을 참조로 정선 카지노했습니다

Upgrade to python >39 클라우드 9 | 정선 카지노 Re : Post (repost정선 카지노)

결국, 나는 Python 39로 업데이트 할 수있었습니다

③ 앱 정선 카지노

우리는 다시 단계를 따라갈 것입니다 PIP 설치 실행 -R 요구 사항 txt는 앱을 빌드하는 데 필요한 Langch정선 카지노n 및 기타 패키지를 설치합니다

[추가 정보] 브라우저를 통해 정선 카지노는 방법

이 앱은 간소로 시작합니다 기본적으로 AWS Cloud9는 구축되며 인바운드 규칙이 설정되지 않으며 모든 외부 통신이 거부됩니다 따라서 브라우저를 연결하고 정선 카지노려면 어떤 종류의 조치가 필요합니다

이를 수행하는 한 가지 방법은 TCP에만 연결할 수있는 인바운드 규칙을 작성하는 것입니다 그것을 만든 후 보안 그룹을 정선 카지노 한 AWS Cloud9 환경에 연결하십시오

이 방법은 예이며, 검증을위한 간단한 절차이므로 보안 고려 사항은 불가능합니다 이를 구현할 때는 보안에주의를 기울이고 자신의 위험에 대해 조심하십시오

④ 작동 정선 카지노

우리는이 시점까지 작업을 확인합니다 아래 시작 명령을 정선 카지노하면 연결 URL이 표시됩니다

$ smlemlit hello

PC와 같은 브라우저에서 표시된 URL에 정선 카지노면 간소화 된 환영 화면이 표시됩니다

7 Sagemaker Jumpstart로 기초 정선 카지노 배포

기본 정선 카지노을 선택하고 배포

Generation System 정선 카지노 (LLM)를 배포하려면 Amazon Sagemaker에서 기초 모델을 선택합니다

"1에 링크 된 블로그에 언급 된 바와 같이, Generation AI 및 Foundation 모델의 중요성"Sagemaker의 기초 모델은 Sagemaker Jumpstart에서 배포 할 수 있습니다 이번에는 포옹 페이스가 제공하는 "FLAN-T5 XL"을 시험해 볼 것입니다

실제로, 프로그램은 미세 튜닝 등을 정선 카지노여 개정 될 수 있지만 이번에는 게시 된 기본 모델을 그대로 배포합니다

② 정선 카지노 할당량을 통해 완화 된 제한

Generation 정선 카지노에 사용 된 DeePlearning 알고리즘은 메모리의 진행을 유지하면서 많은 수의 매개 변수를 계산해야합니다 따라서, 단순히 빠르거나 느리게하는 것이 아니라 계산 프로세스 중에 메모리 오버 플로우로 인해 오류를 피하기 위해 배포 할 수있는 최상의 인스턴스를 선택하는 것이 좋습니다

이번에는 FLAN-T5 XL의 가장 유능한 옵션 인 "MLP316XLARGE"를 선택했습니다 그러나 이러한 고성능 사례는 ​​제한 될 수 있습니다 이 경우 서비스 할당량에서 해당 지역의 Amazon Sagemaker의 "MLP316XLARGE"에 대한 할당량을 확인하고 필요한 경우 한도를 변경하도록 적용하십시오
*권한에 따라 불가능할 수 있으므로 각 계정의 정선 카지노자에게 확인하십시오

Concirmployment

배치 후 종말점이 서비스가됩니다 나중에 엔드 포인트 이름을 정선 카지노겠습니다

모든 건축이 완료되었습니다

8 생성 정선 카지노 앱 실행

① 스테이트 앱

절차로 돌아가서 AWS Cloud9의 환경 변수를 내보내십시오 AWS 지역, 정선 카지노 Index ID 및 배포 된 기초 모델의 엔드 포인트 이름을 구성합니다

export 정선 카지노_region = ap-northeast-1

앱을 시작해보십시오 절차에 표시된대로 간소화 된 인수로 정선 카지노하십시오

$ streamlit run apppy flanxl

그리고 브라우저를 사용하여 표시된 URL에 연결하면 구성된 정선 카지노 앱에 연결할 수있었습니다

OPERATION 정선 카지노

실제 작업을 확인해 봅시다 먼저 정선 카지노 두 가지 질문을 할 것입니다

정선 카지노 Sagemaker 캔버스는 무엇입니까?

좋은 답변이 있고 소스 URL이 표시됩니다

다음으로, 우리는 당신이 만든 정선 카지노 Kendra 지수에 제공되지 않는 질문을 관리하려고 노력할 것입니다

정선 카지노 Glue Databrew 란 무엇입니까?

나는 몰랐다는 답을 얻었고, 반쯤 마음을 사로 잡았습니다 그러나 참조 소스의 URL이 올바른 것으로 보이므로 정선 카지노 Kendra 검색이 올바르게 작동합니다

9 열린 정선 카지노 API를 사용할 때

①ARCHITECTURE

Sagemaker Foundation 모델을 사용하는 것 외에도 Open 정선 카지노가 게시 한 API에 연결하고 결과를 사용하는 방법도 있습니다 이 경우 건축은 다음과 같습니다

② Get Open정선 카지노 API 키

Open정선 카지노의 API를 사용하는 경우 별도의 계약이 필요합니다 필요한 경우 여기에서 해보십시오

개요 - Open정선 카지노 API

start app

절차가 완료된 후 API 키가 발행됩니다 이 키를 정선 카지노 Cloud9의 환경 변수로 설정하고 간소화의 인수를 변경하여 시작하십시오

Export Open정선 카지노_API_Key = XXXXXXZ3YGXXXXXXKFJWBBK4END8NUT2OCCFUOI

*내용이 편집되었습니다

$ streamlit run apppy open정선 카지노

시작한 화면의 제목이 " Amazon Kendra and Open AI!"로 변경되었음을 알 수 있습니다

④ 작동 정선 카지노

나는이 맥락에서 같은 질문을하겠습니다 작업 결과는 다음과 같습니다 위에서 언급 한 기본 정선 카지노의 결과와 다르다는 것을 알 수 있습니다

Compare 결과

Open 정선 카지노 API를 사용할 때 대답이 더 의도 된 것으로 보입니다 그러나 실제로 기본 모델은 아무것도 조정하지 않고 사용되지 않으며 사용되는 요구 사항에 따라 미세 조정하면 기본 모델이 사용되는 요구 사항에 접근 할 수 있습니다

두 비용 모두 지불 할 수 있지만 약간 다릅니다 Open 정선 카지노 API는 입력을 위해 반환 된 텍스트의 양에 따라 청구되며 AWS 인프라 모델의 경우 엔드 포인트가 시작된 시간에 따라 청구됩니다 더 비싸거나 저렴한 경우는 반드시 그런 것은 아닙니다

10 요약

우리는 앱 구축에서 작동 확인에 이르기까지 모든 일을 해왔지만 모든 유형의 정선 카지노 앱을 구축 할 수는 없습니다 그러나 이와 같은 간단한 앱 구성을 통해 시행 착오를 통해 정선 카지노 세대와 주변 지식에 대한 이해를 심화시킬 수 있어야합니다 시도해보세요

Amazon Bedrock이라는 서비스가 AWS의 기본 모델에 대해 발표되었으며,이를 정선 카지노는 완전 관리 서비스가 확장 될 것으로 예상됩니다

기본 모델 API 서비스 - 정선 카지노 Bedrock - AWS

작동 정선 카지노이 완료되면 자세한 내용을 게시합니다

CTC는 정선 카지노 비즈니스를 활용하기 위해 고객의 단계에 맞게 조정 된 광범위한 건설 및 운영 지원 서비스를 제공합니다
숙련 된 엔지니어는 원 스톱 및 유연한 지원을 제공합니다
그렇게 해주세요마닐라 정선 카지노 문의 | CTC 그룹제발