개요
QnABot on AWS는 고객의 질문, 답변 및 피드백에 응답하는 생성형 인공 지능 기반 다중 채널 다중 언어 대화형 인터페이스(챗봇)입니다. 이 솔루션을 사용하면 채팅, 음성, SMS 및 Amazon Alexa를 비롯한 여러 채널에 완전한 기능을 갖춘 Chatbot을 배포할 수 있습니다.
이점
지능형 다중 부분 상호 작용을 통해 개인화된 자습서 및 질문과 답변 지원을 제공할 수 있습니다. QnABot 설정에서 질문을 쉽게 가져오고 내보낼 수 있습니다.
사람이 질문한 내용을 더 잘 파악할 수 있도록 Amazon Kendra 자연어 처리(NLP) 기능을 사용할 수 있습니다. 고성능 파운데이션 모델을 제공하는 관리형 서비스인 Amazon Bedrock을 사용하여 대화형 애플리케이션을 구축할 수 있습니다.
고객 지원 워크플로를 자동화할 수 있습니다. 비용을 절감하고 고객에게 더 나은 서비스를 제공하여 고객이 정확한 답변을 얻고 지원을 신속하게 받을 수 있습니다.
다양한 Q&A 워크플로에 의도 및 슬롯 매칭을 활용할 수 있습니다. 대규모 언어 모델(LLM) 및 검색 증강 생성(RAG)을 통해 자연어 이해, 컨텍스트 관리, 멀티턴 대화를 활용할 수 있습니다.
기술 세부 정보
구현 가이드 및 적절한 AWS CloudFormation 템플릿을 사용하여 이 아키텍처를 자동으로 배포할 수 있습니다. VPC를 사용하여 배포하려면 먼저 두 개의 가용 영역에 두 개의 프라이빗 서브넷과 두 개의 퍼블릭 서브넷이 있는 VPC를 배포한 다음 QnABot VPC AWS CloudFormation 템플릿을 사용합니다. 또는 QnABot 기본 AWS CloudFormation 템플릿을 사용합니다.
1단계
관리자는 솔루션을 AWS 계정에 배포하고 콘텐츠 디자이너 사용자 인터페이스(UI) 또는 Amazon Lex 웹 클라이언트를 열고 Amazon Cognito를 사용하여 인증합니다.
2단계
인증 후 Amazon API Gateway 및 Amazon Simple Storage Service(S3)는 콘텐츠 디자이너 UI의 콘텐츠를 제공합니다.
3단계
관리자는 콘텐츠 디자이너에서 질문과 답변을 구성하고 UI는 질문과 답변을 저장하기 위해 API Gateway에 요청을 보냅니다.
4단계
콘텐츠 디자이너 AWS Lambda 함수는 Amazon OpenSearch Service의 입력을 질문 은행 인덱스에 저장합니다. 텍스트 임베딩을 사용하는 경우 이러한 요청은 Amazon SageMaker 또는 Amazon Bedrock에서 호스팅되는 LLM을 통과하여 임베딩을 생성한 후 OpenSearch의 질문 은행에 저장됩니다.
5단계
챗봇 사용자는 웹 클라이언트 UI 또는 Amazon Alexa 또는 Amazon Connect를 통해 Amazon Lex와 상호 작용합니다.
6단계
Amazon Lex는 Bot fulfillment Lambda 함수로 요청을 전달합니다. 사용자는 Amazon Alexa 디바이스를 사용하여 이 Lambda 함수에 요청을 보낼 수도 있습니다.
7단계
사용자 및 채팅 정보는 후속 질문과 이전 질문 및 답변 컨텍스트를 구분하기 위해 Amazon DynamoDB에 저장됩니다.
8단계
Bot fulfillment Lambda 함수는 사용자 입력을 받고 요청 언어가 네이티브 언어가 아닌 경우Amazon Comprehend 및 Amazon Translate(필요한 경우)를 사용하여 배포 중에 선택한 네이티브 언어로 번역한 다음 OpenSearch Service에서 답변을 조회합니다.
텍스트 생성 및 텍스트 임베딩과 같은 LLM 기능을 사용하는 경우 이러한 요청은 먼저 SageMaker 또는 Amazon Bedrock에서 호스팅되는 다양한 LLM을 통과하여 검색 쿼리 및 임베딩을 생성하고 OpenSearch의 질문 은행에 저장된 것과 비교합니다.
9단계
OpenSearch 질문 은행에서 일치하는 항목이 반환되지 않는 경우 Bot fulfillment Lambda 함수는 다음과 같이 요청을 전달합니다.
9A단계
Amazon Kendra 인덱스가 폴백을 위해 구성된 경우, OpenSearch 질문 은행에서 일치 항목이 반환되지 않으면 Bot fulfillment Lambda 함수는 요청을 Amazon Kendra로 전달합니다. 텍스트 생성 LLM은 선택적으로 검색 쿼리를 생성하고 반환된 문서 발췌문의 응답을 종합하는 데 사용할 수 있습니다.
9B단계
Amazon Bedrock용 기술 자료 ID가 구성된 경우 Bot fulfillment Lambda 함수는 요청을 Amazon Bedrock용 기술 자료로 전달합니다. Bot fulfillment Lambda 함수는 RetriveAndGenerate API Gateway API를 활용하여 사용자 쿼리에 대한 관련 결과를 가져오고, 파운데이션 모델의 프롬프트를 보강하고, 응답을 반환합니다.
10단계
Bot fulfillment Lambda 함수와의 사용자 상호 작용으로 로그 및 지표 데이터가 생성되며, 이는 Amazon Data Firehose로 전송된 다음 추후 데이터 분석을 위해 Amazon S3로 전송됩니다.
11단계
OpenSearch 대시보드를 사용하여 사용 내역, 기록된 발화, 응답하지 못한 발화, 긍정적인 사용자 피드백 및 부정적인 사용자 피드백을 볼 수 있으며 사용자 지정 보고서를 만들 수도 있습니다.