Amazon Bedrock에서 Claude 3 Haiku Fine-tuning하기

• 카테고리: 제품 발표
• 제품: Claude 개발자 플랫폼
• 게시일: 2024년 7월 10일
• 읽기 시간: 약 5분

업데이트: Amazon Bedrock에서의 Claude 3 Haiku 미세 조정이 일반에 공개되었습니다. (2024년 11월 1일)

고객들은 이제 가장 빠르고 비용 효율적인 모델인 Claude 3 Haiku를 Amazon Bedrock에서 미세 조정하여 비즈니스에 맞게 지식과 기능을 사용자 정의하고, 전문적인 작업에 모델을 더욱 효과적으로 만들 수 있습니다.

미세 조정 개요

미세 조정은 모델 성능을 개선하는 인기 있는 기술입니다. 모델의 사용자 정의 버전을 생성하여 고도로 맞춤화된 워크플로에서 탁월한 성능을 발휘하도록 훈련할 수 있습니다.

Claude 3 Haiku를 미세 조정하려면 먼저 고품질 프롬프트-완성 쌍(주어진 작업에 대해 Claude가 제공하기를 원하는 이상적인 출력) 세트를 준비해야 합니다. 현재 미리 보기로 제공되는 미세 조정 API는 데이터를 사용하여 고유한 사용자 지정 Claude 3 Haiku를 생성합니다. Amazon Bedrock 콘솔이나 API를 사용하여 성능 목표를 충족하고 배포 준비가 될 때까지 사용자 지정 Claude 3 Haiku 모델을 테스트하고 다듬을 수 있습니다.

이점

미세 조정을 통해 Claude 3 Haiku가 전문적인 비즈니스 지식을 습득하도록 사용자 정의하여 정확성과 일관성을 향상시킬 수 있습니다. 이점은 다음과 같습니다.

• 전문 작업에서 더 나은 결과: 분류, 사용자 지정 API와의 상호 작용, 산업별 데이터 해석과 같은 도메인 특화 작업의 성능을 향상시킵니다. 미세 조정을 통해 회사 및 도메인 지식을 인코딩함으로써 일반적인 모델에 비해 비즈니스에 중요한 영역에서 Claude 3 Haiku가 탁월한 성능을 발휘하게 합니다.
• 더 낮은 비용으로 더 빠른 속도: Claude 3 Haiku를 Sonnet이나 Opus 대신 사용할 수 있는 프로덕션 배포 비용을 절감하는 동시에 결과를 더 빠르게 반환합니다.
• 일관되고 브랜드에 부합하는 형식: 표준화된 보고서나 사용자 지정 스키마와 같이 정확한 사양에 맞춘 구조화된 출력을 일관되게 생성하여 규정 요구 사항 및 내부 프로토콜 준수를 보장합니다.
• 사용하기 쉬운 API: 모든 규모의 기업이 광범위한 내부 AI 전문 지식이나 리소스 없이도 효율적으로 혁신할 수 있습니다. 깊은 기술적 전문 지식이 없어도 누구나 원활하게 모델을 미세 조정할 수 있습니다.
• 안전 및 보안: 독점 학습 데이터는 고객의 AWS 환경 내에 유지됩니다. Anthropic의 미세 조정 기술은 유해한 출력에 대한 Claude 3 모델 제품군의 낮은 위험성을 보존합니다.

우리는 모욕, 위협, 노골적인 콘텐츠 식별을 포함하여 인터넷 포럼의 온라인 댓글을 조정하기 위해 Haiku를 미세 조정했습니다1. 미세 조정을 통해 쿼리당 토큰 수를 85% 줄이면서 분류 정확도를 81.5%에서 99.6%로 향상시켰습니다.

고객 스포트라이트

SK텔레콤은 한국 최대 통신 사업자 중 하나로, 산업별 전문 지식을 활용하여 지원 워크플로를 개선하고 더 나은 고객 경험을 제공하기 위해 사용자 지정 Claude 모델을 훈련했습니다.

AI 기술 협력 그룹 부사장 Eric Davis는 다음과 같이 말했습니다.

미세 조정된 Claude를 고객 지원 운영에 통합함으로써 내부 프로세스와 전반적인 고객 만족도가 눈에 띄게 개선되었습니다. Claude를 사용자 정의함으로써 상담원 응답에 대한 긍정적인 피드백이 73% 증가했고, 통신 관련 작업의 핵심 성과 지표가 37% 향상되었습니다. 미세 조정된 모델은 이제 고객 통화 기록에서 주제, 조치 항목, 요약을 효율적으로 생성하고, 더 나은 문제 해결을 위해 복잡한 고객 문제를 관리 가능한 단계로 세분화합니다.

Thomson Reuters는 글로벌 콘텐츠 및 기술 기업으로, Claude 3 Haiku를 통해 긍정적인 결과를 확인했습니다. 법률, 세무, 회계, 규정 준수, 정부, 미디어 전문가에게 서비스를 제공하는 이 회사는 산업 전문 지식으로 Claude를 미세 조정하여 더욱 빠르고 관련성 높은 AI 결과를 기대하고 있습니다.

Thomson Reuters의 AI 및 랩 책임자인 Joel Hron은 다음과 같이 말했습니다.

우리는 Claude 기반 솔루션을 더욱 강화하기 위해 Amazon Bedrock에서 Anthropic의 Claude 3 Haiku 모델을 미세 조정하게 되어 기쁩니다. Thomson Reuters는 정확하고 빠르며 일관된 사용자 경험을 제공하는 것을 목표로 합니다. Claude를 우리의 산업 전문 지식과 특정 요구 사항에 최적화함으로써 훨씬 더 빠른 속도로 고품질 결과를 제공하는 가시적인 개선을 기대합니다. 우리는 이미 Claude 3 Haiku에서 긍정적인 결과를 확인했으며, 미세 조정을 통해 AI 지원을 더욱 정밀하게 맞춤화할 수 있을 것입니다.

시작하는 방법

Amazon Bedrock에서의 Claude 3 Haiku 미세 조정은 현재 미국 서부(오레곤) AWS 리전에서 미리 보기로 제공됩니다. 출시 시점에는 최대 32K 토큰의 컨텍스트 길이를 가진 텍스트 기반 미세 조정을 지원하며, 향후 비전 기능을 도입할 계획입니다. 자세한 내용은 AWS 출시 블로그 및 문서에서 확인할 수 있습니다.

액세스를 요청하려면 AWS 계정 팀에 문의하거나 AWS Management Console에서 지원 티켓을 제출하세요.