AI with Claude on AWS: From code to orchestration

• Antonio Rodriguez từ AWS trình bày cách đưa các ứng dụng Claude Code từ nguyên mẫu trên máy cá nhân lên môi trường production trên đám mây AWS, với câu chuyện "tốt hơn khi đi cùng nhau" (better together) giữa AWS và Anthropic, được hậu thuẫn bởi khoản đầu tư hàng tỷ đô và hạ tầng Project Rainier.
• AWS cung cấp ba cách dùng Claude: trực tiếp qua Amazon Bedrock, qua Claude platform on AWS mới (một gateway với hóa đơn và kiểm soát truy cập hợp nhất), và qua Claude Desktop / Claude Code với hóa đơn hợp nhất trên AWS.
• Phiên này là một workshop thực hành, người tham dự nhận tài khoản AWS miễn phí để thử nghiệm Claude Code trên Bedrock qua các module về thiết lập, ngữ cảnh, Playwright MCP, quy trình Git, sub-agent, plugin, skill và hook.

• Hiểu chiều sâu quan hệ AWS–Anthropic: Amazon đầu tư hàng tỷ đô, là nhà cung cấp đám mây chính của Anthropic, và Anthropic cam kết hơn 100 tỷ sử dụng AWS; Project Rainier là một trong những hạ tầng tính toán AI lớn nhất để huấn luyện và vận hành mô hình Claude, chạy trên chip Trainium chuyên dụng (đã thế hệ thứ ba).
• Tận dụng Amazon Bedrock như một nền tảng đầy đủ: ngoài foundation model còn có đánh giá (evaluation), tối ưu prompt, fine-tuning (nhà cung cấp duy nhất cho phép fine-tune Haiku), model distillation, knowledge bases cho RAG, và guardrails (lọc nội dung, che PII, chống ảo giác).
• Khai thác bảo mật làm lợi thế: dữ liệu nằm trong ranh giới AWS của bạn, không đi ra internet công cộng; engine inference mới nhất của Bedrock có zero operator access (không ai từ Amazon hay Anthropic chạm tới được instance đó), và không dữ liệu khách hàng nào được dùng để huấn luyện.
• Cân nhắc giá trị "better together": chủ quyền dữ liệu (data sovereignty), hóa đơn hợp nhất, khả năng quan sát đầy đủ qua CloudWatch và CloudTrail, SLA đảm bảo uptime, tích hợp xác thực sẵn có (SSO, OAuth, IAM, Entra ID, Okta), và PrivateLink cho giao tiếp hoàn toàn riêng tư.
• Dùng Bedrock Agent Core để host các agent xây bằng Claude Agent SDK một cách an toàn trên đám mây; nó tương thích với các framework mở như LangChain và Crew AI.
• Lựa chọn một trong ba con đường triển khai: API Bedrock (gồm Opus 4.7 mới thêm và Messages API), Claude platform on AWS (gateway chuyển inference tới Anthropic với đầy đủ tính năng gồm web search, files, agents), và Claude Desktop / Claude Code tính hóa đơn qua AWS Marketplace hoặc kết nối CodeWhisperer 3P.
• Thực hành workshop với repository Scaled Draw: Module 1 thiết lập Claude Code cơ bản trên AWS, Module 2 thêm ngữ cảnh và Playwright MCP để chụp màn hình và quy trình Git, Module 3 về sub-agent, plugin, custom skill, hook và cấu hình nâng cao.

• Amazon Bedrock — Amazon Bedrock
• Project Rainier — Project Rainier
• chip Trainium — Trainium chipset
• Bedrock Agent Core — Bedrock Agent Core
• guardrails — guardrails
• PrivateLink — PrivateLink
• chủ quyền dữ liệu — data sovereignty
• Claude platform on AWS — Claude platform on AWS
• Playwright MCP — Playwright MCP

Câu chuyện "Better Together" giữa AWS và Anthropic

Antonio Rodriguez, một nhà phát triển tại Amazon Web Services, mở đầu phiên với mục tiêu: đưa các ứng dụng bạn xây trong Claude Code từ nguyên mẫu trên máy cá nhân lên các ứng dụng sẵn sàng cho production trên đám mây AWS. Đây là câu chuyện về sự hợp tác — "tốt hơn khi đi cùng nhau".

Quan hệ đối tác đã kéo dài hơn ba năm, từ thời Claude 2. Amazon đã đầu tư hàng tỷ đô vào Anthropic và là nhà cung cấp đám mây chính của họ, trong khi Anthropic cam kết hơn 100 tỷ sử dụng AWS. Project Rainier là một trong những hạ tầng tính toán AI lớn nhất, được xây để huấn luyện và vận hành các mô hình Claude, sử dụng chip Trainium chuyên dụng (đã đến thế hệ thứ ba) để đạt tốc độ tốt nhất với chi phí hiệu quả nhất.

Ba lợi thế khi dùng Claude qua AWS

Có ba góc độ chính khi dùng Claude qua AWS:

• Tính năng đầy đủ: Trong Bedrock, bạn có một nền tảng hoàn chỉnh để kết hợp và fine-tune mô hình. AWS là nhà cung cấp duy nhất cho phép fine-tune Haiku trên đám mây.
• Bảo mật: Bạn luôn kiểm soát dữ liệu, tránh việc dữ liệu đi ra internet công cộng. Engine inference mới nhất của Bedrock có zero operator access — không ai từ Amazon hay Anthropic truy cập được instance, và không dữ liệu nào được dùng để huấn luyện mô hình.
• Khả năng mở rộng: Mở rộng gần như vô hạn, với toàn quyền chọn region (ví dụ chỉ triển khai ở London hay khu vực châu Âu để tuân thủ GDPR).

Hệ sinh thái Amazon Bedrock

Ngoài lõi là các foundation model (bao gồm Claude), Bedrock cung cấp nhiều tính năng cho toàn bộ hành trình của nhà phát triển: đánh giá (evaluation), tối ưu prompt, fine-tuning, model distillation, knowledge bases được quản lý cho các use case RAG, và guardrails (lọc nội dung, từ chối chủ đề, che PII tự động, chống ảo giác qua grounding và automated reasoning).

Quan trọng trong hai năm gần đây là công cụ cho agentic AI. Nếu dùng Claude Agent SDK và cần hạ tầng host agent an toàn, bạn có thể dùng Amazon Bedrock Agent Core, tương thích với mọi framework mở như LangChain, Crew AI và tất nhiên cả Claude Agent SDK.

Tóm tắt giá trị "better together": chủ quyền dữ liệu, hóa đơn hợp nhất từ AWS, khả năng quan sát đầy đủ qua CloudWatch / CloudTrail, các SLA đảm bảo uptime, tích hợp xác thực sẵn có (SSO, OAuth, IAM roles, Entra ID, Okta), và PrivateLink cho giao tiếp hoàn toàn riêng tư. AWS cũng hỗ trợ các quy định tuân thủ như FedRAMP, HIPAA.

Ba cách dùng Claude trên AWS

1. Trực tiếp qua Amazon Bedrock: Dùng các API của Bedrock, với Opus 4.7 mới được thêm và Messages API.
2. Claude platform on AWS: Vừa được phát hành (generally available), mang lại trải nghiệm y hệt khi dùng trực tiếp với Anthropic nhưng có hóa đơn và kiểm soát truy cập hợp nhất trên AWS. AWS đóng vai trò gateway, chuyển toàn bộ yêu cầu inference tới Anthropic, đầy đủ tính năng gồm web search, files, agents.
3. Claude Desktop / Claude Code: Tính hóa đơn hợp nhất trên AWS qua Claude Enterprise trong AWS Marketplace hoặc qua kết nối CodeWhisperer 3P (nối Claude Desktop tới Bedrock hoặc tới Claude platform on AWS).

Workshop thực hành

Workshop "Introduction to Claude Code on AWS" yêu cầu hai điều kiện: một tài khoản AWS (được cấp miễn phí) và đã cài Claude Code. Workshop dùng công cụ và repository Scaled Draw để Claude Code giúp vẽ sơ đồ kiến trúc.

• Module 1: Thiết lập Claude Code trên AWS cơ bản, trỏ tới Scaled Draw.
• Module 2: Làm việc với ngữ cảnh (context), dùng Playwright MCP để chụp màn hình sơ đồ và thực hiện sửa đổi tự động, cùng các quy trình Git.
• Module 3: Sub-agent, plugin, tạo custom skill, hook và các tham số cấu hình nâng cao.

Một workshop nâng cao hơn dành cho các đội muốn lên production an toàn: thiết lập tiêu chuẩn đội, phân phối workflow, kiểm soát chi phí, dashboard theo dõi token Claude Code, đo năng suất nhà phát triển và ROI, cùng việc dùng Claude Agent SDK trên Bedrock Agent Core.

Để truy cập, vào join.thatworkshop.aws và nhập mã truy cập trên màn hình. Người dùng cũng có thể cấu hình Claude thủ công (trỏ region tới Bedrock, chọn model mặc định, giảm token, rate limiting, bật telemetry) — nhưng cách đơn giản nhất là yêu cầu chính Claude tự cấu hình.