คำถามที่พบบ่อยเกี่ยวกับ Amazon SageMaker AI

Amazon SageMaker AI (เดิมชื่อ Amazon SageMaker) เป็นบริการที่ได้รับการบริหารจัดการอย่างเต็มรูปแบบซึ่งรวบรวมชุดเครื่องมือที่หลากหลายเพื่อเปิดใช้แมชชีนเลิร์นนิง (ML) ที่มีประสิทธิภาพสูงและต้นทุนต่ำสำหรับกรณีการใช้งานใด ๆ ด้วย SageMaker AI คุณสามารถสร้าง ฝึก และใช้งานโมเดล ML ในระดับขยายได้ SageMaker เป็นแพลตฟอร์มแบบครบวงจรสำหรับข้อมูล การวิเคราะห์ และ AI มอบประสบการณ์การพัฒนาแบบครบวงจรใหม่ที่ขับเคลื่อนด้วย AI เพื่อให้ลูกค้าสามารถสร้างแอปพลิเคชันบน AWS ได้อย่างง่ายดายและรวดเร็ว

ที่ re:Invent 2024 ความสามารถที่รองรับ ได้แก่ ตำแหน่งข้อมูลการอนุมาน, JumpStart, Train, MLFlow, Model Registry, แอป AI ของพาร์ทเนอร์, HyperPod, Pipelines และอื่น ๆ เรามุ่งมั่นที่จะรวมฟังก์ชันที่มีอยู่ทั้งหมดที่สนับสนุนการพัฒนาแบบจำลองทั้งหมดตั้งแต่การฝึกไปจนถึงการปรับใช้ใน Unified Studio ใหม่

SageMaker มอบข้อมูลแบบครบวงจรและประสบการณ์ AI เพื่อค้นหา เข้าถึง และดำเนินการกับข้อมูลของคุณ เร่งการวิเคราะห์และการริเริ่มของ AI SageMaker AI จะยังคงได้รับการสนับสนุน ดังนั้นคุณจึงไม่จำเป็นต้องดำเนินการใด ๆ เพื่อให้แน่ใจว่าเวิร์กโฟลว์ที่มีอยู่ของคุณยังคงทำงานต่อไป ตัวอย่างเช่น คุณสามารถใช้คลัสเตอร์ Amazon SageMaker HyperPod ที่มีอยู่ต่อไปได้ตามที่เป็นอยู่ หากคุณต้องการใช้ใน SageMaker Unified Studio ใหม่ให้ตั้งค่าการเชื่อมต่อกับคลัสเตอร์นี้ การกำหนดค่า HyperPod ที่มีอยู่ทั้งหมดของคุณจะถูกย้ายไปยังโครงการของคุณใน SageMaker โดยอัตโนมัติและประสิทธิภาพและคุ้มค่าจะเหมือนกัน อย่างไรก็ตาม ประสบการณ์ SageMaker Unified Studio สามารถปรับปรุงประสิทธิภาพการทำงานได้โดยนำเครื่องมือทั้งหมดมาในที่เดียว

เรารู้สึกตื่นเต้นที่จะประกาศเกี่ยวกับสตูดิโอแบบครบวงจรที่ช่วยให้คุณทำงานร่วมกันและสร้างได้เร็วยิ่งขึ้น จาก SageMaker Unified Studio คุณสามารถค้นหาข้อมูล ข้อมูลแบบสอบถาม ฝึกโมเดล AI และสร้างแอปพลิเคชัน AI ช่วยสร้างได้ เราอยู่ที่นี่เพื่อช่วยเหลือคุณในทุกขั้นตอน เราจะจัดเตรียมแนวทางที่ใช้งานง่ายเพื่อนำโครงการที่มีอยู่ของคุณไปยังสตูดิโอแบบครบวงจรในไตรมาสที่ 1 ปี 2025 หากคุณมีคำถามใดโปรดติดต่อทีมบัญชีของคุณ

SageMaker Studio ยังคงเป็นตัวเลือกที่ยอดเยี่ยมสำหรับลูกค้าที่ต้องการประสบการณ์การพัฒนา ML ที่เชื่อถือได้และคล่องตัว องค์กรที่ต้องการสำรวจข้อมูลและความสามารถในการวิเคราะห์จะพบว่า การกำกับดูแลแบบบูรณาการ การวิเคราะห์ขั้นสูง และคุณสมบัติ AI ช่วยสร้างของแพลตฟอร์มแบบครบวงจรใหม่นี้น่าดึงดูด ด้วยประสบการณ์แบบบูรณาการ SageMaker Unified Studio ใหม่ คุณสามารถเตรียมและรวมข้อมูล เรียกดูข้อมูลโดยใช้ SQL ค้นพบและควบคุมข้อมูลด้วยแคตตาล็อกแบบครบวงจรได้

ใช่ HyperPod, JumpStart, MLFlow, JupyterLab และ Pipeline ทั้งหมดมีให้บริการใน SageMaker Unified Studio ใหม่ นอกจากนี้ ตำแหน่งข้อมูลการอนุมานของ Train Model Registry และความสามารถ SageMaker ยอดนิยมอื่น ๆ ยังได้รับการสนับสนุนใน Unified Studio ใหม่

การเดินทางที่ 1 เลือก ปรับแต่ง และปรับใช้โมเดลพื้นฐาน (FM):

• เรียกดูและเลือกชุดข้อมูล
• เลือก FM
• ประเมินแบบจำลอง (อัตโนมัติและทำโดยมนุษย์)
• ปรับ แต่ง: เพิ่มประสิทธิภาพราคา FM, ประสิทธิภาพ และคุณภาพ
• เพิ่มประสิทธิภาพและปรับใช้สำหรับการอนุมาน
• ทำให้เป็นอัตโนมัติด้วย FMOP และการตรวจสอบแบบจำลอง

การเดินทางที่ 2 สร้าง ฝึก และใช้โมเดล ML ที่ระดับขยาย

• เร่งความเร็วและปรับขนาดการเตรียมข้อมูลสำหรับ ML
• สร้างโมเดล ML
• ฝึกและปรับแต่งโมเดล ML
• ปรับใช้ในการผลิต
• จัดการและตรวจสอบติดตาม
• ทำให้วงจรชีวิต ML เป็นอัตโนมัติ

การเดินทางที่ 3 เลือกโมเดล สร้าง และปรับใช้แอปพลิเคชัน AI ช่วยสร้าง:

• เลือกรุ่นและปรับแต่งให้เหมาะสม
• นำเข้าโมเดลไปยัง Amazon Bedrock
• สร้างและปรับใช้แอปพลิเคชัน AI ช่วยสร้างซึ่งรวมเข้ากับตำแหน่งข้อมูลของคุณ

การเดินทางที่ 4 เลือกและปรับใช้โมเดลไปยังตำแหน่งข้อมูล และเชื่อมต่อตำแหน่งข้อมูลเข้ากับแอป AI ช่วยสร้าง:

• เลือกโมเดล
• ปรับใช้โมเดลไปยังตำแหน่งข้อมูล SageMaker
• เชื่อมต่อตำแหน่งข้อมูลเข้ากับแอปพลิเคชัน AI ช่วยสร้างของคุณ

ประสบการณ์การพัฒนาแบบครบวงจรใหม่มีรูปแบบการกำหนดราคาตามการใช้งานสำหรับสตูดิโอและการกำหนดราคาแบบส่งผ่าน (Pass-through) สำหรับบริการพื้นฐานทั้งหมด Unified Studio จะเรียกเก็บเงินสำหรับการจัดเก็บข้อมูลเมตา การร้องขอ API และการกำกับดูแล สำหรับรายละเอียดเพิ่มเติม โปรดไปที่ การกำหนดราคา Amazon SageMaker

SageMaker ให้เครื่องมือการกำกับดูแล ML ที่สร้างขึ้นตามจุดประสงค์ตลอดวงจรชีวิต ML ด้วย Amazon SageMaker Role Manager ผู้ดูแลระบบสามารถกำหนดสิทธิ์ขั้นต่ำได้ในไม่กี่นาที การ์ดข้อมูลโมเดลของ Amazon SageMaker ช่วยให้จับภาพ ดึงข้อมูล และแบ่งปันข้อมูลโมเดลที่สำคัญตั้งแต่แนวความคิดไปจนถึงการนำไปใช้จริงได้ง่ายขึ้น และแดชบอร์ดโมเดลบน Amazon SageMaker จะแจ้งให้คุณทราบเกี่ยวกับพฤติกรรมของโมเดลการผลิตทั้งหมดในที่เดียว สำหรับ
ข้อมูลเพิ่มเติม โปรดดู การดูแล ML ด้วย Amazon SageMaker

คุณสามารถกำหนดสิทธิ์ขั้นต่ำได้ในไม่กี่นาทีด้วย SageMaker Role Manager สิ่งนี้จะจัดเตรียมชุดการอนุญาตพื้นฐานสำหรับกิจกรรม ML และบุคคลด้วยแคตตาล็อกของนโยบาย IAM ที่สร้างไว้ล่วงหน้า คุณสามารถคงสิทธิ์พื้นฐานเอาไว้หรือปรับแต่งเพิ่มเติมตามความต้องการเฉพาะของคุณ จากการใช้คำสั่งแนะนำด้วยตนเองเพียงไม่กี่คำสั่ง คุณสามารถป้อนโครงสร้างการกำกับดูแลทั่วไปได้อย่างรวดเร็ว เช่น ขอบเขตการเข้าถึงเครือข่ายและคีย์เข้ารหัส จากนั้น SageMaker Role Manager จะสร้างนโยบาย IAM โดยอัตโนมัติ คุณสามารถค้นหาบทบาทที่สร้างขึ้นและนโยบายที่เกี่ยวข้องผ่าน AWS IAM Console หากต้องการปรับแต่งสิทธิ์ให้เหมาะกับกรณีการใช้งานของคุณเพิ่มเติม ให้แนบนโยบาย IAM ที่มีการจัดการของคุณกับบทบาทใน IAM ที่คุณสร้างด้วย SageMaker Role Manager นอกจากนี้ คุณยังสามารถเพิ่มแท็กเพื่อช่วยระบุบทบาทและจัดระเบียบในบริการต่างๆ ของ AWS ได้อีกด้วย

SageMaker Model Cards ช่วยให้คุณรวมศูนย์และกำหนดมาตรฐานเอกสารของโมเดลตลอดวงจรการใช้งานของ ML ได้โดยการสร้างแหล่งข้อมูลของโมเดลที่เป็นจริงเพียงแหล่งเดียว SageMaker Model Cards จะแสดงรายละเอียดการฝึกโดยอัตโนมัติเพื่อเร่งกระบวนการจัดทำเอกสาร คุณยังสามารถเพิ่มรายละเอียดต่างๆ เช่น วัตถุประสงค์ของโมเดลและเป้าหมายด้านประสิทธิภาพได้อีกด้วย คุณสามารถแนบผลการประเมินโมเดลลงในการ์ดโมเดลของคุณ และเพิ่มการแสดงภาพ เช่น แผนภูมิ เพื่อรับข้อมูลเชิงลึกที่สำคัญเกี่ยวกับประสิทธิภาพของโมเดล สามารถแบ่งปัน SageMaker Model Card กับผู้อื่นได้อย่างง่ายดายโดยส่งออกไปยังรูปแบบ PDF

แดชบอร์ดโมเดลบน SageMaker ให้ภาพรวมที่ครอบคลุมของโมเดลที่นำไปใช้จริงและตำแหน่งข้อมูล เพื่อให้คุณสามารถบันทึกทรัพยากรและการละเมิดพฤติกรรมของโมเดลได้ในที่เดียว ช่วยให้คุณสามารถตรวจสอบพฤติกรรมของโมเดลในสี่มิติ รวมถึงคุณภาพของข้อมูลและโมเดล อคติ และค่าดริฟต์ในการระบุแหล่งที่มาด้วยการผสานการทำงานกับ SageMaker Model Monitor และ SageMaker Clarify SageMaker Model Dashboard ยังมอบประสบการณ์แบบบูรณาการในการตั้งค่าและรับการแจ้งเตือนสำหรับงานตรวจสอบโมเดลที่หายไปและไม่ได้ใช้งาน และความเบี่ยงเบนในพฤติกรรมเพื่อคุณภาพของโมเดล คุณภาพของข้อมูล ค่าการเบี่ยงเบนที่อคติ และค่าการเบี่ยงเบนในการระบุแหล่งที่มาของฟีเจอร์ คุณสามารถตรวจสอบแต่ละโมเดลเพิ่มเติมและวิเคราะห์ปัจจัยที่ส่งผลต่อประสิทธิภาพของโมเดลเมื่อเวลาผ่านไป จากนั้นคุณสามารถติดตามผลกับผู้ปฏิบัติงาน ML เพื่อใช้มาตรการแก้ไขได้

SageMaker JumpStart ช่วยให้คุณเริ่มต้นกับ ML ได้อย่างรวดเร็วและง่ายดาย SageMaker JumpStart มีชุดโซลูชันสำหรับกรณีการใช้งานที่พบบ่อยที่สุดซึ่งสามารถนำไปปรับใช้ได้อย่างง่ายดายในไม่กี่ขั้นตอน โซลูชันนี้สามารถปรับแต่งได้อย่างเต็มที่และแสดงตัวอย่างการใช้เทมเพลต AWS CloudFormation และสถาปัตยกรรมอ้างอิงเพื่อให้การเดินทางไปในเส้นทางแห่ง ML ของคุณรวดเร็วขึ้นได้ นอกจากนี้ SageMaker JumpStart ยังมีโมเดลพื้นฐานและรองรับการนำไปใช้จริงในขั้นตอนเดียวและการปรับแต่งโมเดลแบบโอเพนซอร์สยอดนิยมมากกว่า 150 โมเดล เช่น โมเดล Transformer, โมเดลการตรวจจับสิ่งของ และโมเดลการจำแนกภาพ 

SageMaker JumpStart มีโมเดลที่เป็นกรรมสิทธิ์และแบบสาธารณะ สำหรับรายการโมเดลรองพื้นที่มีอยู่ โปรดดูที่ การเริ่มต้นใช้งาน Amazon SageMaker JumpStart

คุณสามารถเข้าถึงโมเดลพื้นฐานผ่าน SageMaker Studio, SageMaker SDK และคอนโซลการจัดการของ AWS หากต้องการเริ่มต้นใช้งานโมเดลพื้นฐานที่เป็นกรรมสิทธิ์ คุณต้องยอมรับเงื่อนไขการขายใน AWS Marketplace

ไม่ข้อมูลการอนุมานและการฝึกของคุณจะไม่ถูกใช้หรือแบ่งปันเพื่ออัปเดตหรือฝึกโมเดลพื้นฐานที่ SageMaker JumpStart เผยแพร่ให้กับลูกค้า

ไม่ได้ โมเดลที่เป็นกรรมสิทธิ์ไม่อนุญาตให้ลูกค้าดูน้ำหนักโมเดลและสคริปต์

สามารถพบโมเดลได้ในทุก ภูมิภาค ที่มี SageMaker Studio แต่ความสามารถในการปรับใช้โมเดลแตกต่างกันไปตามรุ่นและความพร้อมใช้งานอินสแตนซ์ของประเภทอินสแตนซ์ที่ต้องการ คุณสามารถอ้างอิงถึงความพร้อมใช้งานของภูมิภาค AWS และอินสแตนซ์ที่จำเป็นได้จากหน้ารายละเอียดโมเดลใน AWS Marketplace

สำหรับโมเดลที่เป็นกรรมสิทธิ์ จะมีการเรียกเก็บค่าซอฟต์แวร์ที่กำหนดโดยผู้ให้บริการโมเดลและค่าธรรมเนียมโครงสร้างพื้นฐาน SageMaker ตามอินสแตนซ์ที่ใช้ สำหรับโมเดลที่ให้ใช้งานสาธารณะ คุณจะถูกเรียกเก็บค่าธรรมเนียมโครงสร้างพื้นฐาน SageMaker ตามอินสแตนซ์ที่ใช้ สำหรับข้อมูลเพิ่มเติม โปรดดูที่ราคาของ Amazon SageMaker และ AWS Marketplace

ความปลอดภัยคือสิ่งที่สำคัญสูงสุดที่ AWS และ SageMaker JumpStart ได้รับการออกแบบมาให้มีความปลอดภั SageMaker จึงให้คุณเป็นเจ้าของและควบคุมเนื้อหาของคุณด้วยเครื่องมือที่เรียบง่ายแต่ทรงพลังที่ช่วยให้คุณสามารถกำหนดได้ว่าจะจัดเก็บเนื้อหาของคุณที่ใด ป้องกันเนื้อหาของลูกค้าระหว่างส่งหรือจัดเก็บ และจัดการการเข้าถึงบริการและทรัพยากรของ AWS สำหรับผู้ใช้ของคุณ

1. เราไม่แชร์ข้อมูลการฝึกอบรมและการอนุมานของลูกค้ากับผู้ขายโมเดลใน AWS Marketplace ในทำนองเดียวกัน อาร์ทิแฟกต์แบบจำลองของผู้ขาย (เช่น น้ำหนักโมเดล) จะไม่ถูกแชร์กับผู้ซื้อ
2. SageMaker JumpStart ไม่ใช้โมเดลของลูกค้า ข้อมูลการฝึกอบรม หรืออัลกอริทึมเพื่อปรับปรุงบริการ และไม่แชร์ข้อมูลการฝึกอบรมและการอนุมานของลูกค้ากับบุคคลที่สามแต่อย่างใด
3. ใน SageMaker JumpStart อาร์ทิแฟกต์ของโมเดล ML จะได้รับการเข้ารหัสระหว่างการส่งผ่านและขณะพัก
4. ภายใต้ รูปแบบความรับผิดชอบร่วมกันของ AWS ทาง AWS มีหน้าที่รับผิดชอบในการปกป้องโครงสร้างพื้นฐานระดับโลกที่ดำเนินงาน AWS ทั้งหมด คุณมีหน้าที่รับผิดชอบในการรักษาการควบคุมเนื้อหาของคุณที่โฮสต์บนโครงสร้างพื้นฐานนี้

เมื่อใช้โมเดลจาก AWS Marketplace หรือ SageMaker JumpStart ผู้ใช้จะรับผิดชอบในเรื่องคุณภาพเอาต์พุตของโมเดลและรับทราบความสามารถและข้อจำกัดที่อธิบายไว้ในคำอธิบายโมเดลแต่ละรายการ

SageMaker JumpStart ประกอบด้วยรุ่นที่เปิดเผยต่อสาธารณะมากกว่า 150 โมเดลจาก PyTorch Hub และ TensorFlow Hub สำหรับงานด้านการมองเห็น เช่น การจำแนกภาพและการตรวจจับวัตถุ คุณสามารถใช้โมเดลเช่น RESNET, MobileNet และเครื่องตรวจจับภาพเดียว (SSD) สำหรับงานข้อความ เช่น การจำแนกประโยค การจำแนกข้อความ และการตอบคำถาม คุณสามารถใช้แบบจำลองเช่น BERT, Roberta และ Distilbert

เมื่อใช้ SageMaker JumpStart นักวิทยาศาสตร์ข้อมูลและนักพัฒนา ML จะสามารถแบ่งปันอาร์ทิแฟกต์ ML รวมถึงโน้ตบุ๊กและโมเดลให้กับในองค์กรได้อย่างง่ายดาย ผู้ดูแลระบบสามารถตั้งค่าที่เก็บข้อมูลที่สามารถเข้าถึงได้โดยบรรดาผู้ใช้ที่กำหนด ผู้ใช้ทุกคนที่ได้รับอนุญาตให้เข้าถึงที่เก็บข้อมูลสามารถเรียกดู ค้นหา และใช้โมเดลและโน้ตบุ๊ก รวมถึงเนื้อหาสาธารณะภายใน SageMaker JumpStart ได้ ผู้ใช้สามารถเลือกอาร์ทิแฟกต์เพื่อฝึกโมเดล ปรับใช้ตำแหน่งข้อมูล และเรียกใช้โน้ตบุ๊กใน SageMaker JumpStart ได้

ด้วย SageMaker JumpStart คุณสามารถเร่งเวลาเข้าสู่ตลาดเมื่อสร้างแอปพลิเคชัน ML โมเดลและโน้ตบุ๊คที่สร้างขึ้นโดยทีมเดียวภายในองค์กรของคุณสามารถแชร์กับทีมอื่นภายในองค์กรได้อย่างง่ายดายในไม่กี่ขั้นตอน การแบ่งปันความรู้ภายในและการนำสินทรัพย์กลับมาใช้ใหม่สามารถเพิ่มประสิทธิภาพการทำงานขององค์กรของคุณได้อย่างมีนัยสำคัญ

ใช่ ผู้ดูแลระบบสามารถควบคุมโมเดล Amazon SageMaker JumpStart ใดที่มองเห็นได้และใช้งานได้กับผู้ใช้ในบัญชี AWS หลายบัญชี และผู้บริหารผู้ใช้หลายบัญชี หากต้องการเรียนรู้เพิ่มเติม โปรดดูที่เอกสารประกอบ

ชุดเครื่องมือเพิ่มประสิทธิภาพการอนุมานช่วยให้คุณใช้เทคนิคการเพิ่มประสิทธิภาพการอนุมานล่าสุดได้ง่ายเพื่อให้บรรลุประสิทธิภาพต้นทุนที่ล้ำสมัย (SOTA) บน Amazon SageMaker ในขณะที่ประหยัดเวลานักพัฒนาหลายเดือน คุณสามารถเลือกจากเมนูเทคนิคการเพิ่มประสิทธิภาพยอดนิยมที่จัดทำโดย SageMaker และเรียกใช้งานการเพิ่มประสิทธิภาพล่วงหน้า เกณฑ์มาตรฐานโมเดลสำหรับเมตริกประสิทธิภาพและความแม่นยำ จากนั้นปรับใช้โมเดลที่ปรับให้เหมาะสมกับปลายทาง SageMaker เพื่ออนุมานได้ ชุดเครื่องมือนี้จัดการทุกแง่มุมของการเพิ่มประสิทธิภาพแบบจำลอง เพื่อให้คุณสามารถมุ่งเน้นไปที่วัตถุประสงค์ทางธุรกิจของคุณได้มากขึ้น

ชุดเครื่องมือเพิ่มประสิทธิภาพการอนุมานช่วยให้คุณปรับปรุงประสิทธิภาพด้านต้นทุนและเวลาในการวางตลาดสำหรับแอปพลิเคชัน AI แบบสร้าง ชุดเครื่องมือเพิ่มประสิทธิภาพแบบจำลองที่มีการจัดการอย่างเต็มที่ช่วยให้คุณสามารถเข้าถึงเทคนิคการเพิ่มประสิทธิภาพล่าสุดด้วยเครื่องมือที่ใช้งานง่าย นอกจากนี้ยังง่ายต่อการอัปเกรดเป็นโซลูชันที่ดีที่สุดที่มีอยู่เมื่อเวลาผ่านไป เนื่องจากชุดเครื่องมือปรับให้เข้ากับนวัตกรรมล้ำสมัย ฮาร์ดแวร์ใหม่ และคุณสมบัติโฮสติ้งอย่างต่อเนื่อง

ชุดเครื่องมือเพิ่มประสิทธิภาพการอนุมานรองรับเทคนิคการเพิ่มประสิทธิภาพเช่นการถอดรหัสเก็งกำไร การหาปริมาณ และการรวบรวม คุณสามารถเลือกการเพิ่มประสิทธิภาพที่คุณต้องการเพิ่มลงในโมเดลของคุณได้ในไม่กี่คลิก และ Amazon SageMaker จะจัดการงานที่ยากต้องใช้เวลานานและใช้แรงงานมากที่ไม่แตกต่างทั้งหมดของการจัดหาฮาร์ดแวร์ เลือกสภาพแวดล้อมแบบล่วงหน้าการเรียนรู้เชิงลึกและพารามิเตอร์การปรับแต่งที่สอดคล้องกันเพื่อเรียกใช้งานการเพิ่มประสิทธิภาพ จากนั้นบันทึกสิ่งประดิษฐ์โมเดลที่ได้รับการปรับให้เหมาะสมในตำแหน่ง S3 ที่คุณจัดไว้

สำหรับการถอดรหัสเก็งกำไร คุณสามารถเริ่มต้นด้วย SageMaker รุ่นร่าง เพื่อให้คุณไม่ต้องสร้างโมเดลร่างของคุณเองตั้งแต่เริ่มต้น และขอกำหนดเส้นทางและการเพิ่มประสิทธิภาพระดับระบบ ด้วย Quantization คุณเพียงเลือกประเภทความแม่นยำที่คุณต้องการใช้และเริ่มงานเปรียบเทียบเพื่อวัดผลการเปรียบเทียบประสิทธิภาพและความแม่นยำ Amazon SageMaker จะสร้างรายงานการประเมินที่ครอบคลุมเพื่อให้คุณสามารถวิเคราะห์การแลกเปลี่ยนระหว่างประสิทธิภาพและความแม่นยำได้อย่างง่ายดาย ด้วย Compilation สำหรับโมเดลยอดนิยมและการกำหนดค่าโมเดล Amazon SageMaker จะดึงสิ่งประดิษฐ์โมเดลที่รวบรวมโดยอัตโนมัติระหว่างการตั้งค่าและปรับขนาดปลายทางซึ่งจะช่วยขจัดความจำเป็นที่คุณต้องเรียกใช้งานการรวบรวมล่วงหน้าช่วยประหยัดค่าใช้จ่ายด้านฮาร์ดแวร์

ชุดเครื่องมือเพิ่มประสิทธิภาพการอนุมานของ Amazon SageMaker ช่วยลดต้นทุนและเวลาของคุณในการเพิ่มประสิทธิภาพโมเดล GenAI ช่วยให้คุณมุ่งเน้นไปที่วัตถุประสงค์ทางธุรกิจของคุณ

SageMaker Canvas เป็นบริการแบบไม่มีโค้ดพร้อมอินเทอร์เฟซแบบชี้แล้วคลิก (point-and-click) ที่ใช้งานง่าย ซึ่งช่วยให้คุณสร้างการคาดการณ์ตาม ML ที่แม่นยำสูงจากข้อมูลของคุณได้ SageMaker Canvas ช่วยให้คุณสามารถเข้าถึงและรวมข้อมูลจากแหล่งข้อมูลที่หลากหลายโดยใช้อินเทอร์เฟซผู้ใช้แบบลากและวาง ทำความสะอาดและเตรียมข้อมูลโดยอัตโนมัติเพื่อลดความจำเป็นในการล้างด้วยตนเอง SageMaker Canvas ใช้อัลกอริทึม ML ล้ำสมัยที่หลากหลายเพื่อค้นหาแบบจำลองการทำนายที่แม่นยำสูงและให้อินเทอร์เฟซที่ใช้งานง่ายเพื่อทำการคาดการณ์ คุณสามารถใช้ SageMaker Canvas เพื่อทำการคาดการณ์ที่แม่นยำยิ่งขึ้นในแอปพลิเคชันทางธุรกิจที่หลากหลาย และทำงานร่วมกับนักวิทยาศาสตร์และนักวิเคราะห์ข้อมูลในองค์กรของคุณได้อย่างง่ายดายโดยแบ่งปันโมเดล ข้อมูล และรายงานของคุณ หากต้องการเรียนรู้เพิ่มเติมเกี่ยวกับ SageMaker Canvas โปรดดู คำถามที่พบบ่อยของ Amazon SageMaker Canvas

ด้วย SageMaker Canvas คุณจะจ่ายตามการใช้งานจริง SageMaker Canvas ช่วยให้คุณนำเข้าข้อมูล สำรวจ และเตรียมข้อมูลจากหลายแหล่งข้อมูลเชิงโต้ตอบ ฝึกโมเดล ML ที่มีความแม่นยำสูงด้วยข้อมูลของคุณ และสร้างการคาดการณ์ มีสององค์ประกอบที่กำหนดค่าใบเรียกเก็บเงินของคุณ ได้แก่ ค่าใช้จ่ายเซสชันตามจำนวนชั่วโมงที่ใช้ SageMaker Canvas หรือเข้าสู่ระบบ และค่าใช้จ่ายสำหรับการฝึกโมเดลตามขนาดของชุดข้อมูลที่ใช้ในการสร้างโมเดล หากต้องการทราบข้อมูลเพิ่มเติม โปรดดู ราคา Amazon SageMaker Canvas

Amazon SageMaker Pipelines ช่วยให้คุณสร้างเวิร์กโฟลว์ ML แบบอัตโนมัติเต็มรูปแบบตั้งแต่การเตรียมข้อมูลไปจนถึงการนำโมเดลไปใช้จริง เพื่อให้คุณสามารถปรับขนาดโมเดล ML หลายพันโมเดลในช่วงการผลิตได้ คุณสามารถสร้างไปป์ไลน์ด้วย SageMaker Python SDK รวมถึงดู เรียกใช้ และตรวจสอบจากอินเทอร์เฟซที่แสดงเป็นภาพของ SageMaker Studio ได้ SageMaker Pipelines ดูแลจัดการข้อมูลระหว่างขั้นตอน สร้างแพ็คเกจของสูตรโค้ด และควบคุมการเรียกใช้ ช่วยลดเวลาการเขียนโค้ดจากหลายเดือนให้เหลือเพียงไม่กี่ชั่วโมง ทุกครั้งที่เวิร์กโฟลว์เริ่มทำงาน จะมีการบันทึกข้อมูลที่ประมวลผลและการดำเนินการทั้งหมดไว้เพื่อให้นักวิทยาศาสตร์ข้อมูลและนักพัฒนา ML สามารถแก้ไขปัญหาได้อย่างรวดเร็ว

ไม่มีค่าใช้จ่ายเพิ่มเติมสำหรับ SageMaker Pipeline คุณจ่ายเฉพาะสำหรับการคำนวณพื้นฐานหรือบริการ AWS แยกต่างหากที่คุณใช้ใน SageMaker Pipeline เท่านั้น

ไม่มีค่าใช้จ่ายเพิ่มเติมสำหรับการใช้ส่วนประกอบ SageMaker สำหรับ Kubeflow Pipeline 

Human-in-the-Loop คือกระบวนการของการใช้ประโยชน์จากข้อมูลของมนุษย์ตลอดวงจรชีวิต ML เพื่อปรับปรุงความแม่นยำและความตรงประเด็นของโมเดล มนุษย์สามารถทำงานที่หลากหลาย ตั้งแต่การสร้างข้อมูลและการทำคำอธิบายประกอบไปจนถึงการตรวจสอบโมเดลและการปรับแต่ง การแทรกแซงของมนุษย์มีความสำคัญอย่างยิ่งสำหรับการใช้งาน AI ช่วยสร้าง โดยที่มนุษย์มักจะเป็นทั้งผู้ขอและผู้บริโภคเนื้อหา ดังนั้นจึงเป็นสิ่งสำคัญที่มนุษย์จะต้องฝึกฝนโมเดลพื้นฐาน (FM) ในการตอบสนองอย่างถูกต้อง ปลอดภัย และตรงประเด็นกับคำแนะนำของผู้ใช้ ข้อเสนอแนะของมนุษย์สามารถนำไปใช้เพื่อช่วยให้คุณทำงานหลายอย่างเสร็จสมบูรณ์ ประการแรก การสร้างชุดข้อมูลการฝึกฝนที่มีป้ายกำกับคุณภาพสูงสำหรับแอปพลิเคชัน AI ช่วยสร้างผ่านการเรียนรู้แบบมีผู้ดูแล (โดยที่มนุษย์จำลองสไตล์ ความยาว และความแม่นยำของวิธีที่โมเดลควรตอบสนองต่อคำแนะนำของผู้ใช้) และการเสริมสร้างการเรียนรู้ด้วยข้อเสนอแนะของมนุษย์ (โดยที่มนุษย์จัดอันดับและจำแนกการตอบสนองโมเดล) ประการที่สอง การใช้ข้อมูลที่มนุษย์สร้างขึ้นเพื่อปรับแต่ง FM ในงานที่เฉพาะเจาะจงหรือข้อมูลเฉพาะของบริษัท และหัวข้อของคุณ และทำให้ผลลัพธ์โมเดลมีความตรงประเด็นกับคุณ

ความสามารถของ Human-in-the-loop มีบทบาทสำคัญในการสร้างและปรับปรุงแอปพลิเคชัน AI ช่วยสร้างที่ขับเคลื่อนโดย FM พนักงานมนุษย์ที่มีทักษะสูงซึ่งได้รับการฝึกฝนเกี่ยวกับแนวทางของงานสามารถให้ข้อเสนอแนะ คำแนะนำ อินพุต และประเมินในกิจกรรม เช่น การสร้างข้อมูลสาธิตเพื่อฝึกฝน FM แก้ไขและปรับปรุงการตอบสนองของตัวอย่าง ปรับแต่งโมเดลตามข้อมูลของบริษัทและอุตสาหกรรม ทำหน้าที่เป็นการป้องกันความเป็นพิษและความอคติและอื่น ๆ ความสามารถของ Human-in-the-Loop จึงสามารถปรับปรุงความแม่นยำและประสิทธิภาพของโมเดลได้ 

Amazon SageMaker Ground Truth นำเสนอชุดความสามารถของ Human-in-the-Loop ที่ครอบคลุมที่สุด มีสองวิธีในการใช้ Amazon SageMaker Ground Truth ซึ่งเป็นข้อเสนอบริการตนเองและข้อเสนอที่ได้รับการจัดการของ AWS ในการให้บริการด้วยตนเอง ผู้ประกาศข้อมูล ผู้สร้างเนื้อหา และวิศวกรพรอมต์ (ภายในบริษัท ผู้จัดการ ผู้จัดจำหน่าย หรือใช้ประโยชน์จากฝูงชนสาธารณะ) สามารถใช้อินเทอร์เฟซผู้ใช้ที่มีการเขียนโค้ดน้อยที่สุดของเราเพื่อเร่งการทำงานของ Human-in-the-Loop ในขณะเดียวกันก็มีความยืดหยุ่นในการสร้างและจัดการเวิร์กโฟลว์ที่กำหนดเองของคุณเอง ในข้อเสนอที่มีการจัดการ AWS (SageMaker Ground Truth Plus) เราจัดการกับภาระหนักให้คุณ ซึ่งรวมถึงการเลือกและจัดการพนักงานที่เหมาะสมสำหรับกรณีการใช้งานของคุณ SageMaker Ground Truth Plus ออกแบบและปรับแต่งเวิร์กโฟลว์แบบครบวงจรแ (รวมถึงการฝึกฝนพนักงานโดยละเอียดและขั้นตอนการประกันคุณภาพ) และจัดเตรียมทีมที่มีทักษะที่ได้รับการจัดการของ AWS ซึ่งได้รับการฝึกฝนเกี่ยวกับงานเฉพาะและตรงตามข้อกำหนดด้านคุณภาพข้อมูล ความปลอดภัย และการปฏิบัติตามข้อกำหนดของคุณ 

SageMaker Data Wrangler ลดเวลาในการรวมและเตรียมข้อมูลสำหรับแมชชีนเลิร์นนิง (ML) ด้วย SageMaker Studio คุณจะสามารถเรียกดูและนำเข้าข้อมูลจาก Amazon S3, Amazon Athena, Amazon Redshift, AWS Lake Formation, Amazon EMR, Snowflake และ Databricks ได้ในไม่กี่ขั้นตอนจากอินเทอร์เฟซเดียว นอกจากนี้คุณยังสามารถสืบค้นและนำเข้าข้อมูลที่ถ่ายโอนจากแหล่งที่มาของข้อมูลมากกว่า 50 แหล่งและที่ลงทะเบียนในแค็ตตาล็อกข้อมูลของ AWS Glue ด้วย Amazon AppFlow SageMaker Data Wrangler จะโหลด รวม และแสดงข้อมูลดิบโดยอัตโนมัติ หลังจากนำเข้าข้อมูลของคุณไปยัง SageMaker Data Wrangler แล้วคุณจะมองเห็นสรุปคอลัมน์และฮิสโตแกรมที่สร้างขึ้นโดยอัตโนมัติ จากนั้นคุณสามารถเจาะลึกเพื่อทำความเข้าใจข้อมูลของคุณและระบุหาข้อผิดพลาดที่อาจเกิดขึ้นได้ด้วยรายงานด้านคุณภาพและข้อมูลเชิงลึกของ SageMaker Data Wrangler ซึ่งแสดงสถิติสรุปและคำเตือนด้านคุณภาพข้อมูล นอกจากนี้คุณยังสามารถวิเคราะห์อคติที่รองรับโดย SageMaker Clarify โดยตรงจาก SageMaker Data Wrangler ได้เพื่อตรวจจับอคติที่อาจเกิดขึ้นระหว่างการเตรียมข้อมูล จากจุดนั้น คุณสามารถใช้การแปลงข้อมูลที่สร้างไว้แล้วล่วงหน้าของ SageMaker Data Wrangler เพื่อเตรียมข้อมูลได้ เมื่อเตรียมข้อมูลแล้ว คุณสามารถสร้างเวิร์กโฟลว์ ML ที่เป็นอัตโนมัติด้วย Amazon SageMaker Pipelines แล้วส่งออกข้อมูลนั้นไปยัง Amazon SageMaker Feature Store

คุณจ่ายเงินสำหรับทรัพยากรการคำนวณ การจัดเก็บ และการประมวลผลข้อมูล ML ทั้งหมดที่คุณใช้สำหรับ SageMaker Data Wrangler คุณสามารถตรวจสอบรายละเอียดทั้งหมดของราคา SageMaker Data Wrangler ได้ ที่นี่ ในฐานะส่วนหนึ่งของ AWS Free Tier คุณสามารถเริ่มต้นใช้งาน SageMaker Data Wrangler ได้ฟรี

SageMaker Feature Store เป็นพื้นที่เก็บข้อมูลที่สร้างขึ้นตามวัตถุประสงค์ที่มีการจัดการเต็มรูปแบบเพื่อจัดเก็บ แบ่งปัน และจัดการกับคุณสมบัติสำหรับโมเดลแมชชีนเลิร์นนิ่ง (ML) สามารถค้นพบและแชร์ฟีเจอร์เพื่อนำกลับมาใช้ใหม่ได้ง่ายในรุ่นและทีมด้วยการเข้าถึงและการควบคุมที่ปลอดภัย รวมถึงในบัญชี AWS SageMaker Feature Store รองรับทั้งฟีเจอร์ออนไลน์และออฟไลน์สำหรับการอนุมานแบบเรียลไทม์ การอนุมานแบบแบทช์ และการฝึก นอกจากนี้ ยังจัดการท่อวิศวกรรมคุณสมบัติแบบแบทช์และสตรีมมิ่งเพื่อลดการซ้ำกันในการสร้างฟีเจอร์และปรับปรุงความแม่นยำของโมเดล

สามารถเริ่มใช้งาน SageMaker Feature Store ได้โดยไม่ค่าใช้จ่ายเพราะเป็นส่วนหนึ่งของ AWS Free Tier ด้วย SageMaker Feature Store คุณจะจ่ายเงินสำหรับการเขียนลงในฟีเจอร์สโตร์ และการอ่านและการจัดเก็บจากร้านค้าฟีเจอร์ออนไลน์ สำหรับรายละเอียดราคา โปรดดู ราคา Amazon SageMaker

SageMaker มอบข้อเสนอการระบุประเภทข้อมูลสองแบบ ได้แก่ Amazon SageMaker Ground Truth Plus และ Amazon SageMaker Ground Truth ทั้งสองตัวเลือกช่วยให้คุณสามารถระบุข้อมูลดิบ เช่น รูปภาพ ไฟล์ข้อความ และวิดีโอ และเพิ่มป้ายกำกับข้อมูลเพื่อสร้างชุดข้อมูลการฝึกคุณภาพสูงสำหรับโมเดล ML ของคุณ หากต้องการเรียนรู้เพิ่มเติม โปรดดูการระบุประเภทข้อมูลของ Amazon SageMaker

SageMaker Studio Notebooks คือ Jupyter Notebook แบบคลิกเดียวที่สามารถเริ่มต้นการทำงานได้อย่างรวดเร็ว ทรัพยากรการประมวลผลที่สำคัญและซ่อนอยู่มีความยืดหยุ่นเต็มรูปแบบ คุณจึงสามารถปรับทรัพยากรที่มีอยู่ขึ้นหรือลงได้ง่าย ส่วนการเปลี่ยนแปลงก็จะเกิดขึ้นโดยอัตโนมัติในพื้นหลังโดยไม่รบกวนการทำงานของคุณ นอกจากนี้ SageMaker ยังช่วยให้สามารถแชร์โน๊ตบุ๊คได้ด้วยการคลิกครั้งเดียว คุณสามารถแชร์ Notebook กับผู้อื่นได้อย่างง่ายดาย และผู้อื่นก็จะได้ Notebook เดียวกันกับที่คุณบันทึกไว้ในที่เดียวกัน

ด้วยโน้ตบุ๊ค SageMaker Studio คุณสามารถลงชื่อเข้าใช้ด้วยข้อมูลประจำตัวขององค์กรของคุณโดยใช้ IAM Identity Center การแชร์โน้ตบุ๊คภายในและข้ามทีมเป็นเรื่องง่าย เนื่องจากการอ้างอิงที่จำเป็นในการเรียกใช้โน้ตบุ๊คจะถูกติดตามโดยอัตโนมัติในภาพการทำงานที่ห่อหุ้มเข้ากับโน้ตบุ๊คขณะแชร์

ไม่ คุณสามารถสร้างและเรียกใช้โน้ตบุ๊คหลายอันบนอินสแตนซ์คำนวณเดียวกันได้ คุณจ่ายเฉพาะสำหรับการคำนวณที่คุณใช้ไม่ใช่สำหรับรายการแต่ละรายการ คุณสามารถอ่านเพิ่มเติมเกี่ยวกับเรื่องนี้ได้ใน คู่มือการวัดของเรา

นอกจากโน้ตบุ๊คแล้ว คุณยังสามารถเริ่มและเรียกใช้เทอร์มินัลและเชลล์แบบโต้ตอบใน SageMaker Studio ทั้งหมดในอินสแตนซ์การประมวลผลเดียวกัน แต่ละแอปพลิเคชันทำงานภายในคอนเทนเนอร์หนึ่งหรือภาพหนึ่ง SageMaker Studio มีภาพในตัวหลายภาพที่สร้างขึ้นโดยเฉพาะและกำหนดค่าไว้ล่วงหน้าสำหรับวิทยาศาสตร์ข้อมูลและ ML

คุณสามารถตรวจสอบและ ปิด ทรัพยากรที่ใช้โดยโน้ตบุ๊ค SageMaker Studio ของคุณผ่านทั้งอินเทอร์เฟซภาพ SageMaker Studio และ AWS Management Console โปรดดูรายละเอียดเพิ่มเติมใน เอกสารประกอบ

ไม่ คุณจะไม่ถูกเรียกเก็บเงินสำหรับการสร้างหรือกำหนดค่าโดเมน SageMaker Studio รวมถึงการเพิ่ม อัปเดต และการลบโพรไฟล์ผู้ใช้

ในฐานะผู้ดูแลระบบ คุณสามารถดูรายการค่าใช้จ่ายเฉพาะสำหรับ SageMaker รวมถึง SageMaker Studio ในคอนโซลการเรียกเก็บเงิน AWS Billing จาก AWS Management Console สำหรับ SageMaker ให้เลือก บริการที่เมนูด้านบน พิมพ์ “การเรียกเก็บเงิน” ในช่องค้นหา แล้วเลือก การเรียกเก็บเงิน จากเมนูแบบเลื่อนลง จากนั้นเลือก เรียกเก็บเงิน ที่แผงด้านซ้าย ในส่วนรายละเอียด คุณสามารถเลือก SageMaker เพื่อขยายรายการภูมิภาค และดูค่าธรรมเนียมรายละเอียด

ใช่ SageMaker สามารถแจกจ่ายแบบจำลองการเรียนรู้เชิงลึกและชุดการฝึกขนาดใหญ่ในอินสแตนซ์ AWS GPU โดยอัตโนมัติในเวลาเพียงเล็กน้อยที่ต้องใช้ในการสร้างและเพิ่มประสิทธิภาพกลยุทธ์การกระจายเหล่านี้ด้วยตนเอง เทคนิคการฝึกแบบกระจายสองอย่างที่ SageMaker ใช้คือ ความขนานของข้อมูลและความขนานแบบจำลอง การขนานของข้อมูลถูกนำมาใช้เพื่อปรับปรุงความเร็วในการฝึกโดยแบ่งข้อมูลอย่างเท่าเทียมกันในอินสแตนซ์ GPU หลายอินสแตนซ์ ทำให้แต่ละอินสแตนซ์สามารถฝึกพร้อมกัน ความขนานของโมเดลมีประโยชน์สำหรับรุ่นที่มีขนาดใหญ่เกินไปที่จะจัดเก็บไว้ใน GPU เดียว และต้องแบ่งโมเดลออกเป็นส่วนที่เล็กกว่าก่อนที่จะกระจายผ่าน GPU หลายตัว ด้วยโค้ดเพิ่มเติมเพียงไม่กี่บรรทัดในสคริปต์การฝึก PyTorch และ TensorFlow ของคุณ SageMaker จะใช้ความขนานของข้อมูลหรือความขนานแบบจำลองสำหรับคุณได้โดยอัตโนมัติ ช่วยให้คุณสามารถพัฒนาและปรับใช้โมเดลของคุณได้เร็วขึ้น SageMaker จะกำหนดวิธีการที่ดีที่สุดในการแบ่งโมเดลของคุณโดยใช้อัลกอริทึมการแบ่งพาร์ติชันกราฟเพื่อปรับสมดุลการคำนวณของ GPU แต่ละตัว ในขณะที่ลดการสื่อสารระหว่างอินสแตนซ์ GPU นอกจากนี้ SageMaker ยังเพิ่มประสิทธิภาพงานการฝึกแบบกระจายของคุณผ่านอัลกอริทึมที่ใช้การประมวลผลและเครือข่าย AWS อย่างเต็มที่เพื่อให้ได้ประสิทธิภาพการปรับขนาดใกล้เชิงเส้น ซึ่งช่วยให้คุณฝึกเสร็จสมบูรณ์ได้เร็วกว่าการใช้งานโอเพนซอร์สแบบแมนนวล

การฝึกสปอตที่มีการจัดการได้รับการสนับสนุนในทุกภูมิภาคที่มี SageMaker อยู่ในปัจจุบัน

ไม่มีขีดจำกัดคงที่สำหรับขนาดของชุดข้อมูลที่คุณสามารถใช้สำหรับโมเดลการฝึกด้วย SageMaker

ยังใช้ไม่ได้ในขณะนี้ ประสิทธิภาพและประสบการณ์การปรับแต่งรุ่นที่ดีที่สุดอยู่ใน SageMaker

ปัจจุบันอัลกอริทึมสำหรับการปรับแต่งไฮเปอร์พารามิเตอร์เป็นการนำไปใช้แบบปรับแต่งของ Bayesian Optimization มีจุดมุ่งหมายเพื่อเพิ่มประสิทธิภาพเมตริกวัตถุประสงค์ที่ลูกค้าระบุไว้ตลอดกระบวนการปรับแต่ง โดยเฉพาะอย่างยิ่ง จะตรวจสอบเมตริกวัตถุของงานฝึกที่เสร็จสมบูรณ์และใช้ความรู้เพื่อสรุปการรวมกันของไฮเปอร์พารามิเตอร์สำหรับงานฝึกต่อไป

ไม่ ไฮเปอร์พารามิเตอร์บางอย่างมีผลต่อประสิทธิภาพของโมเดลอย่างไรขึ้นอยู่กับปัจจัยต่างๆ และเป็นเรื่องยากที่จะบอกอย่างชัดเจนว่าไฮเปอร์พารามิเตอร์หนึ่งมีความสำคัญกว่าพารามิเตอร์อื่น ๆ ดังนั้นจึงจำเป็นต้องปรับแต่ง สำหรับอัลกอริทึมในตัวภายใน SageMaker เราจะแจ้งว่าไฮเปอร์พารามิเตอร์สามารถปรับได้หรือไม่

ระยะเวลาสำหรับงานปรับแต่งไฮเปอร์พารามิเตอร์ขึ้นอยู่กับปัจจัยหลายประการ รวมถึงขนาดของข้อมูล อัลกอริทึมพื้นฐาน และค่าของไฮเปอร์พารามิเตอร์ นอกจากนี้ลูกค้าสามารถเลือกจำนวนงานฝึกพร้อมกันและจำนวนงานฝึกทั้งหมด ตัวเลือกทั้งหมดเหล่านี้ส่งผลต่อระยะเวลาที่งานปรับแต่งไฮเปอร์พารามิเตอร์สามารถใช้งานได้นานเท่าใด

ยังใช้ไม่ได้ในขณะนี้ ปัจจุบัน คุณต้องระบุตัวชี้วัดวัตถุประสงค์เดียวเพื่อเพิ่มประสิทธิภาพหรือเปลี่ยนโค้ดอัลกอริทึมของคุณเพื่อปล่อยเมตริกใหม่ ซึ่งเป็นค่าเฉลี่ยถ่วงน้ำหนักระหว่างเมตริกที่มีประโยชน์สองตัวขึ้นไปและให้กระบวนการปรับแต่งให้เหมาะสมกับเมตริกวัตถุประสงค์นั้น

ไม่มีค่าใช้จ่ายสำหรับงานปรับแต่งไฮเปอร์พารามิเตอร์เอง คุณจะถูกเรียกเก็บเงินจากงานฝึกที่เปิดตัวโดยงานปรับแต่งไฮเปอร์พารามิเตอร์ โดยอิงจาก ราคาการฝึกแบบจำลอง

SageMaker Autopilot นั้นดำเนินการทุกอย่างโดยอัตโนมัติในเวิร์กโฟลว์ ML ทั่วไป รวมถึงการประมวลผลฟีเจอร์ล่วงหน้า การเลือกอัลกอริทึม และการปรับแต่งไฮเปอร์พารามิเตอร์ ในขณะที่มุ่งเน้นไปที่กรณีการใช้งานการจัดหมวดหมู่และการรีเกรสชั่นโดยเฉพาะ ในทางกลับกัน การปรับแต่งโมเดลอัตโนมัติ ได้รับการออกแบบมาเพื่อปรับแต่งโมเดลใดๆ ไม่ว่าจะขึ้นอยู่กับอัลกอริธึมในตัว เฟรมเวิร์กดีปเลิร์นนิง หรือคอนเทนเนอร์แบบกำหนดเองก็ตาม เพื่อแลกกับความยืดหยุ่น คุณต้องเลือกอัลกอริธึมที่ต้องการ ไฮเปอร์พารามิเตอร์ที่ต้องการปรับแต่ง และช่วงการค้นหาที่เกี่ยวข้องด้วยตนเอง

การเรียนรู้เสริมแรงเป็นเทคนิคหนึ่งของ ML ที่ช่วยให้เอเจนต์สามารถเรียนรู้ในสภาพแวดล้อมแบบโต้ตอบได้โดยการทดลองเพื่อเรียนรู้โดยใช้ข้อเสนอแนะจากการกระทำและประสบการณ์ของตนเอง

ได้ คุณสามารถฝึกโมเดลการเรียนรู้เสริมแรงได้ใน SageMaker นอกเหนือจากแบบจำลองการเรียนรู้ที่ควบคุมและไม่มีการดูแล

แม้ว่าทั้งการเรียนรู้ที่มีการควบคุมและการเสริมกำลังจะใช้การทำแผนที่ระหว่างอินพุตและเอาต์พุต แต่แตกต่างจากการเรียนรู้ที่ควบคุมโดยที่ข้อเสนอแนะที่ให้แก่เอเจนต์เป็นชุดการกระทำที่ถูกต้องสำหรับการปฏิบัติงาน การเรียนรู้แบบเสริมแรงใช้ข้อเสนอแนะที่ล่าช้าซึ่งสัญญาณรางวัลได้รับการปรับให้เหมาะสมผ่านลำดับของการกระทำต่าง ๆ เพื่อให้แน่ใจว่าเป้าหมายระยะยาว

ในขณะที่เป้าหมายของเทคนิคการเรียนรู้ที่มีการกำกับดูแลคือการค้นหาคำตอบที่ถูกต้องตามรูปแบบในข้อมูลการฝึก แต่เป้าหมายของเทคนิคการเรียนรู้ที่ไม่มีการดูแลคือการค้นหาความคล้ายคลึงกันและความแตกต่างระหว่างจุดข้อมูล ในทางตรงกันข้าม เป้าหมายของเทคนิคการเรียนรู้เสริมแรง (RL) คือการเรียนรู้วิธีบรรลุผลลัพธ์ที่ต้องการแม้ว่าจะไม่ชัดเจนว่าจะบรรลุผลลัพธ์นั้นได้อย่างไร ด้วยเหตุนี้ RL จึงเหมาะสำหรับการใช้งานอัจฉริยะที่ตัวแทนสามารถตัดสินใจได้อย่างอิสระ เช่น หุ่นยนต์ ยานพาหนะอัตโนมัติ HVAC การควบคุมอุตสาหกรรม และอื่นๆ

Amazon SageMaker RL รองรับสภาพแวดล้อมที่แตกต่างกันมากมายสำหรับการฝึกรุ่น RL คุณสามารถใช้บริการ AWS เช่น AWS RoboMaker สภาพแวดล้อมโอเพนซอร์สหรือสภาพแวดล้อมที่กำหนดเองที่พัฒนาโดยใช้อินเทอร์เฟซ Open AI Gym หรือสภาพแวดล้อมการจำลองเชิงพาณิชย์เช่น MATLAB และ SimuLink

ไม่ SageMaker RL มีชุดเครื่องมือ RL เช่น Coach และ Ray RlLib ที่นำเสนอการใช้งานอัลกอริทึมเอเจนต์ RL เช่น DQN, PPO, A3C และอื่น ๆ อีกมากมาย

ใช่ คุณสามารถนำไลบรารี RL และการใช้งานอัลกอริทึมของคุณเองใน Docker Containers และเรียกใช้ไฟล์เหล่านั้นใน SageMaker RL

ใช่ นอกจากนี้ คุณยังสามารถเลือกคลัสเตอร์ที่แตกต่างกันซึ่งการฝึกสามารถทำงานบนอินสแตนซ์ GPU และการจำลองสามารถทำงานบนอินสแตนซ์ CPU หลายอินสแตนซ์ได้

คุณสามารถลดขนาดอินสแตนซ์ตำแหน่งข้อมูล SageMaker Asynchronous Inference ให้เป็นศูนย์ได้ เพื่อประหยัดค่าใช้จ่ายเมื่อคุณไม่ได้กำลังประมวลผลคำขออยู่ คุณต้องกำหนดนโยบายการปรับขนาดที่ปรับขนาดตามเมตริกที่กำหนดเอง "ApproximateBacklogPerInstance" และตั้งค่า "MinCapacity" ให้เป็นศูนย์ สำหรับคำแนะนำทีละขั้นตอน โปรดไปที่ส่วน ตำแหน่งข้อมูลแบบอะซิงโครนัสปรับขนาดอัตโนมัติของคู่มือนักพัฒนา 

SageMaker Serverless Inference เป็นตัวเลือกการให้บริการ เป็นโมเดลไร้เซิร์ฟเวอร์ที่สร้างขึ้นโดยเฉพาะ ซึ่งทำให้ง่ายต่อการปรับใช้และปรับขนาดโมเดล ML จุดตำแหน่งข้อมูลของ SageMaker Serverless Inference จะเริ่มทรัพยากรการคำนวณโดยอัตโนมัติและปรับขนาดเข้าและออกขึ้นอยู่กับปริมาณการรับส่งข้อมูล ทำให้คุณไม่จำเป็นต้องเลือกประเภทอินสแตนซ์ เรียกใช้ความจุที่จัดเตรียมไว้ หรือจัดการการปรับขนาด คุณสามารถระบุข้อกำหนดของหน่วยความจำสำหรับตำแหน่งข้อมูลอนุมานแบบไร้เซิร์ฟเวอร์ของคุณได้ คุณจ่ายเฉพาะระยะเวลาในการเรียกใช้รหัสอนุมานและจำนวนข้อมูลที่ประมวลผลเท่านั้น ไม่ใช่สำหรับช่วงเวลาที่ไม่ได้ใช้งาน

ด้วยตำแหน่งข้อมูลแบบไร้เซิร์ฟเวอร์แบบออนดีมานด์ หากตำแหน่งข้อมูลของคุณไม่ได้รับปริมาณการใช้งานเป็นระยะเวลาหนึ่ง และตำแหน่งข้อมูลของคุณจะได้รับคำขอใหม่ทันที อาจใช้เวลาสักครู่กว่าตำแหน่งข้อมูลของคุณจะหมุนทรัพยากรการคำนวณเพื่อประมวลผลคำขอ ซึ่งนี่เรียกว่าสตาร์ทแบบเย็น การสตาร์ทแบบเย็นอาจเกิดขึ้นได้หากคำขอพร้อมกันของคุณเกินการใช้งานคำขอพร้อมกันปัจจุบัน เวลาสตาร์ทแบบเย็นขึ้นอยู่กับขนาดโมเดลของคุณ ใช้เวลานานในการดาวน์โหลดโมเดลของคุณ และเวลาเริ่มต้นของคอนเทนเนอร์ของคุณ

เพื่อลดความแปรปรวนในโพรไฟล์ความหน่วงของคุณ คุณสามารถเปิดใช้งานการควบคู่กันแบบกำหนดไว้สำหรับตำแหน่งข้อมูลแบบไร้เซิร์ฟเวอร์ของคุณได้ ด้วยกระบวนการทำงานพร้อมกันที่มีการเตรียมใช้งาน ทำให้จุดตำแหน่งข้อมูลแบบไร้เซิร์ฟเวอร์ของคุณพร้อมเสมอและสามารถให้บริการปริมาณการรับส่งข้อมูลได้ทันทีโดยไม่ต้องเริ่มทำงานในช่วงเย็น

เมื่อใช้การอนุมานแบบไม่ต้องใช้เซิร์ฟเวอร์ตามความต้องการและเมื่อเปิดใช้งานกระบวนการทำงานพร้อมกันที่มีการจัดสรรไว้ คุณจะจ่ายค่าบริการสำหรับความสามารถในการคำนวณที่ใช้ประมวลผลคำขอการอนุมานเท่านั้น โดยจะเรียกเก็บเงินตามมิลลิวินาที และปริมาณของข้อมูลที่ประมวลผล นอกจากนี้ คุณยังต้องจ่ายเงินสำหรับกระบวนการทำงานพร้อมกันที่มีการจัดสรรไว้ โดยขึ้นอยู่กับหน่วยความจำที่กำหนดค่าไว้ ระยะเวลาที่จัดสรรไว้ และจำนวนของการทำงานพร้อมกันที่เปิดใช้งาน หากต้องการทราบข้อมูลเพิ่มเติม โปรดดู ราคา Amazon SageMaker

SageMaker Inference Recomender ช่วยลดเวลาที่ต้องใช้ในการผลิตโมเดล ML โดยการเปรียบเทียบประสิทธิภาพและการปรับแต่งประสิทธิภาพของโมเดลโดยอัตโนมัติในอินสแตนซ์ SageMaker ML ตอนนี้คุณสามารถใช้ SageMaker Inference Recomender เพื่อปรับใช้โมเดลของคุณไปยังตำแหน่งข้อมูลที่ให้ประสิทธิภาพที่ดีที่สุดและลดต้นทุนได้แล้ว และคุณสามารถเริ่มต้นใช้งาน SageMaker Inference Recomender ได้ในไม่กี่นาทีในขณะที่เลือกประเภทอินสแตนซ์ และรับคำแนะนำสำหรับการกำหนดค่าตำแหน่งข้อมูลที่ดีที่สุดภายในไม่กี่ชั่วโมง ซึ่งจะช่วยลดเวลาในการทดสอบและปรับแต่งด้วยตนเองไปได้หลายสัปดาห์ ด้วย SageMaker Inference Recomender คุณจะจ่ายเฉพาะสำหรับอินสแตนซ์ SageMaker ML ที่ใช้ในระหว่างการทดสอบโหลด และไม่มีค่าใช้จ่ายเพิ่มเติม

ไม่ ขณะนี้เราสนับสนุนเฉพาะโมเดลเดียวต่อตำแหน่งข้อมูล

ปัจจุบันเรารองรับเฉพาะตำแหน่งข้อมูลแบบเรียลไทม์เท่านั้น

เราสนับสนุนภูมิภาคทั้งหมดที่รองรับโดย Amazon SageMaker ยกเว้นภูมิภาค AWS China

ใช่ รองรับ เราสนับสนุนคอนเทนเนอร์ทุกประเภท Amazon EC2 Inf1 ซึ่งใช้ชิป AWS Inferentia ต้องใช้สิ่งประดิษฐ์แบบจำลองที่รวบรวมโดยใช้คอมไพเลอร์ Neuron หรือ Amazon SageMaker Neo เมื่อคุณมีโมเดลที่รวบรวมสำหรับเป้าหมาย Inferentia และ URI ของภาพคอนเทนเนอร์ที่เกี่ยวข้อง คุณสามารถใช้ SageMaker Inference Recomender เพื่อเกณฑ์มาตรฐานประเภทอินสแตนซ์ Inferentia ที่แตกต่างกัน

ไม่ได้ เพราะ SageMaker ใช้งานโครงสร้างพื้นฐานการประมวลผลแทนคุณเพื่อให้สามารถตรวจสอบสุขภาพ ใช้แพทช์รักษาความปลอดภัย และดำเนินการซ่อมบำรุงประจำอื่นๆ ได้ คุณยังสามารถปรับใช้สิ่งประดิษฐ์แบบจำลองจากการฝึกด้วยโค้ดอนุมานที่กำหนดเองในสภาพแวดล้อมโฮสติ้งของคุณเอง

โฮสติ้ง SageMaker จะปรับขนาดตามประสิทธิภาพที่จำเป็นสำหรับแอปพลิเคชันของคุณโดยอัตโนมัติโดยใช้ Application Auto Scaling นอกจากนี้ คุณยังสามารถเปลี่ยนหมายเลขอินสแตนซ์และประเภทด้วยตนเองโดยไม่ต้องหยุดทำงานโดยการแก้ไขการกำหนดค่าตำแหน่งข้อมูล

SageMaker ปล่อยตัวชี้วัดประสิทธิภาพไปยัง Amazon CloudWatch Metrics เพื่อให้คุณสามารถติดตามเมตริก ตั้งค่าสัญญาณเตือน และตอบสนองต่อการเปลี่ยนแปลงของการเข้าชมการผลิตโดยอัตโนมัติ นอกจากนี้ SageMaker ยังเขียนบันทึกไปยัง Amazon CloudWatch Logs เพื่อให้คุณตรวจสอบและแก้ไขปัญหาสภาพแวดล้อมการผลิตของคุณด้วย

SageMaker สามารถโฮสต์โมเดลใดก็ได้ที่สอดคล้องกับข้อกำหนดที่บันทึกไว้สำหรับการอนุมานภาพ Docker ซึ่งรวมถึงโมเดลที่สร้างจากสิ่งประดิษฐ์แบบจำลอง SageMaker และโค้ดอนุมาน

SageMaker ได้รับการออกแบบมาเพื่อปรับขนาดธุรกรรมจำนวนมากต่อวินาที จำนวนที่แม่นยำจะแตกต่างกันไปตามโมเดลที่ปรับใช้และจำนวนและประเภทของอินสแตนซ์ที่โมเดลมีการปรับใช้

Batch Transform ช่วยให้คุณใช้การคาดคะเนบนชุดข้อมูลทั้งขนาดใหญ่หรือเล็กได้ ทำให้ไม่จำเป็นต้องแบ่งชุดข้อมูลออกเป็นหลายๆ ส่วนหรือจัดการตำแหน่งข้อมูลแบบเรียลไทม์ ด้วย API ที่เรียบง่าย คุณจะสามารถขอการคาดการณ์สำหรับบันทึกข้อมูลจำนวนมากและแปลงข้อมูลได้อย่างรวดเร็วและง่ายดาย

SageMaker Edge Manager ช่วยให้การเพิ่มประสิทธิภาพ รักษาความปลอดภัย ตรวจสอบ และบำรุงรักษาโมเดล ML บนฟล็อตของอุปกรณ์ขอบได้ง่ายขึ้น เช่น กล้องอัจฉริยะ หุ่นยนต์ คอมพิวเตอร์ส่วนบุคคล และอุปกรณ์มือถือ SageMaker Edge Manager ช่วยให้นักพัฒนา ML ใช้งานโมเดล ML บนอุปกรณ์ขอบที่หลากหลายได้ในหลายระดับ

ในการเริ่มต้นใช้งาน SageMaker Edge Manager คุณจะต้องรวบรวมและจัดทำแพ็กเกจโมเดล ML ที่ได้รับการฝึกแล้วในระบบคลาวด์ ลงทะเบียนอุปกรณ์ของคุณ และเตรียมอุปกรณ์ของคุณด้วย SageMaker Edge Manager SDK เพื่อเตรียมโมเดลของคุณสำหรับการปรับใช้ SageMaker Edge Manager ให้ใช้ SageMaker Neo เพื่อรวบรวมโมเดลของคุณสำหรับฮาร์ดแวร์ Edge เป้าหมายของคุณ เมื่อรวบรวมโมเดลแล้ว SageMaker Edge Manager จะระบุโมเดลด้วยคีย์ที่ AWS สร้างขึ้น จากนั้นจัดแพ็กเกจโมเดลด้วยรันไทม์และข้อมูลประจำตัวที่จำเป็นของคุณเพื่อเตรียมพร้อมสำหรับการปรับใช้ ในด้านอุปกรณ์ คุณสามารถลงทะเบียนอุปกรณ์ของคุณกับ SageMaker Edge Manager ดาวน์โหลด SageMaker Edge Manager SDK จากนั้นทำตามคำแนะนำเพื่อติดตั้ง SageMaker Edge Manager บนอุปกรณ์ของคุณ โน้ตบุ๊กช่วยสอนมีตัวอย่างทีละขั้นตอนของวิธีการเตรียมโมเดลและเชื่อมต่อโมเดลของคุณบนอุปกรณ์ Edge ด้วย SageMaker Edge Manager

SageMaker Edge Manager รองรับอุปกรณ์ที่ใช้ CPU (ARM, x86) และ GPU (ARM, Nvidia) ทั่วไปพร้อมระบบปฏิบัติการ Linux และ Windows เมื่อเวลาผ่านไป SageMaker Edge Manager จะขยายเพื่อรองรับโปรเซสเซอร์แบบฝังตัวและแพลตฟอร์มมือถือที่ SageMaker Neo รองรับมากขึ้น

ไม่ คุณสามารถฝึกโมเดลของคุณที่อื่นหรือใช้โมเดลที่ผ่านการฝึกล่วงหน้าจากโอเพนซอร์สหรือจากผู้จำหน่ายโมเดลของคุณ

ใช่ คุณต้องใช้ SageMaker Neo แปลงและรวบรวมโมเดลของคุณให้เป็นไฟล์ปฏิบัติการซึ่งคุณสามารถแพ็คเกจและปรับใช้บนอุปกรณ์ Edge ของคุณได้ เมื่อมีการปรับใช้แพ็คเกจโมเดลเอเจนต์ SageMaker Edge Manager จะคลายแพ็คเกจโมเดลและเรียกใช้โมเดลบนอุปกรณ์

SageMaker Edge Manager จะจัดเก็บแพ็กเกจโมเดลไว้ในบัคเก็ต Amazon S3 ที่คุณระบุ คุณสามารถใช้ฟีเจอร์ Over-the-Air (OTA) ที่ให้บริการโดย AWS IoT Greengrass หรือกลไกการปรับใช้อื่นๆ ที่คุณเลือกเพื่อปรับใช้แพ็กเกจโมเดลจากบัคเก็ต S3 ของคุณไปยังอุปกรณ์

Neo dlr เป็นรันไทม์โอเพนซอร์สที่เรียกใช้เฉพาะโมเดลที่รวบรวมโดยบริการ SageMaker Neo เท่านั้น เมื่อเทียบกับ dlr แบบโอเพ่นซอร์ส SageMaker Edge Manager SDK ประกอบด้วยเอเจนต์บนอุปกรณ์ระดับองค์กรพร้อมคุณสมบัติการรักษาความปลอดภัย การจัดการโมเดล และการให้บริการโมเดลเพิ่มเติม SDK ของ SageMaker Edge Manager เหมาะสำหรับการปรับใช้การผลิตในระดับสเกล

SageMaker Edge Manager และ AWS IoT Greengrass สามารถทำงานร่วมกันในโซลูชัน IoT ของคุณได้ เมื่อโมเดล ML ของคุณได้รับการบรรจุด้วย SageMaker Edge Manager คุณสามารถใช้คุณลักษณะการอัปเดต AWS IoT Greengrass OTA เพื่อปรับใช้แพ็คเกจโมเดลกับอุปกรณ์ของคุณได้ AWS IoT Greengrass ช่วยให้คุณสามารถตรวจสอบอุปกรณ์ IoT ของคุณจากระยะไกลในขณะที่ SageMaker Edge Manager ช่วยให้คุณตรวจสอบและบำรุงรักษารุ่น ML บนอุปกรณ์

AWS นำเสนอความกว้างและความลึกสูงสุดของความสามารถมากที่สุดสำหรับการใช้งานรุ่นบนอุปกรณ์ขอบ เรามีบริการเพื่อรองรับกรณีการใช้งานที่หลากหลาย รวมถึงการมองเห็นด้วยคอมพิวเตอร์ การจดจำเสียง และการบำรุงรักษาเชิงคาดการณ์

สำหรับ บริษัท ที่ต้องการใช้คอมพิวเตอร์วิสัยทัศน์บนอุปกรณ์ขอบเช่นกล้องและเครื่องใช้ไฟฟ้า คุณสามารถใช้ AWS Panorama AWS Panorama นำเสนอแอพพลิเคชั่นการมองเห็นคอมพิวเตอร์ที่พร้อมใช้งานสำหรับอุปกรณ์ขอบ การเริ่มต้นใช้งาน AWS Panorama เป็นเรื่องง่ายโดยการเข้าสู่ระบบคอนโซลคลาวด์ ระบุรุ่นที่คุณต้องการใช้ใน Amazon S3 หรือ SageMaker จากนั้นเขียนตรรกะทางธุรกิจเป็นสคริปต์ Python AWS Panorama รวบรวมโมเดลสำหรับอุปกรณ์เป้าหมายและสร้างแพ็คเกจแอปพลิเคชันเพื่อให้สามารถปรับใช้กับอุปกรณ์ของคุณได้ด้วยการคลิกเพียงไม่กี่ครั้ง นอกจากนี้ ผู้จัดจำหน่ายซอฟต์แวร์อิสระที่ต้องการสร้างแอปพลิเคชันที่กำหนดเองของตนเองสามารถใช้ AWS Panorama SDK และผู้ผลิตอุปกรณ์สามารถใช้ Device SDK เพื่อรับรองอุปกรณ์ของตนสำหรับ AWS Panorama

ลูกค้าที่ต้องการสร้างโมเดลของตนเองและมีการควบคุมคุณสมบัติของโมเดลอย่างละเอียดมากขึ้นสามารถใช้ SageMaker Edge Manager ได้ SageMaker Edge Manager เป็นบริการที่มีการจัดการเพื่อเตรียม เรียกใช้ ตรวจสอบ และอัปเดตโมเดล ML ในกลุ่มอุปกรณ์ขอบฟล็อต เช่น กล้องอัจฉริยะ ลำโพงอัจฉริยะ และหุ่นยนต์สำหรับทุกกรณีการใช้งานเช่นการประมวลผลภาษาที่เป็นธรรมชาติ การตรวจจับการฉ้อโกง และการบำรุงรักษาเชิงคาดการณ์ SageMaker Edge Manager มีไว้สำหรับผู้พัฒนา ML edge ที่ต้องการควบคุมโมเดลของตน รวมถึงการวิศวกรรมคุณสมบัติของโมเดลที่แตกต่างกันและการตรวจสอบโมเดลสำหรับการดริฟต์ นักพัฒนา ML edge ทุกคนสามารถใช้ SageMaker Edge Manager ผ่านคอนโซล SageMaker และ SageMaker API SageMaker Edge Manager นำความสามารถของ SageMaker มาใช้ในการสร้าง ฝึก และปรับใช้โมเดลในระบบคลาวด์ไปยังอุปกรณ์ Edge

SageMaker Edge Manager มีให้บริการในหกภูมิภาค ได้แก่ สหรัฐอเมริกาตะวันออก (เวอร์จิเนีย), สหรัฐอเมริกาตะวันออก (โอไฮโอ), สหรัฐอเมริกาตะวันตก (โอเรกอน), สหภาพยุโรป (ไอร์แลนด์), สหภาพยุโรป (แฟรงก์เฟิร์ต) และเอเชียแปซิฟิก (โตเกียว) สำหรับรายละเอียด โปรดดู รายการบริการภูมิภาค AWS

SageMaker Neo ช่วยให้โมเดล ML สามารถฝึกได้ครั้งเดียวและทำงานได้ทุกที่ในคลาวด์และที่ Edge SageMaker Neo เพิ่มประสิทธิภาพโมเดลที่สร้างขึ้นด้วยเฟรมเวิร์ก DL ยอดนิยมที่สามารถใช้ปรับใช้บนแพลตฟอร์มฮาร์ดแวร์ได้หลายแพลตฟอร์มโดยอัตโนมัติ โมเดลที่ปรับให้เหมาะสมจะทำงานได้เร็วขึ้นถึง 25 เท่าและใช้ทรัพยากรน้อยกว่าหนึ่งในสิบของโมเดล ML ทั่วไป

ในการเริ่มต้นใช้งาน SageMaker Neo ให้ลงชื่อเข้าใช้คอนโซล SageMaker เลือกโมเดลที่ผ่านการฝึก ทำตามตัวอย่างเพื่อคอมไพล์โมเดล และปรับใช้โมเดลผลลัพธ์บนแพลตฟอร์มฮาร์ดแวร์เป้าหมายของคุณ

SageMaker Neo มีองค์ประกอบหลักสองส่วนคือ คอมไพเลอร์และรันไทม์ ขั้นแรก คอมไพเลอร์ SageMaker Neo จะอ่านโมเดลที่ส่งออกโดยเฟรมเวิร์กต่างๆ จากนั้นจะแปลงฟังก์ชันและการดำเนินการเฉพาะของเฟรมเวิร์กเป็นการเป็นตัวแทนระดับกลางของเฟรมเวิร์กแบบใช้เทคโนโลยีต่างๆ ร่วมกันได้ ถัดไป คอมไพลเลอร์จะดำเนินการเพิ่มประสิทธิภาพหลายชุด จากนั้นคอมไพลเลอร์จะสร้างรหัสไบนารี่สำหรับการดำเนินการที่ได้รับการปรับปรุงให้เหมาะสมที่สุด และเขียนลงในไลบรารีอ็อบเจกต์ที่ใช้ร่วมกัน นอกจากนี้ คอมไพลเลอร์ยังบันทึกคำจำกัดความของโมเดลและพารามิเตอร์ลงในไฟล์แยกกัน ในระหว่างการดำเนินการรันไทม์ SageMaker Neo จะโหลดอาร์ทิแฟกต์ที่สร้างขึ้นโดยคอมไพลเลอร์ เช่น คำจำกัดความของโมเดล พารามิเตอร์ และไลบรารีอ็อบเจกต์ที่ใช้ร่วมกันเพื่อรันโมเดล

ไม่ คุณสามารถฝึกโมเดลที่อื่นและใช้ SageMaker Neo เพื่อเพิ่มประสิทธิภาพสำหรับอินสแตนซ์ SageMaker ML หรืออุปกรณ์ที่รองรับ AWS IoT Greengrass ได้

ปัจจุบัน SageMaker Neo รองรับโมเดล DL ที่ได้รับความนิยมมากที่สุดที่ขับเคลื่อนแอปพลิเคชันการมองเห็นคอมพิวเตอร์และโมเดลทรีการตัดสินใจที่ได้รับความนิยมมากที่สุดที่ใช้ใน SageMaker ในปัจจุบัน SageMaker Neo เพิ่มประสิทธิภาพของโมเดล AlexNet, ResNet, VGG, Inception, MobileNet, SqueezeNet และ DenseNet ที่ได้รับการฝึกฝนใน MXnet และ TensorFlow และการจำแนกประเภทและแบบจำลองป่าตัดแบบสุ่มที่ฝึกใน XGBoost

คุณสามารถค้นหารายการ อินสแตนซ์คลาวด์ที่รองรับ, อุปกรณ์ Edge และเวอร์ชันเฟรมเวิร์กได้ในเอกสาร SageMaker Neo

หากต้องการดูรายการรีเจี้ยนที่รองรับ โปรดดู รายการบริการของ AWS Region

สามารถซื้อ Savings Plans ได้ในบัญชีใดก็ได้ภายในกลุ่ม AWS Organization/Consolidated Billing ตามค่าเริ่มต้น สิทธิประโยชน์ที่ได้รับจาก Savings Plans จะใช้ได้กับการใช้งานในทุกบัญชีภายในกลุ่ม AWS Organization/Consolidated Billing อย่างไรก็ตาม คุณยังสามารถเลือกที่จะจำกัดสิทธิประโยชน์ของ Savings Plans เฉพาะบัญชีที่ซื้อเท่านั้น