Amazon Bedrock кардарлар үчүн машинаны үйрөнүүнү жана AIди жеңилдетүү жана иштеп чыгуучулардын кирүү тоскоолдуктарын азайтуу үчүн Amazon Bedrock жаңы кызматын ишке киргизди.

Amazon Bedrock - бул кардарларга API'ге Amazon жана алдыңкы AI стартаптарынын базалык моделдерине, анын ичинде AI21 Labs, Anthropic жана Stability AI сыяктуу жаңы кызмат. Amazon Bedrock кардарлар үчүн фундаменталдык моделди колдонуу менен генеративдик AI тиркемелерин куруунун жана масштабдоонун эң оңой жолдорунун бири болуп саналат, бул бардык иштеп чыгуучулар үчүн кирүү тоскоолдуктарын азайтат. Кардарлар Bedrock аркылуу тексттик жана сүрөт базалык моделдердин бекем топтомун ала алышат (кызмат учурда чектелген алдын ала көрүү мүмкүнчүлүгүн сунуш кылат).

Ошол эле учурда, Amazon Cloud Technology кардарлары Trainium тарабынан иштетилген Amazon EC2 Trn1 инстанцияларын колдоно алышат, бул башка EC2 инстанцияларына салыштырмалуу окуу чыгымдарын 50% га чейин үнөмдөй алат. Генеративдик AI модели масштабда орнотулгандан кийин, чыгымдардын көбү моделдин иштеши жана ой жүгүртүүсүнөн келип чыгат. Бул учурда кардарлар Amazon Inferentia2 тарабынан иштетилген Amazon EC2 Inf2 инстанцияларын колдоно алышат, алар атайын жүздөгөн миллиарддаган параметр моделдерин иштеткен масштабдуу генеративдик AI колдонмолору үчүн оптималдаштырылган.