Amazon Bedrock har lansert en ny tjeneste, Amazon Bedrock, for å gjøre maskinlæring og AI enklere for kunder og senke inngangsbarrieren for utviklere.
Amazon Bedrock er en ny tjeneste som gir kundene API-tilgang til basismodeller fra Amazon og ledende AI-startups, inkludert AI21 Labs, Anthropic og Stability AI. Amazon Bedrock er en av de enkleste måtene for kunder å bygge og skalere generative AI-applikasjoner ved å bruke en grunnmodell, noe som senker adgangsbarrieren for alle utviklere. Kunder kan få tilgang til et robust sett med tekst- og bildebasemodeller gjennom Bedrock (tjenesten tilbyr for øyeblikket en begrenset forhåndsvisning).
Samtidig kan Amazon Cloud Technology-kunder bruke Amazon EC2 Trn1-forekomster drevet av Trainium, som kan spare opptil 50 % på treningskostnader sammenlignet med andre EC2-forekomster. Når en generativ AI-modell er distribuert i stor skala, vil de fleste kostnadene påløpe av driften og resonnementet til modellen. På dette tidspunktet kan kunder bruke Amazon EC2 Inf2-instanser drevet av Amazon Inferentia2, som er spesifikt optimalisert for storskala generative AI-applikasjoner som kjører hundrevis av milliarder av parametermodeller.
Innleggstid: Jul-05-2023