Η Amazon (NASDAQ:AMZN) Web Services (AWS) ανακοίνωσε την εισαγωγή νέων διακομιστών κέντρων δεδομένων εξοπλισμένων με τα ιδιόκτητα τσιπ τεχνητής νοημοσύνης (AI), παρουσιάζοντας μια πρόκληση στην κυριαρχία της Nvidia στον τομέα. Η Apple (NASDAQ:AAPL) Inc. έχει επιβεβαιωθεί ως πελάτης, σχεδιάζοντας να χρησιμοποιήσει αυτά τα νέα τσιπ Trainium2. Η μονάδα cloud της AWS αποκάλυψε ότι αυτοί οι διακομιστές θα αποτελέσουν μέρος ενός τεράστιου υπερυπολογιστή, ο οποίος θα ενσωματώνει εκατοντάδες χιλιάδες τσιπ. Αυτή η ανακοίνωση έγινε την Τρίτη.
Αυτός ο υπερυπολογιστής, που τροφοδοτείται από τα τσιπ Trainium2 της AWS, θα χρησιμοποιηθεί από την startup AI Anthropic ως η πρώτη εταιρεία που θα χρησιμοποιήσει αυτήν την τεχνολογία. Η Anthropic είναι γνωστή για τη δημιουργία αξιόπιστων και ερμηνεύσιμων συστημάτων AI και θα αξιοποιήσει την υπολογιστική ισχύ για να ενισχύσει τις δυνατότητες των μοντέλων AI της.
Ο Benoit Dupin, ένα στέλεχος της Apple, επίσης αναγνώρισε ότι ο τεχνολογικός κολοσσός χρησιμοποιεί τα τσιπ Trainium2, σηματοδοτώντας μια σημαντική υιοθέτηση της νέας προσφοράς της AWS.
Ο Matt Garman, Διευθύνων Σύμβουλος της AWS, αποκάλυψε περαιτέρω ότι η εταιρεία εργάζεται ήδη στο Trainium3, την επόμενη εξέλιξη του τσιπ AI τους, το οποίο αναμένεται να κάνει το ντεμπούτο του τον επόμενο χρόνο.
Οι νέες περιπτώσεις Amazon Elastic Compute Cloud (Amazon EC2), που τροφοδοτούνται από το AWS Trainium2, είναι πλέον γενικά διαθέσιμες και εισάγουν τους Trn2 UltraServers. Αυτοί οι UltraServers είναι σχεδιασμένοι να παρέχουν εξαιρετική απόδοση και οικονομική αποδοτικότητα για την εκπαίδευση και ανάπτυξη σύγχρονων μοντέλων AI, συμπεριλαμβανομένων των μεγάλων γλωσσικών μοντέλων (LLM) και των μοντέλων βάσης (FM).
Οι περιπτώσεις Trn2 υπόσχονται βελτίωση 30-40% στην απόδοση τιμής σε σύγκριση με τις τρέχουσες περιπτώσεις EC2 που βασίζονται σε GPU και διαθέτουν 16 τσιπ Trainium2, προσφέροντας 20,8 peak petaflops υπολογιστικής ισχύος. Αυτό τις καθιστά ιδανικές για τη διαχείριση φορτίων εργασίας AI με δισεκατομμύρια παραμέτρους.
Για ακόμη πιο απαιτητικές εργασίες AI, οι Trn2 UltraServers προσφέρουν μια νέα υπηρεσία EC2, με 64 διασυνδεδεμένα τσιπ Trainium2 για έως και 83,2 peak petaflops υπολογιστικής ισχύος. Αυτή η διάταξη τετραπλασιάζει τις δυνατότητες υπολογισμού, μνήμης και δικτύωσης μιας μεμονωμένης περίπτωσης, επιτρέποντας την εκπαίδευση και ανάπτυξη των μεγαλύτερων μοντέλων AI στον κόσμο.
Το συνεργατικό έργο μεταξύ AWS και Anthropic, με την ονομασία Project Rainier, στοχεύει στην κατασκευή ενός EC2 UltraCluster από Trn2 UltraServers, το οποίο θα γίνει το μεγαλύτερο cluster υπολογιστικής ισχύος AI στον κόσμο μόλις ολοκληρωθεί.
Η AWS επίσης τόνισε το επερχόμενο τσιπ Trainium3, το οποίο θα κατασκευαστεί χρησιμοποιώντας μια διαδικασία 3 νανομέτρων, υποσχόμενο να τετραπλασιάσει την απόδοση των τρεχόντων Trn2 UltraServers.
Το AWS Neuron software development kit (SDK) διευκολύνει τη βελτιστοποίηση των μοντέλων AI για να τρέχουν σε τσιπ Trainium, υποστηρίζοντας δημοφιλή πλαίσια όπως το JAX και το PyTorch, και είναι ενσωματωμένο με το Hugging Face model hub, το οποίο φιλοξενεί πάνω από 100.000 μοντέλα.
Οι περιπτώσεις Trn2 είναι αυτή τη στιγμή διαθέσιμες στην περιοχή AWS US East (Ohio), με σχέδια να επεκταθεί η διαθεσιμότητα σε πρόσθετες περιοχές σύντομα. Εν τω μεταξύ, οι Trn2 UltraServers προσφέρονται σε φάση προεπισκόπησης.
Aυτό το άρθρο μεταφράστηκε με τη βοήθεια της τεχνητής νοημοσύνης. Για περισσότερες πληροφορίες, δείτε τους Όρους Χρήσης