— Το OCI Supercluster πρωτοπορεί μεταξύ των παρόχων cloud με υποστήριξη έως και 16.384 GPU AMD (NASDAQ:AMD) Instinct MI300X σε ένα ενιαίο υπερταχύ δίκτυο --
Η AMD (AMD) ανακοίνωσε σήμερα ότι η Oracle Cloud Infrastructure (OCI) επέλεξε τους επιταχυντές AMD Instinct™ MI300X με το ανοιχτό λογισμικό ROCm™ για να τροφοδοτήσει τη νεότερη περίπτωση OCI Compute Supercluster που ονομάζεται BM.GPU.MI300X.8. Για μοντέλα AI που μπορεί να περιλαμβάνουν εκατοντάδες δισεκατομμύρια παραμέτρους, το OCI Supercluster με AMD MI300X υποστηρίζει έως και 16.384 GPU σε ένα μόνο σύμπλεγμα, αξιοποιώντας την ίδια τεχνολογία υπερταχέος δικτύου που χρησιμοποιείται από άλλους επιταχυντές στο OCI. Σχεδιασμένες για την εκτέλεση απαιτητικών φορτίων εργασίας AI, συμπεριλαμβανομένης της εξαγωγής συμπερασμάτων και της εκπαίδευσης μεγάλων γλωσσικών μοντέλων (LLM) που απαιτούν υψηλή απόδοση με κορυφαία χωρητικότητα και εύρος ζώνης μνήμης, αυτές οι περιπτώσεις bare metal της OCI έχουν ήδη υιοθετηθεί από εταιρείες όπως η Fireworks AI.
"Οι AMD Instinct MI300X και το ανοιχτό λογισμικό ROCm συνεχίζουν να αποκτούν δυναμική ως αξιόπιστες λύσεις για την τροφοδότηση των πιο κρίσιμων φορτίων εργασίας AI της OCI", δήλωσε ο Andrew Dieckmann, εταιρικός αντιπρόεδρος και γενικός διευθυντής της Data Center GPU Business της AMD. "Καθώς αυτές οι λύσεις επεκτείνονται περαιτέρω σε αναπτυσσόμενες αγορές εντάσεως AI, ο συνδυασμός θα ωφελήσει τους πελάτες της OCI με υψηλή απόδοση, αποδοτικότητα και μεγαλύτερη ευελιξία στο σχεδιασμό συστημάτων."
"Οι δυνατότητες εξαγωγής συμπερασμάτων των επιταχυντών AMD Instinct MI300X προστίθενται στην εκτεταμένη επιλογή περιπτώσεων bare metal υψηλής απόδοσης της OCI για την εξάλειψη της επιβάρυνσης της εικονικοποιημένης υπολογιστικής ισχύος που χρησιμοποιείται συνήθως για υποδομές AI", δήλωσε ο Donald Lu, ανώτερος αντιπρόεδρος ανάπτυξης λογισμικού της Oracle Cloud Infrastructure. "Είμαστε ενθουσιασμένοι που προσφέρουμε περισσότερες επιλογές στους πελάτες που επιδιώκουν να επιταχύνουν τα φορτία εργασίας AI σε ανταγωνιστική τιμή."
Παρέχοντας Αξιόπιστη Απόδοση και Ανοιχτή Επιλογή για Εκπαίδευση και Εξαγωγή Συμπερασμάτων AI
Ο AMD Instinct MI300X υποβλήθηκε σε εκτενείς δοκιμές που επικυρώθηκαν από την OCI και υπογράμμισαν τις δυνατότητές του για εξαγωγή συμπερασμάτων και εκπαίδευση AI για την εξυπηρέτηση περιπτώσεων χρήσης με βέλτιστη καθυστέρηση, ακόμη και με μεγαλύτερα μεγέθη παρτίδων, και τη δυνατότητα προσαρμογής των μεγαλύτερων μοντέλων LLM σε έναν μόνο κόμβο. Αυτά τα αποτελέσματα απόδοσης του Instinct MI300X έχουν προσελκύσει την προσοχή των προγραμματιστών μοντέλων AI.
Η Fireworks AI προσφέρει μια γρήγορη πλατφόρμα σχεδιασμένη για τη δημιουργία και ανάπτυξη γενετικής AI. Με πάνω από 100+ μοντέλα, η Fireworks AI αξιοποιεί τα οφέλη της απόδοσης που βρίσκονται στην OCI χρησιμοποιώντας το AMD Instinct MI300X.
"Η Fireworks AI βοηθά τις επιχειρήσεις να δημιουργήσουν και να αναπτύξουν σύνθετα συστήματα AI σε ένα ευρύ φάσμα βιομηχανιών και περιπτώσεων χρήσης", δήλωσε ο Lin Qiao, Διευθύνων Σύμβουλος της Fireworks AI. "Η διαθέσιμη χωρητικότητα μνήμης στο AMD Instinct MI300X και το ανοιχτό λογισμικό ROCm μας επιτρέπει να κλιμακώσουμε τις υπηρεσίες στους πελάτες μας καθώς τα μοντέλα συνεχίζουν να αναπτύσσονται."
Υποστηρικτικοί Πόροι
- Ακολουθήστε την AMD στο LinkedIn
- Ακολουθήστε την AMD στο Twitter
Aυτό το άρθρο μεταφράστηκε με τη βοήθεια της τεχνητής νοημοσύνης. Για περισσότερες πληροφορίες, δείτε τους Όρους Χρήσης