Η ζήτηση για εξυπηρετητές υψηλής απόδοσης και GPU αρχικά πυροδοτήθηκε από την Chat GPT. Από φέτος, το 25% της υπολογιστικής ισχύος του υλικού έχει χρησιμοποιηθεί για να χειριστεί την πρόσβαση. και το υπόλοιπο 75% χρησιμοποιήθηκε για την εκπαίδευση μοντέλων. Αυτό οφείλεται στο γεγονός ότι ο ημερήσιος όγκος πρόσβασης είναι μόλις δεκάδες έως εκατομμύρια bytes αυτή τη στιγμή. Δεν είναι αδύνατο ο όγκος πρόσβασης να αυξηθεί σε εκατοντάδες εκατομμύρια το επόμενο έτος. Σε αυτό το σενάριο, η αναλογία της ισχύος υπολογιστικής πρόσβασης και της εκπαίδευσης υπολογιστών θα αντιστραφεί, και θα υπάρξει επίσης μια αύξηση στις επενδύσεις στοιχείων κέντρο.
Σύμφωνα με ιστορικές επενδυτικές εμπειρίες, για περίπου κάθε 10 δισεκατομμύρια δολάρια ΗΠΑ επενδύθηκαν σε κέντρα δεδομένων, 6 δισεκατομμύρια δολάρια ΗΠΑ θα χρησιμοποιηθούν για εγκαταστάσεις, εξοπλισμό ισχύος, και κλιματισμό. και τα υπόλοιπα 4 δισεκατομμύρια δολάρια ΗΠΑ θα μοιραστούν ως εξής: 16% θα χρησιμοποιηθεί για τη διασύνδεση των κέντρων δεδομένων. Το 77% θα χρησιμοποιηθεί για την αγορά διακομιστών· 4% θα χρησιμοποιηθεί για την αγορά διακόπτη· και 3% θα χρησιμοποιηθεί για την αγορά οπτικών ινών.
Πρέπει να περιγράψουμε την αρχιτεκτονική και υπολογιστικές υποθέσεις πριν από τον υπολογισμό. Στην αρχιτεκτονική του κέντρου δεδομένων χρησιμοποιείται μια δομή φύλλων-σκύμων. Server, top-of-rack διακόπτης, διακόπτης φύλλων, διακόπτης σπονδυλικής στήλης είναι τα επίπεδα σε αυξανόμενη σειρά από το χαμηλότερο στο υψηλότερο. Υπάρχουν τρία επίπεδα ανταλλαγής δεδομένων εντός αυτής της δομής. Ο οπτικός πομποδέκτης ινών στον διακομιστή είναι όλες μικρές αποστάσεις (λιγότερο από 100μ) και χαμηλότερο ποσοστό (λιγότερο από 100G), οπότε να θυμάστε ότι όσο πιο κοντά στον διακομιστή, τόσο μικρότερο είναι το ποσό των δεδομένων που μπορούν να ανταλλαχθούν.
Τα υποκαταστήματα έχουν τόσο υψηλό εύρος ζώνης ώστε δεν είναι απαραίτητο να έχουν το ίδιο ρυθμό εύρους ζώνης στο διακόπτη που βρίσκεται στη συγκέντρωση της ροής., Έτσι δεν μπορούμε να χρησιμοποιήσουμε ταχύτητα οπτικό πομποδέκτη ινών όπως 400G και 800G κοντά στον διακομιστή.
Υπάρχουν 24 servers σε ένα ενιαίο ντουλάπι, ο καθένας με 4 uplinks, και όλοι χρησιμοποιούν είτε 50G ή 100G 100m για να συνδεθούν με το διακόπτη ToR. Οι θύρες επαναλαμβάνονται και κατανέμονται σε αναλογίες 1:6 από το ToR διακόπτη φύλλων. Με 16 θύρες ανανέωσης, υπάρχουν 96 θύρες. Ως σύνδεση, χρησιμοποιεί ένα οπτικό πομποδέκτη 400G 100m. Χρησιμοποιώντας 400G/800G 500m οπτικό πομποδέκτη φύλλων, η αναλογία ανασύνδεσης και θύρα φύλλων είναι 1:6, με 48 θύρες κλίσης και 8 θύρες ανασύνδεσης. 64 θύρες που χρησιμοποιούν 400G/800G 500m/2 χιλιομέτρων οπτικών ινών στον διακόπτη της σπονδυλικής στήλης.
Διαφορετικοί χειριστές έχουν διαφορετικές αρχιτεκτονικές κέντρο δεδομένων· είναι αδύνατο να προβλέψει τη ζήτηση για οπτικά πομποδέκτες ινών με οποιοδήποτε βαθμό ακρίβειας χωρίς πρόσβαση στο σχεδιασμό κέντρο δεδομένων στοιχείων σχέδια. Σε μια σειρά μεγέθους, περισσότεροι πομποδέκτες οπτικών ινών υπάρχουν συνήθως από τους διακομιστές, αν και αυτή η διαφορά δεν ισχύει πάντα.