Η Google υπογράφει συμφωνίες απόκρισης ζήτησης με τις I&M και TVA ώστε τα φορτία εργασιών ML να γίνουν προσαρμοστικά στο δίκτυο

Από την αναβολή μιας κωδικοποίησης βίντεο του YouTube στην αναβολή εργασιών ML

Η Google αναφέρει ότι οι πρώτες της δυνατότητες απόκρισης ζήτησης σε κέντρα δεδομένων περιλάμβαναν τη μετάθεση μη επείγουσων εργασιών υπολογιστικής ισχύος — η ανάρτηση αναφέρει ως παράδειγμα την επεξεργασία ενός βίντεο του YouTube — σε ώρες εκτός φόρτου του δικτύου. Αυτές οι δυνατότητες έχουν εφαρμοστεί μέσω συνεργασιών με την Centrica Energy και τον διαχειριστή μεταφοράς Elia στο Βέλγιο, καθώς και με την Taiwan Power Company στην Ταϊβάν.

Οι δύο νέες συμφωνίες, με την Indiana Michigan Power (I&M) και την Tennessee Valley Authority (TVA), επεκτείνουν την ίδια ιδέα σε μια πιο απαιτητική κατηγορία εργασιών. Η Google δηλώνει ξεκάθαρα ότι αυτές οι συμφωνίες «αντιπροσωπεύουν την πρώτη φορά που παρέχουμε απόκριση ζήτησης σε κέντρα δεδομένων στοχεύοντας φόρτους εργασίας μηχανικής μάθησης (ML)». Το προηγούμενο ήταν μια επίδειξη με την Omaha Public Power District, όπου η Google μείωσε τη ζήτηση ενέργειας που σχετίζεται με ML κατά τη διάρκεια τριών συμβάντων δικτύου πέρυσι.

Αυτή η εξέλιξη έχει σημασία επειδή η εκπαίδευση ML και η δέσμη συμπερασματολογίας (batch inference) βρίσκονται ανάμεσα στα μεγαλύτερα και ταχύτερα αναπτυσσόμενα φορτία σε ένα σύγχρονο κέντρο δεδομένων. Το να γίνουν αυτές οι εργασίες προγραμματιζόμενες σε σχέση με τις συνθήκες του δικτύου είναι διαφορετικό πρόβλημα από την αναβολή μιας κωδικοποίησης βίντεο, και είναι η συγκεκριμένη δυνατότητα στην οποία δεσμεύεται πλέον συμβατικά η Google.

Το προϊόν είναι μια κατηγοριοποίηση του ποιες εργασίες μπορούν να αναμείνουν

Πίσω από τη γλώσσα των εταιρειών κοινής ωφέλειας, ο πραγματικός τεχνικός ισχυρισμός αφορά τον προγραμματισμό. Η απόκριση ζήτησης λειτουργεί μόνο εάν ένα σύστημα μπορεί να ταξινομήσει με αξιοπιστία τις υπολογιστικές εργασίες σε αυτές που πρέπει να εκτελεστούν άμεσα και σε αυτές που μπορούν να μετατεθούν ή να μειωθούν «σε συγκεκριμένες ώρες ή περιόδους του έτους», όπως αναφέρεται στην ανάρτηση.

Η Google περιγράφει τη προσαρμοστική ζήτηση ως κάτι που «μπορεί να αναπτυχθεί ταχύτατα, βοηθώντας να γεφυρωθεί το κενό ανάμεσα στη βραχυπρόθεσμη αύξηση φόρτου και τις μακροπρόθεσμες λύσεις καθαρής ενέργειας». Στην πράξη, αυτή η ταχύτητα προέρχεται από το λογισμικό: την ικανότητα να παύει, να περιορίζει ή να μετατοπίζει εργασίες ML με βάση σήμα από έναν διαχειριστή δικτύου. Η συμφωνία με την εταιρεία κοινής ωφέλειας είναι το συμβόλαιο· ο ταξινομητής που αποφασίζει τι μπορεί να αναβληθεί είναι ο μηχανισμός.

Ένα αυστηρό όριο αξιοπιστίας γύρω από τις υπηρεσίες που απευθύνονται στους χρήστες

Η Google δηλώνει ρητά ότι αυτή η ευελιξία έχει όρια. Γράφει ότι «υπάρχουν όρια στο πόσο ευέλικτο μπορεί να είναι ένα δεδομένο κέντρο δεδομένων, καθώς τα υψηλά επίπεδα αξιοπιστίας είναι κρίσιμα για υπηρεσίες όπως η Αναζήτηση και οι Χάρτες, καθώς και για πελάτες Cloud σε ουσιώδεις κλάδους όπως η υγεία».

Η ενσωμάτωση φόρτων εργασίας ML αποτελεί ένα σημαντικό βήμα για την επίτευξη μεγαλύτερης κλίμακας προσαρμοστικότητας ζήτησης, προσφέροντας οφέλη αξιοπιστίας δικτύου και εξοικονόμησης κόστους στις τοποθεσίες όπου αναπτύσσονται αυτές οι δυνατότητες.Montana Labs

Αυτή η πρόταση χαράζει σαφώς την επιχειρησιακή γραμμή. Η κίνηση δεδομένων ευαίσθητη στην καθυστέρηση, που απευθύνεται στους χρήστες — το frontend με το οποίο αλληλεπιδρούν άμεσα οι άνθρωποι — παραμένει σταθερή. Η αναβαλλόμενη χωρητικότητα προέρχεται από εργασίες ML στο παρασκήνιο. Η απόκριση ζήτησης κλιμακώνεται ακριβώς επειδή οι εργασίες ML βρίσκονται στην πλευρά της ανοχής αυτού του ορίου, όχι επειδή η Google είναι διατεθειμένη να επιβραδύνει την Αναζήτηση.

Τι σηματοδοτεί η συμβατική δέσμευση προσαρμοστικού φόρτου ML για τον προγραμματισμό με επίγνωση του δικτύου

Η συγκεκριμένη επίπτωση αυτών των συμφωνιών με τις I&M και TVA είναι ότι η Google αντιμετωπίζει την αναβαλλόμενη υπολογιστική ισχύ ML ως διαπραγματεύσιμο πόρο δικτύου, όχι απλώς ως εσωτερικό μοχλό αποδοτικότητας. Ο Steve Baker της I&M περιγράφει την ευελιξία φόρτου ως «ένα πολύ πολύτιμο εργαλείο» για την εξυπηρέτηση του νέου κέντρου δεδομένων της Google στο Fort Wayne, συνδέοντας την ταχύτερη διασύνδεση μεγάλων φορτίων με την προθυμία της Google να μειώνει τη ζήτηση όποτε αυτό ζητηθεί.

Η Google είναι ειλικρινής ότι αυτό βρίσκεται σε πρώιμο στάδιο και εξαρτάται από την τοποθεσία: η ευελιξία «θα είναι διαθέσιμη μόνο σε συγκεκριμένες τοποθεσίες», και αναφέρει νέες επενδύσεις σε παραγωγή και μεταφορά ενέργειας ως μέρος του ίδιου χαρτοφυλακίου. Ωστόσο, το δομικό στοιχείο είναι ότι ο διαχωρισμός ανάμεσα σε επείγουσες υπηρεσίες προς τον χρήστη και σε μετατοπίσιμες εργασίες ML είναι πλέον γραμμένος σε συμβόλαια εταιρειών κοινής ωφέλειας. Για ομάδες που διαχειρίζονται μεγάλους στόλους ML, αυτό αναδιαμορφώνει τον προγραμματισμό εργασιών σε κάτι που έχει αξία όχι μόνο σε κόστος και ρυθμαπόδοση, αλλά και σε δεσμεύσεις προς το δίκτυο — και αναδεικνύει ως κρίσιμη τη γνώση ακριβώς ποιοι φόρτοι εργασίας μπορούν με ασφάλεια να αναμείνουν.