“Δημιουργήσαμε ένα τέρας”: Εταιρείες περιορίζουν το AI λόγω υψηλού κόστους

Οι εταιρείες που έσπευσαν να διαθέσουν εργαλεία τεχνητής νοημοσύνης (AI) στο προσωπικό τους, αρχίζουν πλέον να περιορίζουν τη χρήση τους, καθώς το κόστος εφαρμογής της τεχνολογίας σε μεγάλη κλίμακα δοκιμάζει τους εταιρικούς προϋπολογισμούς.

Κολοσσοί όπως η Amazon, η Walmart, η Cisco, η Uber και η Meta, που υπήρξαν από τους πρώτους που υιοθέτησαν την τεχνολογία, έχουν ήδη θέσει ανώτατα όρια, αποθαρρύνουν την αλόγιστη χρήση ή στρέφουν τους υπαλλήλους τους σε οικονομικότερα μοντέλα, με στόχο να συγκρατήσουν τις δαπάνες.

Αυτή η αλλαγή πλεύσης σηματοδοτεί μια νέα φάση στην εταιρική ενσωμάτωση του AI. Καθώς οι εργαζόμενοι περνούν από τα απλά chatbots στους «πράκτορες AI» (AI agents) – οι οποίοι εκτελούν σύνθετες εργασίες αυτόνομα αλλά απαιτούν τεράστια υπολογιστική ισχύ – οι επιχειρήσεις αναγκάζονται πλέον να εξετάζουν αν κάθε μεμονωμένο ερώτημα ή εργασία δικαιολογεί το κόστος του.

Η πίεση αυξήθηκε ακόμη περισσότερο καθώς εταιρείες όπως η Anthropic και η OpenAI κατάργησαν τις σταθερές συνδρομές σε ορισμένες υπηρεσίες τους. Τις αντικατέστησαν με χρέωση ανά μονάδα δεδομένων (token-based billing), η οποία καταγράφει τον όγκο των δεδομένων που επεξεργάζονται τα μοντέλα. Η μεταβολή αυτή επιβάρυνε άμεσα τις εταιρείες με το κόστος κάθε εντολής (prompt) και κάθε αυτοματοποιημένης διαδικασίας.

«Το κόστος υπολογιστικής ισχύος αρχίζει πλέον να προβληματίζει σοβαρά τόσο τους οικονομικούς διευθυντές όσο και τα διοικητικά συμβούλια. Οι καταναλωτές και οι επιχειρήσεις είχαν συνηθίσει στην ιδέα ότι η τεχνητή νοημοσύνη είναι φθηνή ή δωρεάν, όμως αυτό προφανώς δεν ισχύει», δήλωσε ο Costi Perricos, επικεφαλής του τμήματος Generative AI της Deloitte σε παγκόσμιο επίπεδο.

Ο Sam Altman, διευθύνων σύμβουλος της OpenAI, δήλωσε πρόσφατα ότι το κόστος αναδείχθηκε σε «τεράστιο ζήτημα» για τους πελάτες φέτος. «Το θέμα αυτό δεν είχε καν τεθεί [πέρυσι]… Οι πάντες ήταν απόλυτα ικανοποιημένοι με τα ποσά που δαπανούσαν».

Ο Andrew Macdonald, πρόεδρος και γενικός διευθυντής επιχειρήσεων (COO) της Uber, επεσήμανε ότι γίνεται «όλο και πιο δύσκολο να δικαιολογηθεί» η δαπάνη της εταιρείας για AI tokens. «Είναι εξαιρετικά δύσκολο να συνδέσεις αυτά τα στατιστικά στοιχεία με κάτι χειροπιαστό, όπως το “εντάξει, τώρα παράγουμε κατά 25% περισσότερες χρήσιμες λειτουργίες για τον καταναλωτή”», ανέφερε σε πρόσφατο podcast.

Η εταιρεία online μίσθωσης οχημάτων επέβαλε ανώτατα όρια χρήσης, περιορίζοντας τους υπαλλήλους στα 1.500 δολάρια μηνιαίως για αγορά tokens σε μεμονωμένα εργαλεία AI, αφού εξάντλησε ολόκληρο τον προϋπολογισμό της για το AI έως το 2026 μέσα σε λίγους μήνες, μέχρι τον Απρίλιο. Το Bloomberg ήταν το πρώτο μέσο που αποκάλυψε το συγκεκριμένο πλαφόν.

Ο αμερικανικός κολοσσός λιανεμπορίου Walmart περιόρισε παρομοίως τη χρήση του δικού του, εσωτερικού ψηφιακού βοηθού, βάζοντας πλαφόν στον αριθμό των tokens που μπορούν να καταναλώνουν οι εργαζόμενοι.

Ο Suresh Kumar, παγκόσμιος επικεφαλής τεχνολογίας (CTO) της Walmart, δήλωσε ότι η χρήση της πλατφόρμας vibe-coding της εταιρείας, “Code Puppy”, είχε «πραγματικά εκτοξευθεί». «Αυτή είναι πλέον μια ευκαιρία για εμάς να κάνουμε ένα βήμα πίσω», είπε, προσθέτοντας ότι πλέον ζητείται από τους υπαλλήλους να αξιολογούν προσεκτικά ποιο είναι το κατάλληλο εργαλείο για κάθε εργασία.

Ο Jeetu Patel, πρόεδρος και επικεφαλής προϊόντων (CPO) της Cisco, δήλωσε ότι οι εταιρείες καλούνται πλέον να ισορροπήσουν ανάμεσα στην επιθυμία τους να αξιοποιήσουν την τεχνολογία για την ανάπτυξη AI agents και στο κόστος αλλά και τη διαθεσιμότητα των tokens.

«Η υποδομή που απαιτείται για έναν πράκτορα (agent) είναι σημαντικά μεγαλύτερη από ό,τι για ένα chatbot», εξήγησε ο Patel. «Για κάθε άνθρωπο μπορεί να αντιστοιχούν 10, 100 ή, σε πιο επιθετικά σενάρια, ακόμη και 1.000 πράκτορες… Αυτοί εργάζονται ασταμάτητα στο παρασκήνιο, καταναλώνοντας τεράστιους πόρους [υπολογιστικής ισχύος]».

Οι αναλυτές της Goldman Sachs προέβλεψαν τον περασμένο μήνα ότι η χρήση αυτόνομων πρακτόρων τεχνητής νοημοσύνης (AI agents) θα εικοσαπλασιάσει την κατανάλωση δεδομένων (tokens) έως το 2030. Παράλληλα, εκτιμούν ότι αυτή η κατακόρυφη αύξηση της ζήτησης θα επιτείνει την έλλειψη μικροτσίπ μέσα στους επόμενους 12 με 18 μήνες.

Παρόλο που η χρήση tokens και οι επιχειρηματικές επενδύσεις στην τεχνητή νοημοσύνη συνεχίζουν να καλπάζουν, οι προσπάθειες περιορισμού του κόστους ενδέχεται να φρενάρουν την ανάπτυξη κορυφαίων εργαστηρίων AI, όπως η Anthropic και η OpenAI. Σημειώνεται ότι και οι δύο εταιρείες σχεδιάζουν να μπουν στο χρηματιστήριο αργότερα φέτος, με την αποτίμησή τους να αγγίζει σχεδόν το ένα τρισεκατομμύριο δολάρια.

Σύμφωνα με στοιχεία του OpenRouter – μιας πλατφόρμας που συγκεντρώνει και προσφέρει πρόσβαση σε διάφορα συστήματα AI – τα κινεζικά μοντέλα έχουν ξεπεράσει τα αμερικανικά σε κατανάλωση tokens από τις αρχές του έτους.

Το χαμηλότερο ενεργειακό κόστος της Κίνας και τα πιο αποδοτικά μοντέλα της επιτρέπουν στα εγχώρια εργαστήρια AI να προσφέρουν φθηνότερες χρεώσεις ανά token σε σχέση με τους μεγάλους αμερικανικούς ομίλους, δίνοντας έτσι στο Πεκίνο ένα νέο προβάδισμα στον παγκόσμιο ανταγωνισμό για την τεχνητή νοημοσύνη.

Η πίεση του κόστους αγγίζει πλέον και τις μικρότερες εταιρείες. Χαρακτηριστικό παράδειγμα αποτελεί ο όμιλος λογισμικού Workato, όπου η χρήση της τεχνητής νοημοσύνης εκτοξεύτηκε όταν οι 1.300 εργαζόμενοί του άρχισαν να χρησιμοποιούν ψηφιακούς βοηθούς (AI agents) το περασμένο καλοκαίρι. «Η υιοθέτησή τους εξαπλώθηκε σαν πυρκαγιά. Οι άνθρωποι άρχισαν πραγματικά να μεταμορφώνουν τον τρόπο που δουλεύουν», δήλωσε ο διευθυντής πληροφορικής (CIO), Κάρτερ Μπάσι.

Ωστόσο, η εταιρεία βρέθηκε προ εκπλήξεως τον Μάιο, όταν η Anthropic άλλαξε το μοντέλο χρέωσης, εφαρμόζοντας τιμολόγηση βάσει όγκου δεδομένων (tokens). «Τα έξοδά μας επταπλασιάστηκαν από την πρώτη κιόλας μέρα. Σκέφτηκα: “Θεέ μου, δημιουργήσαμε ένα τέρας”», ανέφερε ο Μπάσι. «Οι εταιρείες μεγάλων γλωσσικών μοντέλων (LLMs) επιδοτούσαν μέχρι πρότινος τη χρήση μας, αλλά αυτό τελείωσε. Η σταθερή χρέωση ανά χρήστη σού παρέχει ασφάλεια».

Αντί να περιορίσει την πρόσβαση των εργαζομένων, ο Μπάσι προσπαθεί τώρα να συμμαζέψει τα έξοδα. Στράφηκε στις εσωτερικές εκπαιδευτικές συναντήσεις που διοργανώνει δύο φορές την εβδομάδα, χρησιμοποιώντας τες για να προωθήσει λύσεις εξοικονόμησης πόρων, όπως η προεπιλογή παλαιότερων και φθηνότερων μοντέλων της Anthropic. «Αντί για καινοτομία, ήρθε η ώρα να μιλήσουμε για οικονομική υπευθυνότητα στην τεχνητή νοημοσύνη», δήλωσε.

Ανάλογη αλλαγή πλεύσης παρατηρείται και σε μεγαλύτερους κολοσσούς, οι οποίοι αναθεωρούν τα κίνητρα και τις εσωτερικές τους οδηγίες γύρω από την υιοθέτηση του AI.

Η Amazon προειδοποίησε τον περασμένο μήνα το προσωπικό της να σταματήσει να χρησιμοποιεί την τεχνητή νοημοσύνη «απλώς για χάρη της χρήσης». Η οδηγία δόθηκε όταν διαπιστώθηκε ότι οι μηχανικοί της εταιρείας επιστράτευαν ψηφιακούς βοηθούς με μοναδικό σκοπό να ανέβουν στην εσωτερική λίστα κατάταξης (leaderboard).

Ο όμιλος αναγκάστηκε να αλλάξει τον τρόπο με τον οποίο αξιολογεί την ενσωμάτωση της νέας τεχνολογίας, θέλοντας να περιορίσει τα κόστη που προκύπτουν από την αλόγιστη χρήση των εργαλείων αυτών. Σε παρόμοιες κινήσεις προχώρησε και η Meta τον Απρίλιο.

Τόσο η Amazon όσο και η Meta έχουν αναπτύξει και θέσει σε λειτουργία τα δικά τους μοντέλα, αλλά ταυτόχρονα εξαρτώνται από τρίτους —όπως η Anthropic— για τη χρήση μοντέλων και εργαλείων όπως το Claude Code.

Οι εταιρείες και οι πλατφόρμες τεχνητής νοημοσύνης προσπαθούν να διατηρήσουν υψηλά τα ποσοστά υιοθέτησης των υπηρεσιών τους. Για τον σκοπό αυτό, στρέφουν τους χρήστες μακριά από τα πανάκριβα «μοντέλα αιχμής» (frontier models) όταν αυτά δεν είναι απαραίτητα, αντικαθιστώντας τα με οικονομικότερες εκδόσεις.

Ο Kyle Daigle, γενικός διευθυντής επιχειρήσεων (COO) του GitHub, δήλωσε ότι η Microsoft επικοινώνησε με τους πελάτες της πριν εφαρμόσει τις νέες τιμολογήσεις, ώστε να συζητήσει με τους προγραμματιστές τον σκοπό και την καταλληλότητα του κάθε εργαλείου.

«Το ζητούμενο για τον χρήστη είναι: “ποια μοντέλα ταιριάζουν καλύτερα στη συγκεκριμένη εργασία;”. Δεν χρειάζεσαι πάντα ένα μοντέλο αιχμής», πρόσθεσε.

Η Microsoft και άλλοι πάροχοι πλατφορμών AI, όπως η Amazon και η Google, έχουν ήδη κυκλοφορήσει εργαλεία που δρομολογούν αυτόματα τα ερωτήματα και τις εργασίες των πελατών στο καταλληλότερο μοντέλο —μέσα από μια γκάμα επιλογών που ορίζει ο ίδιος ο πελάτης— με στόχο τον αποτελεσματικότερο έλεγχο του κόστους.

Παράλληλα, ορισμένες επιχειρήσεις έχουν δώσει οδηγίες στους εργαζομένους τους να χρησιμοποιούν μοντέλα ανοιχτού κώδικα (open-source) που εκτελούνται τοπικά, είτε στους δικούς τους διακομιστές (servers) είτε σε προσωπικές συσκευές. Με αυτόν τον τρόπο, μειώνουν τα ποσά που πληρώνουν στα εργαστήρια AI και στους παρόχους υπηρεσιών cloud.

Παρ’ όλα αυτά, οι πελάτες εξακολουθούν να σταθμίζουν το αυξημένο αυτό κόστος σε σχέση με τις υποσχέσεις που έχουν δώσει στους επενδυτές τους, τόσο για την κερδοφορία των ίδιων των εταιρειών τους όσο και για την παραγωγικότητα του προσωπικού τους.

«Οι μηχανικοί μας ζητούν περισσότερα tokens… Πρέπει να βρούμε έναν τρόπο να χρηματοδοτήσουμε αυτή την ανάγκη», δήλωσε ο Patel της Cisco.

Πρόσθετες πληροφορίες από τον Gregory Meyer από το Bentonville