Μην αναρωτιέται κανείς, τα chipsets της Huawei είναι αυτά που τροφοδοτούν το DeepSeek AI

Ο πόλεμος στην τεχνητή νοημοσύνη μόλις ξεκίνησε και οι αμερικάνοι έχασαν τον ύπνο τους με την έντονη πλέον δραστηριότητα του DeepSeek, ένα κινεζικό μοντέλο τεχνητής νοημοσύνης που ισχυρίζεται ότι ξεπερνά τους ανταγωνιστές των ΗΠΑ σημαντικά όσον αφορά την αποδοτικότητα κόστους. Το ανοιχτού κώδικα chatbot της Κίνας, έχει ωθήσει την εφαρμογή στην κορυφαία θέση στο App Store σε 51 χώρες και τώρα αποκαλύπτεται ότι λειτουργεί με ένα chip Huawei AI.

Το DeepSeek R1 LLM (μοντέλο μεγάλης γλώσσας) εκπαιδεύτηκε στο Nvidia H100 αλλά χρησιμοποιεί ένα chip Ascend 910C, το οποίο είναι η ενέργεια της χρήσης του εκπαιδευμένου μοντέλου για τη δημιουργία αποκρίσεων.

Οι πληροφορίες προέρχονται από τον @Dorialexander, ο οποίος επισημαίνει ότι τα chip Ascend της Huawei δεν ασχολούνται με την εκπαίδευση, επομένως οι απαιτήσεις ισχύος GPU δεν είναι τόσο υψηλές.

I feel this should be a much bigger story: DeepSeek has trained on Nvidia H800 but is running inference on the new home Chinese chips made by Huawei, the 910C. pic.twitter.com/6IAgQlQ3ou

— Alexander Doria (@Dorialexander) January 28, 2025

Ωστόσο, η σχετικά χαμηλότερη απόδοση του Ascend 910C περιορίζει την καταλληλότητά του για ιδιαίτερη εκπαίδευση. Η Huawei σχεδιάζει να αντιμετωπίσει αυτό το πρόβλημα με το επερχόμενο chip 920C που στοχεύει να ανταγωνιστεί το Blackwell B200, το κορυφαίο chipset της Nvidia για λειτουργίες AI.

[via]