Le march de la mmoire continue de vivre une situation totalement atypique. La demande explose avec lIA, l’offre ne suit pas, les prix senvolent, les fabricants vendent leur production des mois lavance mais les capacits de production naugmentent pas suffisamment vite. Et dsormais, mme les grands acteurs du secteur commencent prvenir quun changement de comportement pourrait arriver chez les clients.
Ainsi cest Chey Tae-won, prsident du SK Group et superviseur de SK hynix, qui lexplique : si les fabricants de mmoire ne fournissent pas davantage de DRAM, les clients finiront par trouver des moyens de rduire leur consommation mmoire via des optimisations logicielles et matrielles.
Le drme de la DRAM cause de l’IA
Oui, on sait, on recycle les jeux de mots Ramuntcho… Actuellement, les hyperscalers et les gants de lIA comme NVIDIA, AMD et dautres achtent autant de mmoire quils le peuvent afin dalimenter leurs infrastructures IA.
Les modles modernes ncessitent dsormais des centaines de Go de mmoire systme et vido afin dassurer lentranement ou linfrence sur des modles atteignant des dizaines de milliers de milliards de paramtres.
Rsultat, les fabricants de DRAM comme Samsung, SK hynix ou Micron coulent actuellement quasiment toute leur production avant mme quelle ne sorte des usines.
Pourquoi les fabricants naugmentent-ils pas massivement la production ?
La question revient souvent : si la demande explose autant, pourquoi ne pas simplement produire davantage ?
Le problme, cest que construire une nouvelle usine DRAM prend normment de temps et cote des milliards. Entre la construction du fab, linstallation des quipements et la monte en production, plusieurs annes sont ncessaires. Nous vous expliquions tout cela ici mme : Mmoire, des gros investissements qui demandent du temps.
Mais les fabricants craignent surtout un scnario bien connu dans le secteur : investir massivement aujourdhui pour se retrouver avec une surproduction au moment o la demande commencera ralentir.
Malgr cela, SK hynix prpare dj son expansion et aurait command environ 20 machines EUV Low-NA ASML. Ces quipements serviront notamment augmenter les capacits de production mmoire et stockage dans les annes venir.
Les clients commencent dj optimiser
Selon Chey Tae-won, certains acteurs de lIA commencent dj adapter leurs logiciels et leurs infrastructures afin de consommer moins de mmoire.
On parle notamment doptimisations autour des formats de prcision rduite, dune meilleure gestion des modles ou encore dalgorithmes capables de limiter la charge mmoire durant les phases dentranement et dinfrence.
En clair, les entreprises cherchent faire plus avec moins, tout simplement parce que la mmoire devient un goulet dtranglement critique.
Mais lhistoire montre que cela ne dure jamais
Le paradoxe, cest que dans linformatique, chaque gain defficacit finit gnralement par tre immdiatement absorb par des logiciels encore plus gourmands.
Plus les infrastructures deviennent efficaces, plus les usages augmentent. Et dans le cas de lIA, cela signifie souvent davantage de modles, davantage de tokens gnrs et des charges de calcul toujours plus importantes.
Et pour nous ?
Eh bien, de notre ct, trs honntement, on ne demande que a : avoir le droit des optimisations logicielles et matrielles pour pouvoir profiter de nos machines, qui sont dj des btes de course. Normalement, tout devrait pouvoir fonctionner avec 16 Go de mmoire systme et 8 Go de mmoire vido et on le voit bien, quand on sort du 1080p, cela pose clairement problme.