OpenAI i Broadcom presenten Jalapeño, el primer xip propi d'OpenAI per a inferència. Per què el cost de la IA marca les eines de les pimes.
Ahir OpenAI i Broadcom van presentar Jalapeño, el primer xip dissenyat per OpenAI. No serveix per entrenar models: serveix per fer-los funcionar cada dia. I això, encara que sembli llunyà, acaba tocant la butxaca de qualsevol negoci que faci servir IA.
Entrenar no és el car; servir sí
Un model s'entrena una vegada. Però es fa servir milions de cops al dia, i cada resposta consumeix computació que algú paga. D'això en diuen inferència, i és la factura grossa del sector.
Jalapeño està optimitzat justament per a això: servir models grans de llenguatge. Segons les dues empreses, les primeres proves mostren un rendiment per watt clarament millor que el maquinari actual, i el desplegament ha de començar a finals d'aquest 2026. De l'inici del disseny a enviar-lo a fabricar: nou mesos.
Per què OpenAI es fa el seu propi xip
Per dues raons: dependre menys de Nvidia i abaratir cada resposta que serveix. És el mateix camí que Google amb les TPU o Amazon amb els seus xips propis. Quan el teu cost principal és la computació, controlar el maquinari és controlar el marge.
L'acord amb Broadcom es va anunciar l'octubre passat. Que en nou mesos ja tinguin el primer xip dissenyat dona una idea del ritme al qual va aquest sector.
I a tu què t'hi va
Més del que sembla. Quan la inferència s'abarateix, els preus de les API baixen o els models milloren pel mateix preu. No és automàtic ni immediat, però la tendència dels últims anys va clarament per aquí. I això decideix quines funcions són viables a les eines que fas servir cada dia.
T'ho dic per experiència. A Moblio, la primera visita del fuster amb el client es grava, es transcriu i la IA en fa una fitxa amb peces, mides i materials. Fa uns anys, el cost per projecte d'una cosa així hauria estat un problema seriós. Avui són cèntims. Sense inferència barata, aquesta funció no existiria.
Cada baixada de preu obre una porta: transcriure totes les trucades, llegir totes les factures, respondre tots els correus rutinaris. Coses que abans no sortien a compte per a un negoci petit, ara sí.
El meu consell
No cal que segueixis la guerra dels xips. El que sí que et recomano vigilar és el que ve després: quan els costos baixen, les eines de cada sector comencen a portar IA de sèrie, sense sobrecost. Pregunta als teus proveïdors de software què tenen previst.
I si encara ho fas tot a mà, el problema no és esperar el xip següent, sinó el procés que tens ara. A la pàgina de projectes pots veure com ho aplico jo, sector a sector.
El xip és notícia seva. Els cèntims per operació que farà baixar, això és notícia teva.
← Tots els articles del blog · Qui sóc · IA per a empreses a Lleida i Catalunya