¿Quién paga la fiesta de la IA? El negocio de los tokens, con Juan Aparicio - AUTOMATIZA2 Ep.21

🎙️ ¡Bienvenidos a un nuevo episodio de Automatiza2! Hoy analizamos el coste económico que hay detrás de la inteligencia artificial y si la era de las suscripciones ilimitadas de veinte euros está llegando a su fin. De la mano de Juan Aparicio desmitificamos qué ocurre detrás de cada consulta en los grandes modelos de lenguaje y cómo los costes de computación están obligando a las tecnológicas a replantear sus estrategias comerciales. Juan nos desvela el funcionamiento de los "tokens"y cómo el procesamiento de entradas, salidas y el diálogo de "pensamiento interno" de los nuevos modelos devoran una cantidad brutal de procesamiento. También exploramos la realidad de las infraestructuras actuales, detallando cómo Anthropic asume facturas de mil quinientos millones de dólares mensuales para utilizar los servidores Colossus de Elon Musk. También exploramos la creciente tendencia de la IA en local, impulsada por la alianza de Nvidia y Microsoft para lanzar ordenadores preparados para ejecutar modelos medianos sin depender de la nube. Desde una perspectiva de gestión, abordamos la necesidad de una "conciencia del token" en las empresas. Cada martes un nuevo capítulo en YouTube, Spotify, Apple Podcast y Podimo. Podcast organizado por Milmoh, en colaboración con el CIO de la UMH. Podcast producido por Draps.