8 mil millones de tokens por día obligaron a AT&T a repensar la orquestación de la IA y a someter los costos en un 90%

Cuando su uso diario promedio de tokens es de 8 mil millones por día, tiene un problema de escalera masiva. Este fue el caso de AT&T, y el director de…

El nuevo situación ‘recursivo’ del MIT permite a los LLM procesar 10 millones de tokens sin ofensa del contexto

Modelos de habla recursivo (RLM) son una técnica de inferencia desarrollada por investigadores del MIT CSAIL que tráfico las indicaciones largas como un entorno extranjero al maniquí. En puesto de…

Los acaparadores de criptomonedas arrojan tokens mientras las acciones caen

“Era preciso”, dijo Jake Ostrovskis, caudillo de operaciones OTC de Wintermute, refiriéndose a la cesión masiva de acciones del caudal de activos digitales. “Llegamos al punto en que hay demasiados”.…

La nueva técnica de ‘Pensamiento Markoviano’ abre un camino cerca de el razonamiento de IA de un millón de tokens

Los investigadores de Mila han propuesto una nueva técnica que hace que los modelos de jerga grandes (LLM) sean mucho más eficientes al realizar razonamientos complejos. Llamado Pensamiento markovianoel enfoque…

Kraken alabarda tokens digitales para ofrecer el comercio las 24 horas del día, los 7 días de la semana.

Cracking es Emanación de versiones tokenizadas de las acciones estadounidenses Para el comercio 24/7 fuera de los EE. UU., Dar comunicación a los inversores globales basados ​​en blockchain a las…

Cuando el razonamiento de IA sale mal: la investigación de Microsoft muestra que más tokens pueden significar más problemas

Únase a nuestros boletines diarios y semanales para obtener las últimas actualizaciones y contenido exclusivo sobre la cobertura de IA líder de la industria. Obtenga más información Los modelos de…