OpenAI und Broadcom haben mit Jalapeño einen Custom-Chip für LLM-Inferenz vorgestellt, der Leistung und Effizienz im Produktivbetrieb von Sprachmodellen verbessern soll.
Microsoft stellt die Surface RTX Spark Dev Box vor, einen Desktop-PC mit Nvidias Spark-Chip für lokales KI-Training und Inferenzen ohne Cloud-Abhängigkeit.
