Quantization-Aware Healing: een gecomprimeerd 4-bit model dat beter presteert dan zijn origineel op volledige precisie

OpenAI zegt dat zijn nieuwe AI-chip, Jalapeño, taken efficiënter uitvoert en sneller antwoorden teruggeeft dan andere AI-systemen, volgens een blogpost die dinsdag werd gepubliceerd. Tijdens een briefing met journalisten zei OpenAI's vicepresident hardware Richard Ho dat Jalapeño het "beste van twee werelden" biedt met lagere latentie en hogere doorvoer, terwijl AI-systemen […]