5. generasjon Intel Xeon kommer for å revolusjonere datasentre for AI

Den nye generasjonen av Intel Xeon ble allerede annonsert for noen måneder siden i Intel Innovasjon og denne torsdagen (14) presenterte Pat Gelsinger, administrerende direktør i selskapet, flere detaljer om den splitter nye prosessoren under AI overalt, et arrangement med fokus på AI og hvordan Intel har til hensikt å fremskynde ankomsten av denne nye verden. O 5. generasjon Intel Xeon lover raskere minne- og ytelsesforbedringer med fokus på å holde tritt med utviklingen av kunstig intelligens, forberede datasentre til å motta og behandle en enorm mengde data, og gi plass til en ny æra med global ekspansjon der datakraft er enda mer viktig for alles bedre fremtid.

Hvor viktig er datasenteret for AI?

Før vi ser de nye virkningene som 5. generasjon Intel Xeon kan bringe til datasentre, er det viktig å forstå relevansen av disse stedene for å drive den kontinuerlige utviklingen av kunstig intelligens (AI). Disse serverkompleksene, ofte distribuert globalt, spiller en viktig rolle i å lagre, behandle og administrere de enorme datamengdene som trengs for å trene og forbedre AI-algoritmer.

Datasentres betydning for AI er avgjørende. For det første gir de infrastrukturen som trengs for å være vert for enorme mengder data, fra treningssett til sanntidsdata. Lagringskapasitet og effektivitet i datainnhenting er avgjørende aspekter for å sikre at kunstig intelligensmodeller har rask og effektiv tilgang til informasjonen som trengs for å ta nøyaktige beslutninger.

Videre er datasentre ekstremt viktige for opplæring av komplekse AI-modeller. Moderne algoritmer som dype nevrale nettverk krever enorme mengder datakraft for å justere og optimalisere millioner eller til og med milliarder av parametere. Datasentre, ofte utstyrt med høyytelses grafikkbehandlingsenheter (GPUer), gjør det mulig å kjøre disse intensive beregningene parallelt, noe som øker treningsprosessen betydelig.

For øyeblikket er den viktigste bruken av datasentre i AI-verdenen implementeringen gjennom skydatabehandling – eller cloud computing -, noe som gjør det mulig å behandle disse dataene i absurde hastigheter, uten at brukeren eller bedriften trenger å ha sin egen dataserver. Vi vil se nedenfor hvordan selskaper liker Google har implementert den nye brikken Intel for å forbedre skytjenestene dine.

Som prosessorprodusenter som f.eks Intelutvikler og forbedrer deres arkitekturer, øker effektiviteten og prosessorkraften til brikkene. Dette muliggjør ikke bare raskere utførelse av AI-oppgaver, men muliggjør også utvikling av mer sofistikerte og komplekse modeller. Den forbedrede behandlingskapasiteten til 5. generasjon Intel Xeon er grunnleggende for å håndtere de økende beregningskravene til kunstig intelligens.

Virkningen av 5. generasjons Intel Xeon

O Intel Xeon 5. generasjon representerer et betydelig sprang i ytelse og effektivitet for datasentre, skyer, nettverk og edge-miljøer. Denne nye prosessoren tilbyr en gjennomsnittlig ytelsesøkning på 21 % samtidig som den opprettholder den samme termiske kraften, noe som resulterer i en imponerende 36 % økning i ytelse per watt. For kunder som følger en typisk femårig oppgraderingssyklus og går over fra eldre generasjoner, når den potensielle reduksjonen i Total Cost of Ownership (TCO) opptil 77 %.

Bygget for AI, 5. generasjons Intel Xeon-prosessorer gir bedre ytelse for kunder som distribuerer AI-funksjoner i skyen, nettverket eller edge-enheter. Som et resultat av vårt langvarige arbeid med kunder, partnere og utviklerøkosystemet, lanserer vi 5. generasjons Intel Xeon på et bevist solid grunnlag som vil muliggjøre rask adopsjon og skalering med lavere TCO.

Sandra Rivera, konserndirektør og daglig leder for Intels datasentre og AI Group

Et av høydepunktene i 5. generasjon Intel Xeon er dens unike integrasjon av Artificial Intelligence (AI) akselerasjon direkte inn i prosessoren. Dette gir opptil 42 % mer slutnings- og finjusteringskapasitet på modeller med opptil 20 milliarder parametere. Også Xeon er den eneste prosessoren med et konsistent og stadig forbedrende sett med ytelsesresultater referansemåling trening og konklusjon MLPerf, som sikrer pålitelighet og effektivitet i Maskinlæring.

AI-akseleratorer innebygd Xeon, kombinert med optimert programvare og avanserte telemetrifunksjoner, muliggjør håndterbare og effektive distribusjoner av krevende arbeidsbelastninger på tvers av ulike bransjer. Dette inkluderer kommunikasjonstjenesteleverandører, innholdsleveringsnettverk og vertikale markeder som detaljhandel, helsevesen og produksjon.

Under lanseringen vil IBM fremhevet at prosessorer 5. generasjon Intel Xeon oppnådd opptil 2,7 ganger bedre søkeytelse på plattformen deres watsonx.data, sammenlignet med prosessorer Xeon av forrige generasjon. O Google Cloud, som planlegger å implementere 5. generasjon Xeon neste år, rapporterte at Palo Alto Networks doblet ytelsen til sine dyplæringsmodeller for trusseldeteksjon ved bruk av innebygd akselerasjon 4. generasjon Xeon gjennom Google Cloud.

I tillegg spillstudioet Gallium Studios utnyttet selskapets AI-plattform numenta, som bruker prosessorer Xeon, oppnå en 6,5x økning i slutningsytelse på en GPU-basert skyforekomst, noe som resulterer i reduserte kostnader og ventetid i spillet ditt proxy AI-basert.

Basert på tidligere generasjoner, bringer den nye prosessoren betydelige innovasjoner når det gjelder ytelse og effektivitet. Disse prosessorene har evnen til å operere med opptil 64 kjerner per CPU, noe som representerer nesten tre ganger maksimal cache på siste nivå sammenlignet med forrige generasjon. I tillegg tilbyr de åtte kanaler med DDR5 per CPU, som støtter DDR5 med overføringshastigheter på opptil 5.600 megaoverføringer per sekund (MT/s), og utvider båndbredden mellom sokkel med Intel UPI 2.0, og gir opptil 20 gigaoverføringer per sekund (GT/s). ).

I tillegg til forbedret ytelse, prosessorer 5. generasjon Intel Xeon er anerkjent som de mest bærekraftsfokuserte datasenterprosessorene som noen gang er utviklet. Med innebygde akseleratorer som bidrar til forbedret ytelse per watt, kan energieffektiviteten og besparelsene utvides ytterligere ved å aktivere Power Optimized Mode i plattformens BIOS, spesielt i arbeidsbelastninger som kan dra nytte av denne funksjonen.

Når det gjelder sikkerhet, er Intel Trusted Domain Extensions (Intel TDX) tilbyr et høyere nivå av konfidensialitet i den virtuelle maskinen (VM), forbedrer personvernet og gir større kontroll over data. På den annen side Intel Software Guard Extensions (intel sgx) representerer den ledende teknologien innen konfidensiell databehandling, og er den mest undersøkte, oppdaterte og omfattende tilgjengelige i datasentre på det nåværende markedet.

prosessorene 5. generasjon Xeon er bakoverkompatible med tidligere generasjons pinner, og viktige produsenter av originalutstyr (OEM) som f.eks Cisco, Dell, HPE, IEIT Systems, Lenovo, Super Micro Computer, blant annet, planlegger å tilby et bredt spekter av prosessorer for enkelt- og dual-socket-systemer fra og med første kvartal 2024. I tillegg vil ledende Cloud Service Providers (CSP-er) kunngjøre tilgjengeligheten av forekomster basert på 5. generasjon Intel Xeon gjennom året.

Dette fremskritt i utførelsen av 5. generasjon Intel Xeon åpner for nye muligheter for naturlig språkbehandling og avanserte AI-applikasjoner, ikke bare i datasentre og skyer, men også på tvers av nettverksapplikasjoner og på kantene, og driver innovasjon og effektivitet på tvers av flere bransjer.

Mer etterspørsel etter Generativ AI med Intel Gaudi3

I tillegg til de nye sjetongene Intel også gitt flere detaljer om Intel Gaudi 3, ny versjon av selskapets AI-akselerasjonsprosessor. Selskapet planlegger å lansere akseleratorene i 2024, og denne nye maskinvaren vil bygges på høyytelsesarkitekturen til gaudi2, som lover å levere 4x mer datakraft (BF16), doble nettverksbåndbredden for mer effektiv skalering og 1,5x mer integrert HBM-minne. Disse forbedringene tar sikte på å møte den økende etterspørselen etter høyytelses databehandling og effektivitet til LLM-er, uten at det går på bekostning av ytelsen.

Under AI overalt, presenterte Gelsinger først en akseleratorwafer gaudi3 og kunngjorde at Intel opplever en betydelig utvidelse i sin forskning og utvikling av Gaudi på grunn av voksende og påviste ytelsesfordeler, kombinert med svært konkurransedyktige priser. Gitt den økende etterspørselen etter Generative AI-løsninger, Intel planlegger å ta en enda større andel av akseleratormarkedet i 2024, drevet av sin serie med AI-akseleratorer, fremhevet av Intel Gaudi 3.

Se videoen på Showmetech-kanalen:

Kilde: Intel

Anmeldt av Glaucon Vital den 14.