VMware und Intel wollen Private AI verfügbar machen

VMware gab heute eine Zusammenarbeit mit Intel bekannt, um Kunden dabei zu helfen, die Einführung von Künstlicher Intelligenz zu beschleunigen und private KI überall zu ermöglichen – in Rechenzentren, öffentlichen Clouds und Edge-Umgebungen. VMware und Intel arbeiten an der Bereitstellung eines gemeinsam validierten KI-Stacks, der es Kunden ermöglicht, ihre bestehende VMware- und Intel-Infrastruktur und Open-Source-Software zu nutzen, um die Entwicklung und Bereitstellung von KI-Modellen zu vereinfachen. Die Kombination aus VMware Cloud Foundation und Intels KI-Software-Suite, Intel® Xeon®-Prozessoren mit integrierten KI-Beschleunigern und Intel®-GPUs der Max-Serie wird einen validierten und getesteten KI-Stack für die Datenaufbereitung, das Modelltraining, die Feinabstimmung und das Inferencing bereitstellen. Damit können schneller wissenschaftliche Erkenntnisse gewonnen sowie Geschäfts- und Verbraucherdienste bereichert werden.

Mehr als 300.000 Kunden weltweit nutzen VMware Cloud. Die Virtualisierungssoftware von VMware wird fast überall im Unternehmen eingesetzt, wo Daten erstellt, verarbeitet oder genutzt werden. Dies macht VMware Cloud zu einem schnellen Mittel, um KI-beschleunigte Berechnungen und Modelle überall dorthin zu bringen, wo Geschäfte gemacht werden. In ähnlicher Weise bietet Intel offene, skalierbare und vertrauenswürdige Lösungen für Hunderttausende von Kunden. Die Allgegenwärtigkeit von VMware- und Intel-Produkten im Unternehmen ist eine leistungsstarke Kombination, die die Zugänglichkeit von Data Science erhöht, und Unternehmen weltweit dabei hilft, Private AI einzuführen. Dabei handelt es sich um einen architektonischen Ansatz, der darauf abzielt, die geschäftlichen Vorteile von AI mit den praktischen Anforderungen an Datenschutz und Compliance in Einklang zu bringen. 

„Wenn es um KI geht, gibt es keinen Grund mehr, über Kompromisse bei Auswahl, Datenschutz und Kontrolle zu diskutieren. Private AI bietet Kunden alle drei Möglichkeiten, um die Einführung von KI zu beschleunigen und ihre KI-Infrastruktur zukunftssicher zu machen", sagt Chris Wolf, Vice President von VMware AI Labs. „VMware Private AI mit Intel wird unseren gemeinsamen Kunden dabei helfen, die Produktivität ihrer Mitarbeiter drastisch zu steigern, die Transformation wichtiger Unternehmensfunktionen voranzutreiben und wirtschaftliche Auswirkungen zu erzielen."

Steigerung der KI-Leistung und sicherere KI-Infrastruktur mit niedrigeren TCO

VMware Private AI bringt Rechenkapazitäten und KI-Modelle dorthin, wo Unternehmensdaten erstellt, verarbeitet und konsumiert werden. Es spielt dabei keine Rolle, ob in einer Public Cloud, einem Unternehmensrechenzentrum oder am Edge, um traditionelle KI/ML-Workloads und generative KI zu unterstützen. VMware und Intel ermöglichen die Feinabstimmung aufgabenspezifischer Modelle innerhalb von Minuten bis Stunden. Zudem helfen sie dabei, die Inferenzierung großer Sprachmodelle mit einer Geschwindigkeit zu erledigen, die schneller ist als die menschliche Kommunikation unter Verwendung der privaten Unternehmensdaten des Kunden. VMware und Intel ermöglichen die Feinabstimmung kleinerer, kostengünstiger Modelle auf dem neuesten Stand der Technik, die auf gemeinsam genutzten virtuellen Systemen leichter zu aktualisieren und zu warten sind und nach Abschluss der Batch-KI-Aufträge wieder in den IT-Ressourcenpool zurückgegeben werden können. Anwendungsfälle wie KI-gestützte Code-Generierung, Empfehlungssysteme für erfahrungsbasierte Kundendienstzentren und klassische maschinelle statistische Analysen können jetzt auf denselben Allzweckservern ausgeführt werden, auf denen auch die Anwendung läuft. 

VMware und Intel entwickeln eine Referenzarchitektur, die Intels KI-Software-Suite, Intel® Xeon® Prozessoren und Rechenzentrums-GPUs mit VMware Cloud Foundation kombiniert, um Kunden die Möglichkeit zu geben, private KI-Modelle auf der vorhandenen Infrastruktur zu entwickeln und bereitzustellen. So können sie die Gesamtbetriebskosten senken und Bedenken hinsichtlich der ökologischen Nachhaltigkeit berücksichtigen. Diese VMware Private AI-Referenzarchitektur mit Intel AI wird Folgendes umfassen:

– Intel® Xeon® Prozessoren der 4. Generation mit Intel® Advanced Matrix Extensions (Intel® AMX) bieten bis zu 10-fache Leistungsverbesserungen bei der Verwendung von Standard-Industrie-Frameworks und -Bibliotheken, durchgängigen Data-Science-Produktivitäts-Tools und optimierten KI-Modellen. 

– Intel® Data Center GPU Max enthält bis zu 128 Xe-Kerne und ist Intels grundlegender GPU-Compute-Baustein für die anspruchsvollsten KI-Workloads. Die Intel Max Series GPUs werden in verschiedenen Formfaktoren erhältlich sein, um unterschiedliche Kundenanforderungen zu erfüllen. 

– Die KI-Software-Suite von Intel ist mit durchgängiger Open-Source-Software und optionalen Lizenzkomponenten ausgestattet, die es Entwicklern ermöglichen, komplette KI-Pipeline-Workflows von der Datenvorbereitung über die Feinabstimmung bis hin zur Inferenz auszuführen. Die Skalierung kann auf mehrere Knoten beschleunigt werden und KI in der IT-Infrastruktur von Unternehmen eingesetzt werden. Das offene oneAPI-Framework hilft bei einer prozessor- und hardwarebeschleunigten-agnostische Softwareentwicklung, so dass Entwickler ihren Code einmal schreiben und auf verschiedenen Architekturen ausführen können, ohne dass mehrere Codebasen und Spezialsprachen erforderlich sind. Intels Transformer Extensions und die tiefe Integration von PyTorch Extension mit den bei Entwicklern beliebten Open-Source-Bibliotheken Hugging Face bieten automatisierte Optimierungsrezepte für die Feinabstimmung und Komprimierung von Modellen für effiziente Inferenzen.

VMware Cloud Foundation bietet eine konsistente Infrastruktur der Unternehmensklasse, einen einfachen Betrieb und verbesserte Sicherheit für VMware Private AI durch Funktionen wie:

– VMware vSAN Express-Storage-Architektur, die bis zu 30 % mehr Leistung (1) und minimalen Overhead für wichtige Funktionen wie Verschlüsselung für E/A-intensive KI/ML-Tuning- und Inferencing-Workloads bietet.

– vSphere Distributed Resources Scheduler hilft bei der effizienten Nutzung freier Rechenkapazitäten für das Training und die Inferenzierung von KI-Modellen, indem dieselben Cluster genutzt werden, die auch andere KI-Anwendungen verwenden, wodurch die Kapazität maximiert und die Gesamtbetriebskosten reduziert werden.

– VMware NSX für den Aufbau von Mikrosegmentierung und fortschrittlichen Bedrohungsschutzfunktionen.

– Sicheres Booten und virtuelles TPM zur Gewährleistung der Vertraulichkeit von Modellen und Daten. 

VMware Private AI wird von Servern von Dell Technologies, Hewlett Packard Enterprise (HPE) und Lenovo unterstützt, die mit Xeon-CPUs der vierten Generation mit Intel® Advanced Matrix Extensions (Intel® AMX) und Intel Max Series GPUs arbeiten.

Weitere Informationen zu VMware Private AI mit Intel finden Sie unter: https://www.vmware.com/…

(1) Basierend auf einer internen Analyse von VMware