Wir haben eine Anleitung zusammengestellt, wie Sie Ihr eigenes ChatGPT mit weniger Rechenressourcen erstellen können
Das Replizieren des Chatbots ist ein monumentales Unterfangen, da OpenAI den Code für ChatGPT nicht Open-Source gemacht hat und selbst große Technologieunternehmen Schwierigkeiten haben. Nichtsdestotrotz hat die KI-Firma Colossal-AI eine Methode entdeckt, mit der Sie Ihr eigenes ChatGPT mit weniger Rechenleistung erstellen können.
Das Unternehmen hat einen PyTorch-basierten Ansatz verwendet, um dieses Ziel zu erreichen, der Vortraining, Belohnungsmodelltraining und Verstärkungslernen umfasst. Mit einem 10,3-fachen Wachstum bei der Kapazität eines GPU-Modells bieten sie eine Beispielversion des Trainingsverfahrens, das nur 1,62 GB GPU-Speicher verwendet und auf einer einzigen Verbraucher-GPU abgeschlossen werden kann.
Laut Colossal-AI ist ein Einzelmaschinenprozess vielleicht 7,7-mal schneller als das ursprüngliche PyTorch, und eine Einzel-GPU-Inferenz kann 1,42-mal schneller sein, was mit nur einer Codezeile möglich ist. Benutzer können die Kapazität des Modells zur Feinabstimmung mit nur einer Codezeile, die schnell auf einer einzelnen GPU ausgeführt wird, um das bis zu 3,7-fache verbessern.
Für die ursprüngliche PyTorch-Implementierung, die 14.999 US-Dollar kostet, wird normalerweise ein A100-80-GB-Modell mit 780 Millionen Parametern benötigt. Auf der anderen Seite multipliziert Colossal-AI es mit 10,3, um 8 Milliarden Parameter auf einer einzigen GPU zu erreichen.
Eine Single-GPU-Skala, eine Multi-GPU-Skala auf einem einzelnen Knoten und eine 175-Milliarden-Parameterskala sind alle in verschiedenen Konfigurationen zugänglich. Darüber hinaus sind die von Hugging Face erhältlichen vortrainierten Sprachmodelle für OPT, GPT-3 und BLOOM.
Der Beitrag Wie baue ich mein eigenes ChatGPT mit weniger Rechenressourcen? erschien zuerst auf Analytics Insight.
source – www.analyticsinsight.net
