„Die Technologiebranche wird sich im Jahr 2024 in Richtung einer geringeren Abhängigkeit von GPUs bewegen“, behauptet Greg Osuri, CEO von Akash Network
In Kürze
Greg Osuri, CEO von Overclock Labs und Akash Network, behauptet, dass die Einführung kleinerer GPUs die Technologielandschaft im Jahr 2024 neu gestalten und Welleneffekte freisetzen wird.
Als große Player der Technologiebranche dominieren sie weiterhin den Markt leistungsstarke GPUs, eine bemerkenswerte Verschiebung hin zu weniger leistungsstarke Chips wird für das Jahr 2024 erwartet. Der Schritt, der durch die Notwendigkeit von Alternativen vorangetrieben wird, wird voraussichtlich die Landschaft umgestalten und es kleineren Unternehmen und Start-ups ermöglichen, einen erheblichen Beitrag zum Fortgang zu leisten KI-Boom.
Die Nachfrage nach Hochleistungsrechnern, insbesondere für das Training großer Sprachmodelle, hat die Fähigkeiten traditioneller Anbieter wie z AWS, Microsoft Azure und Cumolocity. Für kleinere Unternehmen ist es schwierig, sich diese Hochleistungsressourcen zu leisten und zu reservieren, was zu einem wachsenden Interesse an verteilten und erlaubnislosen Netzwerken führt.
In einem Gespräch mit Metaverse Post — Greg Osuri, CEO von Overclock Labs und Akash-Netzwerk, beleuchten die treibenden Faktoren und möglichen Auswirkungen dieses transformativen Trends.
Die dezentrale Cloud-Plattform Akash Network hatte kürzlich mit Mainnet 8 ein bedeutendes Upgrade auf die Cloud angekündigt. Das neue Upgrade führte wichtige Verbesserungen ein, die auf Vereinfachung abzielen GPU-Zugriff und verbessern Sie das Bereitstellungserlebnis.
Greg Osuri identifiziert die Optimierung der Datensatzanforderungen als ein Schlüsselelement bei der Einführung kleinerer GPUs.
Low-Rank Adaptation (LoRA) erweist sich in diesem Wandel als entscheidende Technik. Diese strategische Modifikation konzentriert sich auf kritische Gewichte, reduziert die Anzahl der benötigten Parameter und bewahrt das ursprüngliche vorab trainierte Wissen im Modell.
„Wer inmitten des GPU-Engpasses nach Alternativen sucht, wird Fortschritte machen, indem er weniger intensive Anforderungen an Datensätze verwendet, effizientere Techniken wie Low-Rank Adaptation (LoRA) zum Trainieren von Sprachmodellen einsetzt und Arbeitslasten parallel verteilt“, sagte Greg Osuri von Akash Network Metaverse Post. „Dazu gehört der Einsatz von Clustern aus Chips der unteren Preisklasse, um Aufgaben zu erfüllen, die einer kleineren Anzahl von A100s entsprechen.“ H100S. Eine neue Ära des Cloud Computing wird anbrechen, eine, in der die Macht dezentralisiert ist und nicht in den Händen einiger weniger liegt.“
Er sagt, dass die Parallelisierung von Arbeitslasten durch Cluster kleinerer Chips eine weitere Strategie sei. Im Vergleich zur herkömmlichen GPU-Nutzung bieten Cluster eine bessere Skalierbarkeit, Kosteneffizienz und verteilte Workload-Funktionen. Zu den Herausforderungen gehören jedoch Datenübertragungslatenz, Synchronisierungsprobleme, Skalierbarkeitsgrenzen und Kommunikationskosten.
„Je größer die Datenmenge, desto teurer und schwieriger sind die Kommunikationskosten zwischen nicht koordinierten Maschinen, sodass wahrscheinlich effizientere Methoden/Techniken erforderlich sein werden, um teure und herausfordernde Kommunikationsbarrieren zu überwinden.“ Für eine erfolgreiche Implementierung ist eine Kombination aus Hardware und Software erforderlich“, sagte Greg Osuri.
Der Aufstieg verteilter und erlaubnisfreier Netzwerke erweist sich als entscheidender Faktor, der es Unternehmen ermöglicht, das Potenzial kleinerer GPUs zu nutzen und die Chipauslastung insgesamt zu steigern.
„Um eine Optimierung zu erreichen, sollten Unternehmen kleinere Batch-Größen in Betracht ziehen, die weniger GPU-Speicher benötigen, auf einer Teilmenge von Daten zum Debuggen trainieren, vorab trainierte Modelle verwenden, da diese weniger Rechenressourcen erfordern, und das Training auf mehrere GPUs verteilen“, erklärte Greg Osuri. „Dies ermöglicht es kleineren Unternehmen und Start-ups, Innovationen zu entwickeln und einen echten Beitrag zum KI-Boom zu leisten, ohne vollständig auf die leistungsstärksten GPUs angewiesen zu sein.“
Verteilte Netzwerke können die Technologielandschaft stärken
Greg Osuri von Akash Network geht davon aus, dass die Einführung kleinerer GPUs ein vielfältigeres und wettbewerbsfähigeres Umfeld fördern und Bedenken hinsichtlich der Dominanz von Technologiegiganten zerstreuen wird KI-Landschaft. Er sagt, dass dieser Ansatz eine kostengünstige, entwicklerorientierte Lösung für den Zugriff auf eine breite Palette von GPUs bietet und es kleineren Spielern ermöglicht, auf Augenhöhe zu konkurrieren.
„Es entstehen weiterhin innovative, dezentrale Lösungen, die der steigenden Nachfrage gerecht werden, einen gleichberechtigten GPU-Zugriff gewährleisten und Innovationen im Cloud Computing und beim Training von KI-Modellen fördern.“ Durch den erlaubnisfreien Zugriff auf Rechenressourcen – einschließlich Nvidia A100s und H100s – von einer Reihe von Anbietern, von unabhängigen bis hin zu Hyperscale-Anbietern, sind diese Computerplattformen in der einzigartigen Position, Ineffizienzen zu mindern“, sagte er.
Von kleineren Unternehmen und Start-ups wird erwartet, dass sie die Umstellung auf kleinere GPUs nutzen, um einen sinnvollen Beitrag zur Entwicklung zu leisten KI-Domäne. Beispiele wie die Nutzung eines Clusters von 32 Nvidia A100 durch Thumper.ai verdeutlichen die Optimierung ungenutzter Rechenleistung für schnellere Bereitstellungsraten.
„Durch die Bereitstellung eines kostengünstigen, entwicklerorientierten Ansatzes für den Zugriff auf eine breite Palette von GPUs, von leistungsstarken Rechenzentrumschips bis hin zu Verbrauchermodellen, können kleinere Unternehmen auf die gleiche Rechenleistung zugreifen wie etabliertere Unternehmen, die über Flexibilität in ihren Betriebsabläufen verfügen.“ Ausgaben“, fügte Greg Osuri hinzu.
Mit Blick auf breitere Auswirkungen sieht Herr Osuri einen möglichen Paradigmenwechsel in der Technologiebranche voraus. Der Wandel hin zu weniger leistungsstarken GPUs und dezentralem Computing könnte zur Entwicklung neuer Anwendungen und Anwendungsfälle führen, die sich über die KI hinaus auf andere Technologiebereiche erstrecken.
„Die inhärente Flexibilität eines verteilten Netzwerks könnte es unabhängigen Entwicklern und Forschern ermöglichen, mit völlig neuen Anwendungen zu experimentieren und neue Wege zur Entwicklung radikal offener Anwendungsarchitekturen zu erschließen“, sagte Greg Osuri von Akash Network Metaverse Post. „Dieser Welleneffekt könnte zur Entwicklung stärker dezentraler Anwendungen und Dienste in allen Branchen, zu einer breiteren gemeinsamen Nutzung von Rechenressourcen und Wissen und zum „Comeback“ von führen Krypto und für Blockchainund Integration mit bestehenden Technologien.“
Haftungsausschluss
Im Einklang mit der Richtlinien des Trust-ProjektsBitte beachten Sie, dass die auf dieser Seite bereitgestellten Informationen nicht als Rechts-, Steuer-, Anlage-, Finanz- oder sonstige Beratung gedacht sind und nicht als solche interpretiert werden sollten. Es ist wichtig, nur so viel zu investieren, wie Sie sich leisten können, zu verlieren, und im Zweifelsfall eine unabhängige Finanzberatung einzuholen. Für weitere Informationen empfehlen wir einen Blick auf die Allgemeinen Geschäftsbedingungen sowie die Hilfe- und Supportseiten des Herausgebers oder Werbetreibenden. MetaversePost ist einer genauen, unvoreingenommenen Berichterstattung verpflichtet, die Marktbedingungen können sich jedoch ohne Vorankündigung ändern.
Über den Autor
Victor ist geschäftsführender technischer Redakteur/Autor bei Metaverse Post und deckt künstliche Intelligenz, Krypto, Datenwissenschaft, Metaverse und Cybersicherheit im Unternehmensbereich ab. Er verfügt über ein halbes Jahrzehnt Medien- und KI-Erfahrung bei bekannten Medienunternehmen wie VentureBeat, DatatechVibe und Analytics India Magazine. Als Medienmentor an renommierten Universitäten wie Oxford und USC und mit einem Master-Abschluss in Datenwissenschaft und Analytik ist es Victor ein großes Anliegen, über neue Trends auf dem Laufenden zu bleiben. Er bietet den Lesern die neuesten und aufschlussreichsten Erzählungen aus der Tech- und Web3 Landschaft.
Weitere Artikel
Victor ist geschäftsführender technischer Redakteur/Autor bei Metaverse Post und deckt künstliche Intelligenz, Krypto, Datenwissenschaft, Metaverse und Cybersicherheit im Unternehmensbereich ab. Er verfügt über ein halbes Jahrzehnt Medien- und KI-Erfahrung bei bekannten Medienunternehmen wie VentureBeat, DatatechVibe und Analytics India Magazine. Als Medienmentor an renommierten Universitäten wie Oxford und USC und mit einem Master-Abschluss in Datenwissenschaft und Analytik ist es Victor ein großes Anliegen, über neue Trends auf dem Laufenden zu bleiben. Er bietet den Lesern die neuesten und aufschlussreichsten Erzählungen aus der Tech- und Web3 Landschaft.
