-
Frage gestellt Jari am 16 Jun 2023.
-
Karsten Weber Beantwortet am 16 Jun 2023:
Wieviel Kubikmeter ein Server für KI umfasst, das weiß ich nicht. KI-Server bestehen aber im Grundsatz aus dutzenden, hunderten oder gar tausenden von speziellen Prozessoreinheiten, die optimiert sind, um bspw. die Berechnungen durchzuführen, die für neuronale Netze und Machine Learning benötigt werden.
Dabei ist zu vermuten, dass die eigentlichen Computerteile gar nicht den größten Teil des Volumens ausmachen, sondern die notwendige Technik zur Kühlung, zur Energieversorgung und zur Vernetzung der einzelnen Computerteile.
Grundsätzlich gilt: Gemessen am verbrauchten Volumen und an der verbrauchten Energie sind heutige KI-Systeme unglaublich ineffizient, wenn man sie mit Gehirnen von Lebewesen vergleicht. Das menschliche Gehirn umfasst im Schnitt weniger als 1.300 Kubikzentimeter — das ist weniger als eine große Flasche Cola. Es braucht zwischen 20 und 30 Watt Energie, aber kann Dinge, von denen KI-Systeme immer noch weit entfernt sind.
-
-
Stefan Edlich Beantwortet am 16 Jun 2023:
Das Spektrum ist hier sehr groß. Einfache Prediction Machines die etwas vorhersagen (z.B. wie viele Spieler kommen morgen in den Golfclub?!) sind locker auf Hanys möglich. Große LLMs haben allerdings viele Terrabytes und müssen gegebenenfalls stark skalieren, wenn sie tausende Anfragen pro Sekunde bedienen wollen. Da bucht man dann lieber gleich große Cluster, die auch aus tausenden Rechnern bestehen können…
-
Timo Baumann Beantwortet am 17 Jun 2023:
Ich hab in einem längeren Projekt neuronale Netze zur Stilanalyse autorengelesener postmoderner Lyrik entwickelt. Das ist eine durchaus komplexe Angelegenheit, aber es gibt nicht so viele Trainingsdaten. Deswegen war es kein Problem, die Experimente direkt auf meinem Laptop durchzuführen. Es ist halt heiß geworden, aber egal. (Es ist jetzt über 5 Jahre alt, die Tastatur ist bald durchgetippt aber es funktioniert immer noch gut.)
Es muss also nicht immer der riesige Server sein, für viele Anwendungen reicht Dein Computer (oder Smartphone) durchaus aus. Auch für das Training.
-
Maximilian Eder Beantwortet am 19 Jun 2023:
Das ist ganz unterschiedlich. Für Programme wie ChatGPT reicht ein Server nicht aus. Dafür braucht es sogenannte Cluster aus mehreren Servern. Für kleinere Berechnungen ist sogar ein Smartphone ausreichend.
Verwandte Fragen
Woher nimmt AI all diese Informationen?
Wird AI eine Gefahr darstellen für unsere zukünftige Generation?
Wie kann AI so genau auf unsere Fragen antworten?
Kann KI sich selbst weiterentwickeln
Was hat eine KI gemacht was gruselig war? Oder hat eine KI schonmal Fragen beantworte, die er nicht wissen dürfte?
Kürzlich gestellte Fragen
-
Woher nimmt AI all diese Informationen?
-
Wird AI eine Gefahr darstellen für unsere zukünftige Generation?
-
Wie kann AI so genau auf unsere Fragen antworten?
-
Kann KI sich selbst weiterentwickeln
-
Was hat eine KI gemacht was gruselig war? Oder hat eine KI schonmal Fragen beantworte, die er nicht wissen dürfte?
Kommentare