• Frage: Wie groß ist der Server von einer Künstlichen Intelligenz?

    Frage gestellt Jari am 16 Jun 2023.
    • Foto: Karsten Weber

      Karsten Weber Beantwortet am 16 Jun 2023:


      Wieviel Kubikmeter ein Server für KI umfasst, das weiß ich nicht. KI-Server bestehen aber im Grundsatz aus dutzenden, hunderten oder gar tausenden von speziellen Prozessoreinheiten, die optimiert sind, um bspw. die Berechnungen durchzuführen, die für neuronale Netze und Machine Learning benötigt werden.

      Dabei ist zu vermuten, dass die eigentlichen Computerteile gar nicht den größten Teil des Volumens ausmachen, sondern die notwendige Technik zur Kühlung, zur Energieversorgung und zur Vernetzung der einzelnen Computerteile.

      Grundsätzlich gilt: Gemessen am verbrauchten Volumen und an der verbrauchten Energie sind heutige KI-Systeme unglaublich ineffizient, wenn man sie mit Gehirnen von Lebewesen vergleicht. Das menschliche Gehirn umfasst im Schnitt weniger als 1.300 Kubikzentimeter — das ist weniger als eine große Flasche Cola. Es braucht zwischen 20 und 30 Watt Energie, aber kann Dinge, von denen KI-Systeme immer noch weit entfernt sind.

    • Foto: Stefan Edlich

      Stefan Edlich Beantwortet am 16 Jun 2023:


      Das Spektrum ist hier sehr groß. Einfache Prediction Machines die etwas vorhersagen (z.B. wie viele Spieler kommen morgen in den Golfclub?!) sind locker auf Hanys möglich. Große LLMs haben allerdings viele Terrabytes und müssen gegebenenfalls stark skalieren, wenn sie tausende Anfragen pro Sekunde bedienen wollen. Da bucht man dann lieber gleich große Cluster, die auch aus tausenden Rechnern bestehen können…

    • Foto: Timo Baumann

      Timo Baumann Beantwortet am 17 Jun 2023:


      Ich hab in einem längeren Projekt neuronale Netze zur Stilanalyse autorengelesener postmoderner Lyrik entwickelt. Das ist eine durchaus komplexe Angelegenheit, aber es gibt nicht so viele Trainingsdaten. Deswegen war es kein Problem, die Experimente direkt auf meinem Laptop durchzuführen. Es ist halt heiß geworden, aber egal. (Es ist jetzt über 5 Jahre alt, die Tastatur ist bald durchgetippt aber es funktioniert immer noch gut.)

      Es muss also nicht immer der riesige Server sein, für viele Anwendungen reicht Dein Computer (oder Smartphone) durchaus aus. Auch für das Training.

    • Foto: Maximilian Eder

      Maximilian Eder Beantwortet am 19 Jun 2023:


      Das ist ganz unterschiedlich. Für Programme wie ChatGPT reicht ein Server nicht aus. Dafür braucht es sogenannte Cluster aus mehreren Servern. Für kleinere Berechnungen ist sogar ein Smartphone ausreichend.

Kommentare