00:00:00: Music.

Simon Lemke: Herzlich willkommen zum Thomas-Krenn-Podcast mein Name ist Simone Lemke und ich bin in der Abteilung sales als Vertriebsberater tätig bei der Thomas-Krenn.AG.

Simon Lemke: Mein heutiger Ansprechpartner bzw Gesprächspartner ist Benjamin Beyer aus dem Produktmanagement und heute stellen wir Ihnen das Thema gpu computing vor.

Simon Lemke: Ja Benny erstmal herzlich willkommen was versteht man eigentlich im Wesentlichen unter gpu computing.

Benjamin Bayer: Also gpu computing ist eigentlich relativ leicht erklärt wenn ich eine Grafikkarte benutze und Berechnungen durchzuführen die nichts mit der Bildausgabe zu tun haben.

00:00:43: Habe das eigentlich schon gpu computing vielleicht mal paar praktische Beispiele wo wir gpu computing eigentlich tagtäglich mittlerweile nutzen.

Benjamin Bayer: Das ist mein spiel die Spracherkennung bei unseren Handys es ist der Google Translator ist es z.b. die Google-Bildersuche in diesen Bereichen verwenden wir quasi schon GPU compute.

Simon Lemke: Aber das ist ja nicht dass der typische Einsatzzwecke eines Servers die man für gpu computing nutzt.

Simon Lemke: Wo sind die typischen Einsatzszenarien für Serverbereich gpu computing.

Benjamin Bayer: Also die Einsatzzwecke sind sehr verschieden also da gibt es eine große Bandbreite ist die Frage wo man anfangen wollen also natürlich wird gpu computing auch verwendet im Medizinbereich wenn man zwei spiel Ultraschall gemacht und solche Sachen,

Benjamin Bayer: mit sich da die Doktoren die Bilder anschauen können gpu computing wird auch verwendet wenn ich Renndering-Sachen mache oder Animationen.

Benjamin Bayer: Gpu Computing wird verwendet wenn ich die Planung mache machine learning außer der ist Gebiet ist relativ breit gefächert euch jetzt mal.

Simon Lemke: Okay also z.b. auch Rendering im Bezug in der Industrie auf Fräsmaschinen Berechnung von Oberflächen, Berechnungen von.

Simon Lemke: Herstellungsvorgängen das kann man alles mit gpu computing machen genau richtig also natürlich muss die jeweilige Software die für den Bereich eingesetzt wird natürlich gpu computing unterstützen,

Benjamin Bayer: aber generell ist so das gpu computing mittlerweile in der breiten Masse soll ich jetzt mal angekommen.

Simon Lemke: Und wo liegen die Vorteile von gpu computing gegenüber herkömmlichen Rechnungen,

Benjamin Bayer: also die ist eigentlich relativ einfach auch erklärt oder muss man sich nur die Architektur anschauen die gpu oder die Grafikkarte an sich ist eigentlich relativ einfach aufgebaut,

Benjamin Bayer: und sie kann sehr gut und sehr schnell parallele Berechnungen durchführen das kann die CPU nicht,

Benjamin Bayer: du httputil Nachteile allein von Architektur und so weiter und es kann halt die gpu wesentlich schneller das heißt sehr viele Datenmengen was Palette Berechnungen angeht verarbeiten berechnen und ausg.

Simon Lemke: Du sprichst die Architektur an wo sind hier die großen Unterschiede zu einem Prozessor,

Simon Lemke: wenn ich jetzt meinen normalen CPU Prozessor habe dann Riemer natürlich auch von Kernen zwei Spieler aus welchen CPU habe mit 18 course 18 Kerne,

Benjamin Bayer: kann ich mit den Kernen Berechnungen durchführen gleichzeitig.

Benjamin Bayer: Aber der Grafikkarte gibt es bisschen anders aus die hat auch gerne dementsprechend aber viele hundert Kerne die Kerne sind hat viel einfach aufgebaut weil sie nur spezifische Aufgaben erledigen musst ihm ansprechen.

Benjamin Bayer: Und das immer wieder bei dem parallel abarbeiten dementsprechend dadurch dass ich beide gpu zu viele kleine Kerne habe die nur spezielle Berechnungen durchführen können ist die natürlich wahnsinnig schnell

Benjamin Bayer: na wenn wir vergleichen CPU mit 16-24 gerne gegenübergestellt in der Grafikkarte die ja ein paar tausend kleine hat wenn man sich manche Grafiker anschauen.

Simon Lemke: Ok einige tausend spezialisierte Kerne die für den Anwendungszweck sozusagen optimiert sind gegenüber,

Simon Lemke: ich nenne es jetzt einfach mal wenigen 10-20 knn die hochkomplex sind aber eben für die allgemeine Berechnung sozusagen konzipiert sind also nicht für den speziellen Anwendungsfall dadurch,

Simon Lemke: der große Vorteil dabei den die Buchanan in der Grafikkarte das habe ich jetzt verstanden wo liegen dann die Risiken von von gpu computing.

Benjamin Bayer: Gpu Computing von den riesigen her du musst mal ein bisschen unterscheiden,

Benjamin Bayer: aus was wird aus der Praxis mitbekommen haben ist dass das Thema ja sage ich mal zu oberflächlich angegangen wird bis die Info habe auch von den Videos selber bekommen,

Benjamin Bayer: das heißt ich was unternehmen habe zu Britta möchte gpu computing machen egal in welchem Bereich dann ist der erste Schiff natürlich dass ich mir Haare Kauf.

Benjamin Bayer: Allein Badeorte kann man schon einige Fehler machen was man dafür Hardware kauft warum muss natürlich den Anforderungsbereich dementsprechend genau spezifizieren.

Benjamin Bayer: Und was auf mich zu verarschen ist und was der größte Bereich eigentlich beim gpu computing ist der Softwarebereich quasi.

Benjamin Bayer: Ich muss viel Laura haben was Software angeht sprich wenn ich jetzt immer ein bisschen tiefer deep learning oder machine learning mache,

Benjamin Bayer: da gibt's ja mittlerweile fertige Frameworks mit Malspiel tensorflow die vereinfachen ja das ganze zumindest den Einstieg,

Benjamin Bayer: aber ich muss trotzdem genau definieren was will ich jetzt machen ich habe jetzt gewisse Daten ich muss diese darauf bereiten und was würde ich dann dementsprechend als Ausgabe haben,

Benjamin Bayer: also es gibt keine kompletten fertige Frameworks dass ich sage okay ich habe jetzt tausende von Bildern und auf diesen tausenden von Bildern will ich jetzt erkennen ist ein Haus drauf oder nicht.

Simon Lemke: Dementsprechend okay also man muss sozusagen die Daten die man verarbeiten möchte in gewisser Weise vorbereiten,

Simon Lemke: damit dann vereinfachten Kerne auch ihre Seite mal optimierte Funktionsweise darauf anwenden können genau es ist sehr viele Programmieraufwand natürlich also man muss.

Benjamin Bayer: Zeig mal auf gut in Mathematik sein ich muss dementsprechend auch,

Benjamin Bayer: ja zeig mal die lineare Algebra nennt sich das ganze Blatt das ganze aufgebaut wie ich halt dann meine soll ich jetzt mal meine als ist es generell so dass sie da natürlich vorbereitet wir müssen bis es klar ich muss mit zuerst anschauen,

Benjamin Bayer: Was sind meine Ausgangsdaten außerdem als Beispiel mal das Beispiel Logfiles ich habe noch Kreis mit tausenden von Zeilen die man sprechen und jetzt will ich eine Auswertung machen okay wie hoch ist Wahrscheinlichkeit dass wir zwei Spielen nächsten Festplatte aus Fell.

Benjamin Bayer: Da muss ich natürlich definieren was habe ich für Daten was will ich genau wissen und da muss ich das ganze sogenannte modellieren damit dementsprechend die Software oder zwei Spieler des Framework weiß und hier was für Daten muss ich sammel was muss ich aus.

Benjamin Bayer: Oder berechnen dementsprechend damit ich dann in der bekomme der bumsan kann ok die nächsten 3-4 Tagen fällt 2 Stunde bestimmte Festplatte aus.

Simon Lemke: Geh noch mal um auf die Hardware zurückzukommen.

Simon Lemke: Kann man gpu computing mit jeder beliebigen Hardware machen bzw welche Voraussetzungen und auf was sollte man achten wenn man sich jetzt einen Server oder eine Workstation für gpu computing kauft 100 kaufen möchte.

Benjamin Bayer: Generell wenn man es ganz einfach sagen will geht's dir red ich mit jeder Hardware,

Benjamin Bayer: natürlich wenn ich jetzt nur ne sag jetzt mal billige Grafikkarte kaufe oder nur eine Workstation habe und habe natürlich Dose berechnen wenn der große Datenmengen tut Auto ist natürlich die Menschen.

Benjamin Bayer: Da muss ich auch unterscheiden wenn ich natürlich professionelle Grafikkarten kaufe die genau für diesen Bereich ausgelegt sind wir zwei spiele die quadro Grafikkarten,

Benjamin Bayer: von Nvidia die können natürlich sehr schnell Berechnungen durchführen kosten alle paar 1000 €,

Benjamin Bayer: wenn ich jetzt dagegen kannst du mal Karte Stelle die halt deutlich billiger ist die ist auch von der Leistung her beschränktes heißt ich brauche für die Berechnungen länger.

Benjamin Bayer: Was natürlich auch dazukommen ist ich muss den Datendurchsatz natürlich,

Benjamin Bayer: das heißt die Daten müssen ja irgendwo liegen die müssen natürlich in die Grafikkarte soll ich mal eingelesen werden damit diese,

Benjamin Bayer: Berechnung durchführen kann wenn ich jetzt da nur in System habe jetzt angenommen mit zwei Festplatten da wird sich die Grafikkarte natürlich langweilen weil die Festplatte nicht nach kommen die daten zu liefern,

Benjamin Bayer: schaust ich muss auch auf der Datenspeicher schauen du mit der Pfaff performant ist.

Benjamin Bayer: Und was auch noch dazu kommt ich muss nicht alle Berechnungen mit der gpu machen ich kann auch unwichtige Berechnungen Thomas ancano.

Benjamin Bayer: Das ist egal wenn es eine Zeit lang länger dauert aber ich will die Grafikkarte damit nicht belasten kann ich auch bei dem premax meiste sagen ok ich will bestimmte berechnen mit der CPU durch.

Benjamin Bayer: Wenn ich das machen will dann muss ich natürlich auch schauen bei der CPU damit ich da eine leistungsfähige drin habe also es gibt viele Faktoren die das natürlich beeinflussen.

Benjamin Bayer: Und dass sie mal wieder bei dem Thema immer muss genau vorher definieren was will ich machen was ist mein Ziel letztendlich und dann muss ich die man sprechen die habe das heißen,

Simon Lemke: okay du hast vorher gerade die quattro Karten und auch die Consumer Karten angesprochen ich habe einen Kunden der eine dazu das war eine GTX 10 80 ti,

Simon Lemke: einer Karte Corte bevorzugt hat weil die Anzahl der Kerne.

Simon Lemke: Ja ungefähr um ein paar hundert muss man nur ein paar hundert keine paar tausend aber ein paar hundert gerne mehr war Plus im Meer cash,

Simon Lemke: trotzdem hat er gesagt die Performance ist nicht zugute möchte das mit der Person versuchen na dann eine Quarzuhr eingesetzt die weniger Kerne hatte weniger Cash und trotzdem war das Ergebnis deutlich besser woran liegt das.

Benjamin Bayer: Du musst mir die Architektur auch ein bisschen Anschauen von den Grafikkarten generell ist so wenn eine video eine neue gpu entwickeln der neuen Chip.

Benjamin Bayer: Dann ist es immer auch gezielt auf dem professionellen Bereich das heißt meist auf die Grafik quadro kann dementsprechend wenn die gibt Guthaben fertig ist werden die Grafikkarte natürlich gebaut.

Benjamin Bayer: Und dann wird die gleiche gpu besäße gleich Agentur genommen für die Consumer Karten.

Benjamin Bayer: Wie man sie alle kennt die GeForce Karten für unsere spiele zu Hause die natürlich von den Leistungen her beschränkt sind das heißt sie werden technisch runter geregelt solche Zahlen.

Benjamin Bayer: Was heißt mit consumer Karten nicht haben und die Professorin kann schon im Dezember bei dem warum das die Patrick Arendt habe sie schneller sind,

Benjamin Bayer: ja spezielle Funktion her und Berechnungen auch schneller durchführen zu können dass sie mir zwei Spiel bei dem Thema Tensor cores die haben zwei Spiele GeForce kann eigentlich nicht,

Benjamin Bayer: und Herzog was sind noch mal spezielle gpu Kurs sag jetzt mal die spezielle Fließkommazahlen extrem schnell berechnen können und so weiter,

Benjamin Bayer: also es gibt wenn man sich das Hinterteil anschaut sehr viele kleine Unterschiede warum das nicht quadro Karte die man Sprechstelle Swissair Schiefer skate,

Benjamin Bayer: generell uns einfach noch mal auszudrücken ist eine Geforce Karte als eine klassische consumer Karte beruht auch im auf dem professionell Modellen wird aber technisch beschnitten.

00:10:21: Okay.

Simon Lemke: Gut das heißt man kann nicht einfach sagen die Karte ist jetzt schneller als der andere weiß mehr Kerne hat sondern man muss auch hier auf den speziellen Einsatz Zwickau.

Simon Lemke: Bezüglich des Systeme worauf muss man hier achten die Karten wenn ich jetzt auch normale Grafikkarten denke im Gaming Bereich sind ja meist relativ groß.

Simon Lemke: Was welche Anforderungen werden an die servicesysteme gestellt worauf muss man hier achten kann man hier generell jeden beliebigen Server verwenden oder gibt es hier optimierte Systeme für diese Anwendungszwecke.

00:10:56:

Benjamin Bayer: Also es gibt optimierte Systeme, sogenannte GPU-Systeme. Die sind optimiert natürlich, sodass ich mehr Grafikkarten einbauen kann, bei einem normalen Rack-Server tue ich mich doch schwer wenn ich jetzt z.B. nur einen 2HE Server habe sie aber habe dass ich z.B. zwei, vier, sechs oder acht Grafikkarten einbauen kann,

Benjamin Bayer: das sind die gpu Systeme natürlich klar im Vorteil.

Benjamin Bayer: Was natürlich auch ist ist die Kühlung es gibt viele professionelle Grafikkarten die nur passiv gekühlt sind dementsprechend und die gpu Systeme sind halt Kühltechnik darauf ausgelegt wenn ich jetzt nur im Alexa aber habe kann sein dass ich hier Beispiel Hitzeprobleme bekomme.

Simon Lemke: Also muss man sehr stark darauf achten dass von der,

Simon Lemke: thermischen Kühlung her das Gerät dafür geeignet ist und die Karten auch da drin freigeben sind weiß ansonsten ja dazu führen kann dass das System Nord kürzester Zeit erhitzt,

Simon Lemke: und somit Schäden nimmt bzw einfach nicht die Leistung bringt oder eben sich selber abschaltet genau richtig gut okay.

00:11:54: Dann würde ich sagen ich sage danke für die vielen Informationen bedanke mich bei allen zu hören und wünsche dir noch einen schönen Arbeitstag.