Opteron HT-Link

bschicht86

Redaktion
☆☆☆☆☆☆
Mitglied seit
14.12.2006
Beiträge
4.249
Renomée
228
  • BOINC Pentathlon 2015
  • BOINC Pentathlon 2016
Da ich ein Quad-Sockel-F Board (Tyan S4985G3NR) + 4 passende Opterons (8431) günstig bekommen habe, beides aber noch nicht geliefert bekam, quält mich derzeit eine gewisse Frage:

Die Opterons haben ja 3 HT-Links Version 3.0 mit 2,4GHz
Nach Handbuch hat der nForce 2200-Chipsatz des Boards aber nur HT 1.0 mit 1GHz

Laufen die Opterons untereinander mit HT 3.0, nur zum Chipsatz mit HT 1.0 oder laufen alle Links im Kompatibilitätsmodus, also HT 1.0?
 
Wirklich beantworten kann ich dir die Frage auch nicht.
Ich selbst habe ein Tyanboard + zwei Opteron 2435, habe aber selbst dort nicht rausbekommen, mit welcher Geschwindigkeit die HT-Links nun laufen. Tyan schweigt sich in der Dokumentation zu deinem Board dazu aus.
Wie misst man die HT-Link Geschwindigkeit überhaupt? CPU-Z zeigt Mist an.

Noch eine Erfahrung die ich machen musste: Man hat mit der Maschine mit 24 bzw. bei mir nur 12 Kernen theoretisch ganz schön viel Rechenleistung. Allerdings will die auch auf die Straße gebracht werden. Sofern du die Software selbst schreibst, achte drauf, dass du nach Möglichkeit jeden Kern nur im lokalen Arbeitsspeicher rackern lässt. Die 24 Kerne überlasten dir sonst den Speicherbus.
Bei mehr als zwei Prozessoren soll es für einige Applikationen zusätzlich etwas bringen, wenn du das HT Assist-Feature aktivierst. Die sechs Kerne auf einem Chip müssen sich dann zwar mit fünf statt sechs Megabyte L3-Cache begnügen, die Latenz für die Cache-Kohärenz-Prüfung sinkt jedoch.

Was willst du denn auf der Maschine rechnen lassen?
 
Naja, erstmal war es meine Freude am Basteln und dann der geringe Preis, der mich zum Kauf des Systems brachte *buck*

Was ich damit genau anstelle, weiss ich noch nicht, evtl. wird die Maschine vorerst an Boinc geklemmt.
 
Probiert mal System Information Viewer, kurz SIV für die Sysinfos aus.
Sehr gutes Programm dafür.
Klappt bei meinem Dual G34 prima.

@bschicht
Wenns läuft poste mal den Stromverbrauch...
 
@bschicht86: Du weißt aber schon, dass dich ein Watt dauerlaufende elektrische Leistungsaufnahme ca. 2 € kostet? Dein System wird im Bereich von 500 W arbeiten, das wären dann ca. 1000 € Stromkosten im Jahr.
 
Mir ging es primär nicht ums 24/7 Boinc.

Primär war es mein Basteltrieb, da mich so ein Multi-CPU Serverkram durchaus fasziniert. Sekundär kommt Boinc zum Einsatz, aber auch nicht 24/7 und nur, wenn ich Zuhause bin, was meisst nur aufs Wochenende zutrifft. Nachts ist die dann auch aus.

Auch wenn es mir 500W verbrät, spar ich das dann wieder in den Heizkosten. *chatt*
 
Wobei mir Strom über einen Heizwiderstand zu heizen, nicht unbedingt die kostengünstigste Methode ist. In einigen Teilen der Republik zudem noch eine sehr CO2-intensive.

Habe grade bei mir System Information Viewer ausprobiert. Die zwei Opterons 2435 auf einem Tyan S2927 laufen laut dessen Anzeige mit 2,4 GHz HT-Links. Schreib bitte mal, was bei dir rauskommt.
 
Der Vergleich mit dem heizwiderstand hinkt etwas, weil das System ja nicht ganz unproduktiv einfach nur Strom verheizt ;D
Aber schon richtig, in Geldwert gesehen macht dann das System nur Minus.

Bis ich das am laufen habe, wird's noch etwas dauern. Das Board kommt ja schliesslich aus Übersee und wenn es da ist muss ich dann erstmal die CPU-Kühler-Maße nehmen, da es ja scheinbar beim Sockel F 2 unterschiedliche Kühleraufnahmen gibt.
 
Darf ich fragen was Du für die Hardware gezahlt hast ?
 
Das MoBo kam 93€
Die 4 Opterons 150€
Speichervollausbau auf 64GB ist 200€
Und dann noch die Kühler, wenn ich Glück habe und es die "Standart-Maß-Aufnahme" ist, zusammen 90€

Alles ohne Versand.

Fesplatte und Netzteil liegen natürlich in einem "vernünftigen" Schauberhaushalt vorrätig rum.;D
 
Zuletzt bearbeitet:
Die Opterons haben ja 3 HT-Links Version 3.0 mit 2,4GHz
Nach Handbuch hat der nForce 2200-Chipsatz des Boards aber nur HT 1.0 mit 1GHz

Laufen die Opterons untereinander mit HT 3.0, nur zum Chipsatz mit HT 1.0 oder laufen alle Links im Kompatibilitätsmodus, also HT 1.0?
Die Links sind alle unabhängig voneinander. Zum Chipsatz hin läuft HT1, weil der nichts besseres kann, aber die Opterons in der Nachbarschaft können natürlich HT3, ergo läuft da dann auch HT3 - zumindest wenn das BIOS keinen Mist baut, was man bei Tyan ja wohl hoffentlich ausschließen kann :)

Tipp: Teste mal Hypertransport Assist aus ob bzw. bei welchen Apps das was bringt. Bei nem Quad-System sollte es eigentlich relativ viel bringen.
 
So, mit langen hin und her bezüglich Kühlung und Software konnte ich es heute endlich in Betrieb nehmen.

Bei der Kühlung musste ich erstmal schmale Kühlkörper finden. Bei der Halterung musste ich mir auch was basteln, da der Lochabstand zwar wie beim Sockel 939 gleich ist, aber merkwürdigerweise neu bestellte Kühler nicht mehr passen. Am Ende habe ich mir eine provisorische Halteklammer aus einem Alu-Streifen mit Abstandshaltern hingebastelt.

Beim Betriebssystem wurd ich das erste mal "geprellt" und nun endlich habe ich ein passendes bekommen.

Probiert mal System Information Viewer, kurz SIV für die Sysinfos aus.
Sehr gutes Programm dafür.
Klappt bei meinem Dual G34 prima.

Den habe ich probiert, zeigt mir jedoch bei der CPU nur 1 GHz als HT-Link an. Da dieses Tool sehr mächtig zu sein scheint, schliesse ich nicht aus, dass es eine detallierte Übersicht der HT-Links hat, die ich aber bis jetzt noch nicht fand. Also kann ich nicht sagen, ob die CPU's untereinander mit HT 3.0 laufen. BIOS ist das aktuellste.

Wenns läuft poste mal den Stromverbrauch...

Idle 200W (Chipsatz 100W, je CPU 25W, gemessen an der 230V-Seite)
24x SIMAP 450W, das wären dann ca. 88W pro CPU (ACP um 13W überschritten ;D)

Die Kühler sind zwar nur sone billigen Zalman-Teile mit einem 90er Lüfter, die bei voller doch schon recht Laut sind, aber im BIOS lässt sich zum Glück die PWM manuell einstellen. Bei 30% sind sie dann kaum noch zu hören und bringen die Temps dennoch gut weg. Pipes und Kühlerboden sind höchstens etwas mehr als Handwarm.
 
Zuletzt bearbeitet:
Bei SIV findet man die HyperTransport-Daten da, wo auch liegen müssen - bei PCI-Bus

also auf den "PCI-Bus" Button klicken und dann jeweils auf

0-24-0 (CPU0), 0-25-0 (CPU1) .... 0-32-0 (CPU7)
oder auf
0-0-0 (Chipsatz)
klicken und dort solltest du alles wichtige lesen können

Grund dafür ist einfach, dass AMD die HT-Daten in den PCI-Device-Registern (Dev. 18h/...1Fh Funct. 0, Reg 80/A0/C0/E0 bis 9F/BF/DF/FF) speichert - steht auch in den jeweiligen BKDGs
 
Nachtrag : eigentlich stehts doch sogar auf der Homepage:

http://tyan.com/Motherboards_S4985-E_S4985G3NR-E
AMD 45nm Quad-Core Opteron 8300 Series Processors (Barcelona / Shanghai) / Support AMD Dual Dynamic Power Management (DDPM) feature / Support AMD HyperTransport (HT1) Technology / Can run HT3 link CPU's only at HT1 speed]

während zB beim S2915E
http://tyan.com/Motherboards_S2915-E_S2915A2NRF-E
AMD 45nm Quad-Core Opteron 2300/2400 Series Processors (Shanghai / Istanbul) / Support AMD Dual Dynamic Power Management (DDPM) feature / Support AMD HyperTransport (HT1 and HT3) Technology

Bei deinem Quad-Board soll(te) es tatsächlich auf HT1 begrenzt sein, während zB mein 2915e HT1 zum Chipsatz und HT3 CPU-CPU verwendet.

Ach und auch die beiden HTX-Slots deines Boards können nur HT1 dh sofern du das Tochterboard draufbaust und die restlichen 4 CPUs anbindest, laufen die auch nur mit HT1
 
Danke für die kurze Exkursion in das Tool ;D

Ist aber schade, dass das HT3 nicht kann. Es werden nur alle Links mit 1GHz getaktet. Aber wenigstens lassen sich alle Prozessoren überhaupt ansprechen ;D

Meinst du Microsoft Windows?

Ja. Mit "geprellt" meinte ich, dass ich erst eins bei ebay erwarb, aber der Verkäufer mir erst was falsches und dann gar nix mehr versandt hat. Nun habe ich aber endlich die richtige Version.
 
Und was verwendest du ?

Server 2003
Server 2008
Server 2008r2
Server 2012
Server 2015 (Windows 10 Server)
 
2008 EE x64 wegen den 4+ Sockel und 64GB+ RAM
 
Den habe ich probiert, zeigt mir jedoch bei der CPU nur 1 GHz als HT-Link an. Da dieses Tool sehr mächtig zu sein scheint, schliesse ich nicht aus, dass es eine detallierte Übersicht der HT-Links hat, die ich aber bis jetzt noch nicht fand. Also kann ich nicht sagen, ob die CPU's untereinander mit HT 3.0 laufen.
Deine Applikation (SIMAP) wird vermutlich selbst SingleThreaded sein. Insofern ist es dann eigentlich nur wichtig, dass sie auf einem Sockel läuft ausschließlich vom Betriebssystem lokalen Speicher zugeteilt bekommt. Dann stören die langsamen HT-Links eigentlich wenig.
Wie könnte man so etwas überprüfen - Gibt es dort (kostenlose) Diagnosesoftware für Windows?

Idle 200W (Chipsatz 100W, je CPU 25W, gemessen an der 230V-Seite)
24x SIMAP 450W, das wären dann ca. 88W pro CPU (ACP um 13W überschritten ;D)
Der Idle-Verbrauch wundert mich. Ich habe einen Dual Sockel F mit 2 Opterons 2435 und 24 GB RAM. Idle sind es um die 85 W, bei "normalen Applikationen" 270 W, Linpack treibt es kurzzeitig über 300 W hoch, wird aber immer schnell von der Überlastsicherung des Netzteils beendet. Mit einer CPU sind es idle unter 60 W, insofern wundert mich dein hoher Leerlaufverbrauch doch stark.
 
Wie könnte man so etwas überprüfen - Gibt es dort (kostenlose) Diagnosesoftware für Windows?

Das klingt so, als gäbe es sowas unter Linux o.ä.
Nur dummerweise habe ich mit Linux noch keine Erfahrungen gemacht, deshalb habe ich erstmal auf Windoof zurückgegriffen.

Der Idle-Verbrauch wundert mich. Ich habe einen Dual Sockel F mit 2 Opterons 2435 und 24 GB RAM. Idle sind es um die 85 W, bei "normalen Applikationen" 270 W, Linpack treibt es kurzzeitig über 300 W hoch, wird aber immer schnell von der Überlastsicherung des Netzteils beendet. Mit einer CPU sind es idle unter 60 W, insofern wundert mich dein hoher Leerlaufverbrauch doch stark.

Ich hatte erst konkret gemessen, als ich schon alle 4 CPU's drauf hatte. Sonst muss ich am WE 3 Kühler + CPU wieder runternehmen, was dann doch etwas frickelig wird, da ich ja eine Quasi-Halteklammer basteln musste.
Ich hatte es nur so gemessen, dass ich im BIOS 200W hatte mit 4 CPU's und mit einer weniger waren es nur noch 175W. Zumindestens passt das mit deiner Beobachtung zusammen (2 CPU -> 1 CPU = Delta ca. 25W). Daher folgere ich, dass mein Board alleine 100W nimmt. Nun weiss ich nicht, ob ich zufällig die 2 Festplatten mitgemessen hatte. Sonst kann es nur noch am Chipsatz liegen. Ich habe 2 nVidia-Chips (NFP 2200 und NFP 2050, Desktop war es der nForce 3), wo die Passiv-Kühlkörper schon nach kurzer zeit so warm werden, dass man sich die Finger verbrennt.


Bezüglich der HT-Links: Kann man Softwareseitig die CPU's nicht zu HT3 überreden? Da es doch auf einem Quad-Board dieses zu unterstützen eher lohnt als auf einem Dual-Board. Normalerweise sind doch dort keine Bauteile zwischengeschaltet, die das ganze auf HT1 limitieren würden.

Habe nochmal auf der Homepage folgendes gefunden:

AMD 45nm Quad-Core Opteron 8300/8400 Series Processors (Barcelona / Shanghai / Istanbul) / Support AMD Dual Dynamic Power Management (DDPM) feature / Support AMD HyperTransport (HT1 and HT3) Technology

Es ist das S4985G3NR was ich habe. Theoretisch sollte dann doch HT3 drin sein, oder?

--- Update ---

Mir fällt noch was ein: Wenn ich im BIOS "AMD PowerNow" einschalte, sind alle CPU's gedrosselt auf 800MHz, selbst wenn auf allen kernen 100% Last anliegt. Schalte ich diese Option ab, liegen die vollen 2,4GHz an, auch, wenn keine Last anliegt. Evtl. ein Bug? Wenn ja, wie überrede ich dann das ganze in den Energiesparmodus? Windoof steht auf Ausbalanciert.
 
Ist PowerNow nicht eine Art SpeedStep? Das heißt ohne diese Einstellung laufen die Kerne immer auf Volllast? Im BIOS kannst du jedenfalls keinen Leerlaufverbrauch messen, das musst du schon mit dem leeren Windows-Desktop und 10 Minuten Wartezeit erledigen. Im BIOS sind es bei mir auch mehr als die 85 W gewesen.

Ob eine ursprünglich für HT1 gebaute Hauptplatine auch die deutlich höheren Frequenzen von HT3 sauber zwischen den CPUs überträgt, würde ich nicht für allgemein gegeben erachten.
 
Ist PowerNow nicht eine Art SpeedStep? Das heißt ohne diese Einstellung laufen die Kerne immer auf Volllast?

Das ist ja nicht das Problem. Eher habe ich ein Problem damit, dass bei aktivem PowerNow die CPU's nicht aus den 800MHz raus kommen, selbst bei 100% Last.

Im BIOS kannst du jedenfalls keinen Leerlaufverbrauch messen, das musst du schon mit dem leeren Windows-Desktop und 10 Minuten Wartezeit erledigen. Im BIOS sind es bei mir auch mehr als die 85 W gewesen.

Nunja, das wird ich dann mal nachholen. Im übrigen, gibt es für den Chipsatz auch sowas wie Leerlauf? Weil wenn nicht, habe ich zumindestens garantierte 100W Verbrauch allein durch das Board.

Ob eine ursprünglich für HT1 gebaute Hauptplatine auch die deutlich höheren Frequenzen von HT3 sauber zwischen den CPUs überträgt, würde ich nicht für allgemein gegeben erachten.

Der Hyper Transport ist doch eigentlich nix weiter als eine direkte Kupferverbindung von CPU zu CPU ohne Logikbausteine dazwischen, höchstens ein paar Terminierungsbausteine. Von daher sollte HT3 nicht das Problem sein, da ja auch z.b. CAT 5 erst für 100MBit entworfen wurde, aber genauso gut auch Gigabit schafft. Und der Sprung von HT1 zu HT3 ist nur die halbe Frequenzerhöhung wie z.b. von 100MBit auf Gigabit
 
Man kann die HT-Links auch nach der Preinitialisierung (während BIOS) ändern - halt über PCI-Register aber du müsstest parallel die Pärchen bearbeiten dh:
CPU0 Link a und CPU1 Link b
CPU0 Link b und CPU2 Link ?
.....
ohne die HT-Links zum nForche 2200 Chipsatz (hängt an CPU0) und nForce 2050 IO (hängt an CPU1) zu ändern. !!!!!

Ach und du darfst nicht direkt von 1000MHz auf 2400MHz HT-Takt springen sondern musst alle Zwischenfrequenzen durchgehen und die Checks machen danach warten (50ms !!!!) sonst kann sich das System aufhängen.

Somit benötigst du nur Visual C, C# oder Delphi, Winring0, das K10 BKDG und den HT-Linkplan (der steht als Bildchen im MB-Handbuch)



Edit
Bin doch zu sehr von Supermicro beeinflusst - Tyan gibt bei den wenigsten Boards den HT-Link-Plan mit an aber macht nix

einfach alle verbundenen Coherenten HT-Links gleichzeitig bearbeiten - an den nichtcoherrenten Links hängen die beiden Teile des Chipsatzes (nF2200 und nF2050)
 
Zuletzt bearbeitet:
Das ist ja nicht das Problem. Eher habe ich ein Problem damit, dass bei aktivem PowerNow die CPU's nicht aus den 800MHz raus kommen, selbst bei 100% Last.
Könnte es sein, dass du du "Power Cap" auf einen niedrigeren P-state gesetzt hast? Damit kann man im BIOS die maximale CPU-Taktrate und quasi die TDP begrenzen. Also aus einen normalen Opteron eine HE-Variante machen.

Der Hyper Transport ist doch eigentlich nix weiter als eine direkte Kupferverbindung von CPU zu CPU ohne Logikbausteine dazwischen, höchstens ein paar Terminierungsbausteine. Von daher sollte HT3 nicht das Problem sein, da ja auch z.b. CAT 5 erst für 100MBit entworfen wurde, aber genauso gut auch Gigabit schafft. Und der Sprung von HT1 zu HT3 ist nur die halbe Frequenzerhöhung wie z.b. von 100MBit auf Gigabit
Mit "normaler Kupfertechnik" läuft da gar nichts. Bei den Frequenzen kommen induktive und kapazitive Effekte der Leiterbahnen sehr stark zum Tragen. Die versucht man durch ein gutes Design der Platine klein zu halten. Weil das oft nicht ausreicht, verzerren die Sender dann teils die gesendeten Signale extrem abnorm, damit beim Empfänger etwas interpretierbares ankommt. Aber versuch die Methode von Crashtest mal. :)
 
Zurück
Oben Unten