Podzespoły do RTX4090 (głównie AI/DL + okazjonalny gaming)

[realgroove 0]

Cześć!

Chciałbym złożyć zestaw domowy pod zabawy z DL i bardzo okazjonalnego grania.

Co obecnie mam:
- iChill RTX 4090 (chłodzenie zwykłe, a nie wodne)
- zasilacz be quiet 12M 1000W (standard 3.0)

Przeszukałem trochę popularne zestawy i forum, jednak miałem dobre kilka lat przerwy ze składaniem zestawów, więc jestem kompletnie nie na czasie.

 Obecna propozycja pozostałych komponentów (sorki za linki do "owocowego", roboczo w nim koszyk komponowałem):

- Procesor AMD Ryzen 9 7950X (zastanawiam się też nad i9 14900KF, ale nie wiem na ile ostatnie problemy są realne)

- Dysk SSD Lexar NM790 2TB (Mam też twardziela 12TB pod trzymanie danych)

- Chłodzenie wodne Arctic Liquid Freezer III 360 (czy na pewno jest potrzebne do tego procka?)

- Płyta główna Gigabyte B650 EAGLE AX (tutaj wziąłem pierwszą lepszą bardziej popularną)

- Pamięć Kingston Fury Beast, DDR5, 32 GB, 5200MHz, CL36 (zestaw 4x32GB, 64GB na moje potrzeby może być mało, ale czytałem że 4 kości pracują wolniej na AMD?)

- Obudowa ??? (tu proszę o poradę, wygląd mnie nie interesuje, byle nie kolorowa , ale rozumiem trochę miejsca musi być pod chłodzenie oraz kartę)

Alternatywy jakie widzę:

- Można wziąć kości pamięci 48GB, wtedy na ten moment bym wziął 2x48GB (np. te Pamięć Kingston Fury Renegade, DDR5, 48 GB, 6000MHz, CL32)

- Setup pod przyszłe dołożenie jeszcze jednej karty (z wymianą zasilacza), tylko wtedy przydałaby się większa buda + mobo które idealnie obsługuje tryb 2 x PCIex8, no i zmieści dwa ogromne RTXy4090 na slotach (jakieś propozycje?)

Serdeczne dzięki za pomoc!

[Dirian 2633]

Pod dwa GPU potrzebujesz MOBO ktore to ogarnie, np. https://www.komputronik.pl/product/784403/asus-proart-x670e-creator-wifi.html

Raczej zostałbym przy Ryzenie, tym bardizej, że jest opcja na ewentualny upgarde w przyszłości czego na Intelu już nie zrobisz.

AIO - zdecydowanie potrzebne.

Buda może coś w stylu Meshify 2 XL: https://www.morele.net/obudowa-fractal-design-meshify-2-xl-tg-light-tint-fd-c-mes2x-02-7542527/

RAM dałbym 2 w kościach te 2x48GB jeśli 64 to za mało. 

 

[Caps 1532]

13 godzin temu, realgroove napisał:

- Setup pod przyszłe dołożenie jeszcze jednej karty (z wymianą zasilacza), tylko wtedy przydałaby się większa buda + mobo które idealnie obsługuje tryb 2 x PCIex8, no i zmieści dwa ogromne RTXy4090 na slotach (jakieś propozycje?)

Trochę to się mija z celem patrząc na to co wybrałeś, bo przy dołożeniu drugiej karty wszystko i tak będziesz mieć praktycznie do zmiany. Z płyt szukasz żeby karty chodziły Ci obie x8/x8. Druga sprawa, druga karta. Jak masz obecnie powietrze, optymalnie w przyszłości byłoby dać drugi model chłodzony wodą i zamontować pod kartą chłodzoną powietrzem. Tutaj też się kłania dobór odpowiedniej obudowy. 

Pod DL też aż tak bardzo nie potrzebujesz mocarnego CPU.  Zobacz na https://proline.pl/koszyk/c604f532 z 2x PCie 5.0 pod x8/x8 (przy czym cena tej płyty kijowa względem komputronika wyżej)  tak samo szybki i tańszy SSD, obudowa po aio 420 na górę + miejsce na boku na radiator 240 czy 360 od drugiej karty jak padnie na wodę. 

 

 

[ghs 300]

do AI to ram, ram i jeszcze raz ram. jak sam nie będziesz uczył to lm studio pozwala łączyć ram systemowy i vram i jako tako to działa. nowe modele, np lama 3.1 z sensowną kwantyzacją wymagają wielkości ramu 200-300GB więc nie bierz maszyny z mniej niż 128gb ram

pogooglaj, jak mobo wydoli to weź dwa takie sety ramu w do zestawu jaki zaproponował caps

Edytowane 8 Września przez ghs

[Caps 1532]

Wydoli nawet z 4x48GB ale na 3600 MHz. W sumie nie śledziłem jak wypadają kontrolery pamięci w Ryzen 9000. Może i warto by jeszcze to sprawdzić pod większą ilość ram. 

[realgroove 0]

Dzięki za sugestie i podpowiedzi.

@Caps - dlaczego obecny setup się mija z celem pod 2x GPU? Updated config poniżej, ale jak dobrze rozumiem tylko zasilacz będzie potrzebny nowy (zapewne 1200W+ pod 2x4090)

Jutro zapewne będę składał zamówienie, obecna konfiguracja:

- Procesor AMD Ryzen 9 7950X, 4.5 GHz, 64 MB, BOX (100-100000514WOF)
- Chłodzenie wodne Arctic Liquid Freezer III 360 Black (ACFRE00136A)
- Pamięć G.Skill Ripjaws S5, DDR5, 96 GB, 5200MHz, CL40 (F5-5200J4040A48GX2-RS5K)
- Wentylator Arctic P12 PWM PST Value Pack (ACFAN00137A) + Wentylator Arctic P12 PWM PST (ACFAN00120A)
- Dysk SSD Patriot VP4300 Lite 2TB M.2 2280 PCI-E x4 Gen4 NVMe (VP4300L2TBM28H)
- Płyta główna MSI MAG X670E TOMAHAWK WIFI
- Obudowa Lian Li O11 Dynamic EVO RGB czarna (O11DERGBX)

- Pamięć wziąłem najtańszą jaka jest, w przyszłości zapewne będę dobierał do 192GB, więc jej taktowanie mnie nie obchodzi, bo jak rozumiem przy 4 kościach i tak procesor nie wyrabia.
- Dysk zmieniłem za sugestią @Caps
- Płyta główna: tutaj idąc za poradnikiem: https://timdettmers.com/2023/01/30/which-gpu-for-deep-learning/#Do_I_need_8x16x_PCIe_lanes wygląda na to, że PCIE 4.0 x4 który jest na 2-gim slocie w pow. płycie spokojnie wystarczy pod DL, a czy będę dobierał drugą kartę to nie jest przesądzone, w każdym razie jak rozumiem obecny setup na to pozwoli.

- Obudowa: tutaj w sumie mam jeszcze pytanie: czy zmieści ona potencjalnie drugą 4090-kę?

Dzięki za pomoc.

Edytowane 15 Września przez realgroove

[Caps 1532]

5 godzin temu, realgroove napisał:

@Caps - dlaczego obecny setup się mija z celem pod 2x GPU? Updated config poniżej, ale jak dobrze rozumiem tylko zasilacz będzie potrzebny nowy (zapewne 1200W+ pod 2x4090)

Trochę się to mija z celem. Jak dasz na tej płycie 2x GPU, to nie będą one chodzić w x8/x8 a w x8/x4 więc już Ci to kastruje druga kartę. Nie wiem natomiast jak ta kastracja odbije się na wydajności w DL. 

[realgroove 0]

@Caps Zmieniłem płytę na MSI która wg producenta działać będzie w trybie x16 / x4 na dwóch kartach, a z linku powyżej wynika że x4 nie ma kompletnie wpływu na performance w DL.

[ghs 300]

obcenie modele są już tak wielkie że ładowanie drogich multi gpu nie ma sensu, i tak będziesz musiał iść na kompromis i trzymac część modelu w ramie systemowym i to będzie najsłabsze ogniwo wpływające na komfort pracy z modelem, na szczęście dobry ram teraz jest atrakcyjny cenowo ale niedługo to sie może zmienić

Edytowane 16 Września przez ghs

[Caps 1532]

21 godzin temu, realgroove napisał:

która wg producenta działać będzie w trybie x16 / x4 na dwóch kartach

Przy dwóch kartach raczej Ci to będzie działać x8/x4

[MassTA 342]

@Caps Ze specyfikacji wynika że ta płyta ma niestandardową kombinacje jednego złącza M.2 podłączonego pod CPU, a linie które zazwyczaj idą dla drugiego złącza M.2 są użyte dla slotu PCIe x4, więc będzie miał x16/x4 tak jak pisze.

[Caps 1532]

No właśnie chyba aż sam zgłupiałem 😅