用户征询Threadripper本地LLM服务器建议
AI 总结
一名Reddit用户询问是否值得购买一台在伊拉克二手市场出售的工作站；卖家所列配置包括AMD Ryzen Threadripper PRO 3995WX、224GB DDR4-3200内存和ASUS Pro系列主板。发帖者计划将其评估为可搭载4至8块RTX 3090的本地LLM推理服务器，但具体配置、主板型号、价格与升级可行性尚未核实。
深度见解
这场讨论集中呈现了搭建本地LLM推理系统时需要考虑的硬件、内存、PCIe和多GPU升级问题。
Found a used 64-core Threadripper PRO 3995WX workstation locally — worth buying for a multi-GPU LLM server?
I found this workstation listed on my local secondhand marketplace in Iraq.
Specs
- CPU: AMD Ryzen Threadripper PRO 3995WX (64 cores / 128 threads)
- Motherboard: ASUS Pro series (exact model unknown)
- RAM: 224 GB DDR4-3200 RGB
#AMD Ryzen Threadripper PRO 3995WX#ASUS Pro WS WRX80E-SAGE SE WIFI#ASUS ROG Strix Platinum 850W#NVIDIA GeForce RTX 3090#NVIDIA GeForce RTX 3090 Ti#NVIDIA GeForce RTX 4090#llama.cpp#vLLM#SGLang