AI推論伺服器（含GPU運算模組）1台採購案

【內容摘要】徵求AI推論伺服器技術規格及報價參考資料 【附加說明】公開徵求並非招標公告，如將公開徵求作為招標公告，無效 一、 徵求目的：建置承製能力審查用大型語言模型（LLM）本地端推論環境。二、 需求數量：AI推論伺服器1台。三、 主機型號： NVIDIA DGX Spark或同等級以上四、 記憶體：GPU可直接定址記憶體不低於128GB，須為CPU與GPU共用之一致性記憶體（Coherent/Unified Memory）架構，不得以PCIe分頁置換或主記憶體卸載方式達成;頻寬不低於270GB/s。五、 儲存硬碟：內建不低於4TB NVMe SSD。六、 乙太網路：具10GbE以上乙太網路埠，另具200Gb/s等級RDMA（RoCE v2）介面，可雙機直連組成單一推論叢集。七、 軟體：隨機原廠AI開發用作業系統，支援CUDA、PyTorch及主流LLM推論框架（如vLLM、Ollama等）。八、 電力：單相供電，單台最大功耗不超過250W，低噪音、適合辦公處所或機房環境。請於截止日前以電子郵件寄送上開聯絡信箱。 台灣電力股份有限公司綜合研究所 - 台灣採購公報網公開徵求公告 台灣採購公報網 https://www.TaiwanBuying.com.tw/