推 davidex: RAM要降價了嗎? 42.70.198.165 05/04 14:25
→ freeunixer: 降價?你現在睡,睡兩年後醒來再看看.. 60.250.90.238 05/04 14:26
推 mitchness: 然後因為GPU算力,記憶體頻寬不足... 61.230.245.147 05/04 14:27
推 magiclunar: ram降價看股價應該不太會,但intel不 42.74.240.161 05/04 14:28
→ magiclunar: 是不出家用顯卡了嗎?! 42.74.240.161 05/04 14:28
推 foolwind: 不就內顯 123.192.162.54 05/04 14:30
推 mitchness: 有錢的用m5,RTX6000,沒錢的買會員 61.230.245.147 05/04 14:30
→ freeunixer: 給 cpu 內顯跟 arc 的卡用的啊 60.250.90.238 05/04 14:33
→ commandoEX: 這本來是Windows在控的,現在是? 59.125.204.130 05/04 14:34
→ necrophagist: 頻寬又沒變 跟你模型offload到ram 116.59.112.210 05/04 14:36
→ necrophagist: 差在哪? 116.59.112.210 05/04 14:36
→ Aheiyang782: 前面爆料說 取消消費級顯示卡 49.217.62.113 05/04 14:36
→ Aheiyang782: 是在哈囉? 49.217.62.113 05/04 14:36
推 kira925: 這跟AMD那有什麼差... 57.140.96.46 05/04 14:39
推 abc21086999: 興奮之前,先去查一下GPU如果要調用 223.137.74.139 05/04 14:42
→ abc21086999: RAM,所走過的路徑跟調用VRAM有什麼 223.137.74.139 05/04 14:42
→ abc21086999: 差別 223.137.74.139 05/04 14:42
推 lnonai: 頻寬XD 104.28.156.243 05/04 14:43
推 benson0599: VRAM頻寬大多了 49.217.56.208 05/04 14:45
→ freeunixer: 如果一秒 5~10 token 輸出,應該很冏 60.250.90.238 05/04 14:50
推 tsubasawolfy: 可是獨顯不出來 42.75.40.14 05/04 14:51
推 pita30: 意思是只要能接受速度,就不會因為vram不 219.69.115.71 05/04 14:53
→ pita30: 夠不能跑嗎 219.69.115.71 05/04 14:53
→ freeunixer: 樓上一堆奇怪的人.ARC 不是獨顯是什? 60.250.90.238 05/04 14:58
推 reaturn: 醒醒,進入AI時代,這東西就是一直疊上去218.166.181.109 05/04 14:58
→ freeunixer: 對啊, ARC B60 24g + 128g ram 等於 60.250.90.238 05/04 14:59
→ freeunixer: 有 14X G ram,你可以跑一個 120B Q8 60.250.90.238 05/04 14:59
→ aabbc777: 隔壁人家至少還出了一顆ai max+ 395... 59.120.215.74 05/04 14:59
→ freeunixer: 這樣聽起來不爽嗎?但就怕速度會讓你吐 60.250.90.238 05/04 15:00
推 smallreader: 幹那256G的電腦再插B70就要高潮了 42.77.193.24 05/04 15:18
→ freeunixer: 但不知道會不會一個400token的回應, 60.250.90.238 05/04 15:21
→ freeunixer: 你要等超過一分鐘才會出現 60.250.90.238 05/04 15:21
→ howardyeh: 這不是炒當年i740的冷飯嗎...223.137.234.212 05/04 15:27
推 seemoon2000: 統一記憶體之前intel推出來效能不錯114.136.235.150 05/04 15:33
→ seemoon2000: 然後他就自己砍掉了 應該是傷到下114.136.235.150 05/04 15:33
→ seemoon2000: 游供應商 結果因為AI推論大復活114.136.235.150 05/04 15:33
推 e2167471: 已知用火? 60.250.144.174 05/04 15:33
推 ltytw: 可以理解為用系統記憶體訓練ai 雖然慢但不 211.23.223.225 05/04 15:37
→ ltytw: 一定只能買大顯存顯卡 211.23.223.225 05/04 15:37
推 mitchness: 最近M5MAX出貨,M5 395+ 5090 6000 61.230.245.147 05/04 15:46
→ mitchness: 都有比較 61.230.245.147 05/04 15:46
推 Supasizeit: 這不就swap203.204.195.174 05/04 16:16
推 GenShoku: 所以跟swap差在哪114.137.154.247 05/04 16:27
推 honmayan: 這哪裡跟swap有關了=.= 140.112.30.187 05/04 16:41
推 yymeow: 用本機記憶體跑得會很慢,字會一個一個慢 60.250.130.216 05/04 16:43
→ yymeow: 慢跑出來 60.250.130.216 05/04 16:44
推 justicebb: 128G ram macbook:123.110.221.151 05/04 16:44
推 boren: 這技術不是讓ram的需求更高了嘛… 114.34.254.164 05/04 16:53
→ prussian: 翻譯:我買不到便宜RAM,你們自己去買來用 1.34.48.228 05/04 16:56
推 saito2190: 主記憶體跟GPU之間的頻寬應該是遠低於 114.137.45.163 05/04 17:17
→ saito2190: VRAM的頻寬,這跑起來快不到哪裡去 114.137.45.163 05/04 17:17
→ commandoEX: PCI-E Gen5 x16大概是DDR4 3200等級 59.125.204.130 05/04 17:20
推 emptie: 那麼, 代價是什麼呢 49.215.231.122 05/04 17:23
推 a1234567289: 就是他會慢一點 但至少不會爆VRAM完 49.216.42.91 05/04 17:24
→ a1234567289: 全不能用 49.216.42.91 05/04 17:24
推 yymeow: 不只慢一點,是慢很多 60.250.130.216 05/04 17:31
推 kkcity59: 聽不懂...不就UMA主記憶體 走PCI-E 114.24.89.216 05/04 17:31
→ kkcity59: 慢到爆炸 那個Token效率你不會想用 114.24.89.216 05/04 17:32
→ kkcity59: 一般顯卡windows會UMA一半給GPU來用 114.24.89.216 05/04 17:33
→ kkcity59: 上面說的是NV顯卡 AMD的話不知道 114.24.89.216 05/04 17:33
→ qweertyui891: 慢到沒人要用啊 36.228.229.78 05/04 17:34
→ qweertyui891: 想到還有一篇是把SSD當記憶體的,速 36.228.229.78 05/04 17:35
→ qweertyui891: 度就不一樣啊 36.228.229.78 05/04 17:35
推 wsdykssj: 這樣比AMD 395+慢還是持平? 223.136.45.219 05/04 17:44
→ jkiu: 慢多了,說3,5倍的差距都不誇張,intel這不 101.12.157.155 05/04 17:48
→ jkiu: 算上dram跟vram本身頻寬巨大的差距,在硬體 101.12.157.155 05/04 17:48
→ jkiu: 上資料就跨多個界面,慢死了 101.12.157.155 05/04 17:48
推 lordmi: 這篇我都懶得吐槽到底是記者程度不夠還是 36.229.116.181 05/04 17:49
→ lordmi: Intel的P R部門睜眼說瞎話,先有辦法跑個 36.229.116.181 05/04 17:49
→ lordmi: 200b密集模型再來宣傳你家方案好嗎 36.229.116.181 05/04 17:49
→ yymeow: 大概就一秒一個字的速度在回答 60.250.130.216 05/04 17:50
推 knml: ddr6才有用吧 27.240.67.119 05/04 18:46
→ x09123456789: 有點不懂 現在llm也能調用記憶體不 42.78.60.197 05/04 18:53
→ x09123456789: 是嗎 現在問題點是記憶體頻寬不足吧 42.78.60.197 05/04 18:53
推 bij831: 跑的跟烏龜一樣慢 49.216.133.84 05/04 19:13
推 smallreader: swap是作業系統把不要的分頁丟進硬碟 220.142.89.10 05/04 19:17
推 nucleargod: 這 AMD 十幾年前就做完了 111.242.211.57 05/04 19:34
→ nucleargod: 但本來就比較慢的記憶體又不會變快 111.242.211.57 05/04 19:35
推 guogu: 所以那個速度呢? 如果跟直接用記憶體跑一樣 1.164.207.201 05/04 19:42
→ guogu: 那樣用處是? 現在就可以了 1.164.207.201 05/04 19:43
推 shinjikawuru: 人人都能玩(X) 人人都被玩(O) 125.229.205.11 05/04 19:43
推 Supasizeit: 只有作業系統能叫swap膩XD203.204.195.174 05/04 20:49
推 virus2007: 整個拖慢效能吧..... 49.216.90.65 05/04 20:54
→ NexusPrime: 反正一定輸128g 的M5 Max 101.10.123.74 05/04 21:09
推 bf000777966: 頻寬不夠是有個p用 110.28.115.23 05/04 23:23
→ yunf: 應該是把vram的速度拉出來吧 49.216.52.85 05/04 23:31
→ yunf: 你用ddr5 6000 一定拖速 49.216.52.85 05/04 23:32
→ yunf: 你知道Vram有多快嗎? 49.216.52.85 05/04 23:34
推 tn00210585: 怎麼夢感覺迴199X還是更早的時代了 101.12.157.182 05/04 23:39
推 shigurew: 慢是一件事,可行性是一件事 42.79.76.8 05/05 00:10
推 kkcity59: 這就是驅動敢放你的GPU吃掉這麼多RAM 114.24.89.216 05/05 01:38
→ kkcity59: NV驅動是預設50% 因為怕系統記憶體不足 114.24.89.216 05/05 01:39
→ kkcity59: 造成系統崩潰 而且AI程式在主記憶體 114.24.89.216 05/05 01:39
→ kkcity59: 也需要一定的運行空間 114.24.89.216 05/05 01:39
→ kkcity59: 然後看到測試是你自己可以拉高到93% 114.24.89.216 05/05 01:41
→ kkcity59: 萬一你主記憶體不足 你的windows崩潰 114.24.89.216 05/05 01:41
→ kkcity59: 擬就每次開機都會崩潰 要怎麼辦呢 114.24.89.216 05/05 01:41
→ kkcity59: 你要去載Intel DDU卸載驅動重開 114.24.89.216 05/05 01:43
→ kkcity59: 因為使用超過50%就是繞過WDM原本的限制 114.24.89.216 05/05 01:45
→ kaltu: 記憶體本來就不是快慢的問題只是記憶體不夠 100.8.239.31 05/05 01:49
→ kaltu: 會連跑都不能跑,有些人就願意等一整天出一 100.8.239.31 05/05 01:49
→ kaltu: 張圖,但你不讓他跑就沒戲 100.8.239.31 05/05 01:49
→ Dcpp2015: 這種吃本機記憶體的技術,Nvidia 很早 36.236.1.207 05/05 02:19
→ Dcpp2015: 就有了也不是新東西。 36.236.1.207 05/05 02:19
→ Dcpp2015: intel 這個創新的地方,只是比Nvidia 36.236.1.207 05/05 02:20
→ Dcpp2015: 以前那個能吃的容量更大。 36.236.1.207 05/05 02:20
→ Dcpp2015: 這種就算可以算出來,那個速度大概也只 36.236.1.207 05/05 02:22
→ Dcpp2015: 適合玩票性質,真的拿來用還是算了吧。 36.236.1.207 05/05 02:22
→ hn9480412: 這不就AMD和NV在20年前玩得 59.125.187.40 05/05 02:54
→ hn9480412: HyperMemory、TurboCache 59.125.187.40 05/05 02:54
推 fatedate: 哈哈哈這招? 42.78.138.161 05/05 06:02
→ fatedate: 不就以前玩過的東西? 42.78.138.161 05/05 06:03
推 kamir: 這跟nV的HyperMemory是不是一樣? 42.70.96.3 05/05 08:01
→ hn9480412: Hypermemory是ati的啦,NV是Turbo Ca 59.125.187.40 05/05 08:14
→ hn9480412: che(但原理都一樣),記得雞排店還是 59.125.187.40 05/05 08:14
→ hn9480412: 哪間廠商當時因此鬧出消費糾紛(外包 59.125.187.40 05/05 08:14
→ hn9480412: 裝標示的VRAM是使用TC後的VRAM,結果 59.125.187.40 05/05 08:14
→ hn9480412: 使用者實際使用後根本沒顯示包裝顯示 59.125.187.40 05/05 08:14
→ hn9480412: 的容量 59.125.187.40 05/05 08:14
→ hn9480412: ad.php?t=903159&page=37&pp=10 59.125.187.40 05/05 08:15
→ faterosa: GPU表示 太慢了 114.33.177.222 05/05 10:42
推 felaray: 載的動模型是一回事 跑得慢是另一回事 123.51.167.88 05/05 11:29
推 CyBw: 有得有失,自己衡量,不是直接把船翻了 114.35.167.130 05/05 11:31
推 kkcity59: 目前Intel顯卡的算力Load一個50g大模型 114.24.89.216 05/05 13:16
推 t77133562003: 硬碟拿去當記憶體記憶體拿去當顯存 42.79.51.253 05/05 13:16
→ t77133562003: 然後大家一起慢的意思? 42.79.51.253 05/05 13:16
→ kkcity59: 這個畫面太美我都不敢看了 114.24.89.216 05/05 13:17
推 takanasiyaya: 記憶體頻寬才是重點 49.218.207.228 05/05 13:23
推 sorrojvr: 花時間搞這種降低效能的東西 223.139.103.36 05/05 19:04
→ sorrojvr: 股票好不容易漲到9x元 223.139.103.36 05/05 19:04
→ sorrojvr: 先進封裝良率也不錯 這都加分 223.139.103.36 05/05 19:04
→ sorrojvr: 搞什麼dram當vram囧 223.139.103.36 05/05 19:04
→ Pegasi: 最近搞那麼多新聞想打記憶體,記憶體價格 49.218.241.244 05/05 22:54
→ Pegasi: 就是偏不死xD 49.218.241.244 05/05 22:54