看板 AI_Art
試試可以瑟瑟的文字語言模型 最近看e大的推文,試著玩sillyTavern看看,原本用AI horde的線上模型,跑得不錯但一旦 文字露骨一點就會出現警告,想說用local 模型看看,我原本習慣用ollama,但好像跟酒館 不和,都是跑出無意義的文字,於就是改用koboldcpp看看, 參考reddit推薦的local uncensored模型,選了 Cydonia-24B-v4.3-absolute-heresy-i1,我用 Q4KM版(14GB),直接下載就可以用,不用像 ollama還要轉換。 結果跑得還不錯,可以寫的比較搧情,大家可以試看看。 另外第一次用koboldcpp也覺得還不錯用,看看有沒有辦法跟comfyui結合起來取代ollama。 https://i.meee.com.tw/wHY3J9L.png
https://i.meee.com.tw/pg7fCRM.png
---- Sent from BePTT -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.41.186.110 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/AI_Art/M.1778926548.A.789.html
error405: 這邊是配備太差只能用koboldcpp 05/16 18:23
error405: 查了下Cydonia是法國Mistral改的? 原來還能用在這 05/16 18:28
laidos: grok也可以寫瑟文呀!有模有樣,還問我要不要更激烈,更 05/16 18:35
laidos: 變態的 05/16 18:35
hwider: Gemini也行 05/16 20:17
Chricey: 看到有人提到關節痛,我就想到有一篇UC2推薦的文章 05/16 20:17
acgnabc: 其實Claude也行不用特別破 05/16 22:11
error405: 是不是只有gpt比較特別啊 05/16 22:54
GodEyes: Gemini記得會閃吧 05/16 23:58
marklai: 我基本上是本地仔, 線上比較少用, 不過不管用哪一種 05/17 00:44
Chricey: 5樓關節跟X一樣 05/17 00:44
marklai: ,只要能達到目的就好。 05/17 00:44
pmpmp002: CLAUDE,GEMINI可以在網頁寫澀文嗎? 05/17 08:24
BruceChang: 樓上直接問grok 他會教你 05/17 11:50
kizajan: gemini很寬鬆…… 05/17 12:58
Kroner: UC2推薦?有人試過嗎?靠譜嗎? 05/17 12:58
Kenqr: 試過Gemma不錯 05/17 20:14
exam0: 你有使用破限/預設嗎? 05/18 01:03
exam0: 我這幾天也在嘗試本地部署,我找了Qwen的模型來用,但是不 05/18 01:05
exam0: 太理想 05/18 01:05
Chricey: 剛開始吃UC2,期待 05/18 01:05
saiias: Gemini 不知道為什麼最近讓他寫都說不行瑟瑟,grok倒是沒 05/18 05:28
saiias: 啥變化,依然能寫 05/18 05:28
shin2190: Gemini破限要建Gem,直接對話丟提示詞效果有限,聊沒幾 05/18 10:58
shin2190: 句就鎖回去了 05/18 10:58
Kroner: UC2對膝蓋特別有用嗎?有人能證實嗎? 05/18 10:58
zeolas: 只有gpt特別難搞吧,其他家都隨便生產 05/18 16:03
marklai: 我po 的那個cydonia 模型應該是沒限制的,線上的就參考 05/18 18:48
marklai: 上面幾位的經驗,我用酒館內的ai horde是會跳出警告, 05/18 18:48
marklai: 本地的模型就都不會 05/18 18:48
Chricey: 看到關節痛,我就想起我姨媽 05/18 18:48
robrob99: 內容看起來不錯,但是我不會調 玩risuai的卡 總是出問題 05/25 03:51
robrob99: <risu-style>直接露餡 然後對話結尾也跳出<|im_end|> 05/25 03:52
robrob99: 本來掛的qwen反而沒這種問題 05/25 03:53