Deepseekの進化が止まらない。vram700GB必須だったのが80GBで動くように

2025.02.02

1 名無しさん 2025/01/31(金) 14:02:09.76 ID:k2Kah4WW0

https://unsloth.ai/blog/deepseekr1-dynamic

4 名無しさん 2025/01/31(金) 14:02:50.89 ID:KfOZMKJG0

3060で動くようにしてくれ

7 名無しさん 2025/01/31(金) 14:03:32.41 ID:SVvL1T2y0

すげえすげええ

8 名無しさん 2025/01/31(金) 14:03:38.00 ID:i6gZxGGh0

すげえ

9 名無しさん 2025/01/31(金) 14:03:58.43 ID:GREhSdxU0

どこから落とすのがいいんだ？

11 名無しさん 2025/01/31(金) 14:04:16.84 ID:QmmDRiUa0

父さんにつくわ

13 名無しさん 2025/01/31(金) 14:04:52.41 ID:N7fiL8xj0

いやあスピード感すごいねー

14 名無しさん 2025/01/31(金) 14:05:04.91 ID:445vkg190

アプリの出来はチャットGPTのが上やな

15 名無しさん 2025/01/31(金) 14:05:11.58 ID:WpFuzvLP0

覇権確定やね

17 名無しさん 2025/01/31(金) 14:05:21.07 ID:AIt1+Vcb0

1ビット動作のが出て来てからが本番

18 名無しさん 2025/01/31(金) 14:06:18.41 ID:yvjLc8xTH

14GBでも考えて発言してる

19 名無しさん 2025/01/31(金) 14:06:37.61 ID:ZSF/YNQw0

これぼくら貧乏人でもエロ画像生成出来るようになる？

20 名無しさん 2025/01/31(金) 14:06:50.25 ID:sBk49Kz70

土日挟めば暇人が触ってもっと進化してるだろう

21 名無しさん 2025/01/31(金) 14:07:10.92 ID:CS84SD440

まあ何兆円も半導体ないと性能引き出せないってのはどこかおかしいよな

23 名無しさん 2025/01/31(金) 14:07:52.73 ID:c72LjdZF0

市場の壊し屋が現れた
低スペックでもええやん

24 名無しさん 2025/01/31(金) 14:07:52.82 ID:6riwWh4uH

m4 mac一台で行けるのはでかい
これで君もクラウドサービサーだ！

26 名無しさん 2025/01/31(金) 14:08:28.78 ID:H0fK0wwQ0

未来のスーパーAI「どんな質問でもyesかnoでお答えします」

27 名無しさん 2025/01/31(金) 14:08:36.23 ID:QTkHC27S0

これ、そのうちポケベルで動作し始めるんじゃないか

28 名無しさん 2025/01/31(金) 14:08:37.86 ID:WhFYWyUo0

メモリ屋逝った

29 名無しさん 2025/01/31(金) 14:09:05.46 ID:m7CVN/op0

RTX4090がRADEONの7900XTXに負けるってマジ(笑)

30 名無しさん 2025/01/31(金) 14:09:24.25 ID:B4FjeLTl0

この基盤部分の進化っぷりが本当なら相当なブレークスルーだな
学習データで揉めてる場合かね

31 名無しさん 2025/01/31(金) 14:09:33.13 ID:KfOZMKJG0

vram12GBram32GBまでいける
頼むわ

33 名無しさん 2025/01/31(金) 14:10:02.71 ID:i+ByssT90

チャットGPTはエロになるとすぐお答えできませんになるのやめて

34 名無しさん 2025/01/31(金) 14:10:30.05 ID:AIt1+Vcb0

人間脳が低消費電力だからAIなんて小さいパソコンで十分動く

36 名無しさん 2025/01/31(金) 14:10:42.77 ID:htYgb2ez0

オープンソースは進化が速い

37 名無しさん 2025/01/31(金) 14:11:26.64 ID:yvjLc8xTH

日本語エロモデルを頼む

39 名無しさん 2025/01/31(金) 14:12:04.41 ID:zQ3WoAKH0

実数から整数にするだけでもだいぶ違いそう
8ビットまで縮めたら速度落ちるかと思ったけどそれよりも膨大なメモリ容量食うほうがロスになるのかな

42 名無しさん 2025/01/31(金) 14:14:19.99 ID:f0agxpbp0

m4 pro メモリ64GBのmacmini持っておくと応用効くな

45 名無しさん 2025/01/31(金) 14:15:18.82 ID:cbnieDHR0

マジもんのビッグウエ〜ヴきてんね

47 名無しさん 2025/01/31(金) 14:16:02.55 ID:c72LjdZF0

巨額投資が必須とはなんだったのか

48 名無しさん 2025/01/31(金) 14:16:06.72 ID:cbnieDHR0

エロおkか否かは土台の部分じゃなくて学習データ次第でしょ？

49 名無しさん 2025/01/31(金) 14:16:50.34 ID:eYsFHGsn0

推論問題正解率14%じゃ日曜会話の検索用でしかない

50 名無しさん 2025/01/31(金) 14:16:50.74 ID:Trk2wU1cr

個人でDeepSeekを独立させて動かせても学習用のデータとかはどうすんの？

51 名無しさん 2025/01/31(金) 14:17:03.11 ID:eYwhCCCv0

検証されてんの？

52 名無しさん 2025/01/31(金) 14:17:18.03 ID:Zmm4NyBo0

これがまだ序章なんだろ？
あれこれイチャモンつけてもすぐに改善されちゃう

57 名無しさん 2025/01/31(金) 14:18:14.90 ID:92X2fyQi0

もう個人で動かせるレベルなのか…

58 名無しさん 2025/01/31(金) 14:18:31.89 ID:fzFkpwtO0

でもchatgtpのパ○リだから進化させるにはまだパ○らせるしかないでしょ
けど対策させるから実質ここで打ち止めじゃね

59 名無しさん 2025/01/31(金) 14:18:32.18 ID:iBXJ2g+X0

よくわからんのだが今までできなかったことが出来るようになってはいないの？
いくら低スペックで動こうとゲームみたいに常に最高最高性能で出来ることが求められたりはしないんか

61 名無しさん 2025/01/31(金) 14:19:21.66 ID:gXS0BdIX0

AIなんかネットのまとめを素早くやろ

66 名無しさん 2025/01/31(金) 14:20:35.20 ID:h9SHJJw40

すでに莫大なハードウェアリソースを持ってる企業はDeepSeekの方式を組み込めば収益性が劇的に改善する
o3が安く使えるようになるといいな

67 名無しさん 2025/01/31(金) 14:20:46.00 ID:7Drc1TTT0

今更量子化とか何周遅れなんだよ
いくら量子化しても元のモデルの学習に必要なスペックは変わらないだろ

68 名無しさん 2025/01/31(金) 14:20:53.73 ID:eYsFHGsn0

一番金掛かる部分は米国からパ○ったから短期間低コストで実現できた
問題はAlibabaの方のAI
Qwen2.5-Max
こっちの性能の検証はどうなんだろうな

69 名無しさん 2025/01/31(金) 14:21:25.18 ID:XGhQh9rq0

量子化は基本性能落ちるんでいいっす

72 名無しさん 2025/01/31(金) 14:22:47.84 ID:PQzV7VNp0

窃盗でここまで毎日ホルホル射精出来るのはホルホル中毒中国人さんだけだなw

73 名無しさん 2025/01/31(金) 14:22:49.39 ID:C5bbJQLK0

ひと昔前は宇宙開発競争で米露どっちが先に月に行くかを争い
現代は米中がＡＩ競争か
大国はすごいねえ

74 名無しさん 2025/01/31(金) 14:22:52.09 ID:EHwy2OF10

RAMでもいいとなるとかなりコストが減るな
80GB必要となるとH100 96GBを用意すると500万円近くなるが、
RTX6000Ada 48GB+RAMでもいいなら120万円くらいで済む

80 名無しさん 2025/01/31(金) 14:24:20.48 ID:eYwhCCCv0

中国て何々できたって言うだけで実証されないこと多くないか？

81 名無しさん 2025/01/31(金) 14:24:23.65 ID:qqkLaimn0

やっぱすげえよな

82 名無しさん 2025/01/31(金) 14:24:34.53 ID:zLX9cSqI0

ハードオフで調達できそう

83 名無しさん 2025/01/31(金) 14:24:44.70 ID:HSFBTUeq0

chatGPTでコード書かせたのを修正してくれたぞ。優秀だわ、DeepSeek

84 名無しさん 2025/01/31(金) 14:25:15.40 ID:gUZ+CfW/d

中国父さんすげええええええええ！！
やっぱり世界10億人の利用者がいるだけのことはある！！

86 名無しさん 2025/01/31(金) 14:25:53.29 ID:aqrFtTap0

グラボブ安くならないかなー

91 名無しさん 2025/01/31(金) 14:28:23.62 ID:f0agxpbp0

4060ti 16GBから16GBに加えて、メインメモリから8GB拝借とうことできるけどめちゃくちゃ遅くなる

94 名無しさん 2025/01/31(金) 14:28:46.16 ID:vgOR6YbV6

やっぱオープンソースって凄いわ
外部の有能が勝手に改善してくれるもんな

96 名無しさん 2025/01/31(金) 14:29:14.97 ID:Q/HiFdf10

これって動画のエンコードに性能が必要なくなった
って言ってるみたいで違和感しかないんだが
そういうのとは違うんか

97 名無しさん 2025/01/31(金) 14:29:57.98 ID:mycjutZNM

20GBでも遅いけど動くのは動くってエポックじゃね
これは本当にすごい

99 名無しさん 2025/01/31(金) 14:31:21.96 ID:7VUVh1kB0

それでもRTX5090でいうと、2枚と半分いるな

100 名無しさん 2025/01/31(金) 14:31:29.07 ID:aTF4Lql4a

オープンAI見とるか～

これが覇権国家のAIだよ

103 名無しさん 2025/01/31(金) 14:32:03.47 ID:wi6l5jbpH

RAM使うと遅いからたぶん使うつもりならAPUでいい

104 名無しさん 2025/01/31(金) 14:32:04.44 ID:eYsFHGsn0

s://build.nvidia.com/
エヌビディアはDeepSeek R1をモデル推奨してるから
エヌビディアにとって敵ではないぞ
利用者に自社GPU使ってもらえるし

105 名無しさん 2025/01/31(金) 14:32:28.99 ID:P1oCpwnL0

ﾀｽｹﾃ

ｱﾒﾘｶﾊｲﾃｸ株のﾗｲﾌは既にｾﾞﾛよ

107 名無しさん 2025/01/31(金) 14:33:43.31 ID:P1oCpwnL0

今晩もｱﾒﾘｶ株は大暴落確実

111 名無しさん 2025/01/31(金) 14:34:42.53 ID:dQF57CMH0

俺のGT8600でも動きますか？

114 名無しさん 2025/01/31(金) 14:35:38.02 ID:3h7q/yxX0

外部の有能がさらに磨きをかけていく
オープンソース化のメリットだな

116 名無しさん 2025/01/31(金) 14:36:14.11 ID:HSFBTUeq0

今までが殿様商売すぎたからな、open AI

117 名無しさん 2025/01/31(金) 14:37:19.03 ID:mycjutZNM

オープンソースだからあとは皆様でよろしくでしょ
なんかほんとついてこれてない人が噛み付いてくる謎の現象起きるねこの話題

120 名無しさん 2025/01/31(金) 14:39:33.02 ID:Id2I1mTVH

みんなで計算すればヌヴィディアのスパコン要らんじゃん

121 名無しさん 2025/01/31(金) 14:39:33.74 ID:c50l2Tva0

APUが今年大ブームになりそう

122 名無しさん 2025/01/31(金) 14:39:48.98 ID:VH6XqqLad

なんだかよくわからんがエッチなことが捗るようになるなら応援するぞ

123 名無しさん 2025/01/31(金) 14:40:03.56 ID:F+AiG7uO0

アメリカのAI戦略をぶっ壊しちゃったな。
半導体製造でも規制関係なく追いつくし、完全に中国の時代だな

127 名無しさん 2025/01/31(金) 14:43:00.31 ID:R8dtfs0fH

米国はどんどん高性能で高い方向に進んだのに
中国は性能を上げまくるより誰でも使えるように低価格エコ化に特化したんか

129 名無しさん 2025/01/31(金) 14:43:46.26 ID:cEBhAGNn0

これ何とかの4倍の法則超越してるな
シンギュラリティきたか?

132 名無しさん 2025/01/31(金) 14:44:51.93 ID:mycjutZNM

安くていいものはみんな中国製さのガチ版じゃん

133 名無しさん 2025/01/31(金) 14:45:14.85 ID:iMgO3UVt0

フリーソフト、オープンソースの文化、中国で生きていた

134 名無しさん 2025/01/31(金) 14:46:35.34 ID:lB0qqZgT0

アイポンで動くん？

135 名無しさん 2025/01/31(金) 14:46:54.91 ID:XxmrNzj40

結構大きなブレイクスルーなんかこれ？
この手の事象って１回突破したらしばらく天井知らずで上に行くから終着点が予想出来ん

136 名無しさん 2025/01/31(金) 14:47:03.27 ID:wUA8fFu+0

一生一緒にエヌビディア、イェーイ🥳

138 名無しさん 2025/01/31(金) 14:48:09.83 ID:jlM2AUM60

ふつうPCで使うソフトって何と言う言語で書かれてるの？

140 名無しさん 2025/01/31(金) 14:48:30.36 ID:usy1a2Fz0

コモディティ化、高価ツルハシ商売の終焉

142 名無しさん 2025/01/31(金) 14:49:08.22 ID:iBXJ2g+X0

NVIDIAの代わりにAMDが儲かるだけの話では？

143 名無しさん 2025/01/31(金) 14:49:13.36 ID:c50l2Tva0

今夜nVidiaまた暴落しそうだなこれ

145 名無しさん 2025/01/31(金) 14:50:50.25 ID:u0BOeJWf0

そもそも記事に書かれてる分だけでも1.58は性能劣化だいぶキツイなこれ
2.51なら劣化少ないっぽいからローカル勢で流行るならこっちかもしれない

146 名無しさん 2025/01/31(金) 14:51:31.56 ID:nui4bau4M

誇らしい…
中国父さん誇らしいです

147 名無しさん 2025/01/31(金) 14:51:44.99 ID:8nka+ogCM

何に使うの？

148 名無しさん 2025/01/31(金) 14:52:06.09 ID:iBXJ2g+X0

AIバブルの始まりならともかく終わりではないやろNVIDIAだけ見たら終わりかもしれんが

149 名無しさん 2025/01/31(金) 14:52:06.93 ID:eF9v3Pab0

家庭用LLMで現実的な金額感になったのがでかい
クラウドでLLMに課金するビジネスモデルが破綻しちゃう

150 名無しさん 2025/01/31(金) 14:52:35.11 ID:rdZygAJj0

中国人は改善していく技術に長けてるな

151 名無しさん 2025/01/31(金) 14:53:20.16 ID:DyqFW5i20

思考が理系に寄りすぎてて
小説書かせると毎回突然サイバーパンク展開始める

153 名無しさん 2025/01/31(金) 14:55:22.90 ID:3lsUeng7d

よく分かんねえんだが
俺たちがスマホや普通のPCで触るAIとは違うのか？
俺らのデバイスはそんなハイスペックじゃないがAI使ってるじゃん？

159 名無しさん 2025/01/31(金) 14:59:46.26 ID:8PdSm7FO0

オープンAI何兆も掛けてたのに無能過ぎだろ

162 名無しさん 2025/01/31(金) 15:02:02.58 ID:8PdSm7FO0

結局アメリカも日本と同じで無能上級が独占利権でボッタクリしまくってたって事か

163 名無しさん 2025/01/31(金) 15:02:30.14 ID:rY7EFBPl0

どんだけ金掛けて先行開発しても蒸留で即廉価モデル作られて格安でばら撒かれる

クリエイター相手にやってきたことなんだよなこれってw

165 名無しさん 2025/01/31(金) 15:03:02.69 ID:I+hNg/Cq0

オープンソースってすげえな

168 名無しさん 2025/01/31(金) 15:04:01.84 ID:OxUT38J70

俺は7900xtxを信じてたよ

170 名無しさん 2025/01/31(金) 15:04:31.96 ID:eF9v3Pab0

100万程度のコストで誰でもOpenAIみたいなこと出来るなら車とかにも載っけたりホームアプライアンスで箱モノ売ったり新しいビジネスチャンス出て来そうだな
しかもオープンモデルで商用利用可だからどんな企業でも国でもビジネスチャンスがある。これはビジネスぶち壊されたOpenAIキレますわ

175 名無しさん 2025/01/31(金) 15:07:35.95 ID:mycjutZNM

もっというと、これは海水から塩とる方法はわかったけど燃料と設備必要なんだよなあってのに
「カセットコンロでもできるよー、ちょっと不純物まじるけど」って記事

177 名無しさん 2025/01/31(金) 15:09:01.56 ID:UhkWvw0/0

将来的にはローカルで超優秀なAIが持てるとか急激におもしろそうになった

180 名無しさん 2025/01/31(金) 15:14:43.05 ID:3OchNWCr0

これって要するに家庭用パソコンでも動くようにしたよってこと？

183 名無しさん 2025/01/31(金) 15:17:10.06 ID:LudxpTbiM

量子コンピュータにai走らせたら速そう

未来に期待したい

184 名無しさん 2025/01/31(金) 15:17:15.95 ID:/YhWmBA60

AI関連業界のビジネスモデル終わったな

185 名無しさん 2025/01/31(金) 15:17:19.96 ID:F+ClB2Tvd

AI関連業界のビジネスモデル終わったな

187 名無しさん 2025/01/31(金) 15:17:50.33 ID:dkkVpXVHr

Open aiが今夜出すo3 Miniが微妙だったらやばい
安い推論モデルという土俵ででdeepSeekと直接対決という

188 名無しさん 2025/01/31(金) 15:18:51.22 ID:HHgPxeoS0

エヌビディアの株売ったほうがいいの？

191 名無しさん 2025/01/31(金) 15:19:42.23 ID:DtKI6Zyu0

CUDA専用関数がオワコンになるの？結局NVIDIA製使ってるのかしらんけど

192 名無しさん 2025/01/31(金) 15:19:52.17 ID:xH8XEIIn0

どっちにせよ、あまりに膨大なGPUを必要として電力も湯水の様に垂れ流して広大なメモリー空間を用いて
之から更に追加予算で100万台のGPUを必要とする世界なんてもう誰も無理だろ。
国家予算レベルを超えてるからどこかで先行投資が止まり最適化の道を進むわな。
GAFAの一人握りが制覇して個人レベルで誰も使おうという気にならなくなってるのが今。

197 名無しさん 2025/01/31(金) 15:21:27.54 ID:5qSY1cEe0

カネとモノがないから職人の手作業で
極限まで最適化するって日本のお家芸だったのにね
ヒトすらもいなくなった没落国

198 名無しさん 2025/01/31(金) 15:21:59.88 ID:kO0O4OSN0

AIはマネタイズできないって散々言われてるのをいい加減理解しよう
アメップの投資は全部無駄でつ

201 名無しさん 2025/01/31(金) 15:24:14.11 ID:7q12gcNer

実は人間が絵を描いたり返答してるらしいな

203 名無しさん 2025/01/31(金) 15:27:56.72 ID:fGLfr/ofr

どうせまたOpenAIを処理サーバパ○って動かしてるとか言い出さないよなぁ？w

205 名無しさん 2025/01/31(金) 15:29:15.58 ID:P1oCpwnL0

現状のAIバブルを維持するにはDeepSeekを締め出して全てのAI企業が口裏合わせて半導体と電力を大量消費する従来型のAI方式の道を進むしかないw

今後一生省コストAI開発という裏切りは許されない
当然裏切り者は出てくるから不可能

208 名無しさん 2025/01/31(金) 15:33:01.53 ID:6oGEVaeC0

このレベルが俺等のスマホに標準搭載されるのは何十年後や？

210 名無しさん 2025/01/31(金) 15:37:33.17 ID:wWZoMD1N0

さすがや！

213 名無しさん 2025/01/31(金) 15:41:57.76 ID:Wwa32Afc0

ローカルでも動くというだけが利点
家庭用対話型チャットBOTとしてなら使い道ありそう
仕事させるのは推論が弱すぎて無理だわ

214 名無しさん 2025/01/31(金) 15:43:00.08 ID:fX3DAi520

こういう技術を独占してたアメリカって本当に世界の癌だな

215 名無しさん 2025/01/31(金) 15:46:37.36 ID:PrDxVtpr0

オープンソースでみんなで揃ってよーいどんしたはずなのにもう取り残されている国がないか？？🥺🥺🥺

216 名無しさん 2025/01/31(金) 15:48:55.53 ID:BcwL4rqR0

流石に1.58bitの量子化は使い物にならんだろq4以下は体感かなりア○になる

221 名無しさん 2025/01/31(金) 15:56:29.85 ID:3lsUeng7d

なるへそ
ディープシークがなぜ騒がれてるのかイマイチ分かってなかったけど
チャットGPTレベルのAIを無料で個人で自由に使えるってわけか
何か上手いこと金儲けに繋げられんかなこれ

222 名無しさん 2025/01/31(金) 15:56:44.24 ID:pV4z5mln0

そもそも何をするものなんだ

223 名無しさん 2025/01/31(金) 15:57:16.28 ID:63rNw9eb0

資本主義がオープンソース共産主義に

敗北する

痛快ではないか！

224 名無しさん 2025/01/31(金) 15:57:52.73 ID:Vka7i2aH0

画像生成とローカルLLMを買うには何を買えばいいんだ？
RTX5099？Mac mini？Project Digits？

227 名無しさん 2025/01/31(金) 15:59:48.75 ID:63rNw9eb0

資本主義がオープンソース共産主義に

敗北する

なんと痛快ではないか！

そこらじゅうに無料のLLMが解放されるようになる

俺らはタダで選び放題になる

228 名無しさん 2025/01/31(金) 16:01:14.70 ID:94f8GFdC0

俺等的にはメイドさん人格で応答するよう調整するぐらいが関の山

231 名無しさん 2025/01/31(金) 16:03:28.22 ID:EHwy2OF10

つまりソフトウェア業界は赤に染まっている！！
シリコンバレーは？！？！

232 名無しさん 2025/01/31(金) 16:04:25.72 ID:k19GpLy/0

ようやくLLMが社会化していく
これまではキ○オタがデュフデュフするだけのオモチャだった

233 名無しさん 2025/01/31(金) 16:05:32.41 ID:6U0V5ZlY0

俺の9950X+96GBでも動く？
Mac miniメモリモリモリは高いんジャーッップ！

234 名無しさん 2025/01/31(金) 16:06:06.83 ID:BcwL4rqR0

GPTがあんだけ騒がれたのに興味示さなかった奴らがア○ウヨの過剰反応で興味持ってdeepseek使い出すの笑える

237 名無しさん 2025/01/31(金) 16:09:17.64 ID:esEAa0p90

なぜか円高になる

238 名無しさん 2025/01/31(金) 16:10:08.86 ID:k19GpLy/0

今この段階
低廉な手段でボッタクリ市場が一気に解放されていく

failure

239 名無しさん 2025/01/31(金) 16:10:18.28 ID:jlM2AUM60

JapGPTの道化が止まらない

240 名無しさん 2025/01/31(金) 16:11:10.46 ID:esEAa0p90

アメリカのIT独占が破られたら円高が進みそう
やっちゃえ中国

244 名無しさん 2025/01/31(金) 16:18:48.25 ID:DPb0YLU80

エッチな小説が書けるAIってあるの？

246 名無しさん 2025/01/31(金) 16:20:16.27 ID:kXoSE/c4H

中国ITの技術力やばすぎる
ガチの天才集団揃えたんだな

247 名無しさん 2025/01/31(金) 16:20:32.06 ID:OWBQVu/k0

数千億〜兆の開発費のシバキ合いって皆諦めてたのが、実はなんとかなっちまうのが分かればそら盛り上がるだろ

251 名無しさん 2025/01/31(金) 16:25:33.15 ID:yXu2iHCt0

問題は学習が激重なんだろ

253 名無しさん 2025/01/31(金) 16:28:25.42 ID:QTkHC27S0

いやまあさ、OpenAIにはどうにか恩返さんといかんわと思ったわ。たぶんもう大勝ち難しいでしょこれ

254 名無しさん 2025/01/31(金) 16:33:03.59 ID:k19GpLy/0

なんかラズパイに入れてる人見たぞｗ
結局グラボ繋いでたけどｗ

255 名無しさん 2025/01/31(金) 16:33:59.61 ID:Mhvi+KdwH

闇バイトはーん！

256 名無しさん 2025/01/31(金) 16:34:47.21 ID:TejSSZXr0

世界を驚かす発明が中国から出てきつつあるね
アメリカがよわってきてるのか、中国が伸びまくってるのか

257 名無しさん 2025/01/31(金) 16:35:05.54 ID:fwrGx6Ar0

必要もないのに重くして高いグラボ買わせてたってこと？

259 名無しさん 2025/01/31(金) 16:36:42.23 ID:6rXUY1Tz0

いやオープンソースにしたの大正解だな
OpenAIのChatGPTより開発速度早いな

261 名無しさん 2025/01/31(金) 16:38:12.97 ID:Q3h0grCF0

最終的には１００万ぐらいのMACで１９２GBメモリにいれるのが流行るんだろうな
1.58bitだかなんだかだとそこまで精度がよくないらしいが

262 名無しさん 2025/01/31(金) 16:40:39.01 ID:nOrKD+A70

MP3出たての頃も不可逆ｶﾞｰ劣化ｶﾞｰ囀ってたよな
可変ビットレート出てのべつなく無しに高コストにしなくても良くなって体感劇的に向上した
今回のもそういう話ちゃうの

263 名無しさん 2025/01/31(金) 16:41:08.90 ID:FPzbzhbCd

どうもここの中国人さんはオープンソース＝清廉潔白か何かだと思ってそうw
オープンソースだろうが結局盗んだデータが必要なのにw

264 名無しさん 2025/01/31(金) 16:41:29.29 ID:FPzbzhbCd

どうもここの中国人さんはオープンソース＝清廉潔白か何かだと思ってそうで笑えるw
オープンソースだろうが結局盗んだデータが必要なのにw

265 名無しさん 2025/01/31(金) 16:42:06.83 ID:s04EBFL60

アメ株価が全体的に落ちるんで辞めてください

266 名無しさん 2025/01/31(金) 16:42:22.46 ID:6rXUY1Tz0

現在主流のAIはだいたい盗んだデータ食わせてるだろ

270 名無しさん 2025/01/31(金) 16:51:45.23 ID:xC8g7YBS0

動画を脱がしたいんだけど早く無料で出来るの作ってよ

272 名無しさん 2025/01/31(金) 16:54:08.79 ID:esEAa0p90

iPhoneは普及しないと言っていた日本人達の先見性には目を見張るものがあるね

273 名無しさん 2025/01/31(金) 16:55:34.01 ID:esEAa0p90

スマートフォンは普及しない！日本のガラパゴス携帯が！勝ち続ける！

274 名無しさん 2025/01/31(金) 17:01:29.10 ID:dIKlUp3a0

DEEPSEEKはオープンソースの上にMITライセンス

商用・非商用問わず誰でも好きに使っていいよ
そのままでも、一部を改変して再配布してもいいよ
使うときは、「著作権表示」と「MITライセンスの全文」を記載してね
ソフトウェアを利用したことによる責任は取らないよ

275 名無しさん 2025/01/31(金) 17:05:32.90 ID:K5ivvcbY0

どのくらい劣化するのかわからないけどついにガチのchatGPT並のLLMをローカルで動かせる時代が来るのか
ローカルLLMって微妙な奴しかないからなあ

277 名無しさん 2025/01/31(金) 17:07:32.56 ID:qH53bWx50

サイバーエージェントあたり日本語の追加学習させてるみたいね

279 名無しさん 2025/01/31(金) 17:16:19.14 ID:4Fb3YjJ00

AIにVRAMが必要なのってなんで？
画像加工に使うため？

282 名無しさん 2025/01/31(金) 17:27:03.80 ID:pOvbgxGE0

DeepSeek-R1ってで推論の過程をつぶさに表示するんだけど論文によると学習中にアハ体験が起きた事を報告してきたらしいよ推論モデルに知性が感じられて面白いね

283 名無しさん 2025/01/31(金) 17:31:42.52 ID:wLLJVuiS0

これは検閲でエロ無理らしいけど、将来的にはローカルDeepSeekで
AIとエロ会話しながらAIが考えたプロンプトでAIエロ自撮りを見せてくれて
AIが疑似恋人みたいになるんだろうなあ

285 名無しさん 2025/01/31(金) 17:39:02.42 ID:hEywCeSF0

メインメモリ128GのPCが流行るってコト？
16GBで十分おじさんも肩身が狭くなるな

288 名無しさん 2025/01/31(金) 17:49:32.12 ID:M79TVkXk0

CPU側のメインメモリからGPUのVRAMに転送はできるがレイテンシーがすごく遅いのでVRAM完結のほうがいい。だけどCPUとGPUが共有メモリで128GBとか割り振れる場合、リアルタイム性求められない分有利、レイテンシーもグラボに転送するより速い

299 名無しさん 2025/01/31(金) 18:06:58.13 ID:FsmQl40r0

コパイロットだのジェミニだの、持っている板やケースに搭載されているツールで調べれば分かる程度の知識すらないのがjapAIなんだよな

304 名無しさん 2025/01/31(金) 18:10:38.69 ID:L9sBtV7c0

ユニファイドメモリーでもAMDのAPUはマザーボード通してDIMMに挿したメモリーアクセスなので性能よろしくない。
AppleのMは高密度実装だからユニファイドでも速いという差もあり

307 名無しさん 2025/01/31(金) 18:14:19.88 ID:q2QRPdml0

誰も聞いてもいない話しを何十回も無限ループする人生は幼稚で悲惨だな

310 名無しさん 2025/01/31(金) 18:29:22.06 ID:q2QRPdml0

自動翻訳

DeepSeek-R1-Zero のアハ体験

DeepSeek-R1-Zero のトレーニング中に観察された特に興味深い現象は、「ひらめきの瞬間」の発生です。表3に示すように、この瞬間はモデルの中間バージョンで発生します。このフェーズでは、DeepSeek-R1-Zero は最初のアプローチを再評価することで、問題により多くの思考時間を割り当てることを学習します。この動作は、モデルの推論能力が向上していることの証であるだけでなく、強化学習が予期しない高度な結果につながる可能性があることを示す魅力的な例でもあります。

この瞬間は、モデルにとってだけでなく、その動作を観察している研究者にとっても「ひらめきの瞬間」です。これは強化学習の力と美しさを強調しています。モデルに問題の解決方法を明示的に教えるのではなく、適切なインセンティブを与えるだけで、モデルは高度な問題解決戦略を自律的に開発します。この「ひらめきの瞬間」は、強化学習が人工システムの新しいレベルの知能を解き放つ可能性を強力に思い出させ、将来的にさらに自律的で適応性の高いモデルへの道を開きます。

311 名無しさん 2025/01/31(金) 19:11:06.77 ID:Qj4rWZT0d

AIモメンに聞きたいがVRAM16GBと24GBってLLM性能が決定的に変わる？
もし24GBが圧倒的に有利なら市場から消える前に1台確保しておくが

315 名無しさん 2025/01/31(金) 20:22:51.68 ID:/Ff7euO60

低コストで似たようなもん作られたってのがデカいよな
多少劣化してようが安けりゃそっちの勝ちや

316 名無しさん 2025/01/31(金) 20:27:52.94 ID:MCAKyxPJ0

量子化なんて昔からよくやられてる（llamaとかmistralとかも量子化されてる）普通の技術なのに、技術に疎いケンモジサンはこんなのに驚くことができて人生楽しそうだね

317 名無しさん 2025/01/31(金) 20:29:45.24 ID:q2QRPdml0

お前のやっている事は
気狂いの無限ループスレやん

318 名無しさん 2025/01/31(金) 20:29:52.08 ID:QTkHC27S0

なんで実数から正数に近づいていくのに量子化っていうんだ？

319 名無しさん 2025/01/31(金) 20:33:16.61 ID:QTkHC27S0

なんかあれか？実数の極限とかみたいな世界から比べるとプランク定数だかなんだか量子っぽいものは離散的だからか？んー？ホント？

320 名無しさん 2025/01/31(金) 20:56:08.53 ID:vKEzoXrL0

オープンソースだから腕試しするヤツがドンドン現れるんやろねえ

322 名無しさん 2025/01/31(金) 21:39:56.05 ID:F5HjR62n0

一年後にはAI使ったエロゲ普通に出てそうやな

324 名無しさん 2025/01/31(金) 21:58:59.07 ID:q2QRPdml0

推論でも学習でも
各処理ユニットの処理対象の情報量が常に
64bit/32bitの浮動小数点数フルの情報量であるわけではなく

誤差評価で有効ビット数が求まるから、
貴重な資源であるメモリの占有サイズを切り縮めて
メモリバンドのネックを改善するってだけの話だね

326 名無しさん 2025/01/31(金) 22:31:24.62 ID:BEN4HI9r0

これってローカルで動かせるってことはオフラインでも動かせるってことですよね？

327 名無しさん 2025/01/31(金) 22:35:29.27 ID:q2QRPdml0

Mac miniクラスターで実用レベルの開発や学習ができるかどうかは、誰も検証結果を出していないんじゃね
できたらいいなレベルで試している話がメイン

329 名無しさん 2025/01/31(金) 22:40:18.10 ID:ilmxhxQ+0

エロがダメならそこらへんの嫌儲民以下じゃん

334 名無しさん 2025/01/31(金) 22:45:05.50 ID:1OlFENVZM

これ実はバックグラウンドでChatGPTのAPI叩いてるだけじゃねーの？ｗ

336 名無しさん 2025/01/31(金) 22:53:02.31 ID:q2QRPdml0

M4 mac miniでDeepKeepを走らせる件

現時点でのメリットは
・メモリ帯域幅の大きさ
・メモリコストの相対的安さ(一説にnVidia製品の1/12)
の話でしかなくて
M4ファミリーのGPUコア側を使えているのかどうか
M4ファミリーのCPUコア側でどの程度の性能/価格比が得られているのか
はまだ未判明な話に見えるね

337 名無しさん 2025/01/31(金) 22:53:48.41 ID:No8DPhhC0

AIをローカルで走らせて
何をしたらいいのか思いつかない

338 名無しさん 2025/01/31(金) 22:55:10.78 ID:14kCZ3Fa0

ローカルでエロ画像生成出来るようになったら起こしてくれ

339 名無しさん 2025/01/31(金) 22:56:35.74 ID:G/wPOp7J0

シナチャイナの思惑と反して、NVIDIAの株価の暴落止まったなw

340 名無しさん 2025/01/31(金) 22:57:35.34 ID:q2QRPdml0

とりあえず現状でM4 ProはCPUコア×8〜10、GPUコア×4
フルサイズ実行のメモリ条件で並列クラスタ構成7台として
トータルでCPUコア×56〜70、GPUコア×28

7台構成クラスタと同じ価格のH100 GPUと比べて
コア数が1〜2桁少ないわけだけど
それでどの程度の性能が出るのか？w

341 名無しさん 2025/01/31(金) 23:00:09.45 ID:fHpXLrdL0

良いことやん
電気消費減って環境にええわ

342 名無しさん 2025/01/31(金) 23:00:45.64 ID:82O2Aw9v0

すごいねーゲームチェンジャー😳

343 名無しさん 2025/01/31(金) 23:03:06.31 ID:zapRCBPs0

janus-proはvram24gbないと動かんらしいけど夏には半分になってそうだな

344 名無しさん 2025/01/31(金) 23:04:42.94 ID:BEN4HI9r0

アリババのなんとかはどうなんです？

345 名無しさん 2025/01/31(金) 23:09:30.37 ID:XvWUPwxq0

にわかには信じられん
マジかよ

346 名無しさん 2025/01/31(金) 23:33:37.60 ID:eZ/AfT150

AIはオンボードで十分になっちゃったな

348 名無しさん 2025/01/31(金) 23:46:34.88 ID:BFJ/vEpR0

DeepSeek専用ハードつくればもっと減らせそう

350 名無しさん 2025/02/01(土) 03:46:20.01 ID:PrQVQa0x0

一生一緒にAMD

351 名無しさん 2025/02/01(土) 03:49:10.51 ID:M5OktRdBM

会社が

354 名無しさん 2025/02/01(土) 04:54:08.60 ID:PrQVQa0x0

中規模モデル（8B-14B）
RAM：16GB以上
GPU：8GB以上
ディスク容量：約8-16GB

ええやん無料で出来るとか

355 名無しさん 2025/02/01(土) 04:55:35.00 ID:4FW+qS/t0

本質的にたいして差がないかもなようはビッグデータというかデータが多ければ多いほどいいというのは「ただの思い込みかもしれない
同じように指数投資（時価総額加重平均ファンド）で分散すればするほどいいとかないからｗ
時価総額上位だけ買ってたほうが効率いいからｗ
ネタバレもします世界中で指数ファンドを買い付けてくるって「それ時価総額が大き良い銘柄をたくさん買っている」っってことです
だから上がるのですよだから上位銘柄だけかったほうが儲かるのです

356 名無しさん 2025/02/01(土) 05:36:10.29 ID:fO8JGJd50

ビッグデータという用語の誤用

357 名無しさん 2025/02/01(土) 05:48:15.27 ID:fO8JGJd50

日本語版ウィキペディアの該当項目は
まるで天羽が書いたようなデタラメ記述が追加されているな

科学分野の巨大データは、天羽以外の世界ではビッグデータとは呼ばない
ビッグデータはあくまで、英語版ウィキペディアに書かれている領域の用語であって
科学分野の巨大データをビッグデータだと言い張っても共通性が極めて少ない

この手の統失がデタラメを書き足した妄想記事は誰か直せよ

359 名無しさん 2025/02/01(土) 06:09:19.08 ID:0gAwnfEZ0

素人考えだと省力されてもさらに積めばいいんじゃないの？って思う

360 名無しさん 2025/02/01(土) 06:42:21.65 ID:9p0tmTtc0

エッチなアイコラを簡単に作れるAIはよ

362 名無しさん 2025/02/01(土) 06:57:48.69 ID:6PQYPUZUd

Deepseekに自分をChatGPTと誤認させることで衝撃の事実を暴露させてしまったぞ

東南アジアで格安GPUを買い漁ってウイグル自治区の奴隷で運用してるんだと

$DeepSeekの進化が止まらない。VRAM 700GB必須だったのが、わずか80GBで動くように [422186189]\n_1$

$DeepSeekの進化が止まらない。VRAM 700GB必須だったのが、わずか80GBで動くように [422186189]\n_2$

363 名無しさん 2025/02/01(土) 07:05:51.04 ID:6RJ6zmKS0

DeepってエロゲーとSeekってエロゲーあったよな

364 名無しさん 2025/02/01(土) 07:13:29.21 ID:KpgQFj7s0

アメリカは進化論信じてなかったりろくに読み書きもできない奴が大量にいるからな
どんなに人口がいても底が浅い

365 名無しさん 2025/02/01(土) 07:36:05.99 ID:Mg9jeteU0

いきなり超進化してて草

368 名無しさん 2025/02/01(土) 09:07:14.76 ID:i/0lVmUF0

この界隈は流れが速すぎてサービス受ける側としても選択肢に迷うわ

370 名無しさん 2025/02/01(土) 09:13:14.58 ID:frhCH26A0

VRAMいらんの助かる
やっと俺もローカルできそう

371 名無しさん 2025/02/01(土) 09:39:01.85 ID:d9NHxu790

小さいモデルは嘘だらけで使い物にならないぞ
perplexityがDeepSeek R1導入しておかしくなった

372 名無しさん 2025/02/01(土) 10:41:09.37 ID:mpAEetM+0

つまり創造性が高いってことだな

375 名無しさん 2025/02/01(土) 11:04:50.94 ID:0n72axRN0

もしかしてメモリの値段カチ上がるんじゃね？今が買い時か？

379 名無しさん 2025/02/01(土) 12:36:55.91 ID:7/zgT8Ii0

64GBユニファイドメモリのM4Pro載せたMac mini単体で動くまで後一歩か
ここまでこれば31万で環境が整ってしまうのだが実現しそうな気がしてくるな

参照先 https://greta.5ch.net/test/read.cgi/poverty/1738299729/\n\n\n\n\n