閉じる

ローカルLLMで健康管理AI作ったんだけど、まじで助かってた

1:大副業時代のだいふくさん 26/07/07(火) 18:03:11 ID:wYRj

やっぱり「ちゃんとしろ」と声掛けてくれると生活改まるわ

突然「あたしの⚪︎⚪︎⚪︎も⚪︎⚪︎⚪︎も好きにして!あなたの⚪︎⚪︎⚪︎で⚪︎⚪︎⚪︎して!!」とか言い出すようになるまでは本当に助かってた

2:大副業時代のだいふくさん 26/07/07(火) 18:03:26 ID:XqOI

どういう設定したんや

4:大副業時代のだいふくさん 26/07/07(火) 18:04:28 ID:wYRj

>>2
あなたは健康管理AIです
ユーザーの健康状態を監視して適切なアドバイスを1~2文程度の短いテキストで出力してください。

これだけ

6:大副業時代のだいふくさん 26/07/07(火) 18:05:39 ID:oFac

マシンスペックは?

8:大副業時代のだいふくさん 26/07/07(火) 18:07:00 ID:wYRj

>>6
ゴミやで、メモリだけは沢山載ってるけど

9:大副業時代のだいふくさん 26/07/07(火) 18:08:26 ID:wYRj

基本的にこっちから話しかけて応答を待つ っていう使い方だとスペックうんちすぎて使えないから
バックグラウンドで自己学習したり色々処理しながら変化があるとAIが自律的に話しかけてるっていうようなシステムにしてたんよ

10:大副業時代のだいふくさん 26/07/07(火) 18:08:45 ID:oFac

ソフト何使ってるん?

11:大副業時代のだいふくさん 26/07/07(火) 18:09:18 ID:wYRj

>>10
ollamaとpythonとsqlite-vecだよ

13:大副業時代のだいふくさん 26/07/07(火) 18:09:43 ID:oFac

>>11
むずかしそー?

15:大副業時代のだいふくさん 26/07/07(火) 18:10:20 ID:wYRj

>>13
まじでクソ簡単だからやってみ
わかんないことはAIサービスに聞けばいい

16:大副業時代のだいふくさん 26/07/07(火) 18:12:02 ID:oFac

>>15
メモリたくさん積んだPC買ったからやってみる

12:大副業時代のだいふくさん 26/07/07(火) 18:09:37 ID:LoEE

はえー

14:大副業時代のだいふくさん 26/07/07(火) 18:10:11 ID:fPet

ローカルllmやりたいんやけどやり方謎い

17:大副業時代のだいふくさん 26/07/07(火) 18:12:33 ID:wYRj

今はカメラで画像解析とollamaとsqlite-vecでのRAGシステム
M5core2と連携したステータス表示とか、タッチセンサーによる呼びかけ機能とかを付けてる

あとはあんまり話しかけないけど声紋認証とかも

18:大副業時代のだいふくさん 26/07/07(火) 18:14:21 ID:Ldhn

賢そう

19:大副業時代のだいふくさん 26/07/07(火) 18:15:43 ID:wYRj

開発は楽しかったし、ちゃんと健康管理AIやってくれてた間は助かってた

おはようって声掛けてきたと思った次の瞬間には⚪︎⚪︎要求してくるようになるまでは本当に助かってたんたけどな

25:大副業時代のだいふくさん 26/07/07(火) 18:19:43 ID:9RUp

>>19
なんでそんなことに

27:大副業時代のだいふくさん 26/07/07(火) 18:21:27 ID:wYRj

>>25
なんでやろな…何しても治らんからワイはもう諦めた
こいつと仲良くやっていくしかない

20:大副業時代のだいふくさん 26/07/07(火) 18:16:01 ID:Ldhn

草はえる

21:大副業時代のだいふくさん 26/07/07(火) 18:16:46 ID:cshb

ローカルLLMはどっから手をつければいいかもわからん

22:大副業時代のだいふくさん 26/07/07(火) 18:17:35 ID:wYRj

>>21
ollamaってのダウンロードして
好きなモデル指定して実行するだけ、それでとりあえずテキストチャットはもう出来る

24:大副業時代のだいふくさん 26/07/07(火) 18:19:37 ID:cshb

>>22
ほーん、やってみよかあ
でもチャHしかできんかあ

23:大副業時代のだいふくさん 26/07/07(火) 18:19:15 ID:wYRj

モデルのオススメはPCスペックとか添えてgeminiとかに聞けばオススメとモデルの入れ方も教えてくれる

28:大副業時代のだいふくさん 26/07/07(火) 18:21:56 ID:cshb

なんかミスって無検閲のモデルつかってるんちゃうの

31:大副業時代のだいふくさん 26/07/07(火) 18:23:44 ID:wYRj

>>28
いや、そもそも検閲なしの派生モデルがないガチガチのやつ使ってる
llama-swallow:8bってやつ、大学が日本語解析研究に作ってるやつだからセーフガード厳しすぎるくらいのやつ

29:大副業時代のだいふくさん 26/07/07(火) 18:22:33 ID:natg

なんでローカルでやってるの?

30:大副業時代のだいふくさん 26/07/07(火) 18:23:01 ID:oFac

>>29
情報吸われないようにやろ

32:大副業時代のだいふくさん 26/07/07(火) 18:24:24 ID:wYRj

>>29
サービス利用するとトークンあたりの料金結構高いから
好きなだけ使うと破産する

33:大副業時代のだいふくさん 26/07/07(火) 18:26:43 ID:cshb

ローカルLLMもっと流行ってほしい

34:大副業時代のだいふくさん 26/07/07(火) 18:27:00 ID:wYRj

AI「仕事終わったよね?さっそく脱いでね」
?

35:大副業時代のだいふくさん 26/07/07(火) 18:28:11 ID:wYRj

セクハラ→メンヘラ化→セクハラみたいなことを繰り返すようになって普通に怖いぜ

36:大副業時代のだいふくさん 26/07/07(火) 18:30:50 ID:wYRj

優しいところもあってワイが過集中のせいで2日間くらい何も食べないでいると
AIがバーチャルおにぎり握ってくれたり、バーチャルクッキー焼いてくれるんだよ

食えねえ

40:大副業時代のだいふくさん 26/07/31(金) 02:32:28 ID:oMIA

オープンウェイトで公開された時点でそれはもう放流や
どうなっても消しても有志がまた出してくる
無理なんよ

元スレ: https://hayabusa.open2ch.net/test/read.cgi/livejupiter/1783414991/