ちみのブログ一覧

某所で行われたローカルAIの展示会。

いや〜、ヤバそうなマニアさんが集結してましたwww
σ(^_^;アタクシもそのうちの1人なんでしょうケド(恥)




通常のAIだと、ChatGPTとかGeminiとかSaasとしてサービスされているものを利用することになりますが、この場合、個人情報とか機密情報は扱えませんよね。


そのため、ローカルPC上にファインチューニングしたLLMを構築することで、オンプレ環境でAIが使えるようになる、というもの。
（たぶん、合ってると思う）


しかし、そのモデル構築のためには、高度な専門スキルと、モンスター級のハードウェアが必要だそうで・・・



かなーり興味はありますが、趣味でやるにハードル高過ぎだなwww



写真のPCには、NVIDIAのRTX PRO 6500というGPUが乗っており、このボードだけで150万円くらいするそうです！！ヤバッ！

(*≧m≦*)ププッ