---
title: JetsonとローカルLLMでポータブル脳みそをつくる
tags: 
author: [からあげ](https://www.docswell.com/user/karaage0703)
site: [Docswell](https://www.docswell.com/)
thumbnail: https://bcdn.docswell.com/page/4EM23NQ6EW.jpg?width=480
description: JetsonUG #7 雑談会 「reComputer JetsonをSeeed社員に教えてもらおう」にて登壇
published: February 23, 25
canonical: https://www.docswell.com/s/karaage0703/KDN62R-2025-02-23-152705
---
# Page. 1

![Page Image](https://bcdn.docswell.com/page/4EM23NQ6EW.jpg)

JetsonとローカルLLMで
ポータブル脳みそをつくる
〜ミソ・イン・ザ・スープ〜
JetsonUG #7 雑談会


# Page. 2

![Page Image](https://bcdn.docswell.com/page/PERMQD8N79.jpg)

自己紹介
名前：からあげ（本名は内緒）
職業：AIのおしごと
家族：妻・娘・ネコ x 2
https://karaage.hatenadiary.jp
@karaage0703
karaage0703
ブログ、各種SNSで情報発信しています


# Page. 3

![Page Image](https://bcdn.docswell.com/page/P7XV5188JX.jpg)

主な著書・寄稿・協力
2021/01/08発売
2021/04/21 改訂版発売
2024/01/29発売
4万部のベストセラー
その他、寄稿・協力・個人出版多数(20冊以上）
（ラズパイマガジン・日経Linux…）
2025/01/22発売 ← New!!


# Page. 4

![Page Image](https://bcdn.docswell.com/page/37KQ62KL7D.jpg)

What’s ポータブル脳みそ
自宅に脳みそ
欲しいですよ
ね
“そのときは、なんとなくそのまま会話が終わったのですが。
その後、ポータブルな脳みそが欲しくなってきたので作ってみる
ことにしました。”
からあげ（@karaage0703）
note．ポータブル脳みそ 〜ミソ・イン・ザ・スープ〜を作ってみました．
https://karaage.hatenadiary.jp/entry/2024/06/21/125715


# Page. 5

![Page Image](https://bcdn.docswell.com/page/LJ3P64Z675.jpg)

ポータブル脳みそ 第1世代
（YouTube．ポータブル脳みそ 〜ミソ・イン・ザ・スープ〜．https://youtu.be/jkYVYnC-8sw）


# Page. 6

![Page Image](https://bcdn.docswell.com/page/8JDLVQRM7G.jpg)

システム構成
https://protopedia.net/prototype/5366


# Page. 7

![Page Image](https://bcdn.docswell.com/page/VEP2VLWQE8.jpg)

ポータブル脳みそ 第2世代
• 脳みそ物理化
• 発話
• Raspberry Pi 5 → reComputer J4012
• Gemma 2B → tanuki-8B
（X．https://x.com/karaage0703/status/1860136717266928114）


# Page. 8

![Page Image](https://bcdn.docswell.com/page/27VDZQ8P7Q.jpg)

特徴
• 脳みそが自分で考えて話している（ように見える）
• 脳みその個性？役割？を日本語で指示
• クラウド未使用


# Page. 9

![Page Image](https://bcdn.docswell.com/page/5JGY4W5QJL.jpg)

Hardware
Jetson Orin NX16GB
x4
miso-in-the-soupxiao
Touch Pads
x47
Serial LEDs
USB
reComputer
J4012
XIAO
ESP32C6
reSpeaker
Lite
Speaker


# Page. 10

![Page Image](https://bcdn.docswell.com/page/47QMG3ZWEP.jpg)

Software
Ollama
LLM
miso-in-the-soupxiao.ino
7shi/tanuki-dpo-v1.0:8b-q6_K
ommf2024_demo.p
y
VOICEBOX
https://github.com/matsujirushi/miso-in-the-soup-xiao
https://github.com/karaage0703/miso-in-the-soup
Open JTalk Dictionary


# Page. 11

![Page Image](https://bcdn.docswell.com/page/KE4V513171.jpg)

余談：Ollamaの動かし方
自分の環境だと素のOllamaはうまく動かせなかったのでJetson Containersで
動かしています。
$ git clone https://github.com/dusty-nv/jetson-containers
$ bash jetson-containers/install.sh
$ jetson-containers run --name ollama $(autotag ollama)
Zennの記事で詳しく書いてありますので詳しくは参考にしてください
https://zenn.dev/karaage0703/articles/3a2067b6b92e06


# Page. 12

![Page Image](https://bcdn.docswell.com/page/L713WG15EG.jpg)

多分時間が余るのでOne more thing…


# Page. 13

![Page Image](https://bcdn.docswell.com/page/G7WP6K8WE2.jpg)

話題のDeep Seek R1を動かす
• Jetson Orin NX 16GBでも話題のDeepseek-R1が動く（ときもある）
• Ollamaでdeepseek-r1:14bを選択


# Page. 14

![Page Image](https://bcdn.docswell.com/page/4JZKYZ82J3.jpg)

Deep Seek R1で小説を自動生成
Jetson Orin NX16GB(reComputer J4012)
MacBook
deep-novelist
- Python
- Gradio
https://github.com/karaage0703/deep-novelist
Ollama
DeepSeek-R1-DistillQwen-14B-Japanese-gguf


# Page. 15

![Page Image](https://bcdn.docswell.com/page/YE6QDZK6EV.jpg)



