Rakuda2:収集から推論まで
実機検証済み
- 目的:teleopで集めたdataを検査し,LeRobotで学習した方策でRakuda2を動かし,各回の成否を残す.
- 前提:Rakuda2:teleopで収集 で収集できる.学習にGPUを使うなら,
labstatusで空きを確かめる. - 所要:収集と学習の時間に加えて1時間ほど.
- 結果:評価のdataset
datasets/rakuda2-evalに,成否の付いたepisodeが並ぶ.
確かめた範囲
Rakuda2の実機で確かめたのは,teleopの収集と方策の推論(roboloom infer)です.LeRobotのcheckpointを読む roboloom.policy.lerobot:load は,模擬のPiPER+Pikaだけで確かめています 模擬のみ.check-dataset と label も 模擬のみ です.
flowchart LR
A["収集<br/>record"] --> B["検査<br/>check-dataset"]
B --> C["学習<br/>lerobot-train"]
C --> D["推論<br/>infer --task"]
D --> E["成否<br/>label"]
1. 収集する
Rakuda2:teleopで収集 の手順で,同じtaskのepisodeを集めます.
uv run roboloom record --task "pick up the cup" --seconds 30 --episodes 20 --with gravity
gravityはdataset名を変えません.保存先は.roboloom/rakuda2/datasets/rakuda2です.- DIGITも学習に使うなら
--with gravity,digitにします.保存先はrakuda2-digitに分かれます.
2. 記録を検査する
uv run roboloom check-dataset
problemsがnoneで,notesのaction.valid is 0の割合が小さいことを確かめます.- 悪いepisodeを除くときは 悪いepisodeを除く の方法を使います.
3. LeRobotで学習する
模擬のみ
uv add git+https://github.com/tetsugo02/roboloom.git --tag v0.2.0 --extra policy --extra train
uv run lerobot-train \
--dataset.repo_id=local/rakuda2 \
--dataset.root=.roboloom/rakuda2/datasets/rakuda2 \
--policy.type=act --policy.device=cuda --policy.push_to_hub=false \
--trackio.enable=false \
--output_dir=outputs/train/act_rakuda2
--dataset.repo_idは設定のrepo_id,--dataset.rootはrobotのdirectoryから見たoutputです.- checkpointは
outputs/train/act_rakuda2/checkpoints/last/pretrained_modelにできます. - 経路だけを試すなら
--policy.device=cpu --steps=200 --batch_size=8で数分です(LeRobotで学習する).
4. 方策で動かす
まず,templateの既定の方策 roboloom.policy:hold(腕をその場に留める)で,推論の経路を確かめます.--task がないので保存しません.
uv run roboloom infer --seconds 10
次に,学習したcheckpointで動かします.--task を付けると,各回を評価のdatasetに保存します.
uv run roboloom infer --seconds 30 --episodes 10 --task "pick up the cup" \
--policy roboloom.policy.lerobot:load \
--policy-kwargs "{\"path\": \"$PWD/outputs/train/act_rakuda2/checkpoints/last/pretrained_model\"}"
inferはoptionpolicyを自動で有効にします.leaderは使わないのでgravityとは同時に使えません.- checkpointのpathは絶対pathで渡します.相対pathは,projectのrootからは解決されません(dataflowは一時directoryから起動します).
nodes/policy.yamlのrate_hz(15)は,学習したdatasetのdataset_fps(15)と同じにします.- 既定の
mode: stepでは方策が1手ずつ返すので,action_horizonは効きません(LeRobotの方策). - 観測は既定で関節状態と
cameraです.DIGITで学習したなら--with digitを足し,observeを[camera, digit_left, digit_right]にします(観測を選ぶ). - 毎回同じ姿勢から始めるときは,
nodes/policy.yamlにhome:を書いて--homeを付けます(home).
5. 成否を残す
保存のときに,操作画面の入力欄で save success か save failure と入れるか,あとから付けます.
uv run roboloom label --with policy 3 failure --note "つかみ損ねた"
uv run roboloom check-dataset --with policy
check-dataset が labels: 7 success, 3 failure, ... のように数を表示します.成否はdatasetの meta/roboloom_episodes.jsonl に残り,LeRobotの学習には影響しません(評価と再生).
次へ
- 方策が失敗しそうなときに人が代わる:Rakuda2:介入しながら評価する
- 自分のmodelを書く:自作の方策を動かす