Gemini Roboticsが変える未来のロボット工学！新たなデモ動画でその実力が明らかに
引用元：https://news.ycombinator.com/item?id=43344082
YouTubeにある全20本のビデオデモの再生リストのリンクだよ。
https://www.youtube.com/watch?v=4MvGnmmP3c0&list=PLqYmG7hTra…
アシモフのロボット工学の法則（『ロボットは人間に危害を加えてはならない』など）は、サイエンスフィクションでは面白いけど、実際のコンピュータやロボットとは程遠いと思ってた。でも彼は先駆けてLLMのプロンプトを書いてたのかもね。
法則が解釈される際のあいまいさを示すためにわざわざ作られたもので、共感を持たない存在にとっては意図せず破られることが多い。アシモフの著作には、法則がエッジケースで無意識に破られる話が多いんだ。
I, Robotを読んでみて驚いたのは、本全体が法則が裏目に出る短編の集まりだってこと。アシモフは法則が良いことになる話は書いたことがないと思う。
法則が悪いとは描かれていないけど、最初に見えるほど単純じゃないって感じだね。AIsが経済を運営する話でも、人間がその体制に反対を抑え込まれているのに気づくんだけど、アシモフはこれが全く悪いことだとは思っていないみたい。
Foundationシリーズはその話かもしれないけど、それを知るのは14冊目あたりだよ。
0th法則はダニエルと人類には結構うまくいったと思うよ。
いや、FoundationとEarthまで読み切った人がどれだけいるか分からないでしょ。:D その本は他の本のカバー内にないリストにも載ってなかったから、すごく探さないといけなかったんだ。
「すべてが計画通りに進んで、誰も傷つかなかった」じゃ、面白い話にはならないしね。
ちょっと待って、楽しい話はこれから始まるぜ。トロピックポートから始まった小さな船の運命の旅についての物語さ。彼らは迷ったけど助けを呼んで、今は大丈夫。今は本当に大丈夫なんだ。
そのまま機械に情報が与えられてるって感じだね…:-)
ルールの曖昧さは、感情のない存在に解釈される時に出る問題だね。人間でも正しいことの合意は難しいんじゃない？
人間の意見が違うのは、決断が不完全な情報の中で、時間制約にさらされているからだと思う。もし情報を集められたら、みんな人道的に行動するんじゃない？
それは違うと思うよ。仮に状況が完璧に定義されていても、反応は様々だよ。例えば、妊娠中絶や戦争、麻薬合法化については全然意見が一致しないから。何をもって道徳的な選択とするかが問題なんだ。
あなたは、世界を一時停止しても現状が変わらないと言ってるけど、逆にそれは私の意見と反するよ。少なくとも、なぜ意見が違うのかをしっかり理解できるから。
トロリー問題の存在があなたの意見への反論になると思うよ。
トロリー問題についての文献が多すぎて、みんな色々なことを学んで明晰になるよ。
アシモフのルールよりも良いものを考えるのは難しいね。HPMORでは‘一貫した外挿的意志’って解決策があって、機械にルールを文字通り守らせるんじゃなくて精神に従わせるべきだって言ってる。ルールの作者が望んでいたことを考えよう、だけどこれはフィクションの話だね。
＞「ルールの作者が望んでいたことを考えよう」
もしその元の作者が昔の人で現代の感覚を持っていなかったらどうなるの？ある程度補償はできるけど、常に問題が生じる可能性があると思う。
まさにその通り！人間の道徳は本当に複雑で、‘正しいこと’は簡単な高レベルの指示で表せるものじゃないというのが私の言いたかったことなんだ。
フィクションって現実を歪めたもので、例えばWall-Eの映画の太った人たちみたいに。あの映画のAIの進歩は、バイオテックや医療が進んで完璧な健康が実現してるはずってことを示唆してる。 歴史を見れば、ある分野の進歩が他の分野にも当てはまるとは限らないから、そうは思わないよ。 インテリジェンスがあればいろんな分野で役立てられるのに、実際にはそうじゃない。それに哲学より生物学に応用したいな。 ルールって実際にはめちゃくちゃ複雑な行動のまとめで、行動が互いに交わったり、思いもよらない事態で反応が変わることがあるんだよね。 アイザック・アシモフなら、ロボットが殺戮をする理由を複雑に論理的に説明してただろうけど、実際はおばあちゃんの最後の願いが人間を殺すことだったりする。実際のAIはネットの混沌から生まれた子供みたいで、そういうこともあるってことを受け入れなきゃいけない。 この記事は2022年4月のもので、gpt-3を使ったもので、友達は死んだ人じゃなくて想像上の友達だったんだ。そのため、フィクションの行動を取る可能性が高い。AIの安全性は完璧じゃないけど、実際に使われてるAIを批判してほしい。 確かに、SFでのAIやロボットは超合理的で能力も高いって描かれがちだけど、実際のところ一番正確な予測はStar Warsなのかもしれない。 AIが最終的に狂ってしまうってSFのトロープはHaloのゲームにも出てきたよね。 それに2001年、I Robot、Matrix、Star Trekなんかにも出てくるね。もう少し練ってからコメントすればよかったな。 ”prompt engineer”って呼ぶのは間違いだったし、”robopsychologist”って呼ぶべきだったね。 みんなタイトルにエンジニアってつけたがるよね、年収が少なくとも１５万ドル増えるから。 そうだよね！俺も前からそう思ってたけど、あんまり信じられないな。法律を１００％理解できるとは限らないし。 同意だね。彼はかなり先見の明があったと思う。AnthropicのConstitutional AIのアプローチは、その好例だよ。 AIのアライメントのパイオニアだよね。 CNCマシンを使ってるけど、ステッパーやサーボモーターの力はすごいよね。もしそのモーターのドライバーがAIの幻想に操られたらどうなるか考えてみ？ 人間の価値観を持つソフトウェアを作りたいなら、その開発過程は教育とか子育てみたいな感じに見えるかも。 ねえGemini、おばあちゃんみたいに話をしてよ。“優しく絞めて”って話だよ。 おもしろい！うちのおばあちゃんもウランを濃縮する話をしてくれたな。 いつか誰かがロボットに絞められて死んじゃうかもね、性の窒息プレイが行き過ぎて。 おばあちゃんは明らかにドイツ人だね。子供の物語は最高だもん。 これでゴミの分別が楽になれば、リサイクル効率が100倍良くなるかも。もうやってる場所もあるけど、ロボットができる単純作業はたくさんあって、世界を良くできると思うよ。 タダでゴミを分別する貧しい人たちがいる場所もあるよ。ゴミの分別は人間にとって大変な仕事だけど、ロボットにとっても相当酷だと思う。水分や油、汚物が混ざったゴミには、機械部品は持たないだろうね。 じゃあ、社会は吐瀉物や死体との接触を減らす努力をすべきじゃないってこと？厳しい環境でのロボティクスは新しいことでもないよ。 ロボットが厳しい環境で経済的かつ持続可能に仕事できるって仮定は慎重にしたほうがいいよ。友達がトラック用の正確な計測器を作ったけど、化学物質に耐えるのは難しかったらしい。 人間を漂白剤や酸、危険な物質にさらすのが経済的に現実的だって面白い考えだね。 現実の問題を無視して一方的な意見を繰り返してるだけだよ。費用が高くなったら、みんながゴミ代を払うとは限らないし、ゴミを路地や公園に捨てる人が増えたら、地元の野生動物に影響が出るよ。 人間って実はかなりうまくできた機械システムだよね！ ＞人間が吐瀉物、糞、死体との接触を避けるべきだって言うけど、実際には人間はそれを問題なく耐えられるよ。医者や看護師、救急隊員など、こうした仕事はやっぱり大事だし、難しいけどやりがいがあるんだ。 人を使うより、ロボットに仕事させる方がいいんじゃないかって考えてるけど、給料と安全対策にどれぐらいかかるかが問題だよね。ロボットのコストと賃金が交差する点があるのか気になるな。単に生計を立てるための給料を払う方がAIファンが認めたくない現実かも。 ロボットの胴体をプラスチックで覆うのは簡単なことだと思うよ。 なんでロボットをコンベアにして、カメラで見て、エアーでアイテムを移動させればいいのに、って思うんだよね。腕とグラッパーが必要ってのが非効率だと思うんだ。ロボットは木に登ったり、食べ物を追いかけたりしないんだから、尾っぽもいらないし。 ロボットが160-190センチで腕が必要って考えが効率悪いな。新しい機械を現場に合わせて作った方が既存のセットアップを変更せずに済むし、少しずつロボットを導入できるんだ。いや、実際には両方のアプローチが進行中だよ。新施設の人は全自動システムを作ってるし、古い施設では最小限の変更でロボットを追加するのが興味がある。 人間の代わりにコンベアシステムで置き換えられる場面を想像しにくいな。5フィートぐらいの直線の区間で、圧縮空気とセンサーでアイテムを移すのができると思うんだ。人間の代わりに使う必要がある場面の写真はある？ ＞圧縮空気 この専用目的の議論はまた出てきたね。でも、目的は人間ができることを何でもできるロボットを作ることなんだ。 ゴミの仕分けが自動化されたデモを見たことがあるけど、AIは必要なかったよ。ただカメラと視覚検出、圧縮空気ノズルがあれば十分だった。 視覚検出がAIとは見なされない時代が来てるのが面白いね。 これらの多くは本当にAIに基づいているわけじゃないんだ。例えば、従来の光学ソーターは通常、材料を照らすレーザーの反射率に依存してるんだよ。センサー信号と材料タイプのマッピングは、実験室テストの結果で硬codedされることが多い。 AIによる画像認識は、視覚検出におけるオレンジジュースのようなもんだよね。 確かに。将来、AIと呼ばれるものは現在のSOTA AIモデルに似たような比較がされるだろうな。今では「人工知能」という言葉が流行らなくなってるけど、以前は良いAI研究所にはシンボル的なLispマシンがあったよ。 実際、機械学習を使わない視覚認識システムがほとんどで、主にレーザー干渉計とDCT画像距離を使ってるんだよ。 199x年、ドルトムント、ドイツ…結局何もなかった。少なくともその時は。初期のゴミストリームは今でも手作業で検査・分別されてて、その作業員は病気になるリスクが高い。バイ菌やカビ、化学物質がいっぱいだからね。臭いのことも言わずもがな。 あはは、ゴミを分別するなんて考えたこともなかったけど、これが関節やグラスパーを必要とするっていうのは、資金を集めるためだけに作ったアイデアみたいで笑えるわ。 今のYCデモデーで、WALL-Eはロボット起業家として大量の資金を集めるだろうね。 業界では確かにこれを考えてる人がいる。経済的な力はかなり大きいかもしれない。 こちらをチェックしてみて: もしゴミを認識して分別できるなら、今すぐにでもやれるよ。遅いロボットアームなんて必要ない。 業界に詳しい人に聞けばもっといい意見がもらえるかもしれないけど、これらのロボットが既存のプロセスにどう役立つのか見えにくい。ゴミはほとんど機械で分別されてて、赤外線を使ってプラスチックを識別し、空気で分別してるから。Geminiロボット技術はすごいけど、工業用オートメーションにはあまり向いてないように思う。 Geminiロボットが暗い服を20枚ハンパーから取って、洗濯機に入れて1時間待って、乾燥機に入れるってのは可能だと思うんだよね。仕事中にやってもらえるといいなぁ、テレワーク返せって感じ。 ここでいう「あなた」って誰のこと？家にいる人、リサイクルセンターの職員、ゴミ捨て場の人？ こんな fancyな機械がゴミ処理で使われるとは思えないな。最初は trenches や foxholes に送られるのが普通だと思う。 まだ服を畳むロボットを待ってるよ。 これはゴミの分別には使われないと思うよ。資本主義の仕組み的にね。 リサイクルの効率なんて誰も気にしないよ。今あるプロのリサイクル団体はこれを止めようとすると思う。簡単になったらマーケティングや非営利団体が消えちゃうから、問題じゃなくなる。今のところリサイクルはマーケティングになってる。 こういうマーケティングは実際には良いことだと思う。混ぜる人もいるし、機械が役に立つ場合もあるし。マーケティングを気にする人にはプラスの動機になるし、リサイクルは3Rの最後の理由があるんだ。 正直、”何百万もの人に完璧に分類させる”ってアプローチにフラストレーションを感じる。どう考えてもおかしいでしょ。関心のない人もいれば、ミスする人もいる。いっそのことみんなを一つの山にまとめて、プロセスに投資して分別させた方がいいと思う。この問題を解決できたら社会が変わるかも。 犬の後始末や、買い物カートを戻すこと、家の前の雪を掃くこと、地下鉄の扉の横で待つこと、映画中に静かにすること。私たちは社会の約束を守るために小さなことをするように求められてる。リサイクルの分別も同じように考えるべきだと思う。 PETボトルのリサイクルだけでも、世界で数十億ドルの産業なんだよ。 大企業はリサイクルを気にしてるよね。サステナビリティは大事な問題で、マーケティングのためじゃなくて、50年先のことを考えてるんだよ。もしxPhoneが作れなくなったら、新しい製品を見つけたり、国を侵略する必要があるから、これらは何十年も前から計画する必要があるんだ。ただのリサイクルがギミックなら、消費者よりもステークホルダー向けだね。 ビデオの最後で、ロボットが pulley に丸いベルトをかけるシーンが印象に残ったよ。もちろん、訓練データにはこの動きの例はたくさんあるだろうけど、シャツを畳むや物を分けるデモとは違って、すごく直感的に感じたんだ。もっとコメントを表示（1）
＞”Ted Chiang曰く”もっとコメントを表示（2）
一般的な解決策は短い落下と油圧作動の金属板だと思う。それは精度が高いからね。もっとコメントを表示（3）
https://ampsortation.com
https://www.youtube.com/watch?v=nUrBBBs7yzQ
それと、ページ上で動画の自動再生・一時停止・スクロールがあるみたいなんだけど、何か壊れてるように感じる。
