もううんざり！時代に取り残された感に苦しむ人たち
引用元：https://news.ycombinator.com/item?id=43580449
「僕の世代の最高の頭脳」ってフレーズ、もう聞き飽きたよ。確か最初は「僕らの世代の最高の頭脳は広告を売るために雇われてる」ってのを見たんだよね。コンピューターがブーって音を立てるだけで「最高の頭脳」って呼ばれる資格があるわけないじゃん。
「最高の頭脳」って言うなら、何よりも共感力があるべきだよね。仲間の人間の幸せを気にかけて、世界の状況について哲学的に考え、忍耐強くて、好奇心旺盛で、賢いだけじゃなくて、知恵があるべきだよ。
他人を搾取して私腹を肥やすような欲深いクソ野郎を「最高の頭脳」として祭り上げてるのが問題なんだよ。
その引用についてだけどー
これっていろんな意味で人を不快にさせると思うんだよね。最高の頭脳の無駄遣い…はまあ良いとしてー、「広告を売るため」ってのがね。
マーケティングって、技術の進歩がほとんどの場合、人の生活を悪くし、集中力を低下させ、財布を空にするっていう、いかがわしい分野だよね。
球体牛の「理想」である100%効率的な完璧なマーケティングキャンペーン/戦術は、文字通り人を催眠術にかけて、任意の商品やサービスにお金を全部使わせるんだよ。それって強盗に遭うのと同じじゃん。10%の効率を達成したらどうなる？1%なら？人の自由と経済的な幸福に対する侵害が、どうして社会的な利益になるの？0.001%でも利益が出るようになったら？近所の人が何かを買うたびに、どれだけの広告にさらされたい？
＞球体牛の”理想”である100%効率的な完璧なマーケティングキャンペーン／戦術は、文字通りあなたを催眠術にかけ、任意の商品やサービスにお金を落とさせる。それは強盗と本質的に同じだ。
この引用には共感するし、広告全般が嫌いな理由もほぼ同じなんだけど、この理屈をどんなビジネスにも当てはめられるって考えると、おかしくなってくるんだよね。
＞球体牛の”理想”である100%効率的な完璧な医薬品は、肉体的に中毒性がある。それは麻薬取引と本質的に同じだ。
＞球体牛の”理想”である100%効率的な完璧な医療システムは、あなたを病気のままにする。
＞球体牛の”理想”である100%効率的な完璧な食品は、絶え間ない渇望を誘発する。
全部当てはまるとも言えるけど、ここで問題なのは活動そのものではなく、その根底にある利益動機なんだよね。利益動機だけではこうはならず、他者への影響を無視する必要があるんだ。マーケターの多くがそうだけど、マーケティングそのものを真空状態の球体牛に還元できるとは思えない。
それ良い指摘だね。100%のマーケティングの「理想」は、必要な時にぴったりの商品を教えてくれて、あとは黙ってくれるって考え方もできるよね。
マーケティングって、利益とは全く関係ないこともあると思うんだよね。新しいことを伝えるのもマーケティングだし、僕はここで新しいFOSSプロジェクトについて知ることが多いけど、それはメンテナーや開発者が宣伝してくれてるからだもんね。
＞どんな種類の新しいもののコミュニケーションもこの旗の下に落ちるだろう
うん、それが言いたかったことなんだ。理論上はそう思うんだけど、実際には広告は全部、暗黙の強盗みたいに感じるんだよね。
＞でも、メンテナと開発者が喜んで私にそれらを「広告」するので、私はここで毎日新しいFOSSプロジェクトについて学びます。
それは良い反論だね。僕も同じ経験があるよ。
マーケティングって「新しいもの」のためじゃないことが多いよね。一番お金を使ってるのってCocaColaだけど、今更CocaColaについて何を知る必要があるのさ？
他の食品とか薬とかは価値を提供するけど、広告は何も提供しないってのが違いだよね。
その仮説に乗ってもいいよ。まずは資本主義を終わらせて、それでも広告が嫌いか試してみようぜ？
反対だな。マーケティングの理想は、消費者が探してるものを正確につなげるシステムだよ。あなたが言ってるのは資本主義的な理想でしょ。
それ言い古されてるってのは否定しないけど、Ginsbergへの言及だよ。必ずしも褒め言葉ってわけじゃないんだ。
https://www.poetryfoundation.org/poems/49303/howl
IT業界に15年近くいるけど、優秀な人もいればそうじゃない人もいるよね。アルゴリズムとかデータ構造を理解しただけで、自分が_何でも_できるって勘違いしてるアホも多い。ITに限った話じゃないと思うけど、DOGEがやってることはまさにそれ。
それ、ITだけじゃないよね。医者がいい例だよ。医者を特別扱いするから、自分は何でも知ってるって勘違いしちゃうんだ。得意分野が違うのにね。みんな忘れがち。
元医療系のCFOだけど、会計を説明してくる医者が結構いたよ。収益認識とかGAAPとか、会計101で習うようなことを教えてあげなきゃいけなくてさ。数字について質問されるのは慣れてるけど、医者は質問せずにすぐ間違いだって決めつけるんだよね。あれは一種の性格的なものだと思う。
＞“一番賢い人たちが広告を売る仕事に就いている”ってセリフ、もう聞き飽きたよ。コンピュータが動くだけで“一番賢い人”になれるわけじゃない。
むしろ逆だよ。普通のソフトウェア開発者だけの話じゃない。数学者とか物理学者とか心理学者とか、本来ならもっと有意義な問題を解決できるはずの優秀な人たちが、経済のせいで広告業界で人の人生を台無しにする仕事をしてるんだよ。広告業界は金払いがいいけど、役に立つ仕事は安いからね。この言葉は、人の賢さを評価するんじゃなくて、人類の可能性を無駄にしてる世界を嘆いてるんだと思う。
争点は、敵対的な行動をする人が「最高の知性」と呼ばれるに値するかどうか、だと思うな。共感力があるけど数学が苦手な人と比べてね。どっちの意見もわかるから、どう折り合いをつければいいかわからない。
「潜在能力の浪費」って感じかな。
＞“何よりもまず、共感的であるべきだ。仲間の人間の幸福を気にかけるべきだ”
もううんざり。人間はまず動物なんだよ。複雑な動物だけどね。常にそうはいかない。優秀な人は努力するけど、ほとんどは利己的に行動する。システムとそのインセンティブについて考えるべきだよ。良い目標と個人の利益を結びつけるのが大事。
なんで共感性が「偉大な知性」の特性なの？「偉大な知性」は共感性を有用だと思わない可能性もあるんじゃない？歴史を振り返ると、成功してるのは共感性のない人たちが多い気がする。人類はとっくに共感性の有用性を超えてるよ。
「成功」からどうやって「有用」に繋がるの？
「クソな人間が成功する」から「共感性は社会に役に立たない」って結論になるのはおかしいでしょ。
共感なんて社会じゃ役に立たないじゃん。人生一回きりなんだから、成功しなきゃ損だよ。共感なんかしてたら自分の人生損するだけだって。 ＞empathy isn’t useful to society… Having empathy will actively hurt your own life” 共感のない社会のモデルが想像できない人がいるのは知ってるよ。オレは十分生きてきたからわかるけど、99%の状況で人は自分の状況に責任があるんだよ。だから共感する必要なんてないんだ。 ＞I am old enough to have witnessed that in 99% of situations people are directly responsible for their own situation” そんな反応で人が納得すると思う？ まともな反論になってないし、不快なだけじゃん。何がしたいの？ ＞will convince anyone” ＞Are you sure that would be the poster’s attempt.” 議論することにメリットがあるかどうか試してるんじゃない？ 本人がよく言ってるようにね。それは良いことだよ。そうじゃないよりは。 ＞useful to society” 社会はもうすでに悪党だらけじゃん？で、このゲームで勝ってるのは誰かって話。 ＞勝ってるのは誰かって話だけど 隣人を信じるのはもう間違いだよ。俺みたいな人間は、人が騙されやすいから社会の恩恵を受けてるけどね。 ＞…俺は悪の本質を探してたんだけど、やっと定義に近づけた気がする。それは共感性の欠如だ。被告全員に共通する特徴で、仲間を思いやる能力がないんだ。悪とは、共感性の欠如だと思う。 それって悪があるってこと？善悪の判断を下すのは誰なのさ？ ＞結局成功するって言うけど 俺の人生で大事なのが俺の人生だけなら、成功は価値だよ。共感性を持つメリットって何？ ＞踏みつけることが価値だとしても、それは価値とは言えない。自分の人生に価値を置くって言うなら、それは人生観の問題だよね。 だって人間は社会的な生き物じゃん。それが動物の頂点に立てた理由の一つだと思うよ。 俺は「意味のある」人間関係で得したことないから、余裕で後者を選ぶわ。 生まれた時からあるものは普通で当たり前。 若い世代はAIをめっちゃ使ってるみたいだね。宿題を代わりにやらせて、何も学ばなくて済むから。少なくとも、カリキュラムが対応するまでは。 最初は何か作りたくてプログラミング始めたんだ（最初は壊すのが目的だったけど）。プログラムが複雑になってきたから、構造を学んだ。テストとリファクタリングを学んだのは、コードが綺麗でテストされてる方が早かったから。 ＞何週間もトリビアルな問題に頭を悩ませる必要がなくなったら、もっと早く学べたかも？” ＞何週間もトリビアルな問題に頭を悩ませる必要がなくなったら、もっと早く学べたかも？” わかる。 言いたいのは、理解を深めても価値がないなら、深く掘り下げる理由は好奇心だけってことだよね。 コンピューティングは最強の絵筆をくれたのに、僕らは「絵を描くのはAIに任せる」って言ってるようなもんだね。 ＞何週間もトリビアルな問題に頭を悩ませる” AIはただの抽象化レイヤーでしょ。 別に「受け入れてる」ってわけじゃないと思うけど、事実としてそうなってるよね。Marc Andreessenが8歳の息子にChatGPTを紹介した時のインタビューで、息子が「ただのコンピューターじゃん。質問したら答えるのは当たり前でしょ」って言ったのが印象的だったな。 PEDとか鎮痛剤みたいなもんだと思ってる。それらも事実だけど、頼りすぎると自分で決めることが減っちゃうんだよね。AIを使いこなせる人もいるだろうけど、思考力を鍛える機会を奪われてダメになる人もいると思う。コンピューターを魔法の箱みたいに信じちゃダメだよね。 おじいちゃんだからさ。若い頃、なんで計算機を使わせてもらえないのか理解できなかったんだよね。人間が計算するのが難しい、くだらない計算タスクなのにさ。 高等教育に深刻な影響が出てるよ。ちょっと年だけど、数年働いてから修士号を取ったんだけど、もう辞めることにしたんだ。ほとんどの学生が課題をLLMにアップロードして答えをコピーしてるんだもん。グループプロジェクトは昔は面白かったのに、今はコードの説明を求められる始末。トランザクショナルになってる。 ＞ 「100%トランザクショナル ー どうすれば最速で終わらせられるか ー その結果、数日勉強して演習すれば合格できるはずの授業で、前代未聞の50-80%という不合格率が出ている」 なるほどね。修士課程は学士課程と違って色んな人がいるし、15年も経ってるし。年取って文句言ってるだけかも。でも、やる気のある人にとっては嫌な状況だよね。教えてくれてありがとう。 教育システム全体が知識の習得じゃなくて成績のために最適化されてるからこうなるんだよ。LLMは社会の失敗を暴露してるだけ。 乗った！ トランジスタはただの配線方法でしかない、みたいなもんだよね。現象を本質に還元して、全体像を見てない感じ。 トランジスタを使った論理ゲートも同じじゃない？Booleanロジックを実行するように設計されてるからって、過大評価だって言うのは違う気がする。単純なメカニズムがすごいんじゃなくて、それを組み合わせて素晴らしい機能を実現し、生活を豊かにすることがすごいんだよ。 いやいや、トランジスタの前は真空管があったから、トランジスタの機能はちゃんと理解されてたんだよね。ブレイクスルーはサイズと電力消費だったわけ。例えとしては、もし明日、ホスト型のChatGPT 4oを腕時計で動かせて、しかもそれがめっちゃ安くずっと使えるようになったら、もっと的確かもね。 3.5 turbo？ 仮想通貨が流行ってた時、俺は20代だったんだけど、完全に乗り遅れた組だったから、年齢だけの問題じゃないと思うな。もちろん、ある程度の相関関係はあるだろうけど。 ＞“新しくてエキサイティングで革命的で、しかもそれでキャリアを築けるかもしれない” 違うって。純粋に長期的な知的好奇心からだよ。 ありがとう。だって、まるで人間レベルの知性と創造性を持った神託みたいに思ってる人たちと議論しようとすると、自分が狂ってるんじゃないかって思う時があるんだ。 俺は40代半ばだけど、LLM革命はマジですごいと思ってるよ。 ダグラス・アダムスは大ファンだけど、彼が（一番知られてるのは）コメディ作家であって、例えば社会学者じゃなかったのには理由があるんだよ。これを持ち出すのは会話に何の役にも立たないし、ただ漠然としたエイジズムとして伝わってくるだけ。 エイジストって呼んでくれてもいいけど、これは職場で“それ”について話してる内容と一致するんだよね。区切りは大体42歳くらいだけど、エンジニアの年齢層によって“それ”の価値に対する考え方が大きく分かれるんだ。 ある程度は当たってるけど、正確とは言えない部分もあるよね。＃2は俺には当てはまらない。新しいものの中にはエキサイティングで革命的なものもあったけど、全部が全部そうじゃない。＃3について言えば、今でもワクワクするものはあるし、もっとたくさんワクワクできる可能性もあるけど、誰も作ってくれないんだよね。＃1でさえ正確じゃない。“ワクワクしやすさ”は、欠点やトレードオフを認識すればするほど、時間とともに低下するってこと。 年齢よりも、その分野での実務経験年数の方が関係あると思うな。相関関係はあるけど、俺は44歳で経験3年だけど、AIツールをワークフローに取り入れてるよ。だって今はただのツールだし、活用しないのはもったいないじゃん。 プラグインみたいに追加したけど、ほとんど使わないんだよね。構文を思い出すくらいしか役に立たないかな。オートコレクトのあいまい版みたいなもん。 親コメントの Douglas Adams からの引用がおもしろいと思った。 relevant って言われてる xkcd みたいな感じで、会話に関係あるよね。 そのルールだと、あなたの予想は外れるね。これは年齢の話じゃないよ。NFTs／web3.0／Blockchain technologies なんかは、どの年代にもてはやされてたじゃん。 ”役に立つものが、取扱説明書より軽い場合は注意しろ” Terry Pratchett これは Shifting Baseline 現象の例だね。長期的な変化しか認識できないからって、無視していいわけじゃない。経験者の意見を無視するのはよくないよ。 ＞昔誰かがクールなことを言ったからって、それが永遠に有効で議論の根拠になるわけ？ 雇用主が管理する脳インプラントとか優生学とAIがどうして同列なの？ quote が当てはまるのは、多くの人にとって本当に役立つ技術だからだよ。優生学ロボットはそうじゃないじゃん。 ＞雇用主が管理する脳インプラントとか優生学とAIがどうして同列なの？ わざと頓珍漢なこと言ってるの？ あのさ、ネット廃人になるのは自分で選んでるんだよね。常にネットに触れてなきゃ退屈することなんてないじゃん？今話題になってることも、それをめっちゃ気にする人たちに囲まれてるからこそ気になるんでしょ。自分で選んでるんだからさ。もっとコメントを表示（1）
仮にその意見を受け入れたとしても（ありえないけど）、共感が社会の役に立たないってことにはならないよね。みんなが自分の成功だけ追い求めてたら社会なんて成り立たないじゃん。そんなの社会って呼ばないし。
年寄りは間違ってることだってあるんだよ。今回はそのパターン。
＞There is no reason to have empathy.”
的外れもいいとこだね。人が不幸の原因なら共感が不要だって理屈だけど、原因が何であろうと共感が必要かどうかとは関係ないでしょ。論理が破綻してるよ。共感が不要だって言うなら、筋の通った説明をしてよ。
共感のない社会ってこんな感じなのかな？ みんなが好き勝手なこと言って、不快な思いをさせることしか考えてないみたいな？
その人が人を納得させようとしてると思う？
＞you’re just being”
議論してるように見える人もいるんじゃない？
その人は何がしたいんだと思う？
他人への”respect”は社会の”condition”だよ。そうじゃないと、ただの”accomplices”になっちゃう。
Edward Bunkerも言ってたけど、結局は「弱肉強食」なんだし。
＞will actively hurt your own life”
無法者の集まりの中じゃ、社会にいた方が有利だよ。
＞One only lives once so you better make sure”
自分のなすべきことを達成しないとね。それには、良い人間であることも”mostly is”含まれるんだよ。
超金持ちは社会から抜け出してるし、罰はいつもギリギリで何も持ってないやつらにしか効かない。ていうか、社会のメリットって何？
＞それってただの主観じゃん？他人を食い物にするようなやつらを軽蔑する人もいるし。
＞社会のメリットって何？
＞例えばThomas Hobbesが言ってるように、終わりのない争いを避けるためじゃん？隣人を信頼できるってのはデカいメリットだよ。
＞– Captain G. M. Gilbert, Nuremberg Trialsの心理学者
＞そもそも”成功”って価値じゃないよね。そういう考え方はサイコパスの特徴だよ。
そりゃそうだよ、ズルすれば簡単に目標達成できるもん。ゲームで言うチートみたいなもんじゃん。
自分の人生は一度きりだから、賢く使うべきってのは正しい。問題は「賢く」って何かってことだ。
＞共感性のメリットは？
＞誰かに共感性を持つべきだって言われた？そうじゃなくて、ちゃんと理解することが大事。そうすれば他のことも正しい視点で見れるようになるよ。
例えば、親に「めちゃくちゃ頭が良いけどsociopathyで誰とも繋がれない子」と「頭は普通だけど豊かな人間関係を築ける子」どっちが良いか聞いたら、前者を選ぶ人はまずいないと思うよ。
15歳から35歳の間に発明されたものは、マジ最高で革命的で仕事にできるかも。
35歳過ぎてからの発明はありえない！…ってDouglas Adamsが言ってたよ。で、あんたの年齢当ててやろうか？もっとコメントを表示（2）
もし14、5歳の頃にLLMがあったらどうなってたかな？使うのは確実だけど、完成したアプリを見て、今みたいに深く理解しようとしたかな？
マジそれな。
プログラマーじゃないけどPythonで遊ぶの好きでさ。StackOverflowで解決策探す時間がなくなったから、前より複雑なプログラム作ってるよ。ただ、自分で何も作らなくなったから、プログラムの設計は詳しくなったけど、Pythonの知識は落ちたかも。
でも、頭を悩ませるプロセスが脳を鍛えるのに重要だったりするから、長期的に見るとマイナス面もあるかもね。
難しい問題を解決した時が一番勉強になるんだよね。
今だったらLLMに丸投げして終わりで、何も学ばないかも。
でも、そもそも学ぶのが目的じゃなくて、作ることが目的だったんだ。
LLMがあった方が良いものが作れたかどうかは、まだわかんないな。
今は深く掘り下げることで専門知識が身について、それが重要でお金になる。
でも、AIがどんどん進化したら、いつまでそうなんだろう？
ありがと、希望が湧いてきた。
少なくとも、それは人格形成に役立ってるんだな！
Javaのベテランだって、LocalDate.now()とかCompletableFuture.await()を実装できるわけじゃないし。
これ、20年前の大学時代の俺の経験と全く同じだわ。LLMのせいじゃないね。大学なんてどこも大体同じ内容で、違うのはクラスメートのレベル。
去年NLPとテキスト生成で博士号を取ったんだけど、LLMの過大評価はどうかと思うわ（アカデミアも業界も同じ）。LLMは文脈から次の単語を予測するように学習されてるだけで、それが得意なだけ。もっとコメントを表示（3）
これって、あんたがこの分野で博士号を取った理由の説明になってない？（“この分野”は大雑把だけど、“NLPとクリエイティブなテキスト生成”はLLMと同じような分野っぽいし。）
俺が最初に“AI”を追求したのは、学部時代、最後のAIの冬だった。例えば、Purdue大学でニューラルネットワークを教えてた教授は、CSじゃなくてEE学科にいて、俺が初めて受講資格を得た学期で退職しちゃったんだ。クラスの定員は足りなくて、大学院レベルだったから、学部生として受けることは許されなかった。
当時、AIを追求するために考えられる限りのあらゆる手段を試したんだよ。Robocupに参加したり、古典的なAI（これもEE学科）を受講したりとかね。でも、どれも知的な限界を押し広げてるようには思えなかったから、代わりにビデオゲームAIをAIを追求する方法として始めたんだ（Demis Hassabisみたいな有名なML研究者の多くはビデオゲームからスタートしてる）。
俺が博士号を始めた時、ほんの一握りの研究者がテキスト生成、ましてやクリエイティブなテキスト生成に注目してたんだ。そのアイデアはすごくニッチだった。
ちなみに、OpenAIで2017年に面接を受けた後、研究を追求するには博士号が必要だと気づいてから、博士号を取得することを決めたんだ。
確かに、これらのモデルはすごいけど、それは人類自身の印象的な（選ばれた）コーパスの歪んだレンズを通して見てるだけなんだよ。
ドットコム時代を思い出すんだよね。本当に変革的な技術で、今はまだ潜在能力の20％くらいしか実現してない。期待値は潜在能力の200％くらいまで高まってるけど。そして、その技術を中心に株式市場のバブルが形成されてる。
LLMの物語の続きは読者の想像に任せるけど、ちょっとばかり断片的で硬直化した頭で見ても、次に何が起こるか、その次に何が起こるか、さらにその次に何が起こるかは明白なんだ（本当に面白いのはその時だ）。だから、飽きてないし、疲れてもいない。若い頃と同じように、今テクノロジー業界で働けて嬉しいよ。ある意味、もっと嬉しいくらいだ。
[1]: https://en.wikipedia.org/wiki/Shifting_baseline
大量自動化優生学ロボット？気に入らないならお前はboomerだ。
雇用主に制御されて、ルールに従わないとボタン一つで殺される脳インプラント？気に入らない？お前はラッダイトだ
…テクノロジーはただの道具だ、ハンマーは善でも悪でもない、とか言う人もいるし。
Data (Star Trek) とか C3PO (Star Wars) とか KITT (Knight Rider) 見て「こんな暴力的なアイデア考えつくやついるんだ」って思った？
テクノロジーじゃん？テクノロジー好きでしょ？テクノロジーは進歩で、進歩は良いことじゃん！
＞多くの人にとって本当に役立つ技術。優生学ロボットはそうじゃないじゃん。
優生学は客観的に見て多くの苦しみを解決するかもよ？あなたのAIもそう結論づけるかもね。
＞Data (Star Trek) 見てどう思った？
AI”enthusiasts”の80%はそう聞こえるよ。”AIは良いもの、子供の頃見たSFのAIはクールだったから”
