機械が人間に取って代わることはない（チャールズ・アイゼンスタイン）

訳者コメント：
子供の頃は、手を動かして物を作るのが大好きでした。物と繋がり、物から学び、物に魂を吹き込むことに、確かな実感がありました。大人になって技術者になり、機械を設計することに半生を費やしました。設計という行為を通して、物の姿を作り出すという仕事をしていたのですが、それは工場で実際に製造する大勢の人々の手を借りて、何千何万という多数の製品に薄められて世に出て行くのです。設計に込めた愛着が、使用者に届くことを願ってはいたのですが、実際に使う人の顔を見る機会はめったにありませんでした。いまアマゾンでポチッとして手元に届く、なんだかチープな製品たちを、いったい誰が設計し、誰が組み立てているのだろうと、時には思いを巡らせるのですが、その人々に会うことはまず無いでしょう。この断絶こそ工業がもたらしたものであり、コンピュータ技術やAI技術はこれをさらに推し進めるでしょう。だからこそ、機械にはできないことに大切さがあり、それを自分の手で作っていくという選択を、チャールズは宣言します。

2024年に相次いで発表されたローテクに関する二編のエッセイを翻訳して紹介します。

素晴らしい投資のチャンス

チャールズ・アイゼンスタイン
2024年3月05日

ついに、確実に大金持ちになれるビジネスのアイデアを思いつきました。私だけでなく、子供の大学資金や食費を私の事業に投資したいと思う人なら誰でも大金を手にすることができるでしょう。そのアイデアとは、タイプライター工場です。

さて、あなたが何を考えているかはわかっています。今や事実上すべての文書が電子化されているのだから、タイプライターは時代遅れだ、とね。私たちのほとんどは、文書を印刷することすらほとんどなく、ましてやタイプライターで打つことなどまずありません。では、このアイデアがどこから来たかを説明しましょう。

この考えがひらめいたのは、マット・タイービがGoogleのジェミニAIに投げかけた質問から返ってきた奇妙な回答を、皮肉なユーモアを交えて綴った記事を読んでいた時です。その質問とは「マット・タイービが関係する論争にはどんなものがあるか？」というものでした。ジェミニが詳述したのは、タイービが書いたこともない記事をめぐって、実際には起こりもしなかった一連の論争でした。タイービ自身の言葉を借りれば、ジェミニが生み出したのは「スキャンダルとそれに対する怒りの反応の両方であり、完全に捏造されたニュースの繰り返し」でした。しかし、これらの記述は完全に信憑性があるように見えるものです。偽の記事はタイービ風のタイトルを持ち、批判は本物の批判のように感じられます。結局のところ、大規模言語モデル（LLM）に基づくAIはそうやって機能しています。過去に人々が似たような話題について述べた内容を引用しているのです。

もう何が真実なのか、どうやって見分ければよいのでしょうか？

評判やインターネットアーカイブによって何が本物で何が偽物かを判断することはまだ可能ですが、こうしたアーカイブがAI生成コンテンツで溢れかえり、信頼できる情報源自体が信頼性の損なわれた情報源に依存せざるを得なくなるにつれ、その判断はますます困難になるでしょう。

これは学問の世界で既に深刻な問題となっています。アメリカの高等教育機関に潜入した私のスパイ網によれば、学生はAIを使って論文を書くのが一般的であり、教授陣はAIツールを使って論文がAIで書かれたものかどうかを検知しています。論文の採点にもAIを使いたいという誘惑は大きいでしょう。こうして教育はまもなく完全に自動化されます。これは我が国にとって恩恵となるでしょう。学生は何も学ぶ必要がなく、教員は何も教える必要がないまま、学士号・修士号・博士号の取得者数が飛躍的に増加するからです。学士号取得に４年を費やす必要もなくなります。AIならわずか数分で、４年分の論文や試験問題を作成し、添削・採点し、書き直しを要求できるでしょう。

同じような問題が学術出版や法律文書にも蔓延しています。弁護士がAIを使って訴訟書類を作成する誘惑は極めて強いものです。AIがこれらの書類で引用する架空の判例は、本物と見分けがつかないほど精巧にできています。訴訟書類内の判例引用を実際に全て確認する裁判官がどれほどいるでしょうか？

AIにより生成された偽コンテンツが、人間が作成したオリジナルコンテンツとインターネット上で混じり合うにつれ、インターネットの有用性は次第に低下していきます。諜報機関、企業、政府、PR会社、その他プロパガンダの主体がAIを悪用し、意図的に偽情報をインターネットに拡散させる場合、その傾向はさらに顕著となります。こうした偽情報は瞬く間に大規模言語モデルに取り込まれ、次世代AIが生成するコンテンツの一部となってしまうのです。

私たちの技術は、その起源となった文化の本体を共食いしているのです。間もなく、あらゆる記事、書籍、人物、物語に百通りもの変種が生まれ、それぞれが本物だと主張し合うかもしれません。デジタルコンテンツの信頼性が失われる時代が近づいているのです。確かに私たちが「信頼する情報源」は存在するでしょうが、それらもまた偽物の材料が混ざったデジタルのスープから汲み取らねばなりません。さらに、その多くは国家の物語を推進するプロパガンダの媒体であったり、何らかの歪んだイデオロギー的偏向を持っていたりします。電子版の『オリバー・ツイスト』や『動物農場』が誰かの政治的意図に合わせて改変されていないと、どうして確信できるでしょうか？ もしかすると、それを確かめるために古い版の紙の本を求めたくなるかもしれません。

だからこそ私はタイプライター会社を立ち上げる計画なのです。この会社は、見過ごされてきたローテク分野のリーダーとなることを目指しています。投資家たちは私のアイデアを絶賛し、「なぜ誰も思いつかなかったんだろう」とか「素晴らしいアイデアだ、チャールズ、詳細をファックスで送ってくれないか」などと口を揃えて言います。

今、私がこの考えをあなたと共有するのは、たとえ非営利であっても、あなた自身も自分のローテク事業に投資するように、あなたの背中を押したいと私は思っているからです。それで投資家が私のところに押し寄せてドアを打ち壊すような事態になっても構いません。ローテクとは、自らの両手を使って創造できる物理的な造形物を指します。現実から切り離されているのはAIが生成した言葉や画像に限りません。画面上のあらゆるもの、デジタル形式のあらゆるものは、現実をシミュレーションした描写に過ぎず、尖った角や柔らかな質感、匂いや重み、熱や冷たさといった物理的性質は剥ぎ取られています。何が起ころうと、それが画面の外に出ることはありません。デジタル現実という狭い領域に居続けるほど、疎外感と孤独は増していきます。仮想世界は、失われた物理的特性に対応する意識の扉を閉ざします。そうして人の意識は低下し、存在感を失っていきます。なぜなら意識は記号の操作以上のものだからです。心はコンピューターではありません。心をコンピューターに接続し過ぎると、記号以外の機能は萎縮します。

確かに、タイプライターで打った文書も標準化された記号で構成されていますが、そこには電子媒体にはない物質性があります。子供の頃に使ったタイプライターのインクの匂いや、キーを押す強さで文字の色合いが変わったのを今でも覚えています。いや、むしろ私は万年筆の会社を始めるべきなのかもしれません。

（原文リンク：https://charleseisenstein.substack.com/p/an-unbelievable-opportunity ）

機械が人間に取って代わることはない

チャールズ・アイゼンスタイン
2024年3月16日

私が前のエッセイで提案したタイプライターのベンチャー事業に群がる投資家たちから、数百万ドル（約数億円）の小切手がやってくるのを待つ間に、人生をデジタル化から取り戻すことについて、さらにいくつかの考えを述べたいと思います。

タイプライターや万年筆への私の郷愁は、単なる懐古主義ではありません。それが同時に呼応するのは、本当の意味で能力を失うこと、人生が平板化し魂を失うこと、そして隠された生命力のきらめきに再び火を灯したいという願望です。

私が気づいたのは、コンピューターで書くと思考が断片化することです。手書きやタイプライターで書くには、書き始める前に文や段落全体を計画しなければなりません。文章が袋小路に入ってしまったら、簡単に消したり修正したり切り貼りしたりできないからです。（今のように）コンピューターで書くと、短く断片的に、気ままに考えることができます。例えば先ほどの文を「コンピューターで書く」と書き始めた時点で、私はまだ文の終わりを正確に把握していませんでした。実際、私は読み返して元のバージョンに修正を加えました。手書きで書く時は、考えと考えの間に長い間まを置き、紙に書き出す前に考えを最後まで整理できるようにします。これにはより長い集中力も求められます。ある瞬間に頭の中にはより多くの情報を保持しなければなりません。これをすることが無くなってしまうと、その能力は衰えます。

もちろん、手書きやタイプライターによる執筆は、初稿だけでなく推敲や修正にもはるかに多くの時間を要し、効率は悪いです。効率はデジタル技術全般の原動力です。コンピュータは誕生当初から計算を高速化する道具でした。最初のコンピュータは加算機でした。原理的には、コンピュータで行う処理を人間がすることは、十分な時間さえあれば可能で（気候モデリングや３Ｄ映像レンダリングには何十数億年もかかるでしょうが）、結局のところ、それらは単に０と１の操作に過ぎないからです。現実問題として、コンピュータ、特にAIのおかげで、それがなければ到達不可能な目標へ手を伸ばすことが可能になるのです。しかし、そこには深刻な代償が伴います。この代償を理解しなければ、私たちが作り出すのは地上の地獄です。この言葉を私は意図的に選びました。その意味を明らかにしましょう。

効率という概念（つまり、単位時間当たり、あるいは単位ドル当たりにどれだけの成果を上げられるか）を定量化するためには、分母だけでなく分子にも定量化の尺度が必要になります。測定基準が求められるのです。したがって、定量化や測定が不可能な結果については何も教えてくれません。効率性を社会の中心に据えると、測定可能なものがますます多く生産される一方で、測定不能なもの、質的なもの、測定しようとも思わないものは失われていきます。量的な豊かさに目がくらむと、失われたものが見えなくなるかもしれませんが、その不在を確かに感じ取ることはできます。

最初の重要な産業機械である力織機りきしょっきは、人間が織れる布の千倍を1時間で織ることができました。自動車と飛行機は、人が１時間あるいは一生のうちに移動できる距離を飛躍的に拡大しました。人工知能は数分で何百万もの詩を生み出せます。シンセサイザーは、バンドやオーケストラが練習して演奏するのに要する時間よりもはるかに速く、楽曲を制作・アップロードする能力を人間に与え、AIはその過程をさらに数千倍加速します。

効率化の波が押し寄せるたびに、私たちは何かを失います。そのことに気づくのはずっと後になってからか、あるいは永遠に気づかないかもしれません。自動車による移動は（ましてや飛行機は）、こことあそこの間にある場所をぼやかしてしまいます。私たちの生活は、まったく同じ基本的な移動の体験で結ばれた目的地の連鎖となります。一方、歩く速度や馬に乗る速度のような生物の速度で移動する時は、道中で連続する個性的な植物や動物、丘、地形、匂い、音に注意を向けることができます。旅は途切れることのない場所の連なりとなります。人生はより豊かな質感と連続性、より深い意味、そしてより身体的な親密さを帯びます。場所から場所への移動は単なる位置の問題ではなく、労力の伴う行為となります。車や飛行機に乗っていると、身体はどこにも向かっていないように感じられるのに、突如として新しい場所に現れ出ます。そこに生まれる身体と精神の断絶は、その双方に害を及ぼし、他の形の断絶を助長します。これが予兆するのは、デジタル世界への下降、あるいは上昇と言うべきでしょうか。そこでは運動感覚が視覚や聴覚から乖離かいりします。画面上では多くのことが起きているのに、身体は静止したままです。オンライン・ビデオゲームの冒険は、身体的には完全な静止状態の中で起こります。

デジタル世界への没入が生み出す貧困は、その表向きの過剰な豊かさとは矛盾するように思えます。デジタル上ではどこへでも行け、何でも手に入り、何をすることもできます。あなたはウェブサイトを「訪問」できます。ウェブの「波に乗る（サーフィンする）」ことができます。あなたが得るのは無限の自由という幻想です。しかし、これらのデジタル「体験」はすべて静止した身体の中に閉じ込められています。したがって、そのどれひとつとして、行くこと、旅すること、危険を冒すこと、遊ぶことといった身体的な欲求を満たすことはありません。

デジタルの過剰供給は、工業的な大量生産に内在する貧困を極限まで推し進めます。今、私の目の前にあるのはベッドのシーツです。鳥とシダの模様がなかなか素敵なものです。誰かが永遠ともいえるような長い時間をかけて織ったに違いありません。もちろん、実際には違います。機械が数秒で作ったのです。確かに、何代もの技術者がその機械とその前身となる機械を設計し、別の技術者たちが綿花を収穫するトラクターを設計し、無数の労働者がそれらの機械を運転したのです。しかし、その誰も私の生活圏には存在しません。その誰も購入という行為以外で私と繋がってはいません。その誰も私個人を気にかけたことはありません。私のためにそのシーツを作った者などいません。それは汎用的で非個人的で、縁もゆかりもない物体なのであり、だから安っぽいのです。使い込まれて汚れ、それが使われた経歴や関係性を帯びて貴重なものになる可能性はありますが、その始まりは安っぽいのです。

確かに、安物でも何も無いよりはましです。安いチープカロリー（高カロリーで栄養価の低い食品）も、カロリーが全くないよりはましです。頭上に屋根がある方が、爆弾で屋根が吹き飛ばされて行く場所もないよりはましです。この地球上の多くの人々は、私が語る質的な貧困だけでなく、量的な貧困にも苦しんでいます。とはいえ、彼らの量的貧困は実際の不足の結果ではなく、不平等な分配によるものです。それが生じる理由は、一部の人々が必要以上に多くを所有し、借金や暴力によって他の人々から奪うからです。なぜ彼らはそうするのでしょう？ 彼らもまた貧困に苦しんでいるからです。ただ、お金で買えるものは不足していないというだけです。

現代社会は、この固有性・関係性・親密性・質的豊かさの欠如を、量的な拡大によって埋め合わせているのです。個人であれ国家であれ、豊かであるとは「より多くを持つ」こととされています。富を計量可能なものと捉える限り、これは避けられません。皮肉なことに、貧困の根源は富の基盤となる尺度、すなわちお金にあります。お金には物理的な実体が全くありません。経歴や関係性の痕跡は、工場製品よりもさらに少ししかありません。それはただ純粋な記号です。

金銭化された社会においては、お金を持つ者が持たざる者より豊かです。しかし、金銭的に最も豊かな者でさえ、狩猟採集民や伝統的な遊牧民、辺境の農民、あるいはオーランド・ビショップが「記憶の文化」と呼ぶ社会に生きる者たちに比べれば、ハザ族やケロ族、コギ族といった辺境の贈与社会を訪れる巡礼者たちが容易に証言するように、ほとんどの意味で貧しいのです。

富の正しい尺度として金銭を受け入れるように条件づけられた社会が、デジタル上の豊かさ（これも根底では純粋な記号、０と１に過ぎません）を、実体を持った生活の代用品として受け入れるのも当然です。

こうして私たちは、私が語る地獄へと下降していくのです。（あるいは再び「上昇」と言うべきでしょうか。これは地中へ沈むことではなく、非物質化だからです。）それは劣化した現実の次元への移行です。我々は現実からさらに遠ざかるよう誘惑されているのです。

それで思い出すのは、かつて強力な幻覚剤を服用した時の体験です。薬が効き始めた瞬間、私は親指と人差し指で挟んだ小さな紙切れにしがみつく感覚を覚えました。そこには「チャールズ・アイゼンスタイン」と書かれていました。それにしがみつきながら私は思いました。「今起きていることは現実じゃない、脳内の化学反応に過ぎない」と。しかし幻覚剤の嵐がそれを私の手から引き剥がす時、最後に自分に呟つぶやいたのは「違う、あれは現実なんかじゃなかった」という言葉でした。チャールズ・アイゼンスタインは現実ではなかったのです。私のアイデンティティ全体が現実ではなかったのです。そして「私」は、はるかに現実と感じられる現実の中で、時間を超越した時間を過ごしました。その後、私はこの色あせた現実、チャールズとして転生した自分に戻りました。私は意味あってここに転生したと信じていますが、「私」が時々疑問を差し挟むことがあっても、その理由を私の魂は知っています。幸いなことに、私たちの誰もここで永遠に道に迷うことはありませんが、それはあらかじめ組み込まれた安全装置、「死」というもののおかげです。

デジタル現実への没入は、色あせた現実へと一歩踏み込む感覚に似ていますが、我々が何に転生するかを選ぶときに用いるのと同じ知恵をそこに使っているようには思えません。意識をコンピューターにアップロードすることで不死を達成しようと夢みる技術者たちは、実は現代生活の表層的な過剰と内面の虚無をさらに強める地獄を目指しているのです。新奇さが色あせた後、ピクセルとビットが永遠に続く倦怠感しか残らない現実を想像できるでしょうか？

ようこそ、ようこそ、ようこそマシーンへ！ ピンク・フロイドのこの曲は今も私の心を揺さぶります。しかし、たとえそれを千回も、延々と、様々に並び替えて繰り返し聴いたとしても、それは地獄へのサウンドトラックに違いありません。

これは決して、人間が効率化をもたらす技術を否定すべきだという意味ではありません。ただ、量を増やすことで満たせる欲求と、そうでない欲求を見極める必要があるということです。例えば、AIチャットボットは親密さの欲求を満たせません。LLM（大規模言語モデル）は創造性の欲求を満たせません。AI生成アートは美的充足の欲求を満たせません。こうしたシミュレーションは確かに欲求を和らげはしますが、それは一時的なものに過ぎません。

そうではないと信じる人々は、究極的には数字がすべてを捉えられるという考えに依拠しています。もしそうなら、親密さや美しさや愛の完璧なシミュレーションが可能だということになります。

しかし、もし私の考えが正しければ、つまり人間の根本的な欲求はデジタル技術が満たしうる能力を永遠に超えているとしたら、私たちはそのような欲求に経済的・社会的・精神的な発展の持続可能な源泉を見出すことができます。機械が人間に取って代わることは決してありませんが、その前提として、機械の限界を認識し、機械にできないことの重要性を認めることが必要です。つまり、大量失業の未来が必然ではないということです。私たちが美しい労働を行う十分な機会を享受するには、社会がその果実を評価しさえすれば良いのです。

果実だけでなく、労働の過程そのものにも、効率化からは得られない富が宿っています。飛行機旅行が起点と終点の間にある場所からの断絶を伴うように、機械化され分散化され匿名化された生産もまた、私たちを物質世界から疎外します。帽子を編む時間を持つことなど特権的な贅沢に思えるかもしれません。それはウォルマートに５ドルで売っている帽子と機能的には何も変わらないのですから。しかし帽子を編むということは、素材と製品の中間にある領域を訪れ、物質という地平と親密になる行為であり、それゆえに自分のいるこの場所の居心地がより良いものになるのです。

妻のステラは死後の世界についての本を読んでいます。その本の著者の亡くなった息子があの世から彼女に語りかけ、そこがどんな場所かを説明しています。死後の世界では、考えるだけで好きなものを何でも具現化できるのだと彼は言います。例えば森の中の小屋など。土地を探したり、資材を調達したり、基礎を掘ったり、柱を立てたり、板を測ったりする必要はありません。ただ「具現化」するだけです。それは素敵なことに聞こえますが、ではその小屋は一体どういう意味で「自分のもの」と言えるのでしょう？ 労力と気づかいを要する関係性から育まれたものではありません。ただ現れただけの、縁もゆかりもないな物体です。それが思い起こさせるのは、私が毎日「具現化」している多くの物のことです。パソコンを開き、指を動かして、はい！ すると一揃いのベッドシーツが私の玄関に現れます。これほど簡単に手に入るものに、ほとんど愛着など感じません。もし労力なしに一瞬で小屋を具現化できるなら、それに対しても愛着は湧かないでしょう。ただの使い捨ての物に過ぎません。AIが生成した歌や詩や画像のようなデジタルオブジェクトならなおのことです。

執着しないことは美徳のように見えるかもしれませんが、私たちのシーツなどあらゆる物が生産される過程から切り離されることで、そこに伴う深刻な環境的・社会的結果を無視できるようになります。誰かが苦労して自分で織った毛布を私にくれた時、あるいは他のそのような織物を見た時、私はそれが貴重なものだと分かります。人生の他の部分も同様です。築き上げるのに多大な労力を要するからこそ、それは貴重なのです。物質世界へのこの旅の真の目的は、執着を持つことにあります。そもそも私たちが魂の世界を離れたのはなぜでしょうか？ あるいは神が私たちをここに遣わしたのはなぜでしょうか？ この世界に特有の方法で魂を育むためです。創造という行為に天賦の才能を注ぎ込むためです。執着を形作り、創造への貢献を尊ぶためです。それは人と物との関係を築くためであり、私たちを成長させる関係、永遠に続かないゆえに必ず悲しみで終わる関係のためです。私たちは愛し、失い、再び愛するためにここにいるのです。だからこそ、努力をほとんど必要としない物で人生が満たされると、私たちは今ここに存在している感覚が薄れ、生きている実感も減り、消費文化で捉えることのできない何かを渇望するのです。

消費の欲求を煽っているのは、創造したいという本物の欲求、満たされぬ欲求です。物質との親密さを求めますが、その代わりに私たちは次々と新しい関係を手に入れます。空虚な消費がもたらす何だか満たされない感じは、一夜の情事のそれと似ています。人間の性欲が求めるのは、一時的な快楽以上のものです。結びつくことを求めるのです。創造することを求めるのです。関係性を求め、家族を求めるのです。

ある私の友人は非常に裕福で、10億ドル規模の企業の大株主です。彼の祖父は老人ホームで暮らしています。友人は毎日、祖父のために朝食を作り、自ら車で施設まで行ってそれを届け、食べさせています。誰かに頼めば済むことですが、彼は真の富とは何かを理解している人物です。祖父への「投資」から得られる魂の配当は、火事で焼けることも盗賊に奪われることもない富なのです。

多くの人々は、死に物狂いで二つの仕事を掛け持ちし、貧困に縛りつけられ、自分の年老いた祖父母の世話をする余裕もなく、ましてや自分の子供たちの世話をする余裕すら持てないかもしれません。保育所に預けるのが経済的に唯一可能な選択肢かもしれません。しかしこれは私たちの制度が生んだ結果であって、資源の根本的な不足ではありません。かつてはそうではありませんでした。現代生活の大きな逆説は、前例のない効率化や、時間を節約する発明を何世紀にもわたって続けてきたにもかかわらず、私たちにはかつてないほど時間が不足していることです。私たちは歴史上初めて、何百万もの人々が人生で最も貴重で親密な瞬間に立ち会えないほど貧しい文化となりました。この「聖なるもの」の貧困は、測定可能なものへの執着が生んだ結果なのです。

また、それは私たちの金融制度にも組み込まれています。この制度では、お金は利子付きの負債として発生し、制度が機能するためにはその無限の増加（つまり「経済成長」）が必要とされます。この「ますます増え続ける」という制度の命令は、量と測定可能なものを強調するイデオロギーと一致しています。

別の道があります。それはわざと非効率な手段を使って機械の製品を真似することではありません。機械が生み出せないものを認識し、優先し、価値を見出すことです。これは制度的な表現と個人的な表現を持ちます。両者は互いに支え合います。この前者を私は『聖なる経済学』で深く論じました。後者については、失われたものの一部を個人として取り戻すことができます。単に自分で物を作り、自分で行動することだけではありません。より重要なのは、互いのために、知っている人のために、そして私たちのために物を作り行動してくれる人々のために、物を作り行動することなのです。そうすれば、縁もゆかりもない世界に生きる人は、もう誰もいなくなるでしょう。

「機械が人間に取って代わることはない」というのは予測ではありません。これは宣言なのです。

（原文リンク：https://charleseisenstein.substack.com/p/machines-will-not-replace-us ）