CHAPTER１２
オープンAI創業と「効果的利他主義」
●オープンAI、始動
・『オープンAIは2016年1月4日に始動したがその前の数週間は大混乱で、サツキヴァ―の参加も定かではなかったため、アルトマンとブロックマンはオフィススペースのことを考える余裕もなかった。
ディープマインド追撃をめざす一団は、とりあえずブロックマンのサンフランシスコの自宅マンションで仕事を始めた。ソファセットに寝そべったり、楕円形のダイニングテーブルに座ったり、アンドレイ・カーパシーの場合はブロックマンのベッドで仮眠することもあった。
ある時サツキヴァ―とジョン・シュルマンは、議論の途中で何かを書こうとして立ち上がり、ホワイトボードがないことに気づいてその場で固まった。ブロックマンは慌てて買いに走った。
まだ何をやるできかさえわからない状態だったから、ブロックマンは他の面で役に立とうとした。オフィス用品を注文したり、キッチンのコップを全部手洗いしたりした。「みんなほんとにたくさん水を飲むんだ」
ストライプでの最後の数年間は、キャリアについて思い悩み、特大の野望と、コードだけを書いていたいという欲求との葛藤を、長いブログ記事で吐露することもあった。ブロックマンはこの時代を、「自分の役割について考える」プロセスと呼んでいる。理由が何であれ、ブロックマンは悶々として過ごすことに耐えられなくなった。「僕が考えたいのはこんなことじゃない」と心の中でつぶやいた。「自分にとって重要な問題と、自分が最大限に貢献できる方法を考えたい」
自分の「エゴ」を離れ。「世のため」になることがしたかった。「コップ洗いでAGIに貢献しようとしているみたいだった。もっといいやり方はないのか？」
ブロックマンがリビングのソファとダイニングテーブルの間にホワイトボードを設置すると、チームは未知の霧に足を踏み入れた。』
●コンピュート
・オープンAIは少数の研究者をさらに少人数のチームに分けて関心のあることを追求させた。この頃、オープンAIはブロックマンの自宅から、セコイア所有のオフィスに移った。次にはマスクの会社「ニューラリンク」が入るパイオニアビルに移転した（賃料はマスクが負担した）。
・ブロックマンとサツキヴァ―は採用方針について話し合った。「数学羨望」を避け、AI研究者とソフトウェアエンジニアが対等な立場に立って、何に取り組むかを平等に決める会社を構想した。これはディープマインドとはかなり異なる方針となった。この時期、マスクもアルトマンもチームの様子を見にオフィスに来るのは週に1回程度だった。マスクはテスラとスペースXの他にも何社も切り回ししていて、すでに手一杯な状態だった。アルトマンもYCの舵取りが非常に忙しかったが、9月になるとYCでの債務の多くを移譲し、アルトマン自身は「YCグループ」という新組織の社長に納まった。（YCグループでの社長在籍期間は2014年2月～2019年3月）
●EA信望者を理事に迎い入れる
・EAとは効果的利他主義のことであるが、EA推進運動は、現実的な問題から、「生まれくる全人類を救う」という遠大な取り組みに向かい始め、核戦争や世界的パンデミック、AIの暴走など、可能性は低いがゼロではない重大な問題に注力するようになる。OP（オープン・フィロソフィー）もこの流れに乗った。OPはオープンAIに研究者として入社していたダリオ・アモディ、ポール・クリスティアーノがともにOPの技術顧問であることを公表した。
（なお、2021年1月にはダリオとポール他5名の計7名によって、OpenAIの競合となるAnthropicが設立されました）
・OPはマスクとアルトマンが初期のインタビューで語っていた「オープンAIの技術をオープンソース化する」計画の見直しを求めた。特にマスクは長年に渡って技術のオープンソース化を強力に擁護していて、テスラの特許もほとんど公開している。それでもOPが見直しに拘ったのは、「軽卒で無節操な人や悪人がこの技術を悪用すれば人類滅亡を招く恐れがあると考えたからである。このOPの動きに対し、オープンAI自身も利益追求や製品開発への懸念から、技術のオープンソース化について慎重な姿勢を示し始め、次のような見解を表明した。『当社は私的利益のために情報を非公開にするつもりはありません。しかし長期的には、安全性の懸念がある場合に技術を非公開にするための正式なプロセスを策定することを検討しています。』
CHAPTER１３
前代未聞の「株を持たないCEO」
●マスク、「オープンAIの全面指揮権」を要求
・『マスクを含む共同創業者たちは、営利組織の転換を模索しながら、「誰が」その組織の指揮を執るかを長時間かけて話し合った。マスクはオープンAIの過半数の株式と、理事会の支配権、CEOの肩書き、そしてオープンAIの全面的な指揮権を要求した。
だが、サツキヴァ―とブロックマンは、マスクがオープンAIにあまり時間がかけられないのではないかと懸念した。CEOの選任は最終的に、フルタイムの共同創業者のうち、上級職であるブロックマンとサツキヴァ―に委ねられた。
2人は最初、マスクを選んだ。するとアルトマンがブロックマンに電話をかけ、マスクは一緒に仕事をするのが難しい人だと言って翻意させた。
次にブロックマンがサツキヴァ―を説得した。「僕は創設当初から、サムにCEOになってもらいたかった」とブロックマンは2023年にWSJに語っている。「会社にはサムの形をした『穴』が開いていて、僕らはあえてその穴を埋めずに、何年も待っていたんだ」
同年9月、ブロックマンとサツキヴァ―はマスクとアルトマンに、苦しい胸の内を打ち明けるメールを送った。
「あなたと一緒に仕事がしたいという気持ちはとても大きいし、それを叶えるためなら会社の株式や指揮権、僕らの解雇権など、何でも提供したいのはやまやまだ」と、ブロックマンとサツキヴァ―はマスクに宛てて書いている。だが懸念があった。「今の構造で行くと、いつかAGIの一極的で絶対的な支配を、あなたが手にすることになるかもしれない。最終的に実現したAGIを支配するつもりはない、とあなたは言うが、今回の交渉で、あなたが絶対的支配を極度に重視していることがはっきりした」加えて、オープンAIが「AGIの独裁を避けるため」に設立されたことを考えると、「あなたがその気になれば独裁者になれるような構造を持つことは愚策」に思われる、とつけ加えた。
2人はアルトマンについても懐疑的で、とくに彼の政治的野心をふまえて、同じメールに続けて書いた。「僕らはこのプロセスでの君の判断を完全に信用できずにいる。なぜなら君のコスト関数［意思決定の原理］が理解できないからだ」と、高校の数学コンテストの常連らしい言葉遣いでアルトマンに宛てて書いている。「君にとって、なぜCEOの肩書きがそんなに重要なのかがわからない。君が挙げた理由は変化しているが、何がその変化を駆り立てているのかがよくわからない。AGIは本当に君の第一の目標なんだろうか？ それと君の政治的野心はどうつながっているんだ。君の思考プロセスはどう変わってきたのか？」。これらはブロックマンというよりはサツキヴァ―の思いだったが、程度の差こそあれ、2人とも同じ懸念を持っていた。』
PART４
岐路 2019-
CHAPTER１４
「危険すぎて公開できない」AI？
●「２１世紀最大の発見かもしれない」
・アモディと数人の研究者は、2019年GPT-３の開発を通して「スケーリング則」に関する論文を発表し、データと計算資源、ニューラルネットワークの規模を拡大すればするほど、大規模言語モデルの性能が「一貫して」向上することを示した。この論文は資金調達に奔走するCEOのアルトマンにとって、まさに天の恵みとなった。これは開発に投じられる資金が知識の限界を確実に押し広げてくれることを、科学的に示したものだったからである。
CHAPTER１６
CEO解任事件、衝撃の真相
●解任
・『翌日、11月17日金曜日。アルトマンはF１レースを観戦するために、恋人のムルヘリンとラスベガスを訪れていた。
正午前。アルトマンは「グーグルミート」のアプリで、サツキヴァ―との会議へのリンクをクリックした。そして驚いた。画面にはサツキヴァ―だけでなく、ダンジェロとトナー、マッコーリーの顔までも現れたのだ。しかも不吉なことに、ブロックマンはいなかった。彼は数分前に理事を解任されていた。
サツキヴァ―は短い原稿を読み上げて、アルトマンに解任を告げたが、具体的な理由は示さなかった。アルトマンは愕然としたまま、つい、YCでスタートアップに助言していた頃の決まり文句を口走った。「何か手伝えることはあるかな？」
ニューヨーク・タイムズ紙の報道によると、理事たちは、移行期の舵取りをするムラティを支えてほしいと求め、アルトマンはそうすると約束した。
参加者のウィンドウが画面から一斉に消えたとたん、アルトマンはコンピュータから締め出された。』
●一瞬で広まるニュース
・『最初の瞬間は、ただもう信じられない、という思いしかなかった。悪い夢を見ているようだった。それから、怒りがこみ上げてきた。
数分後。オープンAIのウェブサイトに掲載された簡潔なブログ記事で、アルトマンがCEOを退任し、理事会を去るというニュースが発表された。そこにはたんに、アルトマンが「理事会の責任遂行に支障を来たした」とだけ書かれていた。
この知らせは、テック界の大物CEOたちが参加するメッセージアプリ「ワッツアップ」の私的なグループに、破壊級の衝撃をもたらした。』
●社員が「アルトマン支持」に回った理由
・『サンフランシスコ、発表前の数分前。ムラティはマイクロソフトCTOケヴィン・スコットに電話をかけ、理事会がこれからアルトマンを解任すると伝えた。
スコットは慌てて上司のサティア・ナデラを会議から引っ張り出して、ムラティと話させた。なぜ解任するのかというナデラの問いに、ムラティはわからないと答え、理事のダンジェロと話してほしいと促した。ダンジェロも、犯罪がらみではないと請け負う以外には、プレスリリースに書かれていた以上の情報を提供しなかった。
ムラティと社員たちとのやりとりも同様に進んだ。ムラティが理事会から渡された、危機管理コミュニケーションの要点をまとめた資料は、あのあいまいなブログ記事と大差なかった。
午後2時、ムラティとサツキヴァ―は全社会議を開催した。2人は45分もの間、「サムは何をやらかしたのか？」という主旨の質問を浴びせられ続けた。解任の理由はいつか社員に知らせられるのかという質問に、サツキヴァ―は「ノー」と答えた。
じつはアルトマン解任当時、社員の保有株式を、発行時の評価を大きく上回る900億ドル近くの企業評価額で売り出す交渉の最終段階にあったのだ。これが実現すれば、当時800人近くに増えていた社員の多くが大金持ちになれる。そして、この公開買付を主導するVC「スライヴ・キャピタル」の経営者ジョン・クシュナーは、トランプ大統領の娘婿ジャレッド・クシュナーの弟で、アルトマンのYCでの活動を長年にわたって支援してきた人物である。売り出しがアルトマンなしで行なわれるほど甘くないことを、社員は百も承知だった。
全社会議後、YCコンティニュイティ・ファンドの法務責任者を経て、オープンAIの出世街道を着実に上がり続け、CSO（最高戦略責任者）に就任したばかりのジェイソン・クォンが、サツキヴァ―の前に立ちはだかった。「これじゃ納得できない」と彼は言った。「みんなキレてるぞ」。クォンは幹部15人と理事全員のビデオ会議を申し入れ、サツキヴァ―はこれに応じた。
同日夜。理事たちがビデオ会議にログインすると、バーチャル会議室はむき出しのパニックに満ちていた。
クォンは礼儀正しく会議を始めようとして、「理事会は会社の利益のために行動したものと信じている」と言った。それでも、オープンAIには会社に生活を頼る800人近い社員がいて、そのほとんどがアルトマンを慕っていることを考えれば、理事会は「一貫して率直ではなかった」以上の説明をする義務がある、と迫った。
その上クォンの部署は、すでにニューヨーク南部地区の連邦地方裁判所から問い阿合わせを受けていた。この裁判所は、CEOの虚言に対する理事会の告発を、格好の調査対象と見なす傾向にある。
理事会はあいまいな言動によって、会社に対する規制当局の調査を招き、社員に苦痛を与えた。理事会はアルトマンを復帰させるしかない、なぜなら、会社の破壊を許すことは理事会の義務に反するからだ、とクォンは息巻いた。
すると理事のトナーはこう答えた。たとえアルトマンを追放して会社が破壊されることがあったとしても、「それが実際に会社の使命にかなう場合もありますよ」と。
これはまちがいではない。オープンAI憲章には、同社の「第１の信認義務は人類を守ることにある」と説明されている。理事会は社員にも、投資家にも、何ら義務を負わない。理事会は、憲章に掲げられた高邁な理想の有効性を試したまでのことだった。』
CHAPTER１７
さらなる難局へ
●内省
・『オープンAIはより一般的な組織構造をめざして、経験豊富な新理事たちを迎えた。メディア会社パラマウント・グローバルの取締役を長年務めた、ソニー・エンターテインメント元社長のニコール・セリグマンや、ビル＆メリンダ・ゲイツ財団の元CEOで、フェイスブックとファイザーの取締役を務めたスー・デズモンド＝ヘルマン博士など。
また、解任の一端となった、アルトマンの社外活動への不信を避けるために、利益相反に関する新しい指針を導入した。
「疑念を持たれていたから、法的な助言のもとで標準的な手順を導入した。疑わしきは確かめよ、ということだ」と新理事のローレンス・サマーズは説明する。「サムはとても誠実にそれをやっている」
社外の法律事務所ウィルマ―ヘイルは、3万件以上の文書を精査し、数十人をインタビューした結果、旧理事会は権限の範囲内でアルトマンを解任したが、調査した限りにおいては、彼を解任しなければならないほどの問題は見当たらなかった、と結論づけた。
「ウィルマーヘイルの調査結果をふまえて、われわれは旧理事会とは異なる事業判断を下した。サムがCEOの座にとどまることの適切性に疑問を投げかけるようなものは、記録の中には何一つなかった」とサマーズは言う。
それでも、アルトマンはあのできごとの後で内省し、なぜ自分が理事会の信頼を失ってしまったのかを理解しようと努めた。
また、非営利の構造が維持不可能なほど不安定で、おそらく―営利企業だが、財務利益を追求しながら社会的・環境的利益を優先できるような法的枠組みを持つ―「パブリック・ベネフィット・コーポレーション（PBC）」のような組織形態に転換する必要があることを認識しつつも、そうした転換が一部の人の信頼をさらに損なうおそれがあることも理解していた。「僕らはつねに学習し、適応している。僕らのやっていることはつねに変化しているから、変化できる余地をたっぷり残しておくようにしているけれど、それを嫌がる人もいる。それでも、ときには余地を十分に残しておかなかったために、やろうとしていたこととはちがう選択肢を選ばざるをえなくこともある。僕らは非営利組織として始まり、次に利益に上限を設け、それがうまくいかなくなると、今度はPBCにする必要がある、なんて言っている。構造としてそれがうまく機能することを心から信じているけれど、そのやり方にカチンとくる人がいるのも当然だ」。』
画像出展：「OpenAIが営利モデルを撤回しPBCに転換」
『PBCは営利企業の一種ですが、その法人憲章で「株主だけでなく社会全体の公益も追求する」ことが義務付けられています。通常の株式会社（営利企業）が経営陣に株主利益の最大化を求めるのに対し、PBCは取締役会が意思決定の際、特定の公益目的を考慮する法的責任を負う仕組みです。』
未来へ
●アルトマンの確信
・『リベラリズムが世界中で攻撃を受けるなかにあっても、アルトマンは合理性と科学、進歩を心の底から信奉し続ける。
イギリス物理学者デイヴィッド・ドイッチュが2011年に著した一般向けの科学書、『無限の始まり』を読んで以来、アルトマンはこの本を会う人会う人に勧めている。この中でドイッチュは、18世紀頃の啓蒙時代が、宇宙的な意義を持つ瞬間だったと主張する。それは、人類が真に知識を生み出すことを学び、その知識よって理論的には宇宙のすみずみまでを征服し変革できるようになった瞬間だというのだ。
「自然法則で禁じられていないことはすべて、適切な知識があれば実現できる」とドイッチュは説く。「死」も解決できる問題だ。人類が将来生み出すテクノロジーによって、宇宙のどんなに寒く暗い片隅にあっても、エネルギーと知識を活用することが可能になるはずだ。
アルトマンはサンフランシスコ・ロシアンヒル地区の自宅に、人類の進歩へ信奉を示すコーナーを設けている。彼の家を訪れる人が最初に目をするのは、3本の「手斧」で、うち1本は今までに発見された最古のものだ。手斧は、過去150万件のほとんどを通して、人間がものをつくり、生き物を殺し、料理をするために使っていた、唯一の道具である。
コーナーには、技術史のさまざまな段階の剣や、真空管、宇宙から持ち帰られたもの、コンコルドエンジンのブレード、アップルの初期のコンピュータ「Mac LCⅡ」のレプリカ、オープンAI製のロボットハンドなど、数十の品々が並ぶ。2024年9月のエッセイに、アルトマンは書いた。
「人類史を技術的発展という狭い視点からとらえれば、こうも言える。人類は数千年にわたる科学的発見と技術進歩の積み重ねを経て、砂を溶かし、不純物を少々加え、それを驚くべき精度で途方もなく微小な規模で精密に配置してコンピュータチップを製造し、そこに電気を通すことで、ますます高性能なAIを創造できるシステムを構築するにいたったのだと」それに続くのは、おそらくアルトマンにしか書けない一文だ。
「これは歴史全体における最も重大な事実になるかもしれない。人類は数千日以内（！）に超知能を手に入れ可能性がある。もっと時間がかかるかもしれないが、必ずそこに到達できると確信している」。』
感想
サム・アルトマンがスティーブ・ジョブズやマーク・ザッカーバーグと異なる印象をもつのは、2つあるように思いました。
1つは、Yコンビネータという投資家（エンジェル投資家）としての豊富なキャリアです。数々の若き才能、様々なアイデアと接する機会は、アルトマンのビジネスの幅と深さをつくり、そして、多くの人とのネットワークを通じて起業を支援するという才能を伸ばし、大きな能力を手に入れたと思います。
もう1つは、政治（民主主義）に対する畏敬の念ではないかと思います。既にご紹介していますが、アルトマンがブログに書いたとされる以下の言葉が、それを物語っているように思います。
「経済成長がなければ、民主主義は機能しない。なぜなら有権者はゼロサムの世界に生きているからだ」
これは、将来に渡って経済成長することが民主主義を守り、豊かな生活、平和な世界を築き上げられるというアルトマンの信念ではないかと思います。おそらく、すべての行動はここを起点にしていると思います。
大きなことを成し遂げた人に共通すると思うのは、いずれも、目標達成のための凄まじいエネルギーです。特に、“好奇心”、“行動力”、“信念”です。そして、その桁外れのエネルギーと揺るぎない自信が人を惹きつけるのだと思います。成功に導く大切な人との出会いも、そのエネルギーに因るものではないでしょうか。
“人との出会い”という言葉から、ウォーレン・バフェットの教えを思い出しました。素晴らしい出会いを自分のものにできるかどうかは人それぞれですが、おそらく、大事な人との出会いなくして、大きなことを成し遂げることはできないだろうと思います。
（画像は「ばっちゃまの米国株」の動画から拝借しました。これは学生に向けてのメッセージですが、“教師”を広い意味として捉えるならば、人生における教訓にもなると思います。）
サム・アルトマンにとってその出会いはループト時代のスティーブ・ジョブズ、Yコンビネータのポール・グレアム、ヒドラジン・キャピタルの共同設立者であるピーター・ティール、OpenAIのグレック・ブロックマン、そして、最大のライバルイーロン・マスクの5人ではないかと思います。