HELLO! AI FORUM 2023/11/25

目次

• [6:30 - 7:00] 前座 技術書典１５、絶賛開催中！
• [7:00 - 8:00] パート１ OpenAI のドタバタ
• [8:00 - 9:00] パート２ 読書の秋、勉強の秋
• 今日のおわりに
• 総合目次

• 技術書典１５
  • 今回、新刊ありませんが、イベントは絶賛開催中です！
• 弊サークル、元々は「ZENKEI AI FORUM」通称「ZAM」 として活動してましたが、
  前回の技術書典１４から
  灰泥はいどろ屋書院
  と改名しました！（よろしくお願いします！）
  • これまで、７冊の本を出してきました
  • 今回も引き続き、これら既刊の本を継続頒布中です
• ってことで、イベントも明日 11/26 （日曜日）が最終日でもありますし、
  既刊の紹介コーナー！



• エッセイ　音楽と数理　ポッドキャストは自由にする（抄）
  • ぼくの単著の最新刊！
  • amazon 版： エッセイ　音楽と数理　ポッドキャストは自由にする
    • 「技術書典」は「後から印刷」、つまり本体は「上質紙」ですが、
    • 「amazon」は Kindle Direct Publishing ペーパーバックの 「クリーム用紙」です。
  • https://twitter.com/ichiki_k/status/1728288921610850617



• 音楽と数理　才能にたよらない耳コピ
  • ぼくの１冊目、「技術同人誌」沼に入った最初の１冊
  • amazon 版： 音楽と数理　才能にたよらない耳コピ
    • 「技術書典」は日光企画のオフセット印刷、本体は「上質紙」ですが、
    • 「amazon」は Kindle Direct Publishing ペーパーバックの 「クリーム用紙」です。
  • https://twitter.com/ichiki_k/status/1728291890943144067



• 厳密な計算　ふたつの球のなめらかなダンス
  • ぼくの２冊目の本、「数理三部作」構想の２冊目
  • amazon 版： 厳密な計算　ふたつの球のなめらかなダンス
    • 「技術書典」は日光企画のオフセット印刷、 本体は淡キンマリ、遊び紙「赤」です。
    • 「amazon」は Kindle Direct Publishing ペーパーバックの 「クリーム用紙」です。
  • https://twitter.com/ichiki_k/status/1728312822084284889



• ZAM 季報 VOL.1
  • 弊サークルのはじめての「サークル誌」
  • こちら「技術書典」の紙版は、抜き刷り版（本文66ページ） 本文フルカラーとなります。
  • amazon 版： ZAM 季報 VOL.1: ２０２１年７月号
    • 「amazon」は Kindle Direct Publishing ペーパーバックの プレミアムカラー印刷（本文フルカラー）です。
    • また内容は（「技術書典」の電子版と同様） 本文 186 ページのフルコンテンツです。



• ZAM 季報 VOL.2
  • 弊サークルの「サークル誌」、２巻目です。
  • amazon 版： ZAM 季報 VOL.2: ２０２２年９月号
    • 「amazon」は Kindle Direct Publishing ペーパーバックの プレミアムカラー印刷（本文フルカラー）です。



• Jupyter BookでAIの解説本を書く方法
  • サークルメンバーの中野裕さん執筆の本



• ゼロからはじめるAI
  • サークルメンバーの furukawa さん執筆の本

• （Gigazine さん、お願い）
• 個人的には、ツイッター（と言い続けますが）のタイムラインで追ってましたが、
  もう疲れ切ったので、ここでは「驚き度」一割増の Gigazine さんの記事で振り返っておきます。
• AI開発企業・OpenAIのサム・アルトマンCEOが退任、暫定CEOにミラ・ムラティCTO (2023年11月18日 08時56分)
• 突如OpenAIを追放されたサム・アルトマンに一体何が起こっているのか？時系列順まとめ (2023年11月20日 12時30分)

• https://twitter.com/OpenAI/status/1727206187077370115
  

  We have reached an agreement in principle
  for Sam Altman to return to OpenAI as CEO
  with a new initial board of
  * Bret Taylor (Chair),
  * Larry Summers,
  * and Adam D'Angelo.
  
  We are collaborating to figure out the details.
  Thank you so much for your patience through this.
        

• https://twitter.com/eshear/status/1727210329560756598
  • 
    Emmett Shear は元 Twitch の CEO で、 Sam Altman 解任後の取締役会が選んだ interim CEO として、 今回の騒動を Thanksgiving holiday 前にまとめ上げた功労者（かな）
  
  
  
  
  
  
  
  
• https://twitter.com/hlntnr/status/1727207796456751615
  • 
    Helen Tonar は元取締役会のメンバーで、 直前のレポート（論文？）で OpenAI をディスって Anthropic を持ち上げてる、と 揶揄されていた
  
  
  
  
  
  
  
• 途中の憶測に関しては、
  • 特に Quaro の CEO で元の取締役会のメンバーの一人でもあった Adam D'Angelo が、
    「GPTs の発表を快く思わずに……」みたいなものもあったが、
    今の暫定的な３人の取締役会の一人に任命されているところを見ると、 そんな話ではそもそもなかったんでしょうね

• https://twitter.com/ichiki_k/status/1726138881530384801
  (4:22 PM · Nov 19, 2023)
  

  OpenAIの御家騒動、外野には分からない所があるのは承知で、感じること。
  
  なんかヘン、自分の感覚とズレてる、と。
  
  サムはやり手、イリヤは頭脳。
  非営利を謳い、でも金が(開発を)支配。
  結局、危機より成功を目指す集団だったのか OAI エンジニア。
  あのハートマークの嵐、日本の学校のいじめを想起させる
        

  
• https://twitter.com/ichiki_k/status/1726489804546949291
  (3:37 PM · Nov 20, 2023)
  

  OpenAIの話、寝てる時かんがえてたこと。
  
  これまでも AI リスクを原爆に例える人居たけど、
  * OAI はマンハッタン計画、
  * ヒントンはアインシュタイン、
  * サムはルーズベルト、
  * イリヤはオッペンハイマー、
  
  的な立ち位置になるのかな、と。
  
  イリヤは歴史に学び、行動を起こした、と見るべきなのかな、と
        

  
• https://twitter.com/ichiki_k/status/1726854158408691861
  (3:44 PM · Nov 21, 2023)
  
  • https://open.spotify.com/episode/4i4lKsKevNSGEUnuu7Jzn6
    
  • https://youtu.be/Ut9zcpOEGgc
    

• https://twitter.com/ichiki_k/status/1726856614345675262
  (3:54 PM · Nov 21, 2023)
  

  OAI 今回の騒動に、
  AI リスクが関係なければ（金持ちのパワーゲームなら）
  そっちはもうどうでもよい。
  
  ネタに使われたにせよ、
  イリヤがそれでも懸念していた AI リスクは、
  やっぱり無視できないよね
  （内部の当事者しか、彼らの研究中のモデルの能力は分からないから、あれこれ憶測せざるを得ない）
  
  イリヤのガーディアンのビデオで
  
  「高速道路作る時、野生動物にいちいち許しを求めない」
  
  というのは、その通りだよね。
  
  今の日本だと「きみら、熊の立場になるんだぞ」ってことだよね。
  今の世界だと「きみら、パレスチナの人になるんだぞ」ってことでもあるよね。
  
  それには、やっぱり対策が必要だよね
        

  • Ilya のビデオってのは、以下のこと
    Ilya: the AI scientist shaping the world
    

• （今回の騒動の熱りが覚めたら、冷静に見ておこうと思うビデオリスト）
• The Exciting, Perilous Journey Toward AGI | Ilya Sutskever | TED
  
• No Priors Ep. 39 | With OpenAI Co-Founder & Chief Scientist Ilya Sutskever
  
• Ilya Sutskever (OpenAI) and Jensen Huang (NVIDIA CEO) : AI Today and Vision of the Future (3/2023)
  

• https://twitter.com/ichiki_k/status/1728324454084903198
  (5:07 PM · Nov 25, 2023)
  

  やばい、
  今回の OAI 騒動を（AI FORUM のために）さらっとまとめてたら、
  BGM ながしてたユーチューブさんが Donald Fagen の I.G.Y. を選曲。
  
  "A just machine to make big decisions
  Programmed by fellows with compassion and vision"
  
  って歌ってる……
        

  • https://youtu.be/Ueivjr3f8xg
    
  • 歌詞については、例えば、以下を参照
    https://magictrain.biz/wp/2019/06/post-1937/

• [1hr Talk] Intro to Large Language Models
  

  "compression"
  "dreaming"
  
  strategy:
  pretraining (base model)
  -> fine-tuning (by human) (assistant model)
  
  llama2 も base model と assistant model を出してる
  
  RLHF は step 3 に位置する (labeling instructins と呼んでいる）
  
  "Chatbot Arena" なんてものがあるんだね
  
  
  
  System 2 のはなし
  
  "LLM OS" と言っているが、「LLM 生物」だよね。
  怖いというか、 Eliezer がなんというか？
  sandbox とか、考えてるのかな？
  
  今の chatbot がさまざまな internet service に組み込まれている現状が、
  実際のところ、この "LLM OS" 的な、「LLM 生物」に、結果としてなってるよね
  
  napalm?
  
  jailbreak の１つのテク
  base64 にテキストをエンコードして投げると、セキュリティをパスできる？ (Claude 1.3)
  
  "Universal Transferable Suffix" って、なんや？
        

  

• YouTube: CBMM10 Panel: Research on Intelligence in the Age of AI

• 前回の「こんにちわ！ AI FORUM」 KAF-2310 でも
  読書の秋
  のはなし、そういえば、しましたね。

• 前回の「音楽と数理」ポッドキャストの 「〈トーク〉AIと意識」
  
  
  

• （その１）『科学と生命と言語の秘密』松岡正剛、津田一郎　ライン
  



• （その２）『AI に意識は生まれるか』金井良太 ライン
  



• （その３）『数理と意識研究が交わる最先端』数学セミナー2023年12月号 ライン
  



• （その４）『自由エネルギー原理と AI』人工知能2023年11月号 ライン
  



• （おまけ）意識の科学としての瞑想

……

今後の予定

• 次回「こんにちわ！ AI FORUM」は
  
  2023 年 12 月 23 日（土曜日）
  開催の予定です！
  
  
  • ご意見、ご希望など、お気軽に！
• フォーラム講演者、サークル同人誌活動への執筆者、絶賛、大募集中です！
  お気軽にお問い合わせください！

総合目次

• 前座 技術書典１５
  • 既刊の紹介コーナー！
  • エッセイ　音楽と数理　ポッドキャストは自由にする（抄）
  • 音楽と数理　才能にたよらない耳コピ
  • 厳密な計算　ふたつの球のなめらかなダンス
  • ZAM 季報 VOL.1
  • ZAM 季報 VOL.2
  • Jupyter BookでAIの解説本を書く方法
  • ゼロからはじめるAI
• パート１ OpenAI のドタバタ（簡単に）
  • 今の時点で（ぼくの把握している）状況
  • 主観的経験 -- 自分のツイートから
  • 主観的経験 -- 最終的な気分
  • 重要人物の心のうち -- Ilya Sutskever
  • 後日談（というか、シンクロニシティ）
  • （おまけ）Andrej Karpathy の LLM のビデオ
  • （おまけのおまけ）CMBB10 でのジェフリー、デミス、イリヤ
• パート２ 読書の秋、勉強の秋
  • 与太話をネタに -- 「音楽と数理ポッドキャスト」より
  • 「意識のサイエンス」への４つのパス（プラスα）
• 今日のおわりに