ZENKEI AI FORUM - ZOOM ライブ (2021/06/30)

...♦...

ZAF ２０２１年６月

今回の内容

２０２１年も半分終わるよ！

０ - 前座
- ００ - ZAM 近況
  - ZAM ３月号、印刷版、届きました！
  - ZAM ５月号、できました！
  - （ZAM ４月号、これから仕上げます）
- ０１ - 技術書典１１
  - 『ZAM季報』執筆者、大々大募集です！！
１ - 北陸観光コア人材育成スクールについて（全景荒井）
- JAIST の敷田研究室が主宰している
  「観光コア人材育成スクール」のご案内です。
２ - 続々東海道５Ｘ（チーム・ホンダ）
- 去年８月が１回目、今年３月に２回目、
  で今回完結編か！？
  それともまだ続くのか？！
３ - 最近の話題から（いちき）
- GPT-3 で遊んでみた！
４ - きょうのさいごに

...♦...

００ - ZAM 近況

ZAM ３月号印刷版届きました！

オンラインフォーラムの投稿

ZAM ５月号

今回はスケジュール通り、リリースしました！

オンラインフォーラムの投稿
screenshots

ZAM ４月号は？

ZAM ４月号は、後回しにしてしまいました……

...♦...

０１ - 技術書典１１

７月１０日〜７月２５日まで開催（オンライン）

いちきの本

自分の本、今回予定していた新刊『μ（マイクロ）流体力学』

は断念することにしました（執筆が進まなかったので）。
待ってた方、もうしばらくお待ちください。

サークルの本

『ZAM 季報』を創刊しよう！

オンラインフォーラムにスレッド切りました！

...♦...

まずはゴールを見える形にする意味で『表紙（仮）』を作りました！（またかっ）

...♦...

計画（プラン）
予定では『月刊 ZAM』は１月号から６月号まであるはずのあので、ベースはその合本
内容的な目玉は「書き下ろしコンテンツ」です
サークルメンバーのみなさんからの寄稿を募集しています！

...♦...

今のところ集まった原稿

ZAF にこれまで何度も参加してもらっている河村さんから
『日常で使えない英語トリビア』
というタイトルの原稿をいただきました！
- 第１回はアメリカのテレビドラマ『Person of Interest』です！
- 原稿のチラ見せです！

...♦...

そのほか、編集長のコネを駆使して、現在、３〜４本、原稿依頼中です
- 『最近読んで面白かった本について』とか
- ホンダさんとか、古川さんとか、とか、とか……
締め切りは、７月第１週まで待ちます！
みなさんも原稿書いてみませんか？
AI に直接関係なくてもオッケーです
- 北陸の風景画とか
- スナップショット写真とか
- 短歌とか俳句とか
- エッセイとか
- 短編推理小説とか
なんでもオッケーです！！

...♦...

１ - 北陸観光コア人材育成スクールについて（全景荒井）

オンラインフォーラムの投稿

...♦...

２ - 続々東海道５Ｘ（チーム・ホンダ）

今回、シリーズ（？）の３回目ですね！

１回目（２０２０年８月２６日）
２回目（２０２１年３月３１日）
ということで、３回目
事前打ち合わせメールには……

...♦...

３ - 最近の話題から（いちき）

OpenAI から API の招待きました！
これ、何かというと、ずーっと昔（１年前）
「GPT-3 を使いたい」
と OpenAI さんに API 利用の申し込みをしていたことへの返事！

...♦...

GPT-3 といえば、
ZAF ２０２０年７月２９日の『最近の話題から』で触れている
- YouTube
- ポッドキャスト S07E03 最近の話題から、GPT-3
そのときのノートから
最近の話題からー２０２０年夏ーその１、GPT-3
- 今回のニュース
  - 「GPT-3」は思ってたより「やばい」ものだった。
    話し言葉でプログラミングまでこなすAI
    (安藤隆史 2020年7月22日)
- そもそも GPT-2 とは？
  - 去年の夏ごろ（2019/08/20）
    GPT-2: 6-Month Follow-Up (AUGUST 20, 2019)
    - 2019 年２月にアナウンスされた GPT-2 の、発表後６ヶ月のレポート
    - 小さめのモデルから順次出していく、というアプローチは、
      セキュリティの観点から行われたもの
    - 世間一般の捉え方は、しかし、センセーショナルな側面の強調に終始
      「危険すぎる」と言われたAIの自動文章作成ツール
      「GPT-2」のモデルが新たに公開へ (2019年08月21日)
  - GPT-2 というモデルは
    - BERT などと同様、 Transformer ベースの NLP モデル
    - BERT と異なり、 Language Model タイプのモデルで、
      様々なタスク（翻訳）も Language Model の形式で処理する
```
入力： Translate English to French: cheese =>
出力： fromage
		  
```
    - ポイントは、巨大なモデルで、巨大なデータセットで学習したこと
    - あと「zero-shot」といって、学習済みモデルを fine-tuning せずに使う（使える）
  - PyTorch GPT-2でサクッと文章生成してみる (2019.03.10)
- GPT-3 とは？
  - 論文： arxiv: 2005.14165
    Language Models are Few-Shot Learners (Tom B. Brown et al.)
  - https://twitter.com/hardmaru/status/1266185943041495041
  - 超巨大高性能モデルGPT-3の到達点とその限界 (akira Jul 24)
  - GPT-2 とのモデル上の違いは、 zero-shot から few-shot に
    - 上の翻訳の例で言うと
```
入力：
Translate English to French:
sea otter => loutre de mer
peppermint => menthe poivree
plush girafe => girafe peluche
cheese =>
出力： fromage
		  
```
      と、問題に対する正解例を何個か含めるというもの。
  - もう１つの GPT-2 との大きな違いは、リリース方法
    - プログラムと学習済みモデルの提供は行わず、
      API 経由での利用という形でのリリース
    - OpenAI API (JUNE 11, 2020)
  - 世間の衝撃
  - じゃ、使ってみようか、と思ったとき
    - 英語だけです

...♦...

（２０２１年６月３０日に戻ってきました）
アカウントをセットアップ！
これが Dashboard だ！！
(beta.openai.com)
Playground (beta.openai.com/playground)
同じ質問を投げても、結果は毎回変わりうる (stochastic)
日本語は？
お金はかかるの？
(beta.openai.com/pricing)
下の方に、マイクロソフトのロゴがありますね
結局、何ができるの？
(beta.openai.com/examples)

...♦...

OpenAI のダッシュボードに行ったり来たりしてたら、
ヘッダーにノーティフィケーションが出てきて、
GitHub に Copilot ってサービスがはじまったよ！と
Copilot (copilot.github.com)
早速、サインアップしておく
- 辛抱強い人間なので（GPT-3 は１年待ったしな）