2023のDigitalは、Generative AI祭りで決定的ですね。もはやGenrative AIの学習は全Digital professional必須事項な訳ですが、各機関から良質な情報が日々発信されています。こういうところがDigitalの本当に良いところだなあと思います。とは言いつつも一番ホットな領域故に、日々情報が流れていってしまっていてとても追いきれないというのが個人的な感想です。それではあまりに勿体無いということで、それらをまとめていくことにしました。随時更新致します。
Stanford
- Stanfordから大作レポートが出ていました。実務にはP74からが参考になる感じです
Artificial Intelligence Index Report 2023
https://arxiv.org/abs/2310.03715https://browse.arxiv.org/pdf/2310.03715.pdf
- 話題になっていたChatGPT制御のキャラクターに生活させるテストが面白かったです。実際の様子も公開されています
https://reverie.herokuapp.com/arXiv_Demo/。
超Deepmindっぽいです
https://arxiv.org/abs/2304.03442 - 各主要FMがどの程度EU AI Actの基準を満たしているかのスコアを出していました。AWS界隈が得点高いです
Do Foundation Model Providers Comply with the Draft EU AI Act?https://crfm.stanford.edu/2023/06/15/eu-ai-act.html - StanfordのDeep Generative Modelsの授業のスライドが公開されています
Deep Generative Models - Stanford CS236 - Fall 2023 deepgenerativemodels.github.io/syllabus.html
OpenAI
- Sam Altmanのこのインタビューが面白かったです。Sam Altmanは一気にいま皆んなが一番AI論を聞きたい方になりましたね
Sam Altman: OpenAI CEO on GPT-4, ChatGPT, and the Future of AI | Lex Fridman
https://www.youtube.com/watch?v=L_Guz73e6fw&t=354s - OpenAI発のdeep reinforcement learningの学習サイトが出来ています
OpenAI Spinning Up
MIT
- やっぱりGenAIもMITの講義がいいなと思う。GenAIを前面に出した講義が出たら、certification取得も含めてガッツリ取り組む
MAS.S68: Generative AI for Constructive Communication Evaluation and New Research Methods
https://ai4comm.media.mit.edu/ - Introductionとはなっていますが、本格的な内容をすべて公開してくれています
MIT Introduction to Deep Learning
a16z
- a16zのGenAIの素晴らしいまとめ・データが出ていました。やはりユーザー自体が使いたがっていて支払傾向も高いというところが印象的です
How Are Consumers Using Generative AI?
- LLMの学習への訴訟対策をOpenAIはどうするつもりなんだろうと常々思ってたのですが、fair use でいけるかもしれないというのになるほどここの論点で闘うつもりなのかなと思いました
The Generative AI Battle Has a Fundamental Flaw
https://www.wired.com/story/artificial-intelligence-copyright-law/
Google
-
Generative AIのMOOCSは、今のところgoogleが一番ユーザー貢献性が高い気がする。Microsoft igniteの方は、若干GitHubを読んでいるような気分になってしまうような
Generative AI on Google Cloud: New training content, from introductory to advanced
-
直近では、GenAIのトレーニング提供はGCPが一番頑張っている様な気がする Generative AI for developers: New no-cost labs in Google Cloud
-
いよいよGeminiも公開されますね。やっぱりこれだけ群雄割拠だと、ChatGPT一強に収束するのはあまりイメージ湧かないと思ったりします
Google nears release of AI software Gemini, The Information reports
https://www.reuters.com/technology/google-nears-release-ai-software-gemini-information-2023-09-15/
-
Google Cloud Nextも、当然にGnerative AIへのフォーカスです
All 161 things we announced at Google Cloud Next ‘23 – a recap
-
Googleからのプロンプトの公式ガイドも出ています
ai.google.devhttps://ai.google.dev/docs/prompt_best_practices?hl=ja
DeepMind
-
Generative AIの次の段階って、どんなものなんだろうと思うこともありますが、なんとなくこのInteractive AIが一番イメージ湧きます
DeepMind’s cofounder: Generative AI is just a phase. What’s next is interactive AI.
Mck
- Gen AIの厚めのレポートがMckから出てました。やはり全業種でプライべートでの活用率が高いのがこれからの実装フェーズのポテンシャルを感じさせますね
The state of AI in 2023: Generative AI’s breakout year
- 記事の内容も秀逸だけれど、GenAIのアーキテクチャ図が印象的
Technology’s generational moment with generative AI: A CIO and CTO guide
Deloitte
- DeloitteがGenAIのユースケースの対策レポートを出している 業界別生成AI活用のすすめ~The Generative AI Dossier~
AWS
Microsoft
- Azure OpenAIについて、図解を多用してとても分かりやすく説明してくれています
ChatGPT - Azure OpenAI 大全
- Agentic AIについてとてもわかりやすくまとめてくれています。2025の最重要アジェンダですね
NCSC
- NCSCがAI開発のセキュリティガイドラインを発表しています。
Guidelines for secure AI system development
東京大学
- 東京大学サマースクール LLM 大規模言語モデル講座
LLM 大規模言語モデル講座の資料をすべて公開してくれています値段をつけたら数十万円の価値だと思います
松尾研究室 - 東京大学サマースクール LLM 大規模言語モデル講座
weblab.t.u-tokyo.ac.jp/llm_contents/ - AIの進化と日本の戦略
松尾先生が日本の取るべき戦略を提言されています。ランドスケープの把握にもとても役立ちます
https://note.com/api/v2/attachments/download/a29a2e6b5b35b75baf42a8025d68c175
-
東京大学 松尾・岩澤研究室youtube channel
https://www.youtube.com/@weblab2121定期的に開催される勉強会の質が非常に高いです
- 誰でもわかる強化学習
エッセンスがとてもわかりやすくコンパクトにまとめられています
Preferred Networks
- 岡野原さんの圧巻の発表です。CEDECでの講演なので、ゲームをヒューチャーしてますが、どちらかというとLLM・Generative AIの説明として大変に優れています
その他
- Generative AIの次フェーズをAI agentとする論説も多いですが、arXif Top 10 papersがまとめられています
The Top 10 arXiv Papers About AI Agents
- FTがTransformerの仕組みをリッチなアニメーションでわかりやすく説明してくれています
Generative AI exists because of the transformer - FINANCIAL TIMES
- 放置系UXって面白い概念だなと思いました生成AI時代におけるUXデザインhttps://speakerdeck.com/kajikent/sheng-cheng-aishi-dai-niokeruuxdezain?slide=107
- CRDSからGenAIの大作レポートが出ていました。俯瞰的に情報を丁寧に揃えてくれているのと、現状論点をほとんど網羅しているんじゃないかと思いますhttps://www.jst.go.jp/crds/pdf/2023/RR/CRDS-FY2023-RR-02.pdf
- GenAIに取り組むにあたって理解しきっておきたいattentionを図解で丁寧に分かりやすく説明してくれてます。
http://cs231n.stanford.edu/slides/2021/lecture_11.pdf -
STATE OF AI2024が出ています。昔のInternet trendの様に概観を掴むのには非常に有用なのと、予測がかなりの精度で当たってきた経緯があります。HintonのNovel Prizeもスライドに入っていました。
STATE OF AI REPORT 2024.
https://stateof.ai(https://t.co/eqdpQ9tcxT)