Bag of ML Words

ML = Machine Learning, Music Love, and Miscellaneous things in daily Livings

2023-01-01から1ヶ月間の記事一覧

Radford+, "Language Models are Unsupervised Multitask Learners", OpenAi Tech Rep. 2019 (a.k.a. GPT-2) 読んだ

GPT-2もなんとか書いたぞ・・・ まだ、まだビハインドではないはずだ 正直、GPT-1論文ほどの感動がなくて、当時もうーんと思った覚えがある。今もうーんとなっている。 次、GPT-3。世のbotとか、GPT-3 APIになってからクオリティが上がった気がするので、gp…

Radford+, "Improving Language Understanding by Generative Pre-training", 2018

まずは最初のコミットメントとして。ちゃんと読んだぞ・・・ 次はGPT2 Radford+, "Improving Language Understanding by Generative Pre-training", 2018 · Issue #9 · k-ishiguro/Papers-metome · GitHub

2023年のゴール(仕事編)

去年、行動の改善・習慣化の本をたくさん読んだわけですが、そこで書いてあるのが「宣言効果」の利用です。 つまり、「これやるぞ」と宣言してしまうと、いった手前というプレッシャーが自分にかかるので、困難な習慣の習得などに成功しやすという話です。 …