Transformer の登場

すべては2017年の "Attention Is All You Need" から始まりました。

近年のトレンド

パラメータ数の増大と小規模モデルの台頭

巨大化の一途を辿る一方で、7B〜14Bクラスの扱いやすい軽量モデル（ローカルLLM）も非常に賢くなってきています。