テクノロジ系 / 基礎理論
言語モデル
言語モデルは、単語や文の出現しやすさを学習し、自然な文章を扱うモデルです。
もう少し詳しく
ある単語の次にどんな単語が来やすいかといった、言語の規則性や確率を学習したモデルです。これにより、文章の生成や予測、補完ができます。これを大規模にしたものが大規模言語モデル(LLM)です。自然言語処理の基礎となるモデルです。
試験での見方
例:次に来やすい単語を予測し、文章を生成・補完するのが言語モデルです。
テクノロジ系 / 基礎理論
言語モデルは、単語や文の出現しやすさを学習し、自然な文章を扱うモデルです。
ある単語の次にどんな単語が来やすいかといった、言語の規則性や確率を学習したモデルです。これにより、文章の生成や予測、補完ができます。これを大規模にしたものが大規模言語モデル(LLM)です。自然言語処理の基礎となるモデルです。
例:次に来やすい単語を予測し、文章を生成・補完するのが言語モデルです。
単語・文の出現しやすさを学習する点が核心です。大規模言語モデル(LLM)との関係を押さえましょう。