人工知能の完全辞典
GPTモデルにおける学習可能なパラメータの総数で、モデルの規模に応じて百万(GPT-1)から兆(GPT-4)まで変化します。パラメータサイズは、モデルが複雑な言語パターンを捉える能力に直接影響します。
推論時にGPTモデルが1秒あたりに生成できるトークン数を示すパフォーマンス指標で、モデルサイズ、計算の最適化、使用されるハードウェアによって影響されます。このメトリックはリアルタイムアプリケーションにとって重要です。