AI用語集

📖

用語

RoBERTa (A Robustly Optimized BERT Pretraining Approach)

BERTの最適化されたバージョンで、訓練ハイパーパラメータを変更し、次の文予測（Next Sentence Prediction）タスクを削除することで、多くのNLUタスクでより良い性能を達成します。

📖

用語

ダウンストリームタスク (Downstream Task)

事前学習済みモデルがファインチューニングによって適応される特定の機械学習タスク（NER、テキスト分類など）。

📖

用語

分類ヘッド (Classification Head)

ファインチューニング時に事前学習済みモデルに追加される最終層で、文脈表現を分類またはシーケンスラベリングタスクの出力にマッピングするように特別に設計されています。

📖

用語

シーケンスラベリング (Sequence Labeling)

入力シーケンスの各トークンにラベルを割り当てるタイプのNLPタスク。NERでは、トークンがエンティティの一部であるかどうかでラベル付けされます。

📖

用語

BIOラベリングスキーム

NER用のラベリング規約で、各トークンをBeginning（エンティティの開始）、Inside（エンティティの内部）、またはOutside（エンティティの外部）としてマークし、複数トークンエンティティを処理します。

📖

用語

マスクド言語モデリング (Masked Language Modeling)

BERTなどのモデルで使用される事前学習目標で、入力トークンの一定割合をマスクし、モデルが文脈に基づいてそれらを予測することを学習します。

📖

用語

Hugging Face Transformers

自然言語処理のための数千の事前学習済みモデル（BERT、RoBERTaなど）を提供するオープンソースライブラリで、それらの使用とファインチューニングを容易にします。

📖

用語

F1スコア (F1-Score)

適合率（precision）と再現率（recall）の調和平均を表す評価指標で、分類モデルのパフォーマンスを測定するための両者間のバランスを提供します。