MLINFO COLLECTION

LLM Fine-tuning

LoRA、RLHF、SFT、軽量ファインチューニングなど、LLMを用途に合わせる技術を扱います。

記事一覧

10 / 36
github実装リンクあり

Static-to-Dynamic-LLMEval — The official GitHub repository of the paper "Recent advances in large language model benchmarks against data contamination: From static to dynamic evaluation"

静的評価から、動的評価に進むことができるようにする方法を提案した研究。この研究では、大規模言語モデルを用いてデータ汚染を防ぐための評価方法について検討している。

Large language modelの評価方法について
huggingface実装リンクあり

OpenESM: Energy-Steered Models Are Scalable Foundation Learners

Energy-based models have shown promising properties for domain-specific tasks but remain challenging in modeling general-purpose scenarios. To bridge this gap, we design energy-steered models (ESMs)…

nlp