FastVideo — A unified inference and post-training framework for accelerated video generation.
FastVideoは、加速されたビデオ生成用の統合推論とポストトレーニングのフレームワークです。
ビデオ生成を加速する
MLINFO COLLECTION
深層学習
記事一覧
1 / 45sglang — SGLang is a high-performance serving framework for large language models and multimodal models.
SGLangは、大規模言語モデルのサービングフレームワークです。このライブラリは、高性能なサービスフレームワークで、大規模言語モデルのサービングをサポートしています。
大規模言語モデルのサービングフレームワーク
cs249r_book — Machine Learning Systems: Foundations, Scaling, Agentic AI, and Physical AI (Vols I–IV) • Harvard CS249r | https://mlsysbook.ai
マシンラーニングシステムの理論と実装に関する本。
機械学習システム
vllm — A high-throughput and memory-efficient inference and serving engine for LLMs
このリポジトリでは、私的なAIプラットフォームであるDocGPTを提供しています。
私的なAIプラットフォーム
transformers — 🤗 Transformers: the model-definition framework for state-of-the-art machine learning models in text, vision, audio, and multimodal models, for both inference and training.
🤗 Transformersは、テキスト・ビジョン・音声など複雑なモデル定義をサポートするフレームワークで、インフェレンスターやトレーニングに使用できる。
機械学習モデル定義
openvino — OpenVINO™ is an open source toolkit for optimizing and deploying AI inference
オープンソースのAI推論最適化と展開用ツールキットです。
AI推論の最適化と展開
ncnn — ncnn is a high-performance neural network inference framework optimized for the mobile platform
Neural Network Inference用の高性能フレームワークです。モバイルプラットフォームに最適化されています。
Neural Network Inference
LightX2V — Lightweight Image Video Action Generation Inference Framework
zenmlは、データパイプラインからエージェントまで、AIプラットフォームです。
AI推論を軽量化したインフラ
Sana — SANA: Efficient High-Resolution Image Synthesis with Linear Diffusion Transformer
SANAは、高解像度画像生成モデルSANAを紹介する本研究であり、低計算コストで優れた高解像度画像を生成できる。
高解像度画像合成
LLMs-from-scratch — Implement a ChatGPT-like LLM in PyTorch from scratch, step by step
この研究では、COVID-19臨床パスウェイズの予測監視を支援するために、パイプラインを構築しました。このパイプラインには、データリフティング、時間的再構成、イベントログの構築、プリフィックスベースの表現、予測モデルの整合が含まれています。
医療機器へのアクセスを予測する
faster-whisper — Faster Whisper transcription with CTranslate2
Faster Whisper transcription with CTranslate2
deep-learning
DocsGPT — Private AI platform for agents, assistants and enterprise search. Built-in Agent Builder, Deep research, Document analysis, Multi-model support, and API connectivity for agents.
このリポジトリでは、トークナイザーの最適化を提供しています。
トークナイザーの最適化
peft — 🤗 PEFT: State-of-the-art Parameter-Efficient Fine-Tuning.
パラメータ効率の向上のための最先端のフィネチュニングフレームワークです。
パラメータ効率の向上
opencv — Open Source Computer Vision Library
このリポジトリでは、64MパラメータのGPTを完全にTrainingし、2時間以内に完成させる手法を提供します。
大モデル 2時間で完全にTraining
datasets — 🤗 The largest hub of ready-to-use datasets for AI models with fast, easy-to-use and efficient data manipulation tools
AI用のデータセットを提供するプラットフォームです。
データセットハブ
DeepSpeed — DeepSpeed is a deep learning optimization library that makes distributed training and inference easy, efficient, and effective.
分散トレーニングと推論を容易、効率的に実行するためのディープラーニング最適化ライブラリです。
ディープラーニング最適化ライブラリ
tokenizers — 💥 Fast State-of-the-Art Tokenizers optimized for Research and Production
トークナイザーの高速化を目的としているライブラリ。
トークナイザーの高速化
pytorch-lightning — Pretrain, finetune ANY AI model of ANY size on 1 or 10,000+ GPUs with zero code changes.
AIモデルを高速にトレーニングするためのライブラリ。1台から10000台のGPUで利用可能。
AIモデルトレーニング
segmentation_models.pytorch — Semantic segmentation models with 500+ pretrained convolutional and transformer-based backbones.
セマンティックシーケンス分割モデルのライブラリです。
セマンティックシーケンス分割モデル
pytorch-image-models — The largest collection of PyTorch image encoders / backbones. Including train, eval, inference, export scripts, and pretrained weights -- ResNet, ResNeXT, EfficientNet, NFNet, Vision Transformer (ViT), MobileNetV4, MobileNet-V3 & V2, RegNet, DPN, CSPNet, Swin Transformer, MaxViT, CoAtNet, ConvNeXt, and more
PyTorchで使用できる画像エンコーダとバックボーンの最大のコレクションです。トレーニング、評価、推論など様々なスクリプトや事前の重み付きデータが含まれます。
PyTorchで使用できる画像エンコーダとバックボーン
laya — Non-autoregressive System 1 decision engine. Typed choice, score and yes/no decisions over any text in a single forward pass, in 100+ languages, with a router that picks the right checkpoint per request.
Non-autoregressive System 1 decision engine. Typed choice, score and yes/no decisions over any text in a single forward pass, in 100+ languages, with a router that picks the right checkpoint per reque
deep-learning
pruna — Pruna is a model optimization framework built for developers, enabling you to deliver faster, more efficient models with minimal overhead.
デベロッパー向けのモデロプティミゼーションフレームワークです。モデルの高速化と効率化を実現することができます。
モデロプティミゼーション
multilspy — multilspy is a lsp client library in Python intended to be used to build applications around language servers.
语言サーバーの開発に使用するライブラリを紹介している。
语言サーバーの開発
LlamaFactory — Unified Efficient Fine-Tuning of 100+ LLMs & VLMs (ACL 2024)
LLMやVLMのFine-Tuningを簡素化したライブラリ。
LLMのFine-Tuning