Text Generation Inference（TGI）基準測試工具使用指南

Hugging Face 介紹如何使用 TGI Benchmarking 工具，測量 Text Generation Inference（TGI）在不同 batch size 下的吞吐量與延遲，並據此調整部署設定。