
什么是 REST API?
动态图 vs 静态图
.backward()
即时反向),生产可转为TorchScript;session.run
,2.x开启Eager模式,兼顾动态图与静态图优化。生态与部署
性能对比
torch.Tensor
+ autograd
;tf.Tensor
+ GradientTape
。nn.Module
,实现forward
;tf.keras.Model
或函数式API。torch.utils.data.Dataset
+ DataLoader
;tf.data.Dataset
支持map
、batch
、prefetch
。from transformers import BertForSequenceClassification, Trainer, TrainingArguments, AutoTokenizer
tokenizer = AutoTokenizer.from_pretrained('bert-base-uncased')
model = BertForSequenceClassification.from_pretrained('bert-base-uncased', num_labels=2)
def preprocess(examples):
return tokenizer(examples['text'], truncation=True, padding='max_length')
dataset = dataset.map(preprocess, batched=True)
args = TrainingArguments(output_dir='out', per_device_train_batch_size=16, num_train_epochs=3)
trainer = Trainer(model, args, train_dataset=dataset['train'], eval_dataset=dataset['test'])
trainer.train()
关键点:掌握Trainer
简化训练流程,灵活调整TrainingArguments
参数。
import torch.nn as nn
class Generator(nn.Module):
def __init__(self, latent_dim=100):
super().__init__()
self.net = nn.Sequential(
nn.Linear(latent_dim, 128),
nn.ReLU(True),
nn.Linear(128, 784),
nn.Tanh()
)
def forward(self, z):
return self.net(z).view(-1,1,28,28)
面试提示:能解释ReLU
、Tanh
在生成器中的作用,以及Discriminator
的对抗训练流程。
torch-model-archiver --model-name bert_cls --version 1.0 \
--serialized-file model.pt --handler ./handler.py --extra-files config.json
torchserve --start --ncs --model-store model_store --models bert=bert_cls.mar
docker run -p 8501:8501 \
--mount type=bind,source=$(pwd)/saved_model,target=/models/cls \
-e MODEL_NAME=cls -t tensorflow/serving
优化策略:使用batch_size
与num_workers
调优吞吐,Profile延迟并调整timeout
。
问题 | 要点 |
---|---|
PyTorch 与 TensorFlow 主要区别? | 动静态图对比、API风格、生态与部署选项 |
如何避免Transformer内存爆炸? | 使用gradient_checkpointing 、mixed_precision 、fp16 训练 |
GAN易训练不稳定如何优化? | 添加BatchNorm、谱归一化、改进Loss函数(WGAN-GP) |
BERT微调出现过拟合怎么办? | 使用dropout 、减小学习率、增加训练数据或EarlyStopping |
TensorFlow Serving延迟高问题解决? | 开启batching 、调整model_config 、使用gRPC 并增加Workers |
nn.Module
与tf.keras
训练循环;通过本文的PyTorch/TensorFlow对比分析、三大实战项目示例与面试真题解析,你将全面提升架构思维与代码实操能力,为Python AI面试做好充分准备。祝你斩获Offer,实现职业跃升!