如何在 PyTorch 中计算梯度？

要计算梯度，张量必须具有它的参数requires_grad=true。梯度与偏导数相同。

例如，在函数y=2*x+1中，x是一个具有requires_grad=True的张量。我们可以使用函数计算梯度，并且可以使用x.grad访问梯度。y.backward()

这里，x.gad的值与y对x的偏导数相同。如果张量x没有requires_grad，则梯度为None。我们可以定义一个多变量的函数。这里的变量是PyTorch张量。

脚步

我们可以使用以下步骤来计算梯度-

导入火炬库。确保您已经安装了它。

import torch

使用requires_grad=True创建PyTorch张量并打印张量。

x = torch.tensor(2.0, requires_grad = True) print("x:", x)

为上述张量x定义一个函数y。

y = x**2 + 1

使用y的后向函数计算梯度。

y.backward()

使用x.grad访问并打印关于上面创建的张量x的梯度。

dx = x.grad print("x.grad :", dx)

示例1

以下示例显示了在PyTorch中计算梯度的详细过程。

# import torch library import torch # create tensors with requires_grad = true x = torch.tensor(2.0, requires_grad = True) # print the tensor print("x:", x) # define a function y for the tensor, x y = x**2 + 1 print("y:", y) # Compute gradients using backward function for y y.backward() # Access the gradients using x.grad dx = x.grad print("x.grad :", dx)输出结果x: tensor(2., requires_grad=True) y: tensor(5., grad_fn=<AddBackward0>) x.grad : tensor(4.)

示例2

在下面的Python程序中，我们使用三个张量x、w和b作为函数y的变量。张量x没有requires_grad并且w和b有requires_grad=true。

# import torch library import torch # create tensor without requires_grad = true x = torch.tensor(3) # create tensors with requires_grad = true w = torch.tensor(2.0, requires_grad = True) b = torch.tensor(5.0, requires_grad = True) # print the tensors print("x:", x) print("w:", w) print("b:", b) # define a function y for the above tensors y = w*x + b print("y:", y) # Compute gradients by calling backward function for y y.backward() # Access and print the gradients w.r.t x, w, and b dx = x.grad dw = w.grad db = b.grad print("x.grad :", dx) print("w.grad :", dw) print("b.grad :", db)输出结果x: tensor(3) w: tensor(2., requires_grad=True) b: tensor(5., requires_grad=True) y: tensor(11., grad_fn=<AddBackward0>) x.grad : None w.grad : tensor(3.) b.grad : tensor(1.)

请注意，x.grad是None。这是因为x是在没有requires_grad=True的情况下定义的。

示例3

# import torch library import torch # create tensors with requires_grad = true x = torch.tensor(3.0, requires_grad = True) y = torch.tensor(4.0, requires_grad = True) # print the tensors print("x:", x) print("y:", y) # define a function z of above created tensors z = x**y print("z:", z) # call backward function for z to compute the gradients z.backward() # Access and print the gradients w.r.t x, and y dx = x.grad dy = y.grad print("x.grad :", dx) print("y.grad :", dy)输出结果x: tensor(3., requires_grad=True) y: tensor(4., requires_grad=True) z: tensor(81., grad_fn=<PowBackward1>) x.grad : tensor(108.) y.grad : tensor(88.9876)