Die einzelnen Dateneingaben werden in Form von „ Tensoren ” im PyTorch und „ Farbverläufe ” von Tensoren werden mithilfe der Rückwärtsausbreitung innerhalb der Trainingsschleife eines Deep-Learning-Modells berechnet. Der Begriff ' unskaliert „bedeutet, dass die Daten roh sind und keine Vorverarbeitung oder Optimierung erforderlich ist. Der unskalierte Gradient eines Tensors liefert den wahren Wert der Änderung der angegebenen Verlustfunktion.
In diesem Blog besprechen wir, wie man den unskalierten Gradienten eines Tensors in PyTorch berechnet.
Was ist ein unskalierter Gradient eines Tensors in PyTorch?
Tensoren sind mehrdimensionale Arrays, die Daten enthalten und auf GPUs in PyTorch ausgeführt werden können. Die Tensoren, die Rohdaten aus dem Datensatz ohne Vorverarbeitung, Transformationen oder Optimierungen enthalten, werden als unskalierte Tensoren bezeichnet. Allerdings ist ein „ Unskalierter Farbverlauf ” unterscheidet sich von einem unskalierten Tensor und es muss darauf geachtet werden, die beiden nicht zu verwechseln. Ein unskalierter Gradient eines Tensors wird in Bezug auf die ausgewählte Verlustfunktion berechnet und weist keine weiteren Optimierungen oder Skalierungen auf.
Wie berechnet man den unskalierten Gradienten eines Tensors in PyTorch?
Der unskalierte Gradient eines Tensors ist der tatsächliche Wert der Änderungsrate der Eingabedaten bezüglich der ausgewählten Verlustfunktion. Die rohen Gradientendaten sind wichtig, um das Verhalten des Modells und seinen Fortschritt während der Trainingsschleife zu verstehen.
Befolgen Sie die folgenden Schritte, um zu erfahren, wie Sie den unskalierten Gradienten eines Tensors in PyTorch berechnen:
Schritt 1: Beginnen Sie das Projekt mit der Einrichtung der IDE
Die Google Colaboratory IDE ist eine der besten Optionen für die Entwicklung von PyTorch-Projekten, da sie freien Zugriff auf GPUs für eine schnellere Verarbeitung bietet. Gehe zum Colab Webseite und klicken Sie auf „ Neues Notizbuch ” Option, um mit der Arbeit zu beginnen:
Schritt 2: Importieren Sie die Essential Torch-Bibliothek
Die gesamte Funktionalität des PyTorch-Frameworks ist im „ Fackel ' Bibliothek. Jedes PyTorch-Projekt beginnt mit der Installation und dem Import dieser Bibliothek:
!pip Brenner installierenTaschenlampe importieren
Der obige Code funktioniert wie folgt:
- „! Pip „ist ein Installationspaket für Python, das zum Installieren von Bibliotheken in Projekten verwendet wird.
- Der ' importieren Der Befehl „wird verwendet, um die installierten Bibliotheken in das Projekt aufzurufen.
- Dieses Projekt benötigt lediglich die Funktionalität des „ Fackel ' Bibliothek:
Schritt 3: Definieren Sie einen PyTorch-Tensor mit Gradient
Benutzen Sie die „ Fackeltensor ()“ Methode zum Definieren eines Tensors mit einem Gradienten „ erfordert_grad=True ' Methode:
A = Torch.tensor([5.0], require_grad=True)Schritt 4: Definieren Sie eine einfache Verlustfunktion
Eine Verlustfunktion wird mithilfe einer einfachen arithmetischen Gleichung wie folgt definiert:
loss_function = A*5 
Schritt 5: Berechnen Sie den Farbverlauf und drucken Sie ihn als Ausgabe aus
Benutzen Sie die „ rückwärts ()“-Methode zur Berechnung des unskalierten Gradienten wie gezeigt:
loss_function.backward()unscaled_grad = A.grad
print('Unskalierter Gradient des PyTorch-Tensors:', unscaled_grad)
Der obige Code funktioniert wie folgt:
- Benutzen Sie die „ rückwärts ()“-Methode zur Berechnung des unskalierten Gradienten durch Rückwärtsausbreitung.
- Weisen Sie „ A.grad ' zum ' unskalierter_Grad ” variabel.
- Verwenden Sie zum Schluss das „ drucken ()“-Methode zur Darstellung der Ausgabe des unskalierten Farbverlaufs:
Notiz : Hier können Sie auf unser Colab-Notizbuch zugreifen Verknüpfung .
Profi-Tipp
Der unskalierte Gradient von Tensoren kann die genaue Beziehung der Eingabedaten mit der Verlustfunktion für ein neuronales Netzwerk innerhalb des PyTorch-Frameworks zeigen. Der unbearbeitete Rohverlauf zeigt, wie beide Werte systematisch zusammenhängen.
Erfolg! Wir haben gerade gezeigt, wie man den unskalierten Gradienten eines Tensors in PyTorch berechnet.
Abschluss
Berechnen Sie den unskalierten Gradienten eines Tensors in PyTorch, indem Sie zuerst den Tensor definieren und dann die Methode „backward()“ verwenden, um den Gradienten zu finden. Dies zeigt, wie das Deep-Learning-Modell die Eingabedaten mit der definierten Verlustfunktion in Beziehung setzt. In diesem Blog haben wir eine schrittweise Anleitung zur Berechnung des unskalierten Gradienten eines Tensors in PyTorch gegeben.