ThinkWi-KI

Künstliche Intelligenz erklärt – verständlich und praxisnah

Benutzer-Werkzeuge

Webseiten-Werkzeuge


methoden:transformer

Unterschiede

Hier werden die Unterschiede zwischen zwei Versionen angezeigt.

Link zu dieser Vergleichsansicht

Nächste Überarbeitung
Vorhergehende Überarbeitung
methoden:transformer [2025/05/10 18:47] – angelegt - Externe Bearbeitung 127.0.0.1methoden:transformer [Unbekanntes Datum] (aktuell) – Externe Bearbeitung (Unbekanntes Datum) 127.0.0.1
Zeile 1: Zeile 1:
-====== Transformer-Architektur ======+====== 05. Transformer-Architektur ====== 
 +Siehe auch: [[theorie:begriffe|Transformer-Architektur]]\\ \\
  
 Transformer sind die Architektur-Grundlage moderner Sprachmodelle wie GPT. Sie wurden 2017 in dem Paper „Attention is All You Need“ vorgestellt. Transformer sind die Architektur-Grundlage moderner Sprachmodelle wie GPT. Sie wurden 2017 in dem Paper „Attention is All You Need“ vorgestellt.
  
 ==== Hauptkonzepte ==== ==== Hauptkonzepte ====
-  * **Self-Attention**: Das Modell bezieht sich auf alle Eingabewörter gleichzeitig, nicht sequentiell.+  * **[[glossar:self-attention|Self-Attention]]**: Das Modell bezieht sich auf alle Eingabewörter gleichzeitig, nicht sequentiell.
   * **Encoder-Decoder-Struktur**: Ursprünglich für Übersetzungsaufgaben, später weiterentwickelt.   * **Encoder-Decoder-Struktur**: Ursprünglich für Übersetzungsaufgaben, später weiterentwickelt.
   * **Skalierbarkeit**: Ermöglicht paralleles Training riesiger Modelle.   * **Skalierbarkeit**: Ermöglicht paralleles Training riesiger Modelle.
Zeile 12: Zeile 13:
  
 ==== Weiterführende Seiten ==== ==== Weiterführende Seiten ====
-  * [[02_methoden:llm|Large Language Models]] +  * [[methoden:llm|[[methoden:llm|Large Language Models]]]] 
-  * [[04_glossar:transformer|Glossar: Transformer]]+  * [[glossar:transformer|Glossar: Transformer]]
  
 {{tag>methoden transformer architektur}} {{tag>methoden transformer architektur}}
methoden/transformer.1746895662.txt.gz · Zuletzt geändert: 2025/05/10 18:47 von 127.0.0.1

Donate Powered by PHP Valid HTML5 Valid CSS Driven by DokuWiki
Chat
WiKiBot ×
Laden...