ThinkWi-KI

Künstliche Intelligenz erklärt – verständlich und praxisnah

Benutzer-Werkzeuge

Webseiten-Werkzeuge


methoden:transformer

Unterschiede

Hier werden die Unterschiede zwischen zwei Versionen angezeigt.

Link zu dieser Vergleichsansicht

Beide Seiten der vorigen RevisionVorhergehende Überarbeitung
Nächste Überarbeitung
Vorhergehende Überarbeitung
methoden:transformer [2025/05/11 14:47] – Externe Bearbeitung 127.0.0.1methoden:transformer [Unbekanntes Datum] (aktuell) – Externe Bearbeitung (Unbekanntes Datum) 127.0.0.1
Zeile 1: Zeile 1:
 ====== 05. Transformer-Architektur ====== ====== 05. Transformer-Architektur ======
 +Siehe auch: [[theorie:begriffe|Transformer-Architektur]]\\ \\
  
 Transformer sind die Architektur-Grundlage moderner Sprachmodelle wie GPT. Sie wurden 2017 in dem Paper „Attention is All You Need“ vorgestellt. Transformer sind die Architektur-Grundlage moderner Sprachmodelle wie GPT. Sie wurden 2017 in dem Paper „Attention is All You Need“ vorgestellt.
  
 ==== Hauptkonzepte ==== ==== Hauptkonzepte ====
-  * **Self-Attention**: Das Modell bezieht sich auf alle Eingabewörter gleichzeitig, nicht sequentiell.+  * **[[glossar:self-attention|Self-Attention]]**: Das Modell bezieht sich auf alle Eingabewörter gleichzeitig, nicht sequentiell.
   * **Encoder-Decoder-Struktur**: Ursprünglich für Übersetzungsaufgaben, später weiterentwickelt.   * **Encoder-Decoder-Struktur**: Ursprünglich für Übersetzungsaufgaben, später weiterentwickelt.
   * **Skalierbarkeit**: Ermöglicht paralleles Training riesiger Modelle.   * **Skalierbarkeit**: Ermöglicht paralleles Training riesiger Modelle.
Zeile 12: Zeile 13:
  
 ==== Weiterführende Seiten ==== ==== Weiterführende Seiten ====
-  * [[methoden:llm|Large Language Models]]+  * [[methoden:llm|[[methoden:llm|Large Language Models]]]]
   * [[glossar:transformer|Glossar: Transformer]]   * [[glossar:transformer|Glossar: Transformer]]
  
 {{tag>methoden transformer architektur}} {{tag>methoden transformer architektur}}
methoden/transformer.1746967621.txt.gz · Zuletzt geändert: 2025/05/11 14:47 von 127.0.0.1

Donate Powered by PHP Valid HTML5 Valid CSS Driven by DokuWiki
Chat
WiKiBot ×
Laden...