Digitalisierung
Wie gestaltet man einen Chatbot wie ChatGPT?
Welche Antworten ein Chatbot gibt, ist stark davon abhängig, wie er erstellt und trainiert wird, schreibt Tobias Hodel, Assistenzprofessor für Digital Humanities am Walter Benjamin Kolleg der Universität Bern.
Interaktive Sprachmodelle wie ChatGPT können Texte generieren. Sie basieren auf Unmengen an Textdaten, die typischerweise von Millionen unterschiedlicher Internetseiten stammen. Mithilfe eines maschinellen Lernverfahrens versucht der Algorithmus nun, aufgrund der regelmässig auftretenden Zeichenfolgen Muster zu erlernen: Ähnliche Wörter werden zusammengeführt und gegenteilige weit auseinander platziert.
Um daraus einen Chatbot zu erstellen, wird das Sprachmodell mit verschiedenen Aufgaben – etwa dem Ausfüllen von Lückentexten – weiter trainiert: Sinnvoll gelöste Aufgaben werden positiv bewertet und dem System als sinnvoll gekennzeichnet.
Obwohl sie so wirken können, sind solche Systeme keineswegs intelligent. Sie ahmen lediglich nach – ohne jegliche Kreativität. Bei unbekannten Aufgaben errechnen sie scheinbar sinnvolle Texte, die bei näherem Hinsehen jedoch komplett erfunden sind.
Tobias Hodel
Ist Assistenzprofessor für Digital Humanities am Walter Benjamin Kolleg der Universität Bern. Er forscht zu den Konsequenzen des maschinellen Lernens für die Geisteswissenschaften und beschäftigt sich dabei auch mit Textgeneratoren und Sprachmodellen.
Das Print-Magazin der Universität Bern
4x im Jahr uniFOKUS im Briefkasten
Dieser Artikel erschien erstmals in uniFOKUS, dem neuen Printmagazin der Universität Bern. uniFOKUS zeigt viermal pro Jahr, was Wissenschaft zu leisten vermag. Jede Ausgabe fokussiert aus unterschiedlichen Blickwinkeln auf einen thematischen Schwerpunkt und will so möglichst viel an Expertise und Forschungsergebnissen von Wissenschaftlerinnen und Wissenschaftlern der Universität Bern zusammenführen.