In diesem Seminar schauen wir uns aktuelle Forschungsarbeiten aus dem Bereich des statistischen maschinellen Lernens und Computer Vision an. Der Schwerpunkt liegt dabei auf Methoden des tiefen Lernens und dem Verständnis, wie und warum solche Methoden eigentlich funktionieren.
Modulzuordnung: Das Seminar ist gut auf die Veranstaltung Modellierung-2 sowie die Computer Vision Lehrveranstaltungen Statistical Geometry Processing, “2D Vision und Deep Learning” und “3D Computer Vision” zugeschnitten; es kann aber auch mit Modellierung 1 kombiniert werden. Eine Belegung im Modul mit anderen Veranstaltungen aus dem Bereich Umfeld der maschinellen Mustererkennung aus thematischer Sicht denkbar; hier bitte kurz beim Dozenten und ggf. Modulverantwortlichen der Vorlesung anfragen.
Fachliche Voraussetzungen: Thematisch können Sie das Seminar bzw. das Praktikum (sinnvoll) belegen, wenn Sie Grundkenntnisse in maschinellem Lernen, Mustererkennung oder Computer Vision haben. Die Veranstaltung Modellierung 2 ist dabei thematisch am passgenausten, aber auch die Grundvorlesungen in maschinellem Lernen und Data Mining, die Vorlesung Modellierung 1 sowie die Vorlesungen zu Computer Vision mit tiefen Netzen (oder frühere Vorlesungen zu Deep Learning) sind geeignet. Bei sehr geringer Exposition zu maschinellem (und tiefem) Lernen (z.B. nur Modellierung 1) ist eventuell etwas zusätzliche eigenständige Einarbeitung notwendig.
Das Seminar findet im Sommersemester 2023 als Blockveranstaltung in der vorlesungsfreien Zeit (zwischen Sommersemester 2023 und Wintersemester 2023/24) statt. Es wird voraussichtlich 2-3 Tage lang dauern. Der Termin wird mit allen Teilnehmenden in der Vorbesprechung abgesprochen.
Ein Praktikum bietet die AG Visual Computing dieses Semester nicht an. In Härtefällen (wenn die Veranstaltung dringend benötigt wird) wenden Sie sich bitte direkt an uns, um eine Lösung zu finden.
Der Ablauf des Seminars ist etwas anders als gewöhnlich. Statt einer Ausarbeitung, die umfangreich die originalquellen zusammenfasst gibt es eine praktische Aufgabe, die im Seminar vorgestellt werden soll und in der Ausarbeitung genauer experimentell evaluiert wird.
Ablauf
Hier sind alle wichtigen Termine für die Veranstaltung:
Ausarbeitungen
Wichtig: Falls Sie an der Veranstaltung aktiv teilnehmen, sollten Sie sich umgehend mit diesem Link im Mattermost-Team der Veranstaltung registrieren.
Für diejenigen, die Mattermost noch nicht genutzt haben, folgen noch ein paar Details und Infos:
Achtung: Sie müssen sich selbst für das Mattermost-Team der Veranstaltung anmelden; dies geschieht nicht automatisch.
Jeder Vortrag soll die Inhalte einer aktuellen Forschungsarbeit, die als Thema vergeben wurde, so zusammenfassen, dass die Teilnehmer/innen möglichst viel “mitnehmen”: Dass heißt, je besser man versteht, was in dieser Arbeit genau beschrieben/herausgefunden wurde, desto besser.
Schwerpunkte setzen Dies bezieht sich sowohl auf die Tiefe wie auch die Breite. Es ist dabei oft sinnvoll, Akzente zu setzen, und an speziellen Stellen, die besonders wichtig erscheinen, tiefer einzusteigen und andere Aspekte eher zusammenzufassen. Bei vielen Seminarthemen sind in der Beschreibung zum Thema bereits Hinweise enthalten, welche Aspekte beleuchtet werden sollten. Es ist durchaus wünschenswert und sinnvoll, dass Sie auch darüber hinaus noch eigene Akzente setzen. Sprechen Sie dies mit Ihrem Betreuer (s.o.) ab und machen Sie dies auch im Vortrag (und ggf. Ausarbeitung) explizit. Z.B.
“…Mir erscheint es am wichtigsten, die spektralen Eigenschaften der Nichtlinearitäten zu verstehen. Daher schauen wir uns genau das jetzt tiefer an. Die Betrachtung im Ortsraum fasse ich nur kurz zusammen - hier gab meiner Meinung nach keine überraschenden neuen Ergebnisse…”
Zu erkennen, was wirklich wichtig ist, ist immer Teil der Aufgabenstellung.
tl;dr - Überlegen, was wichtig ist, und was man erklären will und kann
Verständlichkeit vor Formalitätenfetisch
In vielen Fällen sind formale Methoden (“Mathematik” :-) ) notwendig, um die Hintergründe eines Problems oder eines Verfahrens besser zu verstehen. Im Vortrag sollte dabei stets das Verständnis im Vordergrund stehen: Erklären Sie alles so, dass die Teilnehmenden möglichst viel dabei mitnehmen. Es macht keinen Sinn, die Betreuer zu beeindrucken (verschwendet nur Zeit). Selbstverständlich spricht nichts gegen formale und mathematische Methoden, auch auf den Folien; sorgen Sie aber immer dafür, dass möglichst alle verstehen, worum es geht und Ihnen folgen können. Das Prinzip sollte sein “Was man einer Gruppen von Ersties nicht in einer Vorlesung erklären kann, hat man selbst noch nicht (richtig) verstanden.” (Das Zitat wird oft Richard Feynmann zugeschrieben, was wohl sinngemäß stimmt, aber nicht wörtlich so gesagt wurde.)
tl;dr - Bewertung richtet sich stark danach, wie gut und tief die Zuhörerschaft das Thema versteht
Quellenangaben
Auch im Vortrag sollten Quellen angegeben werden und wörtliche Zitate gekennzeichnet werden. Hierzu sollten die entsprechenden Quellenangaben in Klammern, wie weiter unten für die Ausarbeitung erklärt, benutzt werden. Als Format bietet sich [Autor Jahr] an oder auch [Autor Journal/Konferenz Jahr]. Das Nummernformat [1][2] ist auch zulässig, aber weniger sinnvoll. In Bezug auf das Literaturverzeichnis gibt es zwei Möglichkeiten:
Die Geschmäcker gehen hier auseinander – für unser Seminar können Sie sich aussuchen, was Ihnen besser gefällt. Der Vortrag selbst sollte aber auf auf jeden Fall der Einleitungsfolie erwähnen, auf welcher/welchen Arbeit/en der Vortrag insgesamt beruht.
Wichtig: Alle wörtlich übernommenen Zitate (Text und Bilder! Videos auch.) müssen auf der Folie als Zitat gekennzeichnet werden (z.B. in der Bildunterschrift, Beispiel “Lernkurven, übernommen aus [Meier 2020]”).
tl;dr - Kein Copy & Paste ohne Kennzeichnung als Zitat!
Sprache
Die Vorträge dürfen auf Englisch und Deutsch gehalten werden. Bei einer Fremdsprache wird auf kleinere sprachliche Schwächen weniger Gewicht gelegt. Empfohlen wird Englisch, da dies auch in Forschung und Beruf sehr häufig die Arbeitssprache sein wird. Außerdem ist es 2023 und wir leben in einem globalen Dorf.
tl;dr - The world of science speaks English. But the choice is up to you.
Beispielfolien mit weiteren Tipps:
Weitere Tipps zur visuellen und inhaltlichen Gestaltung: HowToPrepareTalkAndWriteup.pdf
Struktur
Die Struktur kann prinzipiell frei gewählt werden; oft empfiehlt sich ein ähnlicher Aufbau wie weiter unten für die schriftliche Ausarbeitung empfohlen (Einleitung, frühere Arbeiten, Hauptteil, Zusammenfassung). Sehr wichtig ist, am Anfang kurz einen Überblick zu geben, worum es geht, was die wesentlichen Ergebnisse sein werden und vielleicht zu motivieren, warum das wichtig und/oder interessant ist.
Zum jedem Vortrag muss eine schriftliche Ausarbeitung angefertigt werden, in der die Arbeiten, über die Sie vortragen, nochmal ganz knapp zusammengefasst werden (Details hierzu folgen weiter unten), und in der insbesondere die Experimente, die Sie durchgeführt haben, genauer diskutiert werden.
Die schriftliche Ausarbeitung muss im PDF-Format abgegeben werden; der Termin wird nach der Vorbesprechung auf dieser Webseite und/oder auf Mattermost bekannt gegeben. Die Ausarbeitung sollte ca. 2000-2500 Worte lang sein (ca. 4-5 Seiten in üblicher Formatierung). Wichtig ist dabei der Inhalt; die genauen Zahlen werden nicht aufs Wort genau nachgezählt – es ist nur eine grobe Richtlinie.
Die Ausarbeitungen dürfen auch wieder wahlweise auf deutsch oder englisch verfasst werden (Sie haben die freie Auswahl).
Die schriftliche Ausarbeitung muss alle Quellen nennen, die benutzt wurden und alle wörtlich übernommenen Texte und Bilder (nochmals) explizit als Zitate kenntlich machen. Verstöße (fehlende Kennzeichnung von Quellen und Zitaten) kann als Täuschungsversuch gewertet werden. Achten Sie daher unbedingt darauf, hier sauber zu arbeiten!
Die schriftlichen Ausarbeitungen können (freiwillig) auf Mattermost im “Town Square” der Veranstaltung gepostet werden, und so allen Teilnehmer/innen zugänglich gemacht werden. Wenn Sie dies möchten, posten Sie Ihre Ausarbeitung dort einfach (die Betreuer machen dies nicht).
Projektanteil
Zu jedem Seminarthema gibt es ein kleines praktisches Projekt. Das Ziel dabei ist, die Methoden, die im Paper beschrieben sind, selbst einmal auszuprobieren. Im Rahmen des Seminars wäre es aber zu aufwendig, dies selbst zu implementieren, daher ist das nicht verlangt. Falls die Autoren Code zur Verfügung stellen, kann statt dessen mit der bereitgestellten Implementation experimentiert werden. Es gibt auch eine Liste von Standardexperimenten, die statt dessen durchgeführt werden können.
Im Vortrag soll dann kurz auf die eigenen Experimente und Erfahrungen eingegangen werden. Dabei kann das Ergebnis auch sein, dass es schwer oder unmöglich war, die beschriebenen Ergebnisse zu reproduzieren (z.B. trotz verfügbarem Code). In dem Fall wird erwartet, die Probleme kurz zu beschreiben und zu charakterisieren.
Die Projektarbeit ersetzt in diesem Seminar teilweise die sonst übliche “ausführlichere” Ausarbeitung: Statt umfangreich zu beschreiben, was in der Originalquelle steht, reicht nun eine knappe Zusammenfassung. Statt dessen soll genauer beschrieben werden, welche Experimente durchgeführt wurden, und welche Einsichten dabei gewonnen wurden.
In die Bewertung geht dabei positiv ein, wenn man systematisch vorgeht und sich gut überlegt, was man in beschränkter Zeit an interessanten Erkenntnissen gewinnen kann, und wie man das anpackt.
Hintergrund: Genau das muss man später in “richtigen” wissenschaftlichen Arbeiten auch tun, beginnend bei B.Sc. oder M.Sc.-Arbeit, und vielleicht auch bei Forschungen darüber hinaus. Darum wollen wir wissenschaftliches Arbeiten (und auch das Aufschreiben von Ergebnissen) im Seminar schonmal üben.
Umfang: Der Projektanteil ist vom Umfang her begrenzt; es wird erwartet, dass man vielleicht 1-3 Tage an Zeit in Experimente investiert.
Die schriftliche Ausarbeitung ist im Seminar im WS22/23 etwas anders angelegt als in früheren Seminaren. Die grundlegende Struktur ändert sich allerdings nicht, nur die Gewichtung. Daher im foglenden eine allgemeine Übersicht (übernommen aus einem früheren Semester); der Anteil, in dem die Originalquelle diskutiert wird, soll aber kurz ausfallen (ca. 0.5-1 Seite).
Allgemein: Gestaltung von Seminarausarbeitungen (und wissenschaftlichen Arbeiten allgemein)
Die schriftliche Ausarbeitung soll die gelesene Arbeit in eigenen Worten nochmal zusammenfassen (dieser Teil dieses Semester sehr kurz) und die Experimente, die durchgeführt werden erklären und analysieren. Auch (und besonders) hier ist es wichtig, korrekt zu zitieren - mehr dazu weiter unten. Dabei soll das Anfertigen einer wissenschaftlichen Arbeit geübt werden (man stelle sich dies als Vorbereitung für eine Abschlussarbeit, B.Sc., M.Sc., oder auch PhD vor, allerdings mit anderer Leute Ergebnissen als Vorlage).
Struktur
Die Ausarbeitung sollte die Struktur einer wissenschaftlichen Arbeit haben. Diese sind in der Regel ungefähr wie folgt aufgebaut:
Speziell: Gewichtung für das Wintersemester 2022/23
Die schriftliche Ausarbeitung kann dieses Semester etwas kürzer als sonst ausfallen, da noch Experimente durchzuführen sind. Dabei wird die Struktur wie oben angegeben empfohlen, aber das Hauptaugenmerk liegt auf dem Experimentalteil:
Schreibstil: Bei einer wissenschaftlichen Arbeit ist es wichtig, sachlich und objektiv zu argumentieren. Jede Aussage muss objektiv wahr sein und belegt werden. Man kann also nicht sagen: “Der Mist funktioniert überhaupt nicht.”. Man kann aber ohne Probleme sagen: “Wie in einer Nachfolgearbeit von [Miller 1998] gezeigt wurde, beruhten die Ergebnisse allerdings auf einem Messfehler, so dass alle Schlussfolgerungen als falsch betrachtet werden müssen.” Genauso kann man einen mathematischen Beweis oder ein eigenes Experiment anführen, dass die Aussagen belegen. Aussagen können auch dadurch objektiviert werden, dass man sie genau qualifiziert. Es wäre also wissenschaftlich korrekt (wenn auch kein guter Stil) zu sagen: “Ich persönlich mag das überhaupt nicht; mein Bauchgefühl sagt mir, dass das totaler Quatsch ist.”, denn diese Aussage wäre objektiv wahr (wenn man hier nicht selbst gelogen hat).
Meinungen: Es ist natürlich sehr zu empfehlen, bei Bewertungen eher zurückzuhalten und sich möglichst an objektive Tatsachen zu halten. Beispiel “Nach dem Lesen der beiden Arbeiten erscheint die zweite als praktikabler, da sie für das gleiche Problem nur 10MB Speicher statt 500GB benötigt” ist eine gute Analyse. “Die erste Arbeit ist Quatsch - die brauchen utopisch viel Speicher” wirkt dagegen eher unsachlich. Wenn es Kritikpunkte gibt, spricht nichts dagegen, diese zu äußern – im Gegenteil – man muss nur sachlich und objektiv bleiben, und sollte nie persönlich werden (solange es nicht um erwiesenes wissenschaftliches Fehlverhalten geht). Im Vortrag gilt alles dies sinngemäß auch, wobei eine flapsige Bemerkung vielleicht eher akzeptabel erscheint als bei einer vorab ausgearbeiteten schriftlichen Arbeit.
Quellenangaben: Grundsätzlich müssen alle Quellen, auf die man sich stützt, als solche benannt werden. Da im Seminar die Ausarbeitung zu einem erheblichen Teil die Arbeit anderer Leute Arbeit zusammenfasst, kann man z.B. einleitend erklären, dass die ganze Ausarbeitung (bzw. der Methodenteil) ein oder mehrere Papers zusammenfasst, mit vollständiger Quellenangabe. Wörtlich übernommene Passagen (auch Übersetzungen) müssen trotzdem weiterhin zusätzlich explizit als Zitate (mit Anführungszeichen und Quellenangabe bei Text, mit Quellenangabe in der Bildbeschreibung bei Bildern) kenntlich gemacht werden. Verstöße können dazu führen, dass das gesamte Seminar wegen “Täuschungsversuch” als nicht bestanden gewertet wird. Die üblichen Regeln und Gepflogenheiten sind hier sehr strikt, daher an dieser Stelle der dringede Rat, hier auf jedem Fall sehr sorgfältig zu arbeiten.
An dieser Stelle sei auch noch darauf hingewiesen, dass verschiedene Fächer unterschiedliche Fachkulturen haben. Die gerade beschriebene Vorgehensweise ist (nach Wissen des Dozenten) so in den Natur- und Ingenieurswissenschaften (wie auch der Informatik) üblich. Die Grundidee der obigen Regel ist, dass es kein Täuschungsversuch sein kann, wenn mit gesundem Menschenverstand klar erkennbar ist, was man an Hilfsmittel benutzt hat. Bei wörtlichen Zitaten von Text oder Bildern (auch mit Übersetzung oder Modifikationen) kann dies nur durch explizite Kennzeichnung erfolgt sein, bei sinngemäßer Wiedergabe oder Formeln, ist ein Verweis auf die Quelle im Text ausreichend. Vorsicht: In Sozial- und Geisteswissenschaften wird dies oft viel strenger gesehen; jeder Inhalt, der nicht selbst erdacht wurde, müsste hier explizit gekennzeichnet werden (man dürfte also nicht die Formel F = m·a verwenden, ohne diese explizit zu zitieren, auch wenn im Text drüber steht, dass es um Newtonsche Mechanik geht; es ist daher wohl offensichtlich, warum dies in MINT-Fächern anders praktiziert wird).
Also nochmal, der Klarheit halber: Für unser Seminar (und die meisten dem Dozenten bekannten Informatikveranstaltungen) gilt die Regel: Wenn man anderer Leute Gedanken, Ergebnisse oder Artefakte (Bild, Text, Video, etc.) übernimmt in einer Form, die fälschlicherweise nahelegen könnte, dass man es selbst gemacht hätte, gilt dies als Plagiat. Ist dies offensichtlich nicht der Fall (z.B. Einleitender Satz “Diese Ausarbeitung fasst das Papier von auf xxx zusammen”), dann ist das ok. Wörtliche Kopien müssen aber immer (auch nach Änderungen wie Bildbearbeitung oder Übersetzungen) explizit gekennzeichnet werden. Alle Änderungen gegenüber der Originalquelle müssen bei solchen Zitaten explizit benannt werden. Bei anderen Veranstaltungen macht es Sinn, vorher zu fragen, wie die Zitatkultur ist, insbesondere in anderen Disziplinen.
Form von Quellenangaben: Um eine Quelle zu benennen, müssen folgende Angaben mindestens enthalten sein:
Zusätzlich sollte man auch noch, wann immer verfügbar, die Seitenzahlen (bei Artikeln in Zeitschriften) und die Ausgabennummern von Journalen (oft jährliche Nummer und Ausgabenummer pro Jahr) angeben.
Typischerweise werden Autoren fett, Titel normal, Konferenzbände kursiv, und Jahreszahlen wieder normal formatiert. Bei Büchern wird der Buchtitel kursiv gesetzt und die Verlag normal. Interessanterweise hat sich eingebürgert, bei Journalen die Seitenzahlen ohne vorangestelltes “Seite(n)” oder “p./pp.” anzugeben, bei Konferenzbänden (“Proceedings”) dagegen in der Regel schon (warum auch immer). Ein Link auf eine Kopie im Web schadet auch nicht, wenn verfügbar. Für die Benennung der Ausgaben (Jahreszahl und Zahl pro Jahr) hat jedes Journal seine eigene Systematik, oft “<Jahreszahl>(<Ausgabe>)”. Hier ein Beispiel:
Beispiel (für eine Literaturliste):
[1] Z. Ahorn, Y. Birkner und X. Celle: Die Entwicklung des gemeinen Buntspechts. In: Journal der europäischen Ornitologen 23(3), 1023–1042, 2020.
(Anmerkung: 23(3) = Ausgabe im 23. Jahrgang, also seit 1997, dritte Ausgabe in 2020)
[2] H. Gamer und D. Doom: Playing First-Person-Shooter Games All Night. In: Proceedings of the 10th International Conference on Gaming Addiction, pp. 665–666, 2020.
(Anmerkung: Proceeding = Konferenzband, erschient meistens Jährlich; sonst auch mit diversen Nummern versehen.)
[3] Wall-E: Piep: Eine kurze Geschichte von Eve. Fictional Publishers, New York, 2007.
(Anmerkung: ein Buch; die Firma Fictional Publishers hat ihren Hauptsitz in New York; das gibt man gerne mit an.)
Zitieren kann man das ganze dann im Text wie folgt:
Wie Gamer und Doom [2] eindrucksvoll belegen, ist das spielen von Actionspielen über mehrere Tage ohne Nahrungsaufnahme mit gesundheitlichen Risiken verbunden.
Hierzu stellen Ahorn et al. [1] eine Ontologie von Spechten vor.
Man kann die Nummern in Klammern auch durch Autorennamen ersetzen und wie Subjekte/Objekte behandeln (vielleicht stilistisch schöner):
[Gamer und Doom 2020b] zeigen in einem eindrucksvollen Selbstversuch die zuvor diskutierten Gefahren auf.
Die folgend Ausarbeitung beruht auf [Wall-E 2007]. “Piep”.
Bei dieser Zitierweise wird das Literaturverzeichnis auch mit Namen versehen und alphabetisch (und Jahreszahl, falls gleich) sortiert. Bei doppelten Bezeichnern, hängt man Buchstaben an:
Literaturliste:| [Ahorn et al. 2020] | Z. Ahorn, Y. Birkner und X. Celle: Die Entwicklung des gemeinen Buntspechts. In: Journal der Europäischen Ornithologen Ausgabe 23, Band 3, 2020. | |
| [Gamer und Doom 2020a] | H. Gamer und D. Doom: Playing First-Person-Shooter Games All Night. In: Proceedings of the 10th International Conference on Gaming Addiction, 2020. | |
| [Gamer und Doom 2020b] | H. Gamer und D. Doom: Experiments in Endless Gaming. In: Proceedings of the European Conference of Gaming Professionals, 2020. | |
| [Wall-E 2007] | Wall-E: Piep: Eine Kurze Geschichte von Eve. Fictional Publishers NY, 2007. |
Meinung des Dozenten: Ich finde die zweite Variante schöner, aber braucht mehr Platz. Ich würde sie rein subjektiv bevorzugen; objektiv ist das aber egal (es gibt auch noch eine Reihe anderer Varianten, die auch alle ok sind). Nutzen Sie, was Ihnen am besten gefällt.
Die Bewertung teilt sich im Sommersemester 2023 wie folgt auf:
Vortrag: Beim Vortrag wird, wie immer, auf didaktische Aspekte (kann man das gut verstehen) und Tiefe (ist das interessant/nicht-trivial, was da erklärt wird) gleichermaßen Wert gelegt. Auch die ansprechende Gestaltung spielt eine kleine Rolle.
Experimente: Bei der Diskussion der Experimente in Vortrag und insbesondere in der Ausarbeitung wird auf wissenschaftliches Arbeiten Wert gelegt: Sind die Ergebnisse objektiv richtig/haltbar – sind die Aussagen korrekt positioniert, eingegrenzt und belegt? Sind die Ergebnisse wichtig/interessant? Ist die Fragestellung und das experimentelle Setup gut gewählt?
Ausarbeitung: Die Bewertung der Ausarbeitung ähnelt sehr der Bewertung einer wissenschaftliche orientierten Abschlussarbeit, nur in viel kleinerem Rahmen.
Andere Veranstaltungen der AG Visual Computing
Veranstaltungen früherer Semester
Infrastruktur