Letztes Update: 20. Februar 2022
In Seminar und Praktikum bearbeiten wir im Wintersemester 2022/23 ein forschungsnahes Thema, das zu selbstständiger wissenschaftlicher Arbeit anregen und anleiten soll.
Im populärwissenschaftlichen Umfeld wird oft diskutiert, ob wir Nachrichten einer außerirdischen Zivilisation verstehen könnten, wenn wir eine empfangen würden (wofür, Stand Oktober 2022, keinerlei Anzeichen bekannt wären). Da uns keine Daten zur Verfügung stehen, von denen wir annehmen, dass Sie von außerirdischer Intelligenz stammen könnten, bleibt dies vorerst eine Frage, die zu vielerlei Gedankenspielen anregt, aber sich nicht im Sinne empirischer Wissenschaft behandelt lässt.
Es gibt allerdings tatsächlich Daten zu kognitiven Vorgängen, bei denen wir die Sprache in der sie verfasst sind, noch nicht verstehen: Die von Menschen gebauten künstlichen neuronalen Netze sind in der Lage, einfache Mustererkennungsaufgaben zu erledigen, wie sie (in Bezug auf die Funktion, nicht unbedingt die Form) auch Teil der Verarbeitungskette in biologischen Lebewesen sein könnten: Sie erkennen (zu einem gewissen Grade) visuelle Muster, gesprochene und geschriebene Sprache und können solche Signale auch selbst synthetisieren. Wie sie das machen, wissen wir sehr genau (wir habe es ja selbst programmiert). Da es sich aber um selbstorganisierende dynamische Systeme handelt (das Lernen läuft über einen dynamischen Prozess ab), der eine “emergente” Struktur erzeugt, ist nicht unbedingt klar, welche Repräsentation gelernt wird. In welcher “Sprache” die Informationen kodiert sind, verstehen wir derzeit nur ansatzweise, da die Repräsentation sich selbst bildet.
Die Frage ist also: Welche mathematischen und algorithmischen Werkzeuge haben wir, um genauer zu verstehen, was dort vor sich geht? Wie kann man visualisieren, wie Informationen in Netzwerken verarbeitet werden, und wie kann man verstehen, welche mathematische Struktur sich im Training spontan bildet? Hierzu werden wir uns im Seminar konkrete Ansätze anschauen, und im Praktikum diese auch selbst ausprobieren (auch das Seminar wird zumindest einen kleinen praktischen Anteil enthalten).
Wem das ganze zu esoterisch klingt: Nein, es gibt keine Anzeichen, dass tiefe Netze ein eigenes Bewusstsein entwickeln können, und es sind auch (ebenfalls Stand Oktober 2022 😉 ) keine autonom handelnden Systeme bekannt, die auch nur näherungsweise die kognitiven Fähigkeiten höherer Lebewesen haben. Die Frage, wie selbstorgansierende Informationsverarbeitung analysiert werden kann, kann man an dem sehr simplen Beispiel aber trotzdem studieren. Und es gibt natürlich auch die nicht-fremden biologische System – die Gehirne von Menschen und anderen Lebewesen – deren interne Informationsverarbeitung auch noch überhaupt nicht Verstanden ist, auch wenn wir die (hoffentlich) jeden Tag praktisch benutzen. Der Vorteil der künstlichen Systeme ist, dass hier umfassende Daten gesammelt werden können, und dass man ohne ethische Bedenken jedes beliebige virtuelle Experiment damit machen kann (ich möchte nicht unbedingt mit meinem Kopf das machen, was man mit einem ReLU-Netzwerk so alles anstellen kann).
Von daher handelt es sich um eine im allgemeinen sehr wichtige wissenschaftliche Frage, für die, vielleicht erstmals in der Geschichte, ein künstliches Testsystem zur Verfügung steht, mit dem man diese konzeptionell untersuchen kann: Können wir verstehen, wie eine (in einem gewissen Gerade) intelligente Informationsverarbeitung funktioniert, die sich selbstorganisierend gebildet hat, und mit der wir nicht direkt sprechen können.
Es ist denkbar (allerdings nicht sicher), dass uns das Verständnis künstlicher Netzwerke auch Anhaltspunkte über die Struktur biologischer neuronaler Repräsentationen geben könnte, und vielleicht allgemeine Prinzipien aufdecken könnte, wie selbstorganisierende intelligente Systeme allgemein funktionieren können. Auch dies ist natürlich nur Spekulation, aber vielleicht nützt es uns einmal, falls doch die Aliens landen.
Soweit die (hoffentlich motivierende) Hintergrundstory zu Seminar. Nun zum genauen Ablauf.
Modulzuordnung: Das Seminar ist gut auf die Veranstaltung “Modellierung-2” zugeschnitten , kann aber auch mit Modellierung 1 und “Statistical Geometry Processing” kombiniert werden. Eine Kombination mit anderen Veranstaltungen aus dem Bereich Computer Vision / maschinellem Lernen / Mustererkennung aus thematischer Sicht genauso denkbar; hier bitte kurz beim Dozenten bzw. Modulverantwortlichen anfragen (wenn nicht von der AG Visual Computing angeboten), um ggf. eine Genehmigung zu erhalten.
Fachliche Voraussetzugen: Thematisch können Sie das Seminar bzw. das Praktikum (sinnvoll) belegen, wenn Sie Grundkenntnisse in machinellem Lernen, Mustererkennung oder Computer Vision haben. Die Veranstaltung Modellierung 2 ist dabei thematisch am passgenausten, aber auch die Grundvorlesungen in maschinellem Lernen und Data Mining, die Vorlesung Modellierung 1 sowie die Vorlesungen zu Computer Vision mit tiefen Netzen (oder frühere Vorlesungen zu Deep Learning) sind geeignet. Bei sehr geringer Exposition zu maschinellem (und tiefem) Lernen (z.B. nur Modellierung 1) ist eventuell etwas zusätzliche eigenständige Einarbeitung notwendig.
Das Seminar und das Praktikum “Visual Computing” finden im Wintersemester 2022/23 als Blockveranstaltung in der vorlesungsfreien Zeit (zwischen Wintersemester 2022/23 und dem Sommersemester 2023) statt. Dabei wird ein zweiwöchiger Block genutzt: Zunächst findet das Seminar statt, gefolgt von dem Praktikum, das zum Teil darauf aufbaut.
Der Ablauf des Seminars ist etwas anders als gewöhnlich: Seminar und Praktikum sind organisatorisch integriert, können aber getrennt belegt werden (dies ist auch der erwartete häufigste Fall).
Ablauf Seminar:
Ablauf Praktikum
Seminar und Praktikum sollen nach aktueller Planung in Präsenz durchgeführt werden. Falls uns neue oder alte COVID-19 Varianten hier einen Strich durch die Rechnung machen, ziehen wir in den virtuellen Raum um und nutzen Mattermost und BigBlueButton (siehe unten).
Im Praktikum werden ähnliche Experimente wie im praktischen Teil des Seminars durchgeführt. Allerdings wird dabei ein höherer Umfang erwartet: Das Praktikum muss den zeitlichen Umfang von zwei Wochen Vollzeit (80 Zeitstunden) haben. Dabei wird die Zeit zum Zuhören im Seminar angerechnet, wenn das Seminar nicht auch als Lehrveranstaltung belegt wurde.
Die Themen werden mit den Gruppen individuell abgesprochen (direkt nach dem Seminar).
Es ist möglich (und auch durchaus erwünscht), Praktikum und Seminar zusammen zu belegen, und das gleiche experimentelle Thema (in angemessenem Umfang) weiter auszubauen. Allerdings kann muss aus formaler Sicht ggf. auf die Modulzuordnung geachtet werden.
Hier sind alle wichtigen Termine für die Veranstaltung:
Das eigentliche Seminar findet statt:
Gefolgt vom Praktikum, welches die darauf folgenden zwei Wochen (bis zum Freitag in der Woche drauf) ausfüllt.
Das zweiwöchige Zeitfenster für die beiden Veranstaltungen wird wurde in der Vorbesprechung am 11.11.2022 in Absprache mit allen Teilnehmer/innen festgelegt.
Ausarbeitungen
Übersicht:
Wichtig: Falls Sie an der Veranstaltung aktiv teilnehmen, sollten Sie sich umgehend mit diesem Link im Mattermost-Team der Veranstaltung registrieren.
Für diejenigen, die Mattermost noch nicht genutzt haben, folgen noch ein paar Details und Infos: