Seminar Data Science [WS23]
Beschreibung: Large Language Models (LLMs) erwecken den Eindruck
“echter”, oder präziser allgemeiner, genereller Intelligenz (AGI). In
diesem Seminar wollen wir uns damit beschäftigen, wie mit KI-Systemen
umzugehen wäre, wenn diese in die Kategorie AGIs fielen. Wie können
diese Systeme sicher betrieben werden?
Erwartungen: Von jedem Teilnehmer wird erwartet, dass er eine maximal
45-minütige Präsentation mit anschließender Diskussion zu seinem Thema
hält und eine 10-seitige schriftliche Version seines Vortrags
erstellt. Alle Vorträge des Seminars finden unter Anwesenheitspflicht
statt. Von den Teilnehmern wird erwartet, dass sie miteinander
kommunizieren, um Themenüberschneidungen zu vermeiden und zu
besprechen, wer welches Thema präsentieren wird. Der Abgabetermin für
die schriftlichen Abgaben ist eine Woche vor Ihrer Präsentation. Das
Dokument muss dem PDF-Dateistandard entsprechen.
Angebotene Themen:
01. Geschichte und Entwicklung der AGI: Dieser Vortrag untersucht den
historischen Verlauf der AGI-Forschung, von den Anfängen bis zu den
neuesten Fortschritten, um ein Verständnis für den aktuellen Stand der
Technologie zu vermitteln.
02. AGI-Entwicklungsmethoden und Paradigmen: Dieser Vortrag untersucht
verschiedene Ansätze und Methoden zur Entwicklung von AGI-Systemen,
einschließlich symbolischer KI, neuronalen Netzen, genetischen
Algorithmen und mehr, um die Vielfalt der Forschungsrichtungen in
diesem Bereich zu verdeutlichen. Dabei soll auch die Herausforderung
des Messens von AGI-Fortschritt und Intelligenz diskutiert werden,
einschließlich der Entwicklung von Metriken und Bewertungsverfahren,
um den Grad der AGI-Entwicklung zu bestimmen und zu quantifizieren. In
dem Vortrag kann auch kurz diskutiert werden, inwieweit heutige
Sprachmodelle AGI Systeme sind, oder nicht sind.
03. AGI-Sicherheit: Hierbei geht es um die Herausforderungen und
Strategien für die Gewährleistung der Sicherheit von AGI-Systemen,
einschließlich Vermeidung von unbeabsichtigten Schäden und
Missbrauchspotenzial. Wichtig: Hierbei geht es um Sicherheitsrisiken,
die von KI Systemen unmittelbar als Werkzeug ausgehen. Hierbei soll es
nicht um die Sicherheit in Bezug auf die Selbstständigkeit des Systems
gehen.
04. Instrumentelle Konvergenz: In diesem Vortrag wird das Konzept der
instrumentellen Konvergenz untersucht, bei dem verschiedene
AGI-Systeme unabhängig voneinander ähnliche Mittel zur Zielerreichung
entwickeln können, unabhängig von ihren ursprünglichen Zielen.
05. Mesa-Optimierer: Dieser Vortrag beschäftigt sich mit dem Konzept der
Mesa-Optimierer, bei dem ein KI-System interne Modelle entwickelt und
sich selbst optimiert, um seine externen Ziele zu erreichen. Es werden
die potenziellen Risiken und Herausforderungen diskutiert, die mit der
Existenz solcher Mesa-Optimierer in AGI-Systemen verbunden sind,
einschließlich der Frage, wie man ihre Auswirkungen auf die
Systemausrichtung kontrollieren kann. Gehen Sie dabei unbedingt auf
äußere und innere Missausrichtung (Alignment) ein.
06. Inneres Ausrichtungs Problem (Inner Alignment Problem): In diesem
Vortrag geht es um die Herausforderungen, die durch Missausrichtung
von AGI-Systemen entstehen, wenn ihre internen Überzeugungen und
Zielsetzungen nicht mit den beabsichtigten Zielen ihrer Entwickler
übereinstimmen. Innerhalb des Vortrags kann auch das Thema der
Interpretierbarkeit adressiert werden, also der Möglichkeit
Abweichungen von Basis Ausrichtung und Innerer Ausrichtung
festzustellen. Hier wäre auch die Geschichte der Briefmarkensammel-AI
eine gute didaktische illustration.
07. Täuschende Ausrichtung (Deceptive Alignment): In diesem Vortrag wird
die Problematik der Missausrichtung zum zwecke der Täuschung
behandelt. Im Unterschied zum Vortrag “Innere Ausrichung” geht es hier
im Schwerpunkt um eine von einem AGI System bewußt herbeigeführte
Missausrichtig bzw. Darum wie und warum solche Täuschungen entstehen
könnten und worin deren Gefahr liegt. Welche Möglichkeiten gibt diese
Missaurichtung zu Erkennung, um eine vertrauenswürdige Ausrichtung von
AGI zu gewährleisten.
08. AGI in einer Sandbox: Dieser Vortrag beschäftigt sich mit der Idee,
AGI-Systeme in einer kontrollierten Umgebung oder "Sandbox" zu
entwickeln, um potenzielle Risiken zu minimieren und das Verhalten der
Systeme besser zu verstehen.
09. Emergente Eigenschaften von großen Sprachmodellen: Entdeckung,
Auswirkungen und Herausforderungen In diesem Seminarvortrag soll es um
sog. emergente Eigenschaften von Sprachmodellen gehen. Wie entwicklen
Modelle über die Zeit hinweg komplexe Fähigkeiten und unerwartete
Verhaltensweisen. Wie werden solche Eigenschaften festgestellt und
warum sind diese ein Problem aus der Perspektive von KI
Sicherheitsaspekten.Wir diskutieren auch Methoden zur Analyse und
Kontrolle dieser emergenten Eigenschaften, um eine
verantwortungsbewusste Anwendung von Sprachmodellen zu gewährleisten.
10. Transfer Learning in der AGI-Entwicklung:
Dieser Vortrag beleuchtet das Konzept des Transfer Learning in der
Entwicklung von AGI-Systemen. Transfer Learning bezieht sich auf die
Fähigkeit eines Modells, Wissen und Erfahrungen aus einer Aufgabe auf
eine andere zu übertragen. Es werden verschiedene Ansätze und Techniken
des Transfer Learning in Bezug auf AGI untersucht, einschließlich der
Verwendung von vortrainierten Modellen, der Adaption von Wissen aus
verwandten Domänen und der effizienten Nutzung von Ressourcen. Es wird
auch diskutiert, wie Transfer Learning dazu beitragen kann, den
Entwicklungsprozess von AGI zu beschleunigen und die Effektivität von
Modellen zu verbessern. Der Vortrag betrachtet sowohl die Vorteile als
auch die Herausforderungen und potenziellen Fallstricke des Transfer
Learning in der AGI-Entwicklung, um ein umfassendes Verständnis dieser
wichtigen Technik zu vermitteln.
11. Fiktionen und Realität: Darstellung von KI-Fähigkeiten in Medien: In
dem Seminar wird untersucht welche Prognosen in Bezug auf KI-Systeme
gemacht wurden, und wie deren tatsächliche gesellschaftliche
Auswirkung war. In den Medien wurden KI oft dramatisiert und verzerrt
dargestellt, was zu Missverständnissen und Ängsten geführt
hat. Gleichzeitig gibt es jedoch auch reale Probleme und
Herausforderungen, die mit dem Einsatz von KI-Methoden verbunden
sind. Das Ziel des Seminars ist es, ein kritisches Bewusstsein für die
Unterschiede zwischen medialer Darstellung und den tatsächlichen
Möglichkeiten von KI-Systemen herauszuarbeiten.
12. Chancen und Herausforderungen für die Zukunft - Ethische und soziale
Auswirkungen von AGI: Dieser Vortrag behandelt die potenziellen
Auswirkungen von AGI auf die Gesellschaft, Ethik und das
Arbeitsleben. Es werden die Chancen und Herausforderungen, die mit der
Entwicklung von AGI einhergehen, präsentiert. Dabei werden Fragen der
Arbeitsplatzautomation, des Datenschutzes, der sozialen Gerechtigkeit
sowie die allgemeinen Auswirkungen auf verschiedene Bereiche der
Gesellschaft behandelt.
Themenvergabe: 03.07.2023 um 14:00 Uhr
Um an der Themenvergabe teilnehmen zu können, melden Sie sich im Kurs an
und folgen den Regularien.