Komplexe Modelle sind nicht immer die besseren. Häufig werden bei maschinellem Lernen aus vorhandenen Trainingsbeispielen Modelle konstruiert, mit denen neue, unbekannte Datensätze klassifiziert oder Prognosen generiert werden können. Diese Modelle sind oftmals sehr komplex und, je nach Verfahren, auch schwer verständlich und nachvollziehbar für Nutzer*innen. Damit machen es uns KI-Verfahren nicht immer leicht, ihnen auch zu vertrauen. Prof. Novak widmet sich vor allem KI, die erklärbar, verständlich und nachvollziehbar ist, damit wir einen besseren Nutzen daraus ziehen.
Weniger (Daten) ist mehr. Komplexität geht auch einher mit der Menge der Daten bzw. der Features, die genutzt werden. In seinen Projekten zielt Prof. Novak darauf ab, nur die Daten zu nutzen, die auch tatsächlich notwendig für eine zuverlässige Prognose sind. Dies ist einerseits durch den Wunsch und die Forderung nach Datenschutz begründet. Andererseits hilft die Konzentration auf weniger Daten dabei, die Komplexität der KI-Modelle zu beschränken. Ziel ist es, am Ende ein Modell zu erhalten, das noch verständlich ist, das aber trotzdem noch zuverlässige Prognosen erlaubt.
Assistenzsysteme für Nachhaltigkeit. Empfehlungs- und Assistenzsysteme sollen Nutzer*innen durch Handlungsempfehlungen unterstützen. Prof. Novak beschäftigt sich vor allem mit solchen Systemen, die zu einem nachhaltigeren Verhalten führen, z.B. in Bezug auf Wasser- oder Energieverbrauch. Die erwähnte Verständlichkeit von Modellen spielt eine wesentliche Rolle, wenn diese Systeme Verhaltensänderungen herbeiführen sollen. Nutzer*innen müssen die Ausgaben eines KI-Systems verstehen. Dafür müssen sie auch geeignet visualisiert werden und Empfehlungen und Benachrichtigungen müssen in angemessener Häufigkeit ausgegeben werden.
Nutzerbewusstsein schaffen für KI. Viele Nutzer*innen wissen häufig nicht, dass sie es bei einem Programm bzw. einem System mit künstlicher Intelligenz zu tun haben. Auch fehlt häufig ein Verständnis dafür, wie Eingaben durch Nutzer*innen (z.B. durch das Klickverhalten im Web) die Ausgaben eines KI-Systems beeinflussen. Hinzu kommt, dass Empfehlungen (z.B. für Inhalte im Web oder Produkte), die für uns durch KI-Systeme generiert werden, unser Verhalten beeinflussen können, ohne dass wir uns darüber bewusst sind. Prof. Novak arbeitet in seiner Forschung dafür, dass genau so ein Bewusstsein geschaffen wird, so dass Menschen erkennen, wenn es sich um KI handelt und wie Empfehlungen zustande kommen.
Kompetenzen im Bereich der künstlichen Intelligenz und Data Science
- Menschenzentrierte Gestaltung von KI-Anwendungen
- Erklärbare KI gestalten
- Gestaltung und Einführung sozio-technischer Systeme
- Gestaltung der Interaktion mit intelligenten Systemen
- Digitale Innovation für Nachhaltigkeit
Prof. Dr.-Ing. Jasminko Novak
Wirtschaftsinformatik, Leiter IACS Competence Center Human-Centered Intelligent Systems & Sustainability, Hochschule Stralsund
Ausgewählte Projekte
enCOMPASS
Im EU-Projekt enCOMPASS sollen Menschen zu einem nachhaltigeren Energieverbrauch angeregt werden. KI dient dazu, den Energieverbrauch zu prognostizieren und geeignete Empfehlungen zu generieren, um den Energieverbrauch zu senken. Das System arbeitet dabei lediglich mit aggregierten Verbrauchsdaten aus der Vergangenheit (Granularität: Eine Stunde) und Wetterdaten (Temperatur, Wind, Luftdruck, Sonnenstunden). Auf Basis dieser Datensparsamkeit und vergleichsweise „einfachen“ KI-Verfahren wie k-Nearest-Neighbour werden Modelle zur Prognose des Energieverbrauchs generiert, die für Nutzer*innen verständlich sind, aber immer noch sehr hohe Genauigkeit erlangen.
Umgesetzt wurde das Projekt mit einer App für mobile Endgeräte. Besonderer Wert wurde auf eine Visualisierung gelegt, die die Empfehlungen für die Nutzer*innen nachvollziehbar macht und somit die Motivation erhöht, den Empfehlungen nachzukommen.
SIT4Energy
Das Projekt SIT4Energy hat wie das Projekt enCOMPASS das Ziel, Menschen zu einem veränderten, nachhaltigeren Verhalten bezüglich ihres Energieverbrauchs zu motivieren. Allerdings werden in diesem Projekt auch Prosumer betrachtet, also Verbraucher, die selbst Energie produzieren, z.B. durch Photovoltaikanlagen. Da Energie nicht gut speicherbar ist, ist es wichtig, Verbrauchsmuster zu optimieren. KI wird dazu verwendet, sowohl Verbrauch als auch Produktion von Strom vorherzusagen. Verhaltensempfehlungen werden so präsentiert, dass die Nutzer*innen deren Sinn und Mehrwert erkennen und dadurch genug Anreiz erhalten, ihr Verhalten zu ändern.