Ein Online-Diskussionsforum des HVD Bayern
in Kooperation mit dem Institut für populärwissenschaftlichen Diskurs Kortizes.
Donnerstag, 19. September 2024, ab 20.15 Uhr
Teilnahme-Link: https://zoom.us/j/84520704889
(Vor 20.15 Uhr: Warteraum. Einlass pünktlich um 20.15 Uhr.)
Vertrauenswürdige Künstliche Intelligenz
Wissens-informiertes, nachvollziehbares und korrigierbares maschinelles Lernen
Prof. Dr. Ute Schmid
Moderation: Tanja Reitmeier (HVD-Bayern).
Die großen Fortschritte bei der Entwicklung von leistungsstarken Methoden der Künstlichen Intelligenz, insbesondere in den Bereichen Deep Learning und Generative KI, eröffnen ein breites Spektrum von Anwendungsmöglichkeiten in vielen Bereichen von Medizin über Industrie bis Bildung. Insbesondere, wenn KI-Systeme in kritische Entscheidungen involviert sind, ist es unverzichtbar, dass sie vertrauenswürdig sind. Im Rahmen des EU AI Acts werden sieben Anforderungen an Vertrauenswürdigkeit definiert: Vorrang menschlichen Handelns und menschliche Aufsicht, technische Robustheit und Sicherheit, Datenschutz und Qualitätsmanagement, Transparenz und Nachvollziehbarkeit, Nichtdiskriminierung und Fairness, gesellschaftliches und ökologisches Wohlergehen und Rechenschaftspflicht. Im Vortrag wird aufgezeigt, wie eine Auswahl dieser Kriterien durch die Entwicklung neuer Methoden für partnerschaftliche KI-Systeme adressiert werden können. Hierzu gehören Ansätze der erklärbaren KI, interaktives Lernen für Modellrevision sowie die Einbeziehung von menschlichem Wissen in datengetriebene Ansätze des maschinellen Lernens.
Prof. Dr. Ute Schmid ist Inhaberin des Lehrstuhls für Kognitive Systeme an der Universität Bamberg und geschäftsführende Direktorin des Bamberger Zentrums für KI (BaCAI). Seit mehr als 20 Jahren forscht und lehrt sie im Bereich Künstliche Intelligenz. Ihre Forschungsschwerpunkte sind: Kombination von wissensbasierten Methoden und maschinellem Lernen, erklärbares und interaktives maschinelles Lernen, KI und Bildung, sowie kognitive KI. Ute Schmid ist EurAI-Fellow und GI-Fellow (GI = Gesellschaft für Informatik, EurAI = Europäische Vereinigung für künstliche Intelligenz, engl. European Association for Artificial Intelligence, ehemals European Coordinating Committee for Artificial Intelligence ECCAI). Sie ist Mitglied im Direktorium des Bayerischen Forschungsinstituts für Digitale Transformation (bidt) und Mitglied im Bayerischen KI-Rat. Seit vielen Jahren engagiert sie sich für Frauen in der Informatik und hat für ihre Universität den Minerva Gender Equality Award der Informatics Europe gewonnen. Zudem engagiert sie sich in der Vermittlung von Informatik- und KI-Kompetenzen für Kinder, Jugendliche und die breite Öffentlichkeit und wurde hierfür mit dem Rainer-Markgraf-Preis ausgezeichnet.
Pressefoto Ute Schmid (Bildquelle: Jürgen Schabel)
Foto oben: Pixabay 7111801 Tung Nguyen, Bearbeitung 84 GHz