Am 28. Juni 2021, sprachen Prof. Sabine T. Köszegi und Prof. Michael Filzmoser über die großen Herausforderungen und Chancen, die mit der Implementierung von KI-Systemen in soziale Systeme verbunden sind.

Die jüngsten Fortschritte im Bereich Künstlicher Intelligenz (KI) haben ihre Fähigkeit als Allzwecktechnologie offenbart und Erfindungen in den Bereichen Mobilität, Gesundheitswesen, Heim- und Servicerobotik, Bildung, Cybersicherheit und vielen mehr vorangetrieben. KI-gestützte Systeme und Anwendungen haben die Fähigkeit, enorme Vorteile für den Einzelnen und die Gesellschaft als Ganzes zu generieren. Gleichzeitig birgt die Technologie aber auch Risiken und Herausforderungen, die mit den grundlegenden Menschenrechten und der Ethik zusammenhängen. Dies bringt politische Entscheidungsträger und Expert_innen auf den Plan, die sich mit der Entwicklung von (Ethik-)richtlinien befassen, um sicherzustellen, dass KI-Implementierungen mit den grundlegenden Menschenrechten und unseren gesellschaftlichen Werten übereinstimmen.

Key Learnings

Wir haben die Key Learnings aus der Diskussion für Sie zusammengefasst:

• KI-Systeme erzeugen die Illusion von Objektivität und mangelnder Rechenschaftspflicht und schaffen damit übermäßiges Vertrauen. Sie ermöglichen auch Social Engineering und Tuning wie die Social Scoring Systeme in China. Dadurch wird KI zu einer möglichen Bedrohung für die menschliche Autonomie.
• Algorithmen zur Entscheidungsfindung werfen immer noch die gleichen Fragen auf wie menschlich basierte Entscheidungen, wie Transparenz, Diskriminierung, Verantwortlichkeit usw.
• Die Ironie der Automatisierung (von Lisanne Bainbridge): Wir ersetzen Menschen durch Systeme, vertrauen aber weiterhin auf Menschen zur Überwachung und Intervention im Falle eines Fehlers oder Problems.
• "KI ist weder intelligent noch künstlich" (Kate Crawford): KI wird von Menschen programmiert. Das bedeutet einerseits, wenn die Eingabedaten fehlerhaft sind, sind auch die Ausgabedaten fehlerhaft. Andererseits zeigt es, dass Menschen aktiv Einfluss auf die KI nehmen können, um eine bessere Entscheidungsunterstützung und Automatisierung zu erreichen.
• Die von der Europäischen Kommission eingesetzte High-Level Expert Group on Artificial Intelligence (AI HLEG) hat eine Ethikrichtlinie für vertrauenswürdige KI erstellt, die auf den Menschenrechten basiert:
  • Respekt vor der menschlichen Autonomie
  • Fairness
  • Nachvollziehbarkeit
  • Verhinderung von Schaden

Künstliche Intelligenz verschiebt die Rolle des Menschen vom Entscheidungsträger zum Vermittler zwischen Kund_innen und System. Damit ist gesagt, dass es nichts Künstliches an KI gibt. - KI-Systeme werden von Menschen geschaffen, was bedeutet, dass am Ende des Tages Menschen die Künstliche Intelligenz kontrollieren.

Vertiefen Sie Ihr Wissen

Unsere technologiegetriebenen Welt eröffnet uns nie dagewesene Möglichkeiten, stellt Führungskräfte und Organisationen aber gleichzeitig durch die Schnelllebigkeit und Komplexität vor besondere Herausforderungen. Führungskräfte benötigen daher besondere Fähigkeiten, um in diesem Kontext erfolgreich agieren zu können. Genau hier setzen unsere MBA- und Kompaktprogramme im Bereich Management & Leadership an. Alle Details finden Sie hier.

Einladung zu unseren Events

Im Rahmen unserer Events können Sie sich über die Programme informieren, Expert_innen auf ihrem Gebiet treffen, und spannende Insights über aktuelle Herausforderungen, Best Practices und Entwicklungen erfahren. Wir freuen uns auf Ihre Teilnahme!

Zu den Expert_innen

Sabine Köszegi ist seit 2009 Professorin am Institut für Managementwissenschaften der TU Wien und leitet dort den Fachbereich Arbeitswissenschaft und Organisation. Sie leitet das Dokotoratskolleg Trust in Robots und verantwortet die akademische Leitung des MBA Innovation, Digitalization & Entrepreneurship der TU Wien Academy for Continuing Education.

Michael Filzmoser ist assozierter Professor im Forschungsbereich Arbeitswissenschaft und Organisation des Instituts für Managementwissenschaften der TU Wien und Vizestudiendekan der Fakultät für Maschinenwesen und Betriebswissenschaften. Er ist außerdem Lehrgangsleiter des MBA Digital Transformation & Change Management der TU Wien Academy for Continuing Education.