Notice: Trying to get property 'slug' of non-object in /home/swisscr1/staging.cmm360.ch/wp/wp-content/plugins/cmm360-polylang-extension/class-polylang-extension-frontend.php on line 66
{"id":5296,"date":"2020-10-18T07:00:00","date_gmt":"2020-10-18T05:00:00","guid":{"rendered":"https:\/\/cmm360.swisscrmforum.com\/wp\/artikel\/wie-unternehmen-diskriminierung-in-ki-anwendungen-verhindern\/"},"modified":"2020-10-18T07:00:00","modified_gmt":"2020-10-18T05:00:00","slug":"wie-unternehmen-diskriminierung-in-ki-anwendungen-verhindern","status":"publish","type":"artikel","link":"https:\/\/staging.cmm360.ch\/wp\/artikel\/wie-unternehmen-diskriminierung-in-ki-anwendungen-verhindern\/","title":{"rendered":"Wie Unternehmen Diskriminierung in KI-Anwendungen verhindern"},"content":{"rendered":"

M\u00fcnchen, 15. Oktober 2020 \u2013 Viele Menschen stehen K\u00fcnstlicher Intelligenz skeptisch gegen\u00fcber, weil sie Algorithmen f\u00fcr ungerecht oder voreingenommen halten. Dass diese tats\u00e4chlich diskriminierende Entscheidungen treffen k\u00f6nnen, haben einige Beispiele in den vergangenen Jahren gezeigt. Pegasystems, ein f\u00fchrender Anbieter von strategischen Software-L\u00f6sungen f\u00fcr Vertrieb, Marketing, Service und Operations, erkl\u00e4rt, wie Unternehmen Vorurteile und Diskriminierung in ihren KI-Anwendungen verhindern.<\/strong><\/p>\n

<\/p>\n

Ende Oktober will die Enquete-Kommission des Bundestages nach zwei Jahren Diskussionen endlich einen Gesamtbericht \u00fcber K\u00fcnstliche Intelligenz (KI) vorlegen. Darin wird sie auch auf die Bedeutung von diskriminierungsfreier KI hinweisen, denn obwohl in KI-Anwendungen scheinbar objektive Algorithmen zum Einsatz kommen, treffen sie nicht immer neutrale und gerechte Entscheidungen. Manchmal ist die Datenbasis das Problem, die nicht ausgeglichen gew\u00e4hlt wurde oder bereits gesellschaftliche Ungleichheiten abbildet, manchmal steckt der Fehler in den Algorithmen selbst, die bestimmte Merkmale zu stark gewichten oder aus Korrelationen eine Kausalit\u00e4t ableiten, die nicht existiert. Beispiele f\u00fcr KI-Anwendungen, die Menschen aufgrund bestimmter Eigenschaften diskriminieren, sind in den vergangenen Jahren immer wieder bekannt geworden, etwa Gesichtserkennungsalgorithmen, die Probleme haben, Frauen und dunkelh\u00e4utige Menschen zu erkennen. Auch gezielte Manipulationen gab es, beispielsweise als der Chatbot eines gro\u00dfen Software-Konzerns aus echten Konversationen in sozialen Netzwerken lernen sollte und Anwender ihn mit rassistischen \u00c4u\u00dferungen binnen wenigen Stunden zum Rassisten machten.<\/p>\n

Kein Wunder also, dass viele Verbraucher K\u00fcnstlicher Intelligenz skeptisch gegen\u00fcberstehen und gerade bei wichtigen Entscheidungen eher Menschen als einer KI vertrauen (1). Setzen Unternehmen KI-basierte Anwendungen ein, etwa bei der Auswahl von Bewerbern, der Vergabe von Krediten oder bei der Bearbeitung von Versicherungsf\u00e4llen, m\u00fcssen sie die L\u00f6sungen und Ergebnisse w\u00e4hrend der Entwicklung, der Trainingsphase und im laufenden Betrieb genau kontrollieren, um unfaire und diskriminierende Entscheidungen zu erkennen. Die beiden wichtigsten Bausteine daf\u00fcr sind transparente Algorithmen und Simulationen. <\/p>\n

Transparente Algorithmen sind notwendig, damit Entwickler und Nutzer der KI-Anwendungen verstehen, wie Entscheidungen gef\u00e4llt werden und wie sich bestimmte Eigenschaften auf die Entscheidungen auswirken. Sehr komplexe Algorithmen, die eine Art \u201eBlack Box\u201c sind, liefern m\u00f6glicherweise bessere Ergebnisse, sind aber intransparent und bergen ein Risiko, weil umstrittene Entscheidungen nur unzureichend erkl\u00e4rt werden k\u00f6nnen. Unternehmen m\u00fcssen daher abw\u00e4gen, wie viel Transparenz und damit Erkl\u00e4rbarkeit f\u00fcr das konkrete Einsatzgebiet notwendig ist. Bei transparenten Algorithmen k\u00f6nnen sie bereits im Vorfeld mit Simulationen, die spezielle Testdaten oder echte Daten verwenden, schnell erkennen, welche als diskriminierend eingestuften Eigenschaften \u2013 etwa Alter, Geschlecht oder Herkunft \u2013 zu verzerrten Entscheidungen f\u00fchren. Sei es, dass \u00e4ltere Menschen eher einen Kredit gew\u00e4hrt bekommen als j\u00fcngere, dass M\u00e4nner eher zu Vorstellungsgespr\u00e4chen eingeladen werden als Frauen oder dass bei der Regulierung von Unfallsch\u00e4den h\u00e4ufiger ein Gutachter zu Versicherten mit ausl\u00e4ndischem Namen geschickt wird als zu Versicherten mit deutschem Namen.<\/p>\n

Allerdings sind nicht alle Diskriminierungen so offensichtlich \u2013 die St\u00e4rke von KI-Anwendungen ist es schlie\u00dflich, Zusammenh\u00e4nge besser und schneller zu erkennen als Menschen. Zum Beispiel k\u00f6nnte eine KI auch vom Vornamen auf das Alter schlie\u00dfen oder von der Buchstabenh\u00e4ufigkeit im Nachnamen auf die Herkunft. Darum m\u00fcssen alle Eigenschaften, die in die Entscheidungsfindung einflie\u00dfen, mit Simulationen auf eine m\u00f6gliche Diskriminierung abgeklopft werden. Gute KI-Systeme erkennen die zu starke Gewichtung bestimmter Eigenschaften nicht nur in Simulationen, sondern auch im Live-Betrieb, sodass kontinuierlich nachjustiert werden kann.<\/p>\n

\u201eEine Bevorzugung oder Benachteiligung bestimmter Personengruppen sieht man einem KI-Algorithmus nicht an \u2013 man erkennt sie erst in der Simulation oder im Live-Betrieb, wenn einzelne Eigenschaften die Entscheidungen in die eine oder andere Richtung beeinflussen\u201c, erkl\u00e4rt Dr. Kay Knoche, Principal Solution Consultant bei Pegasystems. \u201eDie Abw\u00e4gung, welche Eigenschaften bei der Entscheidungsfindung nicht ber\u00fccksichtigt werden sollen und wie viel Transparenz ein Algorithmus bieten soll, muss f\u00fcr jeden Anwendungsfall die Fachabteilung vornehmen. Die Entwickler der KI k\u00f6nnen nicht dar\u00fcber entscheiden, wann eine hohe Vorhersagequalit\u00e4t und hohe Erfolgsquoten wichtig sind und wann diskriminierungsfreie Ergebnisse und Auditierbarkeit.\u201c<\/p>\n

(1) Pegasystems-Studie \u201eWas Verbraucher wirklich \u00fcber KI denken\u201c, https:\/\/www.pega.com\/de\/ai-survey<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"