Autor: Florian Lauck-Wunderlich, Project Delivery Leader bei Pegasystems<\/a><\/p>\n <\/p>\n Die Nutzung K\u00fcnstlicher Intelligenz f\u00fcr Kundenkommunikation und -services w\u00e4chst rasant. Das wirft Fragen nach der Verantwortung von Unternehmen f\u00fcr den fairen, diskriminierungsfreien Umgang damit auf. Pegasystems <\/a>benennt die f\u00fcnf wichtigsten Schritte bei der Entwicklung sozial gerechter, diskriminierungsfreier KI-Modelle.<\/p>\n K\u00fcnstliche Intelligenz (KI) kann den Kern gesellschaftlicher Konflikte und Ungerechtigkeiten nicht verschwinden lassen. Aber sie kann dazu beitragen, Diskriminierungen zu vermeiden und gesellschaftlichen Werten wie Vielfalt, Inklusion oder Geschlechtergerechtigkeit mehr Gewicht zu verleihen. KI ist f\u00fcr Unternehmen ein wertvolles Werkzeug, entsprechende Compliance- und Governance-Vorgaben in der t\u00e4glichen Praxis umzusetzen. Pegasystems<\/a>, f\u00fchrender Anbieter von strategischen Software-L\u00f6sungen f\u00fcr Vertrieb, Marketing, Service und Operations, hat die f\u00fcnf wichtigsten Punkte identifiziert, die bei der Umsetzung sozial gerechter KI- und Machine-Learning-Modelle zu beachten sind.<\/p>\n Bei der Entwicklung eines KI-Modells m\u00fcssen die Ziele widerspruchsfrei, eindeutig, kurz und verst\u00e4ndlich formuliert werden. Alle Beteiligten bewegen sich dabei im Spannungsfeld von nat\u00fcrlicher und mathematischer Sprache. In einer optimalen Arbeitsteilung fungiert der Data Scientist dabei als Bindeglied zwischen den Businessfunktionen und der Softwareentwicklung. Er k\u00fcmmert sich um die KI-Modellierung und Algorithmen, w\u00e4hrend sich das Business auf die Vorgaben und der Entwickler auf die Software konzentrieren k\u00f6nnen.<\/p>\n Eine grosse und repr\u00e4sentative Datenbasis ist eine wichtige Voraussetzung f\u00fcr die Genauigkeit des Modells. Je mehr und bessere Daten vorliegen, desto zielgenauer kann das KI-Modell trainiert werden. Dabei muss stets ein Kompromiss zwischen der angestrebten Genauigkeit und den Kosten und M\u00f6glichkeiten bei der Trainingsdatenbeschaffung getroffen werden. Einen zumindest teilweisen Ausweg aus diesem Konflikt bieten lernende Algorithmen, die es erlauben, auf Basis von sukzessiv eingehenden Echtzeitdaten zu trainieren.<\/p>\n KI-Modelle nutzen auf Statistik basierende Algorithmen, um Aussagen t\u00e4tigen zu k\u00f6nnen. Wenn die Verteilung der Merkmale in der Stichprobe, also zum Beispiel in den Trainingsdaten, nicht der wahren Verteilung der Merkmale in der Grundgesamtheit, also dem Nutzungskontext, entspricht, liegt eine Verzerrung vor. Das Modell muss st\u00e4rker abstrahieren, die Repr\u00e4sentativit\u00e4t der Aussage ist dadurch einschr\u00e4nkt und die Zielvorgaben k\u00f6nnen nur bedingt erf\u00fcllt werden.<\/span><\/p>\n Bei der operativen Umsetzung von Vorgaben wie etwa dem Entgelttransparenzgesetz oder gerechteren Geschlechteranteilen im Recruiting sind viele Faktoren zu gewichten. Will man beispielsweise im HR-Prozess die Abschlussnoten einer amerikanischen Bewerberin und eines finnischen Bewerbers fair bewerten, m\u00fcssten sie vergleichbar sein. Wenn die entsprechenden Daten daf\u00fcr aber nicht oder nur eingeschr\u00e4nkt vorliegen, muss der Algorithmus abstrahieren, was zu Einbussen bei der Qualit\u00e4t und Eignung des Modells und damit letztlich auch bei der Fairness im Einzelfall f\u00fchrt.<\/span><\/p>\n Die Vorschlagsquote weiblicher K\u00fcnstlerinnen (1)<\/span> liegt auf Streaming-Portalen bei rund 25 Prozent. Diese geringe Pr\u00e4senz f\u00fchrt dazu, dass sie weiter niedrig bleibt. Solche selbstverst\u00e4rkenden Prozesse sind aus der KI als \u00dcberanpassung bekannt. Data Scientists k\u00f6nnen durch Analyse der verwendeten Modelle und Daten die \u00dcberanpassung erkennen und sie durch geeignete Massnahmen wie Komplexit\u00e4tsreduzierung der Modelle oder Anpassung der Merkmaleoptimierung minimieren. Voraussetzung daf\u00fcr ist die Formulierung einer entsprechenden Zielvorgabe.<\/span><\/p>\n \u201eExistierende KI-Modelle k\u00f6nnen Defizite aufzeigen und helfen, gesellschaftlich gew\u00fcnschte L\u00f6sungen zu ihrer Beseitigung umzusetzen\u201c, erkl\u00e4rt Florian Lauck-Wunderlich, Project Delivery Leader bei Pegasystems. \u201eF\u00fcr die L\u00f6sung von komplexen Problemen, bei denen unterschiedliche Ziele abgeglichen und gedankliche Transfers zu anderen Modellen und Ans\u00e4tzen gezogen werden m\u00fcssen, brauchen wir jedoch eine starke KI, an der gerade intensiv geforscht und entwickelt wird.\u201c<\/p>\n1. Klare Zielvorgaben<\/h2>\n
2. Die richtige Datenbasis<\/h2>\n
3. Die geeignete Abstraktionsebene<\/span><\/h2>\n
4. Die Gewichtung von Merkmalen<\/span><\/h2>\n
5. Der Einfluss selbstverst\u00e4rkender Prozesse<\/span><\/h2>\n