Künstliche Intelligenz sortiert Bewerbungen aus - Rationalisierung oder Diskriminierung durch blackbox Algorithmen?

Künstliche Intelligenz lehnt deine Bewerbung ab? Was in den USA längst Realität geworden ist, kommt zunehmend auch nach Deutschland: Zumindest die Kategorisierung und teils Vorauswahl wird vor allem in größeren Konzernen bereits automatisiert durchgeführt. Für Bewerber bedeuten solche Systeme ein deutliches Umdenken - ansonsten wird die eigene Bewerbung falsch oder sogar gar nicht erkannt. Die Technik bietet viele Risiken, aber auch Potenzial für Chancen. Welche das sind, könnt ihr im Detail im neuesten Portal-Artikel lesen:

Künstliche Intelligenz sortiert Bewerbungen aus - Rationalisierung oder Diskriminierung durch blackbox Algorithmen? Wie wirkt sich das auf uns aus?

Habt ihr bereits Erfahrungen mit künstlicher Intelligenz bei euren Bewerbungen gemacht? Waren es positive oder negative?
Überwiegen eurer Meinung nach die Vorteile oder Nachteile dieser Technologie?
Treffen Menschen bei der Auswahl von Kandidaten bessere Entscheidungen?

Nun, was Banken schon seit Jahren exerzieren, das kann man doch auch bei Bewerbungen durchziehen!
Also, stimmt Dein Ranking nicht, bist Du raus aus der Nummer (ev. kann ja die Schufa noch aushelfen, die kennen sich ja mit so einen Müll bestens aus).

In New York hat man diese Bedenken ebenfalls und schafft erste Regelungen: Wer solche Tools für Bewerbungen einführt, muss 1x pro Jahr ein Audit bestehen. Bei dem Audit soll sichergestellt werden, dass keine Diskriminierung stattfindet. So wird zwar mehr Transparenz und Kontrolle geschaffen, als bisher. Kritikern gehen diese Maßnahmen aber nicht weit genug: Zwar darf niemand anhand seines Geschlechtes, Rasse oder Ethnie ausgeschlossen werden. Andere Eigenschaften wie z.B. das Alter oder Behinderungen seien nicht erfasst. Zudem wird kritisiert, dass der Anbieter die Audits selbst durchführen können soll.

Im Jahr 2014 hat Amazon eine Software entwickelt die wie DMW007 gesagt hat mit künstlicher Intelligenz ein Ranking der eingegangenen Bewerbungen erstellen sollte. Aber die Software hat Frauen diskriminiert allerdings war das nicht die Absicht der Entwickler. Die Software hatte nur Bewerbungen angenommen die von technikaffinen Männern stammte das hat sich die Künstliche Intelligenz gemerkt und von da an nur noch solche Bewerbungen angenommen die Software hat alle anderen Bewerbungen fein säuberlich ausgefiltert.

Es gab aber auch so ein ähnlichen Fall in den USA nämlich hat da die Künstliche Intelligenz festgestellt das die Mitarbeiter, die weiter weg von der Arbeitsstelle wohnen, schneller ihre Stelle kündigen. Und somit sortierte die Künstliche Intelligenz alle Bewerbungen aus die in einem Außenbezirk der Stadt wohnten. Das Problem war das in diesem Außenbezirk ein Großteil der Menschen einer ethnischen Gruppe angehörte und somit Diskriminierte die Künstliche Intelligenz diese Leute, weil sie die ganzen Bewerbungen aussortiert hat.

Bei diesem bürokratischen System kommt mir schon ein Mensch wie ne KI vor.
Was soll mich denn hier wundern?