Können wir sagen, dass KI heute gleichbedeutend mit verantwortungsvoller KI ist? Leider sind wir noch nicht so weit. Wir sind sogar ziemlich weit davon entfernt. Wir müssen noch die richtige Mischung aus Lösungsansätzen finden, um weiterzukommen. Dazu gehören auch technische Lösungsansätze. Wir brauchen bessere Algorithmen und Programmierer*innen, die sich der allgemeinen Problemlage bewusst sind. Die Algorithmen selbst sind aber im Moment nicht das eigentliche Problem.

Wir haben noch kein gemeinsames Verständnis darüber entwickelt, welche Funktion KI in unserer Gesellschaft erfüllen soll. Die Voraussetzung dazu wäre, uns zunächst einmal darüber klar zu werden, was KI überhaupt leisten kann, und was eben auch nicht. Die Allgemeinheit stellt sich KI noch immer als magisches Instrument vor, was den Entwickler*innen dieser Technologie sehr viel Macht verleiht. Aber die Entwickler*innen haben es auf diese Macht gar nicht unbedingt abgesehen, weil sie in der Regel nicht dafür ausgebildet sind, die rechts- und sozialwissenschaftlichen Implikationen der Technologie zu begreifen. Wir sollten Techniker*innen gar nicht erst in die Verlegenheit bringen, durch die Art, wie sie ihre Codes gestalten, gesellschaftlich relevante Grundsatzentscheidungen zu treffen.

Wir geben gerade einen für alle zugänglichen Kurs in der öffentlichen Bibliothek in Queens, New York. Er heißt „We Are AI” („Wir sind KI“). Dafür sind keine bestimmten Voraussetzungen notwendig, weder Programmierkenntnisse noch irgendwelche Abschlüsse. Die Teilnahme an dem Kurs ist kostenlos. Wir schenken den Teilnehmenden sogar Gutscheine. Bei dem Kurs wollen wir den Menschen klarmachen, dass KI genau das macht, was wir wollen. Sowohl diejenigen, mit denen ich diesen Kurs entwickelt habe, als auch die Teilnehmer*innen sagen, dass das aber noch nicht der Fall ist. Wir haben keine Kontrolle darüber, wie KI eingesetzt wird. Wir sind ihr heute einfach ausgeliefert. Aber indem wir sagen „KI macht genau das, was wir wollen“, setzen wir dieser Realität etwas entgegen. Unser Ziel ist es, Einfluss auf die Gegenwart zu nehmen, indem wir sagen, wie wir uns die Zukunft vorstellen. Allein dadurch bewegen wir uns in die richtige Richtung.

Wenn ich über Transparenz- und Interpretationsmechanismen nachdenke, habe ich immer ganz normale Menschen im Sinn. Ein Beispiel: Algorithmen werden in großem Stil bei Bewerbungsverfahren eingesetzt. Irgendwann suchen wir alle nach einem Job. Die Automatisierung ist in diesem Bereich so weit fortgeschritten, dass wir alle bei der Arbeitssuche entweder bereits mit KI-Systemen zu tun hatten oder es mit ihnen in naher Zukunft zu tun haben werden. Einen Zugang zu Jobs zu haben ist eine schiere ökonomische Notwendigkeit für uns alle. Deshalb müssen wir genau an dieser Stelle überlegen, wie wir den Einsatz von KI regulieren wollen. Alle Arbeitssuchenden müssen wissen, in welcher Weise sie von diesen Systemen betroffen sind. Die Unternehmen, die die Entwicklung solcher Systeme für ihre Zwecke in Auftrag geben, sollten ebenso wissen, was in diesen Systemen eigentlich passiert. Wenn es um den Zugang zur Arbeit geht, müssen wir alle wissen, was die Algorithmen genau tun. Identifizieren sie Kandidat*innen für eine Stelle, die vielleicht gar nicht wissen, dass ihr Profil auf einen Job passt? Gleichen die Algorithmen Lebensläufe mit Stellenausschreibungen ab? Bestimmen sie die Gehaltseinstufung? All diese Möglichkeiten sind mit unterschiedlichen Voraussetzungen und Fehlerquellen verbunden – und in allen Szenarien kom- men unterschiedliche Instrumente zum Einsatz. Wenn wir mit bestimmten Interessensvertreter*innen sprechen, müssen wir ihnen aus diesem Grund sehr genau erklären, wo der Hund begraben liegt.

Wir haben sowas wie eine „Lebensmittelkennzeichnung” für Bewerber*innen entwickelt, um die verschiedenen Szenarien abzudecken, in denen Bewerber*innen und die Unternehmen, die einstellen, über ein Einstellungssystem miteinander interagieren. Ein Kennzeichnungslabel würde dann zu einer Stellenanzeige gehören, ich nenne es das „Profillabel“. Darin dokumentieren die Unternehmen, welche speziellen Qualifikationen für die entsprechende Stelle erforderlich sind. Menschen, die einen Job suchen, können dadurch einschätzen, ob sie für die entsprechende Stelle qualifiziert sind, welche ihrer Daten für das Screeningverfahren genutzt werden, welches Screening angewendet wird, welche Opt-Out-Optionen es gibt und in welcher Instanz bestimmte Informationen relevant sind. So ein Label würde es ermöglichen, dass Bewerber*innen der Verarbeitung ihrer Daten informiert zustimmen könnten. Sie würden einschätzen können, ob sie sich auf die Stelle bewerben wollen, oder ein alternatives Screening-Formular beantragen können. Mit der Zu- oder Absage bei einem Job würde ein anderes Label verbunden sein, das „Entscheidungslabel”. Bewerber*innen würden darüber informiert werden, was sie tun können, um in Zukunft größere Chancen bei einer ähnlichen Ausschreibung zu haben. Außerdem ist damit eine Möglichkeit verbunden, die Entscheidung anzufechten, zum Beispiel wenn Daten falsch verarbeitet wurden.

Wie alle Mitwirkenden im Center for Responsible AI bin ich sehr stolz darauf, dass wir große Befürworter*innen eines Gesetzes waren, das am 21. Dezember 2021 in New York City verabschiedet wurde. Dieses Gesetz hat den ersten Präzedenzfall zur Regulierung algorithmischer Bewerbungsprozesse geschaffen: Das Gesetz unter dem Namen „Local Law 144” sieht vor, dass Tools für automatisierte Entscheidungen vor ihrem Einsatz auf Bias hin überprüft werden müssen. Außerdem müssen Bewerber*innen vor der Bewerbung darüber informiert werden, wenn Systeme verwendet werden, um ihre Daten zu screenen, und welche Daten aus ihrer Bewerbung dies betrifft. Das Gesetz wird im Januar 2023 in Kraft treten, so dass KI-Anbieter und Unternehmen, die KI einsetzen, ein Jahr lang Zeit haben, um sich auf die neue Gesetzeslage einzurichten. Das ist ein wichtiger erster Schritt.