Skip to main content

Magazin #1 | Sommer 2022

Modelcards

Mit sogenannten Modelcards werden Machine- Learning-Modelle dokumentiert. Die Modelcards sollen darüber Aufschluss geben, in welchem Kontext algorithmische Entscheidungssysteme genutzt werden. Es handelt sich um kurze Dokumente, in denen die Leistungsmerkmale des jeweiligen Algorithmus strukturiert aufgeführt sind. Sie enthalten auch Informationen zum Kontext, in dem das Training des Modells stattfindet: Informationen über verschiedene kulturelle, demografische oder phänotypische Gruppen (z. B. Ethnizität, geografischer Standort, Geschlecht, Fitzpatrick-Hauttyp) und intersektionale Gruppen (z. B. Alter und Ethnizität oder Geschlecht und Fitzpatrick-Hauttyp). Eine vollständige Dokumentation sollte außerdem den Typ und die Details des Machine-Learning-Modells enthalten, ebenso wie Informationen zum geplanten Anwendungsfall und zu möglichen Einflussfaktoren. Darüber hinaus sollten in den Modelcards Test- und Trainingsdaten sowie ethische Aspekte oder Bedenken festgehalten werden. Diese Dokumentation soll dafür sorgen, dass das Maschinelle Lernen der jeweiligen Modelle transparenter und nachvollziehbarer wird. Zu diesem Zweck hat etwa Google eine Modelcard für einen Algorithmus veröffentlicht, der auf Fotos und in Videos Gesichter erkennt. Ein anderes Beispiel ist die Modelcard für das häufig genutzte Sprachverarbeitungsmodell BERT, die auf der Entwicklungsplattform Hugging Face veröffentlicht wurde.