Wenn der Algorithmus ausgrenzt – ENS-Stipendiatin über Altersdiskriminierung durch Digitalisierung

Drei Monate lang forschte Dr. Justyna Stypińska als Stipendiatin an der European New School of Digital Studies (ENS). Die Soziologin beschäftigt sich mit verschiedenen Formen der Altersdiskriminierung. In ihrem neuesten Projekt untersucht sie, wie Algorithmen und künstliche Intelligenz ältere Nutzerinnen und Nutzer benachteiligen. Im Interview erzählt sie von ihrer Forschung und der Zeit als Stipendiatin im Programm „Datafication in European Societies“, das von der Dieter Schwarz Stiftung finanziert wird.

Wie schauen Sie auf Ihre Zeit als ENS-Fellow zurück?
Ich habe die ruhige Zeit sehr genossen, in der ich mich ganz auf meine Forschung konzentrieren konnte. Ich habe Artikel fertiggestellt, neue Manuskripte für Veröffentlichungen vorbereitet und die wichtigste neue Literatur im Bereich Künstliche Intelligenz und Gesellschaft durchgesehen. Während meines Stipendiums konnte ich auch an einer Fortbildung am Leibniz-Institut für Sozialwissenschaften in Mannheim (GESIS) teilnehmen, um Web-Scraping-Techniken mit Python zu erlernen – eine Fortsetzung meiner vorherigen Fortbildung in Datenanalyse. Und nicht zuletzt habe ich den wissenschaftlichen Austausch mit ENS-Kolleginnen und Kollegen sehr genossen. Im Rahmen meines neuen Projektes über Altersdiskriminierung und Ausschluss im Zeitalter der Künstlichen Intelligenz würde ich diesen Austausch gern fortsetzen.

Sie beschäftigen sich mit Altersdiskriminierung. Was interessiert Sie daran?
Ich habe bereits vor vielen Jahren mit meiner Dissertation über Altersdiskriminierung begonnen; mein Schwerpunkt lag dabei auf dem Arbeitsmarkt, und es war die erste derartige Forschung in Polen zu dieser Zeit. Sie stand in engem Zusammenhang mit rechtlichen Änderungen im europäischen Recht – 2004 traten neue Antidiskriminierungsrichtlinien in Kraft. Altersdiskriminierung ist ein faszinierendes Thema, da es sich hierbei um den einzigen „Ismus“ (wie Rassismus, Sexismus und andere Formen von Vorurteilen) handelt, der letztendlich jeden betrifft, der lange genug lebt, um ihn zu erleben. Er hat eine eigentümliche Universalität an sich. Für viele Männer (also die heterosexuellen, weißen, finanziell privilegierten) ist Altersdiskriminierung vielleicht die erste Ausschluss-Erfahrung in ihrem Leben. 

Wie zeigt sich Altersdiskriminierung im Bereich der Digitalisierung?
Die Manifestation von Altersdiskriminierung in der künstlichen Intelligenz ist noch nicht systematisch erforscht worden, aber es gibt bereits Studien, die auf dieses Problem hinweisen – zum Beispiel funktionieren Modelle, die für die Gesichtserkennung verwendet werden, nicht gut für ältere Personen. Auch bei der Stimmungsanalyse (eng. Sentiment analysis) – einem Instrument zur Analyse von Emotionen in Texten (z. B. in Kommentaren in sozialen Medien) – wurde eine Altersverzerrung festgestellt. Es zeigte sich, dass Sätze, die sich auf ältere Personen beziehen oder eine Sprache verwenden, die häufiger von älteren Personen verwendet wird, von diesem Tool weniger positiv bewertet werden. In meinem neuen, von Volkswagen Stiftung finanzierten, Projekt „AI Ageism: new forms of age discrimination and exclusion in the era of algorithms and artificial intelligence“ werden wir uns diese Fälle genauer ansehen und auch untersuchen, wie ältere Erwachsene diese neue Art von Diskriminierung und Ausgrenzung in der digitalen Welt erleben.

Lässt sich künstliche Intelligenz (KI) nicht auch positiv nutzen, um Grenzen, die uns das Alter setzt, zu überwinden?
Das ist ein wichtiger Punkt! KI wird tatsächlich in vielen Fällen auch zum Nutzen älterer Menschen eingesetzt, so zum Beispiel in der Pflege- und Betreuungstechnologie. Einer der häufigsten Anwendungsfälle für KI zum Nutzen älterer Menschen sind die Systeme zur Sturzerkennung. Sie helfen zu erkennen, ob eine ältere Person gestürzt ist, und alarmieren das Pflegepersonal. Es gibt auch Systeme, die überwachen, welche Medikamente ältere Menschen einnehmen oder ob sie nach dem Verlassen des Hauses nach Hause zurückgekehrt sind. Diese Systeme ermöglichen es älteren Menschen, länger unabhängig zu leben, und den pflegenden Angehörigen, sich über das Wohlergehen ihres älteren Familienmitglieds zu informieren. Andererseits ermöglichen diese Systeme aber auch ein hohes Maß an Kontrolle und werden daher manchmal in Frage gestellt.

(FA)