Die Automatisierung der Demokratie mit Lorena Jaume-Palasi

Die diesjährige Innocracy Konferenz fand unter dem Motto
"Democratic Transformations“ statt: Wie gestalten wir eine
nachhaltige und inklusive Gesellschaft? Demokratie21 war als
Partnerorganisation geladen, Teil eins dieser Zusammenarbeit ist
der Livepodcast zur Zukunft der Institutionen. Hier folgt Teil zwei
mit Lorena Jaume-Palasi. Sie ist Gründerin von The Ethical Tech
Society und sprach über Algorithmen, Automatisierung, künstliche
Intelligenz und den Einfluss auf Demokratie. Hier lesen Sie drei
Stichpunkte: Verzerrungen und Übersetzungsprobleme „Ich versuche zu
verstehen, wie die Interaktion zwischen Menschen und Technologie
funktioniert“. Technologien werden zwar immer in einer
mathematischen Sprache geschrieben, aber die Umstände der Menschen,
die sie programmieren, bleibt dabei oft unbeachtet: „Welche
Annahmen über die Welt, welche Vorurteile, welche Vorstellungen
haben wir?“ Daraus entstehen schnell unbewusste Verzerrungen, sie
erwähnt ein Beispiel. Eine Schülerin mit schwarzer Hautfarbe hatte
von Lymekrankheit gelernt. Diese Infektion hinterlässt ein Muster
auf der Haut, Bilder aus Schulbüchern oder von Google zeigten nur
Menschen mit heller Hautfarbe. „Das zeigt unsere Ausgangsposition.
Mit welchem Duktus beginnen wir zu forschen, zu katalogisieren und
zu visualisieren?“. Jeder der aus dem Raster fällt, kommt entweder
gar nicht, oder zum Schluss dran. In diesem Beispiel aus der
Medizin, gab es kein Erscheinungsbild einer Krankheit für Menschen
mit dunkler Hautfarbe. „Wir brauchen eine breitere Palette an
Standards. Dazu müssen wir im ersten Schritt auf solche Probleme
hinweisen und sensibilisieren“. Neue Dynamiken „Wenn Technologie
benutzt wird, wird sie auch angeeignet vom Nutzer. Wir machen alle
etwas Anderes damit, als die Entwickler ursprünglich geplant
hatten. Das ist eine Form von Mitentwicklung, weil wir sie damit
verändern. Technik steht also nie für sich alleine, sie ist in
einer Symbiose mit uns“. Durch diese Dynamik entstehen auch Lücken,
die niemand sieht, aber gesehen werden müssten, wie das erwähnte
Beispiel der Lymekrankheit. Hier setzt die Arbeit der Ethical Tech
Society an. Im ersten Schritt, sagt Jaume-Palasi, müsse man an die
Quelle gehen: Für dieses Beispiel die Weltgesundheitsorganisation
(WHO) auf internationaler Ebene und lokale
Gesundheitsorganisationen in Deutschland. Um möglichst große
Wirkung zu erzielen, muss die Presse und Öffentlichkeit mitgenommen
werden. „Hier handelt es sich um eine Lücke in der Datenbank, das
ist aber nur ein mögliches Problem. Andere Technologien würden
bereits als Konzept einer starken Verzerrung unterliegen. Es
braucht eine gute „Governance“ dieser Daten, Strukturen und
Interaktionen. Neue Technologien stellen sich die Frage nach dem
ethischen „Sollen wir das tun?“ oft gar nicht, meint sie. Manuelle
Arbeit schafft künstliche Intelligenz Jaume-Palasi arbeitet auch
mit dem öffentlichen Sektor und der Politik. Wie gehen die
Menschen, die dazu Gesetze formulieren und exekutieren müssen, um?
„Sehr unterschiedlich. Einerseits herrscht Angst, weil es eine Flut
von Daten ist, man nicht weiß, was sie bedeuten und wie man sie in
bestehende Verfahren eingliedert. Andererseits herrscht auch eine
Faszination: Assistenz, mehr Systematik im eigenen Tun und
Effizienz“. Gleich wie im privatwirtschaftlichen Bereich gebe es
viele Projektionen und Wünsche, die von einer nüchternen Realität
eingeholt werden. „Künstliche Intelligenz braucht viel manuelle
Intelligenz. Das heißt Nein sagen, kalibrieren, viel Handarbeit und
Aufsicht“. Diese Prozesse unterliegen immer noch der erwähnten
Dynamik. Das Muster, das heute noch gilt, kann morgen schon ein
neues sein. „Diese ständig notwendigen Korrekturen gegenüber der
Maschine implizieren ironischerweise eine Automatisierung der
eigenen, menschlichen Arbeit“. Wenn wir etwas automatisieren
wollen, übernimmt diese Arbeit nicht die Maschine, sondern
Menschen, die wiederum äußerst monotonen Prozessen unterliegen,
sagt sie. „Es ist sehr un