Algorithmen im Alltag: Wo KI über Sie mitentscheidet

Am Morgen sortiert eine App Ihre Nachrichten. Auf dem Weg zur Arbeit schlägt das Navi eine Umleitung vor. Mittags zeigt ein Onlineshop Ihnen andere Produkte als Ihrer Kollegin. Und irgendwo prüft vielleicht eine Software Ihre Bewerbung oder Ihren Kreditantrag. In all diesen Fällen rechnet ein Algorithmus mit.

Die meisten dieser Systeme nehmen Ihnen keine Entscheidung ab. Sie sortieren vor, bewerten, schlagen vor. Gerade deshalb fallen sie kaum auf. Wer aber versteht, wie sie arbeiten, kann besser einschätzen, wann er ihnen trauen sollte und wann nicht.

Dieser Beitrag betrachtet KI-Algorithmen aus Sicht der Menschen, die von ihnen betroffen sind. Er erklärt die Grundidee, zeigt typische Fehlerquellen und nennt die Rechte, die Sie in der EU haben.

Wie ein lernender Algorithmus arbeitet

Ein klassisches Programm folgt festen Regeln, die ein Mensch aufgeschrieben hat. Ein lernender Algorithmus leitet seine Regeln dagegen aus Beispielen ab. Man zeigt ihm viele vergangene Fälle samt Ergebnis. Daraus bildet er ein Modell, das für neue Fälle eine Wahrscheinlichkeit ausgibt.

Ein Empfehlungssystem lernt etwa, welche Videos Menschen mit ähnlichem Verhalten lange angesehen haben. Ein Scoring-Modell lernt, welche Merkmale früher mit pünktlich bezahlten Rechnungen einhergingen. Das Modell versteht dabei nichts im menschlichen Sinn. Es erkennt Muster und rechnet mit ihnen weiter.

Daraus folgt eine wichtige Grenze. Ein Modell kann nur so gut sein wie die Daten, aus denen es gelernt hat. Und es verfolgt genau das Ziel, das man ihm vorgibt. Heißt dieses Ziel Verweildauer, bevorzugt das System Inhalte, die Menschen lange festhalten. Ob diese Inhalte ihnen guttun, misst es nicht.

Wo Algorithmen heute mitentscheiden

Einige Bereiche sind besonders wichtig, weil die Folgen für Einzelne spürbar sind:

• Information: Feeds in sozialen Netzwerken und Nachrichten-Apps bestimmen, was Sie zuerst sehen und was gar nicht.
• Preise und Angebote: Onlinehändler und Reiseportale passen Preise und Reihenfolgen laufend an Nachfrage und Verhalten an.
• Arbeit: Manche Unternehmen sortieren Bewerbungen vor oder planen Schichten per Software.
• Geld: Banken und Auskunfteien schätzen mit Modellen ab, wie wahrscheinlich ein Kredit zurückgezahlt wird.
• Öffentliche Stellen: Behörden nutzen Software, um Anträge zu sortieren oder Prüfungen zu planen.

Nicht überall steckt maschinelles Lernen dahinter. Manches ist ein einfaches Regelwerk mit dem Etikett KI. Für Betroffene macht das aber wenig Unterschied. Entscheidend ist, ob am Ende ein Mensch hinsieht und ob er das auch wirklich kann.

Diese letzte Frage wird oft unterschätzt. Wenn eine Sachbearbeiterin täglich hundert Vorschläge einer Software abzeichnen soll, prüft sie kaum jeden einzeln. Fachleute nennen das Automatisierungsverzerrung: Menschen vertrauen einer Maschine eher, als ihr zu widersprechen. Eine menschliche Kontrolle auf dem Papier ist deshalb noch keine echte Kontrolle.

Wo Algorithmen irren

Der bekannteste Fehler heißt Verzerrung, im Englischen Bias. Lernt ein Modell aus Daten, in denen eine Gruppe früher benachteiligt wurde, setzt es diese Benachteiligung fort. Das passiert auch dann, wenn Merkmale wie Geschlecht oder Herkunft gar nicht in den Daten stehen. Wohnort, Vorname oder Lücken im Lebenslauf können als Stellvertreter wirken.

Ein zweiter Fehler entsteht, wenn sich die Welt ändert. Ein Modell, das vor einer Krise trainiert wurde, kennt das neue Verhalten nicht. Es rechnet mit alten Mustern weiter, bis jemand es neu trainiert. Ein dritter Fehler liegt im Ziel selbst: Ein System kann genau das tun, was man verlangt, und trotzdem Schaden anrichten.

Tückisch ist auch die Rückkopplung. Ein Empfehlungssystem, das bestimmte Inhalte bevorzugt, erzeugt selbst die Klicks, aus denen es weiterlernt. So kann es eine Vorliebe verstärken, die anfangs nur schwach ausgeprägt war. Ähnliches gilt, wenn Kontrollen dorthin geschickt werden, wo früher viel gefunden wurde.

Hinzu kommt die Masse. Ein Sachbearbeiter, der falsch entscheidet, betrifft einige Fälle. Ein fehlerhaftes Modell betrifft alle Fälle, die es bewertet. Und weil die Fehler gleichförmig sind, fallen sie lange nicht auf.

Ein Mensch irrt im Einzelfall, ein Algorithmus irrt im großen Stil und immer auf dieselbe Weise.

Ihre Rechte in der EU

Die Datenschutz-Grundverordnung, kurz DSGVO, gilt seit 2018. Sie gibt Ihnen ein Auskunftsrecht. Sie dürfen erfahren, welche Daten ein Unternehmen über Sie speichert und wofür es sie nutzt. Bei automatisierten Entscheidungen haben Sie zudem Anspruch auf aussagekräftige Informationen über die verwendete Logik.

Besonders wichtig ist Artikel 22. Er schützt davor, einer Entscheidung unterworfen zu werden, die ausschließlich automatisiert fällt und Sie rechtlich oder ähnlich erheblich betrifft. Ausnahmen gibt es, etwa bei Verträgen oder mit Ihrer Einwilligung. Dann muss das Unternehmen aber das Eingreifen eines Menschen ermöglichen. Sie dürfen Ihren Standpunkt darlegen und die Entscheidung anfechten. Der Europäische Gerichtshof hat 2023 entschieden, dass schon der Score einer Auskunftei darunter fallen kann, wenn er für die Entscheidung maßgeblich ist.

Mit der europäischen KI-Verordnung, dem AI Act, kommt seit 2024 eine weitere Ebene hinzu. Ihre Regeln greifen stufenweise. Sie verbietet einige Praktiken ganz, etwa Systeme, die Menschen nach ihrem sozialen Verhalten bewerten und daraus Nachteile ableiten. Für Hochrisiko-Systeme, etwa in Personalauswahl oder Kreditprüfung, gelten strenge Vorgaben zu Daten, Dokumentation und menschlicher Aufsicht.

Was Sie selbst tun können

Sie müssen keine Informatik studieren, um mit Algorithmen umzugehen. Fragen Sie nach, wenn eine Entscheidung nicht nachvollziehbar ist, etwa eine Ablehnung ohne Begründung. Verlangen Sie eine Prüfung durch einen Menschen, wenn die Entscheidung Sie erheblich betrifft. Vergleichen Sie Angebote, wenn Ihnen ein Preis merkwürdig vorkommt.

Eine Auskunftsanfrage nach der DSGVO ist formlos möglich, per Brief oder E-Mail. Bitten Sie ausdrücklich um Angaben zu automatisierten Entscheidungen und Profiling. Das Unternehmen muss in der Regel innerhalb eines Monats antworten. Die Auskunft ist grundsätzlich kostenlos.

Nutzen Sie auch die Einstellungen von Apps und Plattformen. Sehr große Plattformen müssen in der EU nach dem Digital Services Act mindestens eine Form von Empfehlungen anbieten, die nicht auf Ihrem Profil beruht. Oft heißt diese Option schlicht chronologischer Feed. Bei Problemen helfen Verbraucherzentralen und die Datenschutzbehörden. Eine Beschwerde bei einer Aufsichtsbehörde kostet Sie nichts.

Eine nüchterne Einordnung

Algorithmen sind weder Feind noch Heilsbringer. Sie helfen, Betrug zu erkennen, Krankheiten früher zu entdecken und Verkehr zu lenken. Sie können aber auch Vorurteile verfestigen und Verantwortung verschleiern. Welche Seite überwiegt, hängt weniger von der Technik ab als von den Regeln, unter denen sie läuft.

Für die Gesellschaft ist deshalb eine Frage zentral: Wer ist verantwortlich, wenn die Software irrt? Solange es darauf eine klare Antwort gibt, lassen sich Fehler finden und beheben. Wo sich niemand zuständig fühlt, wird aus einem technischen Problem ein gesellschaftliches.