Der künstliche Intelligenz Podcast – Entdecke, wie KI unsere Welt verändert
Wie verändert künstliche Intelligenz (KI) unseren Alltag, unsere Arbeit und unsere Zukunft? Im künstliche Intelligenz Podcast beleuchten wir die spannendsten Themen rund um KI, Machine Learning, Deep Learning und smarte Technologien – verständlich, praxisnah und ohne Fachchinesisch.
Jede Folge widmet sich einem neuen Thema: Welche Jobs sind wirklich durch KI bedroht? Welche neuen Berufe entstehen? Wie funktionieren autonome Roboter, Smart Factories oder intelligente Algorithmen im Marketing und Finanzwesen? Wir erklären außerdem die Technik hinter Neuronalen Netzen, Sprachmodellen und Bilderkennung, werfen einen Blick auf medizinische Diagnosen, Klimaforschung oder KI in der Astronomie und diskutieren ethische, gesellschaftliche und politische Fragen, von Datenschutz bis zu Deepfakes und KI-Regulierung.
Egal, ob du gerade erst in die Welt der künstlichen Intelligenz einsteigst oder schon tief in Themen wie Autonomie, Algorithmen und digitale Transformation eintauchst – hier bekommst du fundiertes Wissen, spannende Einblicke und aktuelle Trends. Jede Folge liefert Inspiration, Know-how und Denkanstöße, wie KI unseren Alltag, Unternehmen und unsere Zukunft prägt.
Abonniere den künstliche Intelligenz Podcast und bleibe auf dem Laufenden über alles, was KI heute bewegt – verständlich, spannend und direkt anwendbar.
HINWEIS: Der Podcast ist mithilfe von künstlicher Intelligenz erstellt!
Wenn die KI dich lenkt, ohne dass du es merkst
Wie Dark Patterns zur unsichtbaren Manipulationsmaschine werden
02.11.2026 21 min
Künstliche Intelligenz kann digitale Angebote persönlicher, schneller und komfortabler machen. Dieselben Technologien können jedoch auch dazu eingesetzt werden, Entscheidungen gezielt zu beeinflussen. Wo hilfreiche Personalisierung endet und manipulative Gestaltung beginnt, wird deshalb zu einer der wichtigsten Fragen der digitalen Gesellschaft.
KI trifft auf Dark Patterns
Dark Patterns sind Gestaltungsmethoden in digitalen Benutzeroberflächen, die Menschen dazu bringen können, Entscheidungen zu treffen, die sie ohne diese Gestaltung möglicherweise nicht getroffen hätten oder die nicht in ihrem eigenen Interesse liegen. Die OECD beschreibt Dark Commercial Patterns als digitale Praktiken, die Entscheidungsprozesse durch die Art und Weise beeinflussen, wie Auswahlmöglichkeiten präsentiert werden. Dazu gehören unter anderem irreführende Gestaltung, Druck, versteckte Informationen oder erschwerte Kündigungsprozesse.
Das Grundprinzip ist nicht neu. Bereits lange vor dem Aufkommen generativer KI konnten Webseiten beispielsweise vorausgewählte Optionen verwenden, wichtige Informationen verstecken oder den Weg zu einer Kündigung deutlich komplizierter gestalten als den Abschluss eines Angebots. Mit modernen Machine-Learning-Systemen verändert sich jedoch die mögliche Dimension dieser Methoden.
Der entscheidende Unterschied liegt in der Personalisierung. Klassische Dark Patterns können für eine große Zahl von Nutzern identisch gestaltet werden. KI-Systeme können dagegen große Mengen an Daten analysieren und daraus individuelle Muster ableiten. Die OECD weist ausdrücklich darauf hin, dass Fortschritte beim Machine Learning die gezielte Ausrichtung solcher Praktiken auf einzelne Verbraucher erleichtern könnten.
Damit entsteht eine neue Schnittstelle zwischen künstlicher Intelligenz, Verhaltensanalyse und Interface-Design. Ein System muss nicht mehr ausschließlich wissen, welche Gestaltung im Durchschnitt funktioniert. Es kann theoretisch analysieren, welche Formulierung, Reihenfolge oder Präsentation bei unterschiedlichen Personengruppen besonders wirksam ist.
Was ein Dark Pattern eigentlich ausmacht
Nicht jede überzeugende Werbung, jede personalisierte Empfehlung oder jede benutzerfreundliche Oberfläche ist automatisch ein Dark Pattern. Entscheidend ist die Art und Weise, wie die Entscheidung beeinflusst wird.
Die Europäische Datenschutzbehörde EDPB beschäftigt sich in ihren Leitlinien zu sogenannten Deceptive Design Patterns insbesondere mit manipulativen Gestaltungsmustern in sozialen Medien. Dabei geht es unter anderem darum, wie Benutzeroberflächen Entscheidungen über Datenschutz und personenbezogene Daten beeinflussen können. Die finale Fassung der entsprechenden Leitlinien wurde 2023 veröffentlicht.
Ein typisches Problem entsteht beispielsweise dann, wenn eine digitale Oberfläche eine bestimmte Option besonders prominent darstellt, während eine alternative Entscheidung wesentlich schwerer auffindbar ist. Ähnlich problematisch können irreführende Formulierungen, künstlich erzeugter Zeitdruck oder Prozesse sein, bei denen das Akzeptieren eines Angebots erheblich einfacher ist als dessen Ablehnung.
Die US-amerikanische Federal Trade Commission beschrieb in ihrem Bericht „Bringing Dark Patterns to Light“ verschiedene Formen solcher Praktiken. Dazu gehören unter anderem irreführende Werbung, erschwerte Kündigungen, das Verstecken wichtiger Bedingungen und Methoden, die Nutzer zur Preisgabe personenbezogener Daten bewegen.
Warum KI die Situation verändern kann
Künstliche Intelligenz erweitert die Möglichkeiten digitaler Systeme vor allem durch Mustererkennung und Automatisierung. Ein Machine-Learning-Modell kann beispielsweise große Datenmengen analysieren und Zusammenhänge erkennen, die sich mit klassischen manuellen Verfahren nur schwer untersuchen lassen.
Bei einem digitalen Angebot könnten theoretisch unterschiedliche Nutzergruppen unterschiedlich angesprochen werden. Texte, Bilder, Reihenfolgen von Informationen oder Empfehlungen könnten automatisiert angepasst werden. Bei generativer KI kommt hinzu, dass Inhalte nicht nur ausgewählt, sondern in Echtzeit erzeugt oder verändert werden können.
Das bedeutet allerdings nicht, dass heutige KI-Systeme automatisch wissen, welche psychologische Methode bei einer bestimmten Person am effektivsten ist. Eine solche Behauptung wäre wissenschaftlich zu weitgehend. Die tatsächlichen Fähigkeiten hängen vom jeweiligen System, den verfügbaren Daten, dem eingesetzten Modell und der konkreten Anwendung ab.
Gesichert ist dagegen, dass datengetriebene Personalisierung und automatisierte Optimierung bereits wichtige Bestandteile digitaler Geschäftsmodelle sind. Die regulatorische und wissenschaftliche Diskussion konzentriert sich deshalb zunehmend darauf, welche Grenzen für manipulative Anwendungen gelten sollen.
Wenn Personalisierung zur Manipulation wird
Personalisierung ist zunächst ein legitimes und häufig nützliches Prinzip. Ein Streamingdienst kann Empfehlungen an den bisherigen Konsum anpassen. Eine Suchmaschine kann Ergebnisse nach Kontext und Suchabsicht priorisieren. Ein Online-Shop kann Produkte anhand bisheriger Interaktionen anzeigen.
Problematisch wird Personalisierung dort, wo nicht mehr primär die Bedürfnisse des Nutzers unterstützt werden, sondern seine Entscheidungsfreiheit gezielt beeinträchtigt werden soll.
Die Grenze ist dabei nicht immer leicht zu bestimmen. Ein personalisiertes Angebot kann gleichzeitig wirtschaftlich sinnvoll für ein Unternehmen und nützlich für einen Verbraucher sein. Erst wenn die Gestaltung beispielsweise bewusst irreführend wird, relevante Alternativen verschleiert oder die Fähigkeit zu einer informierten Entscheidung erheblich beeinträchtigt, entsteht ein deutlich anderes Problem.
Genau diese Differenzierung ist für den Umgang mit KI entscheidend. Nicht jede Optimierung der Conversion Rate ist ein Dark Pattern. Nicht jede Empfehlung ist Manipulation. Und nicht jede automatisierte Entscheidung ist problematisch.
Die besondere Rolle generativer KI
Generative KI bringt eine zusätzliche Ebene in die Diskussion. Large Language Models können Texte erzeugen, verändern und an unterschiedliche Zielgruppen anpassen. Bild- und Videosysteme können visuelle Inhalte generieren oder verändern. KI-basierte Systeme können dadurch theoretisch eine enorme Anzahl unterschiedlicher Varianten digitaler Kommunikation produzieren.
Das kann für seriöse Anwendungen große Vorteile haben. Unternehmen können beispielsweise verständlichere Texte erstellen, Barrieren reduzieren oder Informationen stärker an individuelle Bedürfnisse anpassen.
Die gleiche technische Fähigkeit kann jedoch auch missbraucht werden. Ein System könnte Inhalte formulieren, die gezielt emotionalisieren, künstlichen Entscheidungsdruck erzeugen oder bestimmte Informationen weniger auffällig erscheinen lassen. Ob ein konkreter Einsatz tatsächlich manipulativ oder rechtswidrig ist, hängt dabei vom Kontext und von der konkreten Ausgestaltung ab.
Gerade deshalb ist die technische Fähigkeit zur Personalisierung nicht mit einer nachgewiesenen manipulativen Wirkung gleichzusetzen. Zwischen automatisierter Anpassung, überzeugender Kommunikation und unzulässiger Beeinflussung bestehen wichtige Unterschiede.
Besonders sensibel: Datenschutz und Zustimmung
Dark Patterns spielen eine besondere Rolle beim Umgang mit personenbezogenen Daten. Eine Benutzeroberfläche kann beispielsweise so gestaltet sein, dass Nutzer einer umfangreichen Datennutzung leichter zustimmen als sie abzulehnen.
Für Datenschutzbehörden ist deshalb nicht nur relevant, welche Informationen in einer Datenschutzerklärung stehen. Ebenso entscheidend kann sein, wie Auswahlmöglichkeiten tatsächlich präsentiert werden.
Die EDPB hat sich in ihren Leitlinien ausdrücklich mit solchen manipulativen Gestaltungsmustern in sozialen Medien beschäftigt. Die Perspektive ist dabei besonders relevant, weil soziale Plattformen große Mengen personenbezogener Daten verarbeiten und ihre Benutzeroberflächen einen unmittelbaren Einfluss darauf haben können, wie Nutzer mit Datenschutzentscheidungen umgehen.
Mit KI wird diese Frage komplexer, weil automatisierte Systeme die Personalisierung von Inhalten und Benutzererfahrungen weiter verstärken können.
Die wirtschaftliche Seite der Manipulation
Dark Patterns sind nicht ausschließlich ein Datenschutzproblem. Sie können auch unmittelbar wirtschaftliche Folgen haben.
Die OECD nennt unter anderem finanzielle Verluste, Datenschutzverletzungen und psychologische Auswirkungen als mögliche Folgen manipulativer digitaler Gestaltung. Außerdem können solche Praktiken das Vertrauen in digitale Märkte und den fairen Wettbewerb beeinträchtigen.
Die wirtschaftliche Attraktivität solcher Methoden liegt in ihrer Skalierbarkeit. Eine klassische Verkaufsmethode muss möglicherweise von Menschen entwickelt und angewendet werden. Eine digitale Gestaltung kann dagegen Millionen von Nutzern gleichzeitig erreichen.
KI könnte diesen Skalierungseffekt noch verstärken, wenn Systeme automatisiert Varianten testen und an unterschiedliche Zielgruppen anpassen. Ob und in welchem Umfang dies tatsächlich geschieht, ist von der jeweiligen Anwendung abhängig. Die technische Möglichkeit allein ist kein Beweis dafür, dass ein Unternehmen sie tatsächlich verwendet.
A/B-Tests und die Optimierung digitaler Entscheidungen
Viele digitale Produkte werden kontinuierlich optimiert. Unternehmen können unterschiedliche Versionen einer Benutzeroberfläche testen und anschließend analysieren, welche Version zu bestimmten Nutzeraktionen führt.
Solche Tests sind nicht grundsätzlich problematisch. Sie können dazu beitragen, Webseiten verständlicher oder effizienter zu machen. Ein Problem entsteht, wenn Optimierungsziele ausschließlich auf eine bestimmte Handlung ausgerichtet sind und dabei die Interessen der Nutzer systematisch in den Hintergrund treten.
KI kann diese Optimierung automatisieren und beschleunigen. Statt wenige Varianten manuell zu testen, können Systeme wesentlich mehr Kombinationen erzeugen und analysieren. Dadurch wächst die Bedeutung der Frage, welche Zielgröße überhaupt optimiert wird.
Ein System, das auf Verständlichkeit, Transparenz und Nutzerkontrolle optimiert wird, kann zu besseren digitalen Produkten beitragen. Ein System, dessen einzige Zielgröße darin besteht, möglichst viele Menschen zu einer bestimmten Handlung zu bewegen, kann dagegen problematische Anreize schaffen.
Regulierung: Die Europäische Union zieht Grenzen
Die Europäische Union hat mit dem AI Act einen wichtigen regulatorischen Rahmen für künstliche Intelligenz geschaffen. Besonders relevant für das Thema Manipulation ist Artikel 5 der Verordnung.
Dort werden bestimmte KI-Praktiken verboten. Dazu gehören unter anderem KI-Systeme, die subliminale Techniken oder absichtlich manipulative oder täuschende Techniken einsetzen, wenn dadurch das Verhalten einer Person oder Gruppe wesentlich verzerrt und ihre Fähigkeit zu einer informierten Entscheidung erheblich beeinträchtigt wird und daraus ein erheblicher Schaden entsteht oder wahrscheinlich entstehen kann. Ebenfalls erfasst sind bestimmte Formen der Ausnutzung von Schwachstellen natürlicher Personen oder bestimmter Gruppen aufgrund ihres Alters, einer Behinderung oder einer besonderen sozialen oder wirtschaftlichen Situation, sofern die gesetzlich genannten Voraussetzungen erfüllt sind.
Damit ist nicht jede Form der Überzeugung oder Personalisierung durch KI automatisch verboten. Der europäische Rechtsrahmen knüpft die entsprechenden Verbote an konkrete Voraussetzungen. Gerade bei der Bewertung möglicher Dark Patterns ist deshalb eine juristisch präzise Betrachtung notwendig.
Der AI Act zeigt gleichzeitig, dass die Regulierung von KI-Manipulation nicht mehr nur eine theoretische Diskussion ist. Manipulative und ausbeuterische Anwendungen gehören ausdrücklich zu den Bereichen, die der europäische Gesetzgeber berücksichtigt.
Dark Patterns und der Digital Services Act
Neben dem AI Act spielt auch die Regulierung digitaler Plattformen eine Rolle. Der Digital Services Act der Europäischen Union verfolgt unter anderem das Ziel, bestimmte manipulative Gestaltungsmethoden auf Online-Plattformen einzuschränken.
Das ist deshalb relevant, weil Dark Patterns häufig nicht ausschließlich durch ein KI-Modell entstehen. Die eigentliche Manipulation kann aus dem Zusammenspiel von Empfehlungssystem, Nutzerprofil, Interface und Geschäftsmodell entstehen.
Ein KI-System kann beispielsweise Inhalte auswählen, während die Benutzeroberfläche bestimmt, welche Handlung besonders prominent angeboten wird. Eine vollständige Bewertung muss deshalb häufig die gesamte digitale Umgebung betrachten und nicht nur das zugrunde liegende Modell.
Warum Nutzer Manipulation oft schwer erkennen
Dark Patterns funktionieren gerade deshalb, weil sie nicht unbedingt offensichtlich sind. Ein aggressiver Werbeslogan ist leicht als Werbung erkennbar. Eine scheinbar neutrale Benutzeroberfläche kann dagegen wesentlich subtiler wirken.
Die FTC beschreibt beispielsweise Fälle, in denen Werbung wie unabhängige Inhalte erscheint oder wichtige Bedingungen so dargestellt werden, dass sie leicht übersehen werden können. Auch künstlich wirkende Countdown-Anzeigen und erschwerte Kündigungsprozesse gehören zu den von der Behörde beschriebenen Methoden.
Bei KI-gestützten Systemen kann die Situation noch schwieriger werden, weil verschiedene Menschen möglicherweise unterschiedliche Inhalte oder Formulierungen sehen. Ein manipulativer Mechanismus muss dann nicht mehr für jeden Nutzer identisch aussehen.
Das erschwert auch die Kontrolle von außen. Wenn ein System dynamisch Inhalte erzeugt oder auswählt, kann eine einzelne Momentaufnahme einer Webseite möglicherweise nicht vollständig erklären, warum eine bestimmte Person eine bestimmte Darstellung erhalten hat.
Welche Warnsignale Verbraucher erkennen können
Ein wichtiges Warnsignal ist ein deutliches Ungleichgewicht zwischen verschiedenen Entscheidungen. Wenn eine Zustimmung mit einem einzigen gut sichtbaren Klick möglich ist, während eine Ablehnung über mehrere schwer auffindbare Schritte führt, lohnt sich eine genauere Prüfung.
Auch künstlicher Zeitdruck sollte kritisch betrachtet werden. Ein Countdown kann eine legitime zeitlich begrenzte Aktion anzeigen. Er kann aber ebenso eingesetzt werden, um eine Entscheidung zu beschleunigen. Die FTC nennt irreführende Countdown-Timer ausdrücklich als Beispiel für problematische Gestaltung.
Ebenso relevant ist die Frage, ob wesentliche Informationen leicht zugänglich sind. Preise, wiederkehrende Kosten, Vertragsbedingungen oder Auswirkungen einer Zustimmung sollten nicht absichtlich hinter schwer zugänglichen Ebenen verborgen werden.
Besondere Aufmerksamkeit verdient schließlich die Frage, ob eine Empfehlung tatsächlich im Interesse des Nutzers liegt oder ob sie vor allem ein wirtschaftliches Ziel verfolgt. Bei KI-Systemen ist diese Unterscheidung nicht immer unmittelbar sichtbar.
Warum Transparenz allein nicht ausreicht
Transparenz wird häufig als zentrale Lösung für algorithmische Systeme genannt. Sie ist wichtig, aber allein nicht ausreichend.
Ein Nutzer kann beispielsweise darüber informiert werden, dass eine Empfehlung automatisiert erzeugt wurde. Diese Information beantwortet jedoch noch nicht unbedingt die Frage, warum genau diese Empfehlung angezeigt wird oder welche Interessen hinter ihrer Gestaltung stehen.
Eine sinnvolle Transparenz muss deshalb verständlich und praktisch nutzbar sein. Nutzer müssen relevante Informationen nicht nur theoretisch erhalten, sondern auch in einer Form, die ihnen eine informierte Entscheidung ermöglicht.
Das ist insbesondere bei komplexen KI-Systemen eine Herausforderung. Selbst technisch vollständige Erklärungen können für die meisten Nutzer schwer verständlich sein.
Die Herausforderung für Unternehmen
Für Unternehmen entsteht ein Spannungsfeld zwischen Personalisierung, wirtschaftlicher Optimierung und verantwortungsvoller Gestaltung.
KI kann dabei helfen, Produkte effizienter zu machen, Kundenbedürfnisse besser zu verstehen und digitale Prozesse zu vereinfachen. Gleichzeitig müssen Unternehmen darauf achten, dass automatisierte Optimierung nicht unkontrolliert in manipulative Gestaltung übergeht.
Dafür reicht es nicht aus, lediglich das KI-Modell zu betrachten. Auch Trainingsdaten, Zielgrößen, Benutzeroberflächen, Empfehlungssysteme und Geschäftsprozesse können relevant sein.
Eine verantwortungsvolle Entwicklung bedeutet deshalb zunehmend, nicht nur zu fragen, was ein KI-System technisch kann. Entscheidend ist auch, welche Ziele es verfolgt, welche Daten es verwendet und welche Konsequenzen seine Entscheidungen für Nutzer haben.
Die Rolle von Datenschutz und Privacy by Design
Bei personenbezogenen Daten gewinnt zudem der Grundsatz an Bedeutung, Datenschutz bereits bei der Entwicklung digitaler Systeme mitzudenken. Die EDPB führt Dark Patterns im Zusammenhang mit Datenschutz und „Privacy by Design and by Default“ ausdrücklich als relevantes Themenfeld.
Das bedeutet in der Praxis, dass Nutzer nicht erst nachträglich versuchen sollten, sich gegen eine undurchsichtige Datenverarbeitung zu wehren. Datenschutzfreundliche Entscheidungen sollten bereits in die Gestaltung eines Systems einfließen.
Bei KI-Anwendungen kann dies besonders wichtig sein, weil personalisierte Systeme häufig auf umfangreiche Datenbestände angewiesen sind. Je stärker ein System auf individuelle Nutzerprofile ausgerichtet wird, desto größer kann die Bedeutung transparenter und kontrollierbarer Datenverarbeitung werden.
Können KI-Systeme Dark Patterns automatisch erkennen?
Technisch ist es grundsätzlich möglich, Benutzeroberflächen automatisiert auf bestimmte Merkmale zu untersuchen. Ein KI-System kann Texte analysieren, Seitenstrukturen vergleichen und bestimmte Gestaltungsmuster identifizieren.
Eine automatische Erkennung ist jedoch nicht gleichbedeutend mit einer zuverlässigen rechtlichen oder ethischen Bewertung. Ob eine Formulierung manipulativ ist, kann vom Kontext, vom Geschäftsmodell und von der konkreten Nutzergruppe abhängen.
Ein System könnte beispielsweise erkennen, dass eine Schaltfläche besonders auffällig gestaltet ist. Daraus folgt noch nicht automatisch, dass die Gestaltung unzulässig ist. Für eine belastbare Bewertung können zusätzliche Informationen erforderlich sein.
KI kann daher ein Werkzeug zur Erkennung und Prüfung sein, aber nicht ohne Weiteres als alleinige Instanz für die Beurteilung von Manipulation betrachtet werden.
Das Wettrennen zwischen Manipulation und Erkennung
Eine der interessantesten Entwicklungen der kommenden Jahre könnte ein technologisches Wettrennen zwischen automatisierter Manipulation und automatisierter Erkennung werden.
Je besser KI darin wird, digitale Inhalte individuell anzupassen, desto schwieriger kann es werden, standardisierte Warnzeichen zu definieren. Gleichzeitig können KI-Systeme eingesetzt werden, um genau solche Muster zu identifizieren.
Auf der einen Seite stehen Systeme, die Sprache, Design und Nutzerinteraktion personalisieren. Auf der anderen Seite können Prüfwerkzeuge stehen, die Webseiten, Anwendungen und digitale Kommunikation auf problematische Muster untersuchen.
Wie dieses Verhältnis ausgeht, lässt sich heute nicht zuverlässig vorhersagen. Sicher ist jedoch, dass die Diskussion nicht allein auf einzelne Chatbots oder generative KI-Modelle beschränkt bleiben wird. Sie betrifft zunehmend das gesamte digitale Ökosystem.
Was sich in den kommenden Jahren verändern könnte
Die Entwicklung wird voraussichtlich von drei Faktoren geprägt werden: technologische Möglichkeiten, Regulierung und gesellschaftliche Erwartungen.
Technologisch dürfte KI immer stärker in digitale Produkte integriert werden. Dadurch können Personalisierung, Empfehlungssysteme und automatisierte Kommunikation weiter zunehmen.
Regulatorisch wird entscheidend sein, wie bestehende Regeln auf neue technische Anwendungen angewendet und durchgesetzt werden. Der europäische AI Act bildet dabei einen wichtigen Rahmen für bestimmte manipulative KI-Praktiken.
Gesellschaftlich dürfte die Frage nach digitaler Selbstbestimmung an Bedeutung gewinnen. Nutzer wollen nicht nur effiziente digitale Produkte, sondern zunehmend auch nachvollziehen können, warum ihnen bestimmte Inhalte angezeigt oder bestimmte Entscheidungen nahegelegt werden.
Eine neue Definition von digitaler Selbstbestimmung
Die klassische Vorstellung von Datenschutz konzentriert sich häufig darauf, welche Daten gesammelt und verarbeitet werden. Im Zeitalter personalisierter KI kommt eine weitere Dimension hinzu: Wie werden Menschen auf Grundlage dieser Daten beeinflusst?
Diese Frage geht über Datenschutz hinaus. Sie betrifft die Autonomie des Einzelnen und damit eine grundlegende Voraussetzung für selbstbestimmte Entscheidungen.
Wenn ein System lediglich Informationen bereitstellt, bleibt die Entscheidung beim Nutzer. Wenn es dagegen systematisch versucht, die Entscheidungsbedingungen so zu verändern, dass bestimmte Verhaltensweisen wahrscheinlicher werden, verschiebt sich das Verhältnis zwischen Mensch und Technologie.
Die Herausforderung besteht darin, zwischen legitimer Unterstützung und unzulässiger oder schädlicher Einflussnahme zu unterscheiden.
Fazit: Die eigentliche Gefahr liegt nicht in der KI allein
KI und Dark Patterns sind keine zwangsläufige Kombination. Künstliche Intelligenz kann digitale Angebote verständlicher, zugänglicher und persönlicher machen. Sie kann ebenso dazu eingesetzt werden, problematische Gestaltungsmuster schneller zu entwickeln, zu skalieren und stärker auf einzelne Nutzer zuzuschneiden.
Das zentrale Risiko liegt deshalb weniger in der Technologie selbst als in ihren Zielsetzungen und ihrer Einbettung in digitale Geschäftsmodelle.
Die bestehenden Arbeiten von OECD, EDPB und FTC zeigen, dass manipulative digitale Gestaltung bereits vor dem Durchbruch generativer KI ein relevantes Problem war. KI kann diese Entwicklung jedoch durch Personalisierung und Automatisierung auf eine neue technische Ebene bringen.
Für Nutzer bedeutet das, digitale Entscheidungen bewusster zu hinterfragen. Für Unternehmen bedeutet es, bei der Entwicklung KI-gestützter Produkte nicht nur Effizienz und Conversion zu betrachten, sondern auch Transparenz, Nutzerautonomie und rechtliche Grenzen. Für Gesetzgeber und Aufsichtsbehörden besteht die Herausforderung darin, Regeln so anzuwenden und weiterzuentwickeln, dass sie mit der technischen Entwicklung Schritt halten.
Die entscheidende Frage der kommenden Jahre wird daher nicht nur lauten, was künstliche Intelligenz kann. Sie wird zunehmend lauten, wie weit ein digitales System gehen darf, um Menschen zu einer bestimmten Entscheidung zu bewegen.
FAQ: KI und Dark Patterns
Was sind Dark Patterns?
Dark Patterns sind digitale Gestaltungsmethoden, die Nutzer durch die Art der Darstellung von Auswahlmöglichkeiten zu Entscheidungen lenken, die möglicherweise nicht ihren eigenen Interessen entsprechen. Die OECD beschreibt sie als Praktiken, die Entscheidungen unter anderem durch Steuern, Täuschen oder Druck beeinflussen können.
Was hat künstliche Intelligenz mit Dark Patterns zu tun?
KI kann Daten analysieren, Inhalte personalisieren und digitale Prozesse automatisieren. Dadurch kann sie theoretisch auch dazu eingesetzt werden, manipulative Gestaltung stärker auf einzelne Nutzer oder Nutzergruppen zuzuschneiden. Die OECD nennt insbesondere Fortschritte im Machine Learning als Faktor, der eine individuellere Ausrichtung solcher Praktiken ermöglichen kann.
Ist jede Personalisierung ein Dark Pattern?
Nein. Personalisierung ist zunächst eine normale Funktion digitaler Systeme und kann für Nutzer sehr hilfreich sein. Problematisch wird sie insbesondere dann, wenn die Gestaltung gezielt darauf ausgerichtet ist, informierte Entscheidungen zu beeinträchtigen oder Nutzer zu Handlungen zu bewegen, die nicht in ihrem Interesse liegen.
Sind Dark Patterns illegal?
Nicht jedes Dark Pattern ist automatisch nach demselben Gesetz oder in jeder Rechtsordnung illegal. Bestimmte manipulative Praktiken können jedoch gegen Verbraucher-, Datenschutz- oder Plattformrecht verstoßen. Der EU AI Act verbietet unter bestimmten Voraussetzungen bestimmte manipulative oder täuschende KI-Praktiken.
Was verbietet der EU AI Act bei Manipulation durch KI?
Artikel 5 des AI Act verbietet unter anderem bestimmte KI-Systeme, die subliminale oder absichtlich manipulative beziehungsweise täuschende Techniken einsetzen, wenn die gesetzlich festgelegten Voraussetzungen hinsichtlich erheblicher Verhaltensbeeinflussung und Schadens erfüllt sind. Ebenfalls verboten sind bestimmte Formen der Ausnutzung von Schwachstellen bestimmter Personen oder Gruppen unter den dort genannten Voraussetzungen.
Können Large Language Models Dark Patterns erzeugen?
Large Language Models können Texte und andere Inhalte generieren, die theoretisch für unterschiedliche Kommunikationsziele eingesetzt werden können. Ob ein konkreter Einsatz ein Dark Pattern darstellt, hängt jedoch von Inhalt, Kontext, Zielsetzung und Wirkung ab. Aus der Fähigkeit eines Modells zur Textgenerierung folgt nicht automatisch eine manipulative Anwendung.
Können KI-Systeme Dark Patterns erkennen?
Ja, KI kann zur Analyse digitaler Benutzeroberflächen und Inhalte eingesetzt werden und bestimmte potenziell problematische Muster erkennen. Eine automatisierte Erkennung ersetzt jedoch nicht zwangsläufig eine kontextbezogene rechtliche oder ethische Bewertung.
Warum sind Dark Patterns für den Datenschutz relevant?
Dark Patterns können Nutzer dazu bringen, mehr personenbezogene Daten preiszugeben oder einer Datenverarbeitung zuzustimmen, ohne die Konsequenzen vollständig zu überblicken. Die EDPB behandelt manipulative Gestaltungsmuster deshalb ausdrücklich im Zusammenhang mit Datenschutz und sozialen Medien.
Welche Rolle spielt generative KI künftig?
Generative KI könnte die automatische Erstellung und Personalisierung digitaler Inhalte weiter ausbauen. Dadurch können sowohl nutzerfreundliche Anwendungen als auch potenziell problematische Formen der Beeinflussung entstehen. Welche Entwicklung überwiegt, hängt von technischen, wirtschaftlichen, regulatorischen und gesellschaftlichen Faktoren ab.
Was können Nutzer gegen Dark Patterns tun?
Nutzer können besonders auf asymmetrische Auswahlmöglichkeiten, versteckte Informationen, künstlichen Zeitdruck, schwer auffindbare Kündigungsoptionen und ungewöhnlich aufdringliche Zustimmungselemente achten. Die von der FTC beschriebenen Beispiele zeigen, dass solche Muster häufig gerade darauf abzielen, Entscheidungen weniger transparent zu machen.
Warum sind KI-gestützte Dark Patterns schwerer zu erkennen?
Wenn digitale Systeme Inhalte und Gestaltung dynamisch an unterschiedliche Nutzer anpassen, kann eine manipulative Methode bei verschiedenen Personen unterschiedlich aussehen. Dadurch kann es schwieriger werden, ein einheitliches Muster zu erkennen. Daraus folgt jedoch nicht, dass jedes personalisierte System automatisch manipulativ ist.
Was ist die wichtigste langfristige Herausforderung?
Die zentrale Herausforderung besteht darin, die Vorteile von Personalisierung und Automatisierung zu erhalten, ohne die Entscheidungsfreiheit der Nutzer zu untergraben. Dafür werden technische Schutzmechanismen, verantwortungsvolle Produktentwicklung, wirksame Regulierung und ein hohes Maß an digitaler Kompetenz gleichermaßen relevant sein.
Weitere Folgen
Datenqualität in der Medizin: Segen für die KI – oder der größte Risikofaktor?
Warum medizinische Daten über den Erfolg von Künstlicher Intelligenz entscheiden – und weshalb mehr Daten allein noch keine bessere Medizin bedeuten
26.10.2026 22 min
Wenn medizinische Daten zur Grundlage intelligenter Systeme werden Künstliche Intelligenz verändert die Medizin. Systeme auf Basis von Machine Learning und...
KI-Assistenz bei psychischen Erkrankungen: Zwischen digitaler Unterstützung und klinischer Verantwortung
Wie künstliche Intelligenz psychische Gesundheit unterstützen kann, welche wissenschaftlichen Erkenntnisse bereits vorliegen und warum Sicherheit, Datenschutz und menschliche Betreuung entscheidend bleiben
19.10.2026 27 min
Künstliche Intelligenz erreicht die psychische Gesundheitsversorgung Künstliche Intelligenz entwickelt sich zunehmend von einer Technologie für Datenanalys...
Gesundheitsdatenbanken: Chancen für die Forschung
Wie vernetzte Gesundheitsdaten neue Möglichkeiten für Medizin, Epidemiologie und personalisierte Forschung schaffen – und warum Datenschutz, Datenqualität und Vertrauen dabei entscheidend sind
12.10.2026 20 min
Gesundheitsdaten werden zur Forschungsinfrastruktur Gesundheitsdatenbanken gehören inzwischen zu den wichtigsten digitalen Infrastrukturen der modernen med...