Kann KI Menschen manipulieren? Was Studien zeigen und wie Sie Ihr Team schützen

Freitag, 16:40 Uhr. Sandra Berg, Prokuristin eines mittelständischen Maschinenbauers bei Stuttgart, fährt gerade den Rechner herunter. Da ploppt eine Nachricht auf: Der Geschäftsführer, unterwegs auf einer Messe, bittet dringend um eine Überweisung an einen neuen Lieferanten. Der Ton stimmt, die Formulierungen kennt sie, sogar das interne Projektkürzel taucht auf. Nur: Es ist nicht ihr Chef. Es ist ein KI-System, das aus öffentlich zugänglichen Daten ein erstaunlich genaues Bild von ihr und ihrem Betrieb gezeichnet hat.

Die Frage "Kann KI Menschen manipulieren?" klingt nach Science-Fiction. Die Studienlage sagt etwas anderes. Kontrollierte Experimente zeigen: Eine KI, die etwas über ihr Gegenüber weiß, überzeugt inzwischen besser als ein Mensch. Für kleine und mittlere Unternehmen ist das kein Grund zur Panik, sondern ein Anlass, ein paar Abläufe nachzuschärfen. Dieser Artikel ordnet ein, was belegt ist, und zeigt, wie Sie Ihr Team praktisch schützen, ohne es in Dauermisstrauen zu versetzen.

Kann KI Menschen manipulieren? Was die Studienlage zeigt

Ja, kontrollierte Studien belegen, dass KI Menschen gezielt überzeugen kann, besonders wenn sie etwas über die Zielperson weiß. In einem 2025 in Nature Human Behaviour veröffentlichten Experiment mit 900 Teilnehmenden trat ein KI-System in Kurzdebatten gegen Menschen an. Erhielt die KI vorab ein paar persönliche Angaben zum Gegenüber, war sie laut der Studie 64 Prozent überzeugender als menschliche Debattierende. Ohne diese Personalisierung lag sie mit dem Menschen etwa gleichauf.

Entscheidend ist also nicht das Modell allein, sondern das Vorwissen. Wie der KI-Forscher Prof. Karl Hans Blaesius in einem aktuellen Interview darlegt, ist die eigentliche Stärke solcher Systeme keine Magie, sondern Skalierung: Was ein geschickter Betrüger früher mühsam von Hand zusammensuchen musste, erledigt Software heute automatisiert und in großer Zahl. Diese nüchterne Einordnung nimmt der Debatte den Doom-Ton und macht sie für den Mittelstand handhabbar.

Was Persönlichkeitsprofile aus wenigen Datenspuren verraten

Schon wenige öffentliche Datenspuren reichen aus, um Persönlichkeitsmerkmale erstaunlich treffsicher zu schätzen. Bereits 2015 zeigten Forschende um Michal Kosinski, dass ein Computer allein aus rund 170 Facebook-Likes die Persönlichkeit einer Person genauer einschätzt als deren Freunde und Familie. Aus solchen Mustern lassen sich Neigungen, Werte und Ansprechbarkeit ableiten, ohne dass ein einziges Passwort geknackt werden muss.

Dass dieses Wissen Verhalten verändert, ist ebenfalls belegt. In Feldexperimenten mit über 3,5 Millionen Menschen erzielte psychologisch zugeschnittene Werbung bis zu 40 Prozent mehr Klicks und bis zu 50 Prozent mehr Käufe als eine nicht personalisierte Ansprache. Spätestens der Cambridge-Analytica-Skandal 2018 machte öffentlich, wie aus diesen Erkenntnissen politische Beeinflussung im großen Stil wurde.

Von der Werbung zum Angriff ist es ein kurzer Weg

Dieselbe Mechanik, die Werbung wirksamer macht, macht auch Betrug wirksamer. Wenn ein Angreifer weiß, dass eine Mitarbeiterin auf Hilfsbereitschaft und Verbindlichkeit anspricht, formuliert die KI genau so. Das ist der Kern, warum die Frage, ob KI Menschen manipulieren kann, für jeden Betrieb relevant ist und nicht nur für Konzerne. Wer die Grundlagen dazu vertiefen will, findet in unserem Beitrag zu neuen KI-Cyberangriffen und wie man sie erkennt den technischen Rahmen.

Fälschung oder Überzeugung: zwei sehr verschiedene Gefahren

Manipulation durch KI ist nicht dasselbe wie eine technische Fälschung, und beide brauchen eine andere Abwehr. Eine Fälschung ahmt etwas Echtes nach: eine geklonte Stimme, eine täuschend echte E-Mail, ein manipuliertes Video. Überzeugung dagegen zielt auf die Mechanik der Entscheidung: Timing, Autorität, Personalisierung und Druck. Ein Angriff kombiniert oft beides, doch die Schutzhebel unterscheiden sich.

Gegen die Fälschungs-Seite hilft es, die Merkmale täuschend echter Nachrichten zu kennen, wie wir sie im Beitrag KI-Phishing erkennen beschreiben. Gegen die Überzeugungs-Seite hilft das nicht: Eine perfekt personalisierte Bitte enthält keinen Rechtschreibfehler und keinen verdächtigen Link, sie appelliert an ein Reflexverhalten. Deshalb greift reine Technikabwehr hier zu kurz und muss durch Prozesse und geschulte Aufmerksamkeit ergänzt werden.

Kann KI Menschen manipulieren, ohne dass Ihr Team es bemerkt?

Ja, denn gute Manipulation zielt auf menschliche Reflexe wie Hilfsbereitschaft, Respekt vor Autorität und Reaktion auf Zeitdruck, nicht auf eine technische Lücke. Genau hier setzen die häufigsten Angriffe auf den Mittelstand an. Laut der Bitkom-Studie Wirtschaftsschutz 2024 entstand der deutschen Wirtschaft ein Schaden von rund 266,6 Milliarden Euro, ein Plus von etwa 29 Prozent gegenüber dem Vorjahr; 81 Prozent der Unternehmen waren betroffen, und Social Engineering dient dabei oft als Türöffner.

Das Bundesamt für Sicherheit in der Informationstechnik ergänzt in seinem Lagebericht 2024, dass Angreifer KI gezielt für überzeugendere Social-Engineering-Nachrichten nutzen und der Mensch der entscheidende Faktor bleibt. Für Sandra Berg heißt das: Die Nachricht war nicht deshalb gefährlich, weil sie technisch raffiniert war, sondern weil sie den richtigen Moment und den richtigen Ton traf.

Dass der Mensch die wichtigste Verteidigungslinie ist, deckt sich mit unserem Beitrag zu zukunftssicheren Fähigkeiten, die der Mensch der KI voraushat. Aufmerksamkeit lässt sich schulen, ein Reflex lässt sich durch einen Prozess absichern.

Drei Schutzebenen, die KI-Manipulation ins Leere laufen lassen

Wirksamer Schutz vor KI-Manipulation kombiniert feste Prozesse, geschulte Menschen und eine solide technische Basis, denn keine Ebene reicht für sich allein. Die erste Ebene ist der Prozess-Schutz: Zahlungen und Datenfreigaben laufen über das Vier-Augen-Prinzip, ungewöhnliche Anweisungen werden über einen zweiten, unabhängigen Kanal verifiziert (ein Rückruf an die bekannte Nummer, nicht an die in der Nachricht genannte), und es gibt feste Freigabegrenzen.

Die zweite Ebene ist die Awareness im Team: regelmäßige, praxisnahe Schulung, realistische Übungsszenarien und eine angstfreie Meldekultur. Die dritte Ebene ist die Technik: E-Mail-Filter, Mehr-Faktor-Anmeldung und minimale Zugriffsrechte je Rolle. Sie fängt vieles ab, aber eben nicht die perfekt formulierte Bitte.

Was jeder Betrieb sofort umsetzen kann

Fünf einfache Regeln senken das Risiko spürbar, ohne teure Werkzeuge. Sie funktionieren, weil sie den entscheidenden Reflex, das schnelle Ja unter Druck, durch einen kurzen, verbindlichen Zwischenschritt ersetzen. Wer über das Entwicklungstempo auf dem Laufenden bleiben will, findet in unserem kostenlosen KI-Newsletter regelmäßig fundierte Einordnungen zu genau solchen Themen.

Wie DigiRift sichere Prozesse und Team-Awareness aufbaut

DigiRift richtet diese drei Schutzebenen als fertiges Gesamtpaket ein, ohne dass Ihr Betrieb selbst zum Sicherheitsexperten werden muss. In unseren Projekten bei DigiRift sehen wir immer wieder dasselbe Muster: Die Technik ist meist gar nicht das Problem, sondern der fehlende verbindliche Ablauf für den Ausnahmefall. Genau dort setzen wir an. Wir analysieren Ihre Freigabe- und Zahlungsprozesse, verankern das Vier-Augen- und Out-of-Band-Prinzip an den kritischen Stellen und schulen Ihr Team an realistischen Szenarien.

Ehrlich bleibt festzuhalten: Kein System schließt das Risiko zu hundert Prozent aus, ein geschickter Angriff bleibt möglich. Aber eine durchdachte Kombination aus Prozess und geschulter Aufmerksamkeit senkt die Erfolgsquote drastisch, und genau das ist der Unterschied zwischen einem teuren Vorfall und einem abgewehrten Versuch. Sie kümmern sich um Ihr Kerngeschäft, DigiRift übernimmt Konzeption, Umsetzung, Schulung und die laufende Anpassung an neue Angriffsmuster. Wenn Sie unsicher sind, wo Ihr Betrieb am verwundbarsten ist, hilft ein kurzes Gespräch über unsere Kontaktseite beim ersten Überblick.

Fazit

Die Frage, ob KI Menschen manipulieren kann, ist beantwortet: Mit Vorwissen über die Zielperson überzeugt KI messbar besser als ein Mensch, und dieselbe Mechanik lässt sich für Betrug nutzen. Für den Mittelstand ist das kein Grund zur Angst, sondern zum Handeln mit Augenmaß. Wer Zahlungen und Freigaben absichert, sein Team schult und eine offene Meldekultur pflegt, macht die meisten Angriffe wirkungslos.

Wenn Sie wissen wollen, wo Ihr Betrieb konkret steht: In rund 30 Minuten schauen wir mit Ihnen auf Ihre Freigabe- und Zahlungsprozesse, benennen die zwei bis drei Stellen mit dem größten Risiko und skizzieren, welche Prozessregel und welche Schulung bei Ihnen den größten Effekt hätten. Fordern Sie diesen Überblick über die DigiRift-Kontaktseite an und wappnen Sie Ihr Team, bevor die nächste perfekt personalisierte Nachricht eintrifft. Vertiefen können Sie das Thema in unserem Leitfaden zum Managen von KI-Risiken für KMU.

Quellen

1. Salvi et al., On the conversational persuasiveness of GPT-4, Nature Human Behaviour, 2025. nature.com
2. Matz, Kosinski, Nave, Stillwell, Psychological targeting as an effective approach to digital mass persuasion, PNAS, 2017. pnas.org
3. University of Cambridge, Computers using digital footprints are better judges of personality than friends and family, 2015. cam.ac.uk
4. Bitkom, Wirtschaftsschutz 2024, 2024. bitkom.org
5. Bundesamt für Sicherheit in der Informationstechnik, Die Lage der IT-Sicherheit in Deutschland 2024. bsi.bund.de