Kurz gesagt (für alle, die wenig Zeit haben)
- Die Behauptung „KI löscht uns in 10 Jahren aus“ ist eine Prognose, keine Messung. Es gibt dazu keine belastbaren Daten aus dem echten Geschäftsalltag.
- Viele der lautesten Warnungen kommen von Menschen, die damit Geld verdienen: durch Aufmerksamkeit, Fördergelder, Beratung oder neue Gesetze.
- KI kann heute viel – aber sie versteht nichts, kennt ihre eigenen Fehler nicht und trifft keine Verantwortung. Deshalb ist sie weit von eigenständigem Handeln entfernt.
- Das echte Risiko liegt heute und in deinem Betrieb: Betrug mit gefälschten Stimmen, versteckte Anweisungen in Dokumenten, KI-Programme mit zu vielen Rechten, Datenabfluss.
- Diese Risiken sind beherrschbar. Am Ende dieses Beitrags steht ein 5-Punkte-Check, den auch Nicht-Techniker umsetzen können.
Ein Thema, zwei völlig verschiedene Gespräche
Über KI gibt es gerade zwei Gespräche, die oft durcheinandergehen.
Das erste Gespräch findet auf Bühnen statt. Es lautet: Künstliche Intelligenz könnte die Menschheit in zehn Jahren auslöschen.
Das zweite Gespräch findet in Unternehmen statt. Es lautet: Ein KI-Programm hat eine Rechnung falsch zugeordnet, und niemand weiß, wer das entschieden hat.
Beide Gespräche handeln von KI. Aber sie haben fast nichts miteinander zu tun. Dieser Beitrag erklärt, warum die Untergangsprognose wissenschaftlich nicht gedeckt ist – und warum das nicht bedeutet, dass alles in Ordnung ist.
Was KI heute kann – und was nicht
KI ist in einzelnen Aufgaben erstaunlich gut: Texte zusammenfassen, Dokumente auswerten, Anfragen am Telefon annehmen, Muster in großen Datenmengen finden.
Aber ein KI-System hat Eigenschaften, die man kennen sollte:
- Es versteht nicht, was es tut. Es berechnet, welche Wörter wahrscheinlich passen. Bedeutung kennt es nicht.
- Es merkt nicht, wenn es falsch liegt. Ein KI-Programm antwortet selbstbewusst – auch bei erfundenen Fakten. Fachleute nennen das „Halluzinieren“.
- Es hat kein Ziel und kein Gewissen. Es tut, was der Auftrag nahelegt. Konsequenzen spürt es nicht.
- Es ist empfindlich. Kleine Änderungen in einer Anfrage können zu völlig anderen Ergebnissen führen.
Deshalb funktioniert KI in klaren, kontrollierten Aufgaben sehr gut – und in offenen, unübersichtlichen Lagen noch nicht.
Warum die Zehn-Jahres-Prognose so laut ist
Wenn Tausende Fachleute etwas warnen, muss es stimmen? Nicht unbedingt. Denn auch bei Warnungen gibt es Interessen.
Warum laute Warnungen sich lohnen:
- Sie bringen Aufmerksamkeit. Aufmerksamkeit bringt Bewertung, Bewertung bringt Kapital.
- Sie rechtfertigen neue Gesetze. Wer die Gesetze erfüllt, hat einen Vorteil gegenüber Wettbewerbern.
- Sie verkaufen Sicherheitslösungen, Beratung und Seminare.
- Sie helfen beim Personalmangel in diesem Feld: Wer warnt, wird eingestellt.
Das heißt nicht, dass jede Warnung falsch ist. Es heißt: Frag immer, wer etwas sagt – und was er davon hat.
Ein zweiter Punkt kommt hinzu. Die Debatte wird fast nie mit Messwerten aus dem Betrieb geführt. Berichtet werden Bestnoten in Tests und beeindruckende Vorführungen. Selten berichtet werden Fehlerquoten, Nacharbeit und die Kosten, die im Alltag entstehen.
Und die Kritik gilt in beide Richtungen: Auch „KI verändert morgen alles“ ist meistens Werbung.
Was an der Sorge berechtigt ist
Ehrlich bleiben gehört dazu. Drei Punkte sind absolut berechtigt:
- Niemand kann die Zukunft beweisen. Wir wissen nicht, dass KI in zehn Jahren gefährlich wird – aber wir können es auch nicht ausschließen. Neue Technik hat schon oft mehr geschafft als erwartet.
- Die Entwicklung ist schnell. Was heute unmöglich wirkt, kann in wenigen Jahren normal sein.
- Die Kontrolle ist nicht gelöst. Wie man einem lernenden System zuverlässig Grenzen setzt, weiß niemand sicher. Das ist ein echtes Forschungsproblem – kein Werbethema.
Der entscheidende Punkt ist ein anderer: Eine Auslöschung in zehn Jahren setzt eine lange Kette technischer Durchbrüche voraus. Für diese Kette gibt es heute keine Belege – nur Prognosen.
Die Risiken, die heute wirklich zählen
Diese Risiken sind keine Science-Fiction. Sie treten jetzt auf, und sie treffen Unternehmen jeder Größe.
1. Betrug mit gefälschten Stimmen und Videos („Deepfake“)
Mit wenigen Sekunden Tonmaterial lässt sich eine Stimme täuschend ähnlich nachbauen. Es gibt Fälle, in denen sich Anrufer als Geschäftsführung ausgaben und zu dringenden Überweisungen drängten. Auch Familien werden mit nachgeahmten Stimmen von Kindern oder Enkeln kontaktiert. Die Technik ist billig, und die Betrugsmasche lässt sich beliebig oft wiederholen.
2. Versteckte Anweisungen in Dokumenten („Prompt-Injection“)
KI liest E-Mails, PDFs und Websites. In diesen Texten können Anweisungen stecken, die der Mensch nicht sieht – das KI-Programm aber sehr wohl. So kann ein scheinbar harmloses Dokument ein KI-Programm dazu bringen, Daten herauszugeben oder falsche Buchungen anzulegen. Das ist keine Sicherheitslücke, die man einfach zuklebt: Es liegt daran, dass KI Sprache nicht von Anweisung unterscheiden kann.
3. KI-Programme mit zu vielen Rechten
Wenn ein KI-Agent Rechnungen schreiben, E-Mails versenden und Dateien löschen darf, dann reicht ein Missverständnis für echten Schaden. Autonome Agenten laufen bei uns unter KI-Agenten – genau dort stellen wir diese Frage zuerst.
4. Datenabfluss und Datenschutz
Personenbezogene Daten wandern durch Anfragen, Protokolle und mehrere Dienstleister. Ohne klare Regeln ist offen, wo Daten liegen und wie lange. Wer vorab prüfen will, wie es um sein System steht, kann den DSGVO-Scanner nutzen.
5. Angriffe werden billiger
KI senkt die Einstiegshürde für Betrug und Schadsoftware. Der Engpass der Angreifer wird kleiner. Deshalb prüfen wir bei technischen Sicherheitstests längst auch KI-Komponenten – mehr dazu unter VAPT.
Die wichtigste Frage für ein Unternehmen lautet also nicht „Wird KI uns töten?“, sondern:
Wie viele Entscheidungen trifft unsere KI, ohne dass ein Mensch sie verantwortet?
Ein Beispiel aus dem Alltag
Ein mittelständischer Dienstleister automatisiert die Eingangsrechnungen. Ein KI-Agent liest die PDF-Dateien, ordnet Beträge zu und legt Belege an. Der Test läuft gut. Nach zwei Wochen wird aus „Vorschlag“ ein „automatisch“ – das spart Zeit.
Drei Wochen später fällt auf: Mehrere Beträge sind falsch zugeordnet. Kein Hackerangriff. Ein manipulierter Absender, ein schlecht gescanntes Dokument und ein Satz im PDF-Text, den das System als Anweisung verstand.
Das Ergebnis: eine Woche Nacharbeit. Und keine Spur im System, aus der hervorging, warum die Buchung entstanden war.
Genau hier liegt das reale Risiko. Nicht in einem Film-Szenario, sondern in einem Vorgang, der eine Woche Arbeit kostet.
Der 5-Punkte-Check vor dem nächsten KI-Projekt
Auch ohne Technikstudium umsetzbar:
- Rechte begrenzen. Frage: Was darf das System lesen, schreiben, löschen – und was davon braucht es wirklich?
- Nichts Unumkehrbares ohne Mensch. Überweisungen, Löschungen, Verträge, Kündigungen: immer mit Freigabe. Dauerhaft, nicht nur am Anfang.
- Dokumente als mögliche Gefahr behandeln. Inhalte aus E-Mails oder PDFs sind nicht vertrauenswürdig. Sie dürfen keine Aktionen auslösen.
- Alles nachvollziehbar machen. Zu jeder Aktion muss feststehen: was, wann, warum. Ohne Protokoll ist Fehlersuche Glückssache.
- Datenschutz vor dem Start klären. Welche personenbezogenen Daten laufen wohin, auf welcher Grundlage, wie lange? Nicht danach.
Wer diese fünf Punkte beantwortet, hat mehr Sicherheit erreicht als durch jede Untergangsdebatte.
Häufige Fragen
Ist KI wirklich gefährlich?
Ja – aber anders als oft dargestellt. Heute gefährlich sind Betrug, Täuschung, falsche Daten und zu viel Macht in den Händen einzelner Programme. Eine Auslöschung der Menschheit ist eine Prognose ohne Datenbasis.
Was ist ein Deepfake, einfach erklärt?
Ein täuschend echtes, künstlich erzeugtes Bild, Video oder eine Stimme. Es sieht oder klingt echt, ist aber erfunden.
Was ist Prompt-Injection, einfach erklärt?
Eine versteckte Anweisung in einem Text, den die KI liest. Der Mensch sieht sie nicht, die KI führt sie aus.
Was bedeutet „Halluzinieren“ bei KI?
Die KI erfindet Inhalte und gibt sie selbstsicher wieder – ohne dass sie es merkt.
Wie sichere ich ein KI-Projekt ab?
Rechte begrenzen, unumkehrbare Schritte prüfen lassen, Inhalte als Angriffsfläche behandeln, alles protokollieren, Datenschutz vorher klären. Wenn du Unterstützung brauchst: Ein Überblick über unsere Arbeitsweise steht unter cybereiche.de.
Fazit: Die Frage ist falsch gestellt
Die Untergangsprognose ist kein Ergebnis der Forschung. Sie ist eine Geschichte mit einem Geschäftsmodell. Sie liefert Aufmerksamkeit, Kapital und Einfluss – und sie nennt keine Messgröße, an der man sie prüfen könnte.
Sieh dir stattdessen an, was KI-Systeme im echten Betrieb leisten. Dann zeigt sich das Gegenteil von Souveränität: viel Nutzen, klare Grenzen, ungelöste Sicherheitsfragen.
Die gute Nachricht: Diese Fragen sind entscheidbar. Rechte begrenzen, unumkehrbare Schritte prüfen lassen, Inhalte als Gefahr behandeln, Protokolle führen, Daten sauber trennen. Damit beeinflusst du das Risiko in deinem Unternehmen.
Vor dem Weltuntergang kannst du nicht handeln. Vor dem Betrugsanruf schon.