7. Zwischen Faszination und Verunsicherung
Wie gut und gleichzeitig wie irreführend KI sein kann, sollen die folgenden Beispiele verdeutlichen
Besonders pfiffig!
In einem Geschäft hat mir eine freundliche Beraterin einen handschriftlichen Zettel für eine genaue Typenbezeichnung mitgegeben. In solchen Fällen habe ich bisher Freunde oder Nachbarn gebeten, mir die Notiz vorzulesen.
Aber das ist eigentlich die richtige Aufgabe für künstliche Intelligenz. Daher nutze ich "Be My AI", die KI der App "Be My Eyes". Die Handschrift wurde erkannt. Das Ergebnis konnte ich insofern überprüfen, als ich mich an die Bezeichnung des Geräts erinnern konnte, als mir der Zettel vorgelesen wurde. Das Ergebnis hat jedenfalls gereicht, um Details im Internet zu recherchieren.
Es ist ein gutes Gefühl, so banale Aufgaben wie das Lesen eines handschriftlichen Zettels eigenständig erledigen zu können.
Das war wohl eher nichts
Vor einiger Zeit fand ich im Postkasten eine Postbenachrichtigung für einen RSA-Brief mit den Zugangsdaten für Finanz-Online. Es ist ärgerlich, dass die Post ständig ihre Partner wechselt. Jedenfalls muss man erst herausfinden, wo diesmal das Schriftstück hinterlegt wurde und wie die Öffnungszeiten für die Abholung sind. Die richtige Aufgabe für KI - dachte ich wenigstens.
Die Ernüchterung kam nach der Analyse. Dass es sich um eine Benachrichtigung der Post handelt, wurde korrekt erkannt, aber danach begann die "Märchenstunde": So wurde behauptet, es handle sich um eine Verständigung der Deutschen Post und der Absender sei das Ministerium in Berlin. Weitere Daten wie Öffnungszeiten des Postpartners und dessen Adresse wurden aber wieder richtig erkannt.
Auf meine Intervention durch eine eingetippte Rückfrage hin (dazu benutzte ich wieder das vorhandene Eingabefeld) wurde ich aufgefordert, ein deutlicheres Foto zu senden, damit die Informationen besser erkannt werden könnten.
Also was jetzt? Wäre das Bild unscharf gewesen, hätte man mir das gleich mitteilen können. Nach Gutdünken irgendwelche im Netz gespeicherten Informationen wiederzugeben, ist wenig hilfreich und gehört in das Reich der Fantasie und nicht als Ergebnis in eine App, die speziell für blinde Menschen geschaffen wurde.
Diese geradezu geniale Kombinationsfähigkeit der KI bezahlt man eben auch mit Fehlern, worauf übrigens alle Apps für KI explizit hinweisen. Auch muss man berücksichtigen, dass künstliche Intelligenz eben nur so gut sein kann, wie sie "gefüttert" wurde.
Inzwischen bin ich etwas klüger: Dass die Verständigung nicht für einen Brief aus Berlin sein konnte, war sowieso klar. In einem solchen Fall hilft es, die KI anzuweisen, den gesamten Text von oben nach unten vorzulesen. Dann stellt sich rasch heraus, was wirklich erkannt wurde und was bloß kombiniert war.
Noch ein Beispiel:
Unser Energielieferant hat uns aufgefordert, den aktuellen Gaszählerstand bekanntzugeben. Wieder einmal eine Aufgabe für KI?
Also habe ich ein Foto gemacht und mir die Interpretation angehört. Da waren viele Zahlen, die man sich schwer merken kann. Daher habe ich via Eingabefeld explizit nach dem Zählerstand gefragt, der mir auch vorgelesen wurde. Vertrauen ist in diesem Fall der falsche Weg, also kontrollieren. Auf meine Rückfrage, wo genau sich in der genannten Ziffernfolge die Kommastelle befindet (es sollten 3 sein!), erhielt ich die Mitteilung, dass die Zahl zwei Kommastellen habe. Also insistierte ich auf ein neuerliches Vorlesen des Zählerstandes. Und plötzlich waren es teilweise ganz andere Ziffern, die genannt wurden. Und auf die neue Reklamation erhielt ich wieder die Aufforderung, ein neues Foto zu senden.
Mein Fazit: Ähnlich wie bei Navigationssystemen ist es oft unerlässlich, das Ergebnis einerseits auf Plausibilität zu prüfen und andererseits im Zweifelsfall auf menschliche Intelligenz zurückzugreifen. Vor allem dann, wenn es um sensible Daten wie etwa Zahlen geht.
App Be My Eyes:
Eva Papst September 2025