KI ist halt immer noch doof und versteht nichts

Elon Musk warne ja vor KI. Ok, schon der Herr Professor Joseph Weizenbaum tat es gegen's Ende seines Lebens. Warum? Bei Musk weiss man nie, was er wirklich meint, er hat doch einige sehr unsympathische Äusserungen von sich gegeben, die mich den kritisch beäugen lassen.

Aber bei Weizenbaum war es anders. Um 1966 entwickelte er den ersten Chatbot, nämlich das berühmte Programm Eliza. Alan Turing stellte ja die Hypothese auf, dass ein Computer wohl dann als intelligent einzustufen sei, wenn es einem Menschen im Dialog mit ihm nicht gelänge, den Computer von einem Menschen zu unterscheiden. Das ist der bekannte Turing-Test.

Also sprach Eliza mit den Leuten. Und zu Weizenbaums Überraschung hielten viele das Programm für einen Menschen. Er war deshalb so erstaunt, weil das Programm ziemlich simpel war. Die Erkenntnis war, dass es offenbar nicht viel braucht, bis viele Menschen eine Intelligenz vermuten, wo keine ist. Eliza galt daher als der erste Chatbot.

Jedenfalls geht es genau darum in diesem Artikel: Was kann KI wirklich, ist sie wirklich "intelligent"? Uns ITlern ist irgendwie schon klar, dass sie natürlich nicht intelligent ist - aber ihre Leistungen sind auf der anderen Seite erstaunlich — sowohl im Förderlichen wie auch im Lächerlichen.

Denn eigentlich weiss man nicht, wie eine KI zu den Schlüssen kommt, zu der sie kommt. Aus meinen kleinen Schritten mit frühen neuronalen Netzwerken erlebte ich das.

Pixelmuster irritieren die KI autonomer Fahrzeuge zeigt, worauf Weizenbaum wohl rauswollte: Wenn der Mensch der KI eine Entscheidungshoheit übergibt, kann es sein, dass es absolut schädlich für ihn rauskommen kann.

Denn wenn einfache Kleber auf Strassenschilder die KI eines Autos irgendwas anderes sehen oder bewerten lassen, was unsere Gehirne nicht mal als wichtig einstufen, dann wird sie Unerwartetes tun. Weil sie anders sieht, anders bewertet, Dinge erkennt, die wir sofort als Bullshit abweisen. Bzw. unsere natürliche Intelligenz eben subito als irrelevant klassiert und daher nicht weiter beachtet.

Nicht, dass das alles neu ist - ich habe hier schon einige Male über KI geschrieben, aber ich bitte schon auch, dass jeder, der KI für das nächste echte grosse Ding hält, diesen Artikel mal in der gesamten Länge liest. Und sich dann überlegt, wieviel KI er wo wirklich möchte ...

Es geht in diesem Artikel um die Ablenkberkeit der KI Klassifikatoren ... und dass sie sich eben ablenken lassen von Dingen, die wir nicht mal wahrnehmen oder wie oben gesagt sofort als irrelevant ausblenden.

Wir sind übrigens nicht besser, denn eine steinalte Website nehme ich jederzeit immer noch gerne als Beweis der Übertölpelbarkeit unseres visuellen Sinnes:

Die Bilder von Sandro del Prete führen einem beispielhaft die Irritierbarkeit unserer eigenen Intelligenz vor Augen. Im Gegensatz ist unsere natürliche Intelligenz aber in der Lage, unendlich viel mehr Daten zu verknüpfen und zu bewerten, dass wir die Täuschung erkennen und als amüsantes Fakt der Unzulänglichkeit unseres natürlichen visuellen Sinnes, bzw. der Vorstellung des Gehirns, erleben können. Wir können darin genau das erkennen, dass ein Bild eine Absicht hat, nämlich zu verwirren.

Bis die KI das auch kann, ist und bleibt sie strunzdumm und drum eben gefährlich.