Was haltet Ihr von selbstlernenden Computerprogrammen?

[Ansuz]

Ich habe mich ein wenig nun beschäftigt mit dem Thema. Meine Frage derzeit ist: wie sieht es aus mit der Fehlertoleranz der KI?

[Leibniz]

Ich habe mich ein wenig nun beschäftigt mit dem Thema. Meine Frage derzeit ist: wie sieht es aus mit der Fehlertoleranz der KI?

Lässt sich so allgemein vermutlich nicht sagen. Im übrigen existiert Künstliche Intelligenz weder heute, noch innerhalb der kommenden 10-15 Jahre. Bei genauer Betrachtung findet eine Parametrisierung eines vorhandenen funktionalen Modells statt, dabei kommen Methoden der Optimierung (und Differentialgeometrie) zum Einsatz.
Alle diese Ideen sind jedoch nichts neues. Diese Methoden werden einfache, repetitive Tätigkeiten übernehmen. Die Wortschöpfung Künstlicher Intelligenz muss meines Erachtens im Tal der Ahnungslosen entstanden sein.

Im übrigen existieren mindestens zwei Firmen, die seit Jahrzehnten diese Verfahren nutzen. Erstaunlicherweise hat es also nicht einmal ein Jahrhundert gedauert, bis die unterbelichtete Journaille davon erfahren hat.

[Daggu]

Ich habe mich ein wenig nun beschäftigt mit dem Thema. Meine Frage derzeit ist: wie sieht es aus mit der Fehlertoleranz der KI?

Vielleicht sollte man hier zuerst die Frage stellen, ob ein tumber Abkömmling der Trockennasenprimaten überhaupt fähig ist, ein selbstlernendes (?) Maschinchen zu erschaffen, das nicht die Fehler übernimmt, die der Mensch seit tausenden von Jahren immer wieder macht.

Die unendlichen Abgründe des Bösen in jedem Menschen, die Bestie Mensch erschafft den phänotypischen Golem des Homo sapiens, oder will es, der dann besser als der Mensch ist, so der Traum unabsehbarer Zukunft, die unstillbare Sehnsucht nach dem, oder den Vollkommenen äußert sich dann in der Erschaffung einer wie auch immer benannten - künstliche und also menschlichen Intelligenz. Der Mensch, dieses unvollkommene, verletzliche und oft bösartig pervertierte Wesen, meint nun in seinem "Cogito ergo sum" etwas erschaffen zu können, zu dem dieser mörderische Zellhaufen selbst wohl niemals fähig sein wird, jetzt einmal etwas überspitzt formuliert. So eine Art von Jesussen aus der Dose?

Götter aus oder in der Blechkiste? Oder wenn Mephisto einen Gott baut, dann wird es doch immer wieder nur ein Mephisto.

[Haspelbein]

Lässt sich so allgemein vermutlich nicht sagen. Im übrigen existiert Künstliche Intelligenz weder heute, noch innerhalb der kommenden 10-15 Jahre. Bei genauer Betrachtung findet eine Parametrisierung eines vorhandenen funktionalen Modells statt, dabei kommen Methoden der Optimierung (und Differentialgeometrie) zum Einsatz.
Alle diese Ideen sind jedoch nichts neues. Diese Methoden werden einfache, repetitive Tätigkeiten übernehmen. Die Wortschöpfung Künstlicher Intelligenz muss meines Erachtens im Tal der Ahnungslosen entstanden sein.

Im übrigen existieren mindestens zwei Firmen, die seit Jahrzehnten diese Verfahren nutzen. Erstaunlicherweise hat es also nicht einmal ein Jahrhundert gedauert, bis die unterbelichtete Journaille davon erfahren hat.

Es stimmt, dass es sich um funktionale Modelle handelt, die durch Methoden einer diskreten Differentialgeometrie optimiert werden. Jedoch gibt es durch derzeit wirklich brauchbare MLPs einen qualitativen Unterschied. Die klassische KI, die aus der Statistik heraus gewachsen ist, basierte auf relativ komplexen Modellen, die bereits recht deutliche Annahmen über die mögliche Lösung des Problems beinhalteten, und dies nur noch parametrisierten.

Das Modell eines MLPs ist hingegen in seinem Grundprinzip brutal einfach, d.h. eine sehr ähnliche Konfiguration lässt sich auf allerlei Probleme anwenden. Ausser den Trainingsdaten selbst wussten MLPs nichts über Schach oder DOTA2. Es wurde ihnen nicht durch Menschen beigebracht, auch nicht in der Form eines spezifischen Modells zum Schachspielen. Es ergaben sich Lösungen rein aus den Trainingsdaten heraus, die dann auch Menschen überraschten. (KI spielt i.d.R. deutlich risikofreudiger als ein Mensch.)

Den Begriff der künstlichen Intelligenz halte ich jedoch ebenfalls für irreführend, da er diese Verfahren vermenschlicht, da ein Mensch unter Intelligenz immer menschliche Intelligenz versteht. Der Vorteil von KI liegt aber m.E. gerade darin, dass man sich nicht am Menschen orientieren muss.

Ich verstehe jedoch nicht ganz, was Ansuz mit der Fehlerquote meint. Ich denke nicht, dass es die Abweichungen des Modells von den Trainingsdaten sind.

[Leibniz]

Es stimmt, dass es sich um funktionale Modelle handelt, die durch Methoden einer diskreten Differentialgeometrie optimiert werden. Jedoch gibt es durch derzeit wirklich brauchbare MLPs einen qualitativen Unterschied. Die klassische KI, die aus der Statistik heraus gewachsen ist, basierte auf relativ komplexen Modellen, die bereits recht deutliche Annahmen über die mögliche Lösung des Problems beinhalteten, und dies nur noch parametrisierten.

Das Modell eines MLPs ist hingegen in seinem Grundprinzip brutal einfach, d.h. eine sehr ähnliche Konfiguration lässt sich auf allerlei Probleme anwenden. Ausser den Trainingsdaten selbst wussten MLPs nichts über Schach oder DOTA2. Es wurde ihnen nicht durch Menschen beigebracht, auch nicht in der Form eines spezifischen Modells zum Schachspielen. Es ergaben sich Lösungen rein aus den Trainingsdaten heraus, die dann auch Menschen überraschten. (KI spielt i.d.R. deutlich risikofreudiger als ein Mensch.)

Den Begriff der künstlichen Intelligenz halte ich jedoch ebenfalls für irreführend, da er diese Verfahren vermenschlicht, da ein Mensch unter Intelligenz immer menschliche Intelligenz versteht. Der Vorteil von KI liegt aber m.E. gerade darin, dass man sich nicht am Menschen orientieren muss.

Ich verstehe jedoch nicht ganz, was Ansuz mit der Fehlerquote meint. Ich denke nicht, dass es die Abweichungen des Modells von den Trainingsdaten sind.

Das ist richtig. Diese Verfahren sind in ihrer abstrakten Form nicht auf inhaltliches Wissen über ihre Einsatzgebiete angewiesen. Abstraktion erweist sich auch hier als mächtiges Werkzeug.

Allerdings ist größte Sorgfalt angebracht. Ohne Sorgfalt kann ein Anwender den Fehler begehen, Samples nur anders darzustellen. Intuitiv vermutlich an der (normierten) Entropie des fertigen Modells relativ zur Menge eingeflossener Samples bzw. Trainingsdaten erkennbar.

Ohne wirklich dezidiertes Wissen des Bereichs maschinellen Lernens zu haben erinnert es an einen Konflikt, der mir einmal begegnete und bis heute ungelöst ist. Differentielle Entropie ist ein eleganter, einfacher Begriff, der jedoch in der Realität zu Approximationen verkommt, weil unsere Welt (obwohl diese weiter ist, nicht einmal die Natur) (noch) nicht vollständig analytisch bzw. in glatten Funktionen beschrieben werden kann.
Daran angelehnt ist auch die Kolmogorow Komplexität ein eleganter Weg, einen Zugang zur Entropie zu gewinnen. Sie zu finden ist das Problem.

[Daggu]

Den Begriff der künstlichen Intelligenz halte ich jedoch ebenfalls für irreführend, da er diese Verfahren vermenschlicht, da ein Mensch unter Intelligenz immer menschliche Intelligenz versteht. Der Vorteil von KI liegt aber m.E. gerade darin, dass man sich nicht am Menschen orientieren muss.

Ab einem bestimmten Punkt braucht doch eine KI (nennen wir sie einfach einmal so) keine fundamental grundlegendenLösungsalgorithmen mehr (wenn sie vorher bis zu diesem Punkt programmiert wurde), die KI lernt dann selbst, hier vorausgesetzt, die KI kann vom Pool unbegrenzt großer Datenmengen "naschen".

Hieße das dann auch, das rationale Denken (der KI) durch Axiome und korrekte Schlussregeln zu formalisieren, also die KI lernt das rationale Denken aus den verarbeiteten Daten.

[Haspelbein]

[...]
Allerdings ist größte Sorgfalt angebracht. Ohne Sorgfalt kann ein Anwender den Fehler begehen, Samples nur anders darzustellen. Intuitiv vermutlich an der (normierten) Entropie des fertigen Modells relativ zur Menge eingeflossener Samples bzw. Trainingsdaten erkennbar.

Es muss nicht unbedingt eine Entropie sein, auch wenn es möglich ist, dass es sich um eine Form der Entropie handelt. Ich würde es zuerst einfach als eine Metrik bezeichnen. Es sagt wirklich viel über das Modell aus, wie stark individuelle Parameter mit der Metrik korreliert sind. Obwohl auch hier ist Vorsicht geboten, man kann sich da vertun, indem einer der Parameter mit anderen Parametern oder sogar mit der Metrik selbst kovariant ist.

Normalerweise teilt man die Trainingsdaten, trainiert das Modell mit dem einen Teil, und testet das Modell mit dem anderen Teil. Das ist jedoch nur ein grober Test, d.h. Fehler wie eine Überanpassung sind immer noch möglich, wenn der Datensatz sehr homogen ist. Bei wohldefinierten Problemen ist das recht einfach, wenn man eine Metrik gut definieren kann, und alle Variablen bekannt sind. (Schach)

Wesentlich schwerer wird es bei seltenen Ereignissen, oder wenn man externe Faktoren nicht ausschließen kann. Viele Dinge lassen sich nicht nur durch eine glatte Funktion darstellen, sondern sind nicht einmal quantifizierbar. Ich sehe z.B. immer wieder Versuche, KI auf Wahlvorhersagen anzuwenden. Oftmals kommen dabei sehr skurrile Ergebnisse heraus, größtenteils deshalb, weil sich ein Wahlverhalten schlecht parametrisieren lässt, und Wahlen seltene Ereignisse sind.

Ähnlich sieht es bei der Vermeidung von Unfällen in selbstfahrenden Autos aus. Je seltener die Extremsituation, desto wahrscheinlicher wäre eine KI überfordert. Und das obwohl es eine Autobahnfahrt problemlos schafft.

Ohne wirklich dezidiertes Wissen des Bereichs maschinellen Lernens zu haben erinnert es an einen Konflikt, der mir einmal begegnete und bis heute ungelöst ist. Differentielle Entropie ist ein eleganter, einfacher Begriff, der jedoch in der Realität zu Approximationen verkommt, weil unsere Welt (obwohl diese weiter ist, nicht einmal die Natur) (noch) nicht vollständig analytisch bzw. in glatten Funktionen beschrieben werden kann.
Daran angelehnt ist auch die Kolmogorow Komplexität ein eleganter Weg, einen Zugang zur Entropie zu gewinnen. Sie zu finden ist das Problem.

Ja, es ist einmal das Problem wirklich eine gute Metrik (Definition einer Entropie) zu erstellen. Dazu kommen dann noch der Umfang und die Qualität der Trainingsdaten, und die Grenzen dessen, was eine KI erfassen kann. Ein Mensch wird mit gewissen Instinkten geboren. Es ist wahrscheinlich gut, dass die meisten Menschen Angst vor Schlangen haben, denn ein einziges Ereignis könnte tödlich sein, auch wenn der Kontakt mit einer Schlange nur sehr selten vorkommt.
Es ist nicht leicht für solche Ausreißer bei KI-Anwendungen zu kompensieren.

[Haspelbein]

Ab einem bestimmten Punkt braucht doch eine KI (nennen wir sie einfach einmal so) keine fundamental grundlegendenLösungsalgorithmen mehr (wenn sie vorher bis zu diesem Punkt programmiert wurde), die KI lernt dann selbst, hier vorausgesetzt, die KI kann vom Pool unbegrenzt großer Datenmengen "naschen".

Hieße das dann auch, das rationale Denken (der KI) durch Axiome und korrekte Schlussregeln zu formalisieren, also die KI lernt das rationale Denken aus den verarbeiteten Daten.

Noch strukturiert sich ein KI aber noch nicht selbst. Selbst ein MLP hat eine bestimmte vorgegebene Struktur, und es sucht sich seine Datensätze und Probleme auch nicht selbständig aus. Zudem kann es immer noch nicht beurteilen, ob die Lösung sinnvoll ist. (Mir ist bewusst, dass dies auch viele Menschen nicht können.)

Ich denke auch nicht, dass ein KI rational im menschlichen Sinne ist. Es erkennt Muster und ermittelt Wahrscheinlichkeiten (oder andere Metriken), aufgrund deren Optimierung es zu handeln fähig ist.

[Lichtblau]

Lässt sich so allgemein vermutlich nicht sagen. Im übrigen existiert Künstliche Intelligenz weder heute, noch innerhalb der kommenden 10-15 Jahre. Bei genauer Betrachtung findet eine Parametrisierung eines vorhandenen funktionalen Modells statt, dabei kommen Methoden der Optimierung (und Differentialgeometrie) zum Einsatz.
Alle diese Ideen sind jedoch nichts neues. Diese Methoden werden einfache, repetitive Tätigkeiten übernehmen. Die Wortschöpfung Künstlicher Intelligenz muss meines Erachtens im Tal der Ahnungslosen entstanden sein.

Im übrigen existieren mindestens zwei Firmen, die seit Jahrzehnten diese Verfahren nutzen. Erstaunlicherweise hat es also nicht einmal ein Jahrhundert gedauert, bis die unterbelichtete Journaille davon erfahren hat.

Das habe ich auch festgestellt. Da wird nichts gelernt sondern es werden einfach Parameter durchprobiert für ein Modell das sich immer noch der Mensch einfallen lassen muss.

Das funktioniert nur für bestimmte Aufgabenstellungen.

Daher halte ich den KI-Hype für nichts als Systempropaganda.

[Ansuz]

Lässt sich so allgemein vermutlich nicht sagen. Im übrigen existiert Künstliche Intelligenz weder heute, noch innerhalb der kommenden 10-15 Jahre. Bei genauer Betrachtung findet eine Parametrisierung eines vorhandenen funktionalen Modells statt, dabei kommen Methoden der Optimierung (und Differentialgeometrie) zum Einsatz.
Alle diese Ideen sind jedoch nichts neues. Diese Methoden werden einfache, repetitive Tätigkeiten übernehmen. Die Wortschöpfung Künstlicher Intelligenz muss meines Erachtens im Tal der Ahnungslosen entstanden sein.

Im übrigen existieren mindestens zwei Firmen, die seit Jahrzehnten diese Verfahren nutzen. Erstaunlicherweise hat es also nicht einmal ein Jahrhundert gedauert, bis die unterbelichtete Journaille davon erfahren hat.

Besten Dank, so ähnlich hatte ich das nach meiner zugegeben recht kurzen näheren Beschäftigung mit der Thematik auch vermutet.
Somit war meine Frage nach der Fehlertoleranz im Grunde, zu diesem Zeitpunkt, irrelevant. Doch solche Gedanken sind in dem Kontext nicht zu vermeiden und ich kann mir nicht vorstellen, daß dies bei den Entwicklern anders ist.