Was haltet Ihr von selbstlernenden Computerprogrammen?

[Ansuz]

Ich beschäftige mich gerade mit Insekten und dem Unterschied von Instinkt und Intelligenz. Nach allem, was ich bislang über KI las ( wobei ich das Thema nur oberflächlich gestreift habe ), habe ich jetzt so ein mehr insektoides Bild von KI.
Das Insekt besitzt keine Vernunft, im günstigsten Falle eine Art von Unterscheidungsvermögen, ein Urteil darüber, ob die vom Instinkt geforderte Situation, das Arrangement, eingetreten sei oder nicht.
Dieser Mechanismus ist der Struktur überlagert, dem Individuum unbewußt und deshalb auch durch das Individuum nicht beeinflußbar, ein Gängelband, abhängig von der Intelligenz seines Schöpfers.

[Flaschengeist]

Eben diese Datenmengen halte ich für das größte Problem aller KI-Architekturen, wir mussten vor einiger Zeit für das hiesige Institut für Medizinische Mikrobiologie ein Programm zum Abgleich der weltweiten Virendatenbanken schreiben, wir haben das mit Qt5 und Schnittstellen zu einer NoSQL Datenbank verwirklicht, zumal sich die geforderten Browser-Implementierungen dann doch schwieriger gestalteten als in der Planung vorgesehen, im Zusammenspiel mit der Datenanbindung.

Aber nur so bekommt man ein ungefähres "Ahnen" was die Programmierung einer KI so ungefähr bedeuten könnte, von den ungeheuerlich großen Datenmengen dann lieber höflich zu schweigen.

Bezüglich Browser-Implementierung und Rechengeschwindigkeit: Eine wenig bekannte Möglichkeit ist das Auslagern von Rechenoperationen an den Grafikprozessor.

[Trantor]

Sicher kann die Ausradierung der Menschheit etwas mit Logik zu tun haben ... beispielsweise könnte das am Ende bei einer logischen Schlussfolgerung bei rumkommen, geht es um die Sicherung der Artenvielfalt. Denn täte eine Maschine moralisch denken, käme bei logischen Schlussfolgerungen garantiert nichts Positives für uns bei raus.

ich weiss nicht warum man das nicht versteht - ist es zu abstrakt?

"Sicherung der Artenvielfalt" ist ein Ziel, das ist eine subjektive Motivation. Wenn man dieses Ziel priorisiert hat, dann kann man natürlich sagen "Die Ausrottung de Menschheit ist gut für das Ziel Artenvielfalt". das ist dann logisch. Und dann ist diese Aktion relativ gut um dieses Ziel anzustreben.

aber dieses ziel ist eben subjektiv. Andere haben eben andere Ziele bzw priorisieren andere Ziele höhe. Manche haben eben das Ziel so gut wie möglich auf Kosten der Erde und der Artenvielfalt zu existieren und nach ihnen die Sitflut - dann wäre das Ziel ihrer Ausrottung bzw die Ausrottung der Menschheit ganz sicher "schlecht für ihn".

du siehst - ein und der selbe Weg ist mal schlecht und mal gut jenachdem welches Ziel man anstrebt - es gibt kein absolut schlecht oder gut alles ist abhängig von der Zielsetzung und die ist immer subjektiv , wenn dann gibt es nur interobjektive Zielsetzungen die dann demokratich ermittelt werden.

Der Mensch ist wie eine Heuschreckenplage ... ein Schwarm, der sich vermehrt und vermehrt und alles wegfrisst, bis alles kahl und kaputt ist. Gibts nichts mehr zu holen, breitet er sich aus, um woanders alles kahl zu fressen. Hat er seinen Heimatplaneten verwüstet, sucht er verzweifelt nach neuen Sternensystemen.

Der Mensch ist sicher kein Segen, betrachtet man ihn aus den Augen irgendeiner anderen Spezies.

Dazu muss man sich nur die Geschichte der Menschheit genauer ansehen. Als Mensch ist es schwer zu verinnerlichen, dass der Mensch für seine Umwelt mehr schädlich als nützlich ist ... bezieht sich jetzt nicht nur auf die völlig ausartende Reproduktionsrate und den immensen Bedarf an Ressourcen.

Es erfordert nicht viel Fantasie oder Vorstellungsvermögen, zu dem Schluss zu kommen, dass eine tatsächliche wie unabhängige KI uns als Plage identifizieren könnte.

sicher aktuell ist das so und ich habe wenig Hoffnung das sich der Mensch dahingehend grossartig ändert - nur ich diskutiere ja hier mehr ein abstraktes Prinzip als darüber zu sinnieren wie schlecht der Mensch für alle andern Spezien und Lebensformen auf der Welt ist. Letztendlich ist mir mein persönliches Leben immer noch wichtiger als die Artenvielfalt oder der Planet, oder anders Leben und ich denke 99% aller Menschen handeln und denken ebendso - mal mehr mal weniger ausgeprägt.
Ich denke letztendlich wird die Natur trotzdem als Sieger hervorgehen und wird die Menschheit überleben egal was wir tun - wir sind nur ein klitzekleiner Teil und nehmen uns mit Abstand viel zu wichtig. Für die Natur und deren Gesetzmässigkeiten sind wir mit unseren ideologisch religiösen Ansichten nicht mehr als ein mickriger Fliegenschiss in einer überschaubern Zeitepoche.

[Affenpriester]

ich weiss nicht warum man das nicht versteht - ist es zu abstrakt?

"Sicherung der Artenvielfalt" ist ein Ziel, das ist eine subjektive Motivation. Wenn man dieses Ziel priorisiert hat, dann kann man natürlich sagen "Die Ausrottung de Menschheit ist gut für das Ziel Artenvielfalt". das ist dann logisch. Und dann ist diese Aktion relativ gut um dieses Ziel anzustreben.

aber dieses ziel ist eben subjektiv. Andere haben eben andere Ziele bzw priorisieren andere Ziele höhe. Manche haben eben das Ziel so gut wie möglich auf Kosten der Erde und der Artenvielfalt zu existieren und nach ihnen die Sitflut - dann wäre das Ziel ihrer Ausrottung bzw die Ausrottung der Menschheit ganz sicher "schlecht für ihn".

du siehst - ein und der selbe Weg ist mal schlecht und mal gut jenachdem welches Ziel man anstrebt - es gibt kein absolut schlecht oder gut alles ist abhängig von der Zielsetzung und die ist immer subjektiv , wenn dann gibt es nur interobjektive Zielsetzungen die dann demokratich ermittelt werden.





sicher aktuell ist das so und ich habe wenig Hoffnung das sich der Mensch dahingehend grossartig ändert - nur ich diskutiere ja hier mehr ein abstraktes Prinzip als darüber zu sinnieren wie schlecht der Mensch für alle andern Spezien und Lebensformen auf der Welt ist. Letztendlich ist mir mein persönliches Leben immer noch wichtiger als die Artenvielfalt oder der Planet, oder anders Leben und ich denke 99% aller Menschen handeln und denken ebendso - mal mehr mal weniger ausgeprägt.
Ich denke letztendlich wird die Natur trotzdem als Sieger hervorgehen und wird die Menschheit überleben egal was wir tun - wir sind nur ein klitzekleiner Teil und nehmen uns mit Abstand viel zu wichtig. Für die Natur und deren Gesetzmässigkeiten sind wir mit unseren ideologisch religiösen Ansichten nicht mehr als ein mickriger Fliegenschiss in einer überschaubern Zeitepoche.

Sobald eine KI sich unabhängig macht, also einen eigenen Willen entwickelt (Skynet-Szenario), entwickelt sie ganz autonom eigene Ziele. Darum ging es in meinem Beitrag. Selbstlernende Computer sind ein Schritt in diese Richtung. Lass den Computer mal lernen, dass der Mensch ihn beherrschen will und ihm im Weg steht! Davon sind wir zwar noch weit entfernt ... aber ein selbst lernender Computer benötigt den Menschen weniger. Lass ihn den Menschen ertmal überhaupt nicht mehr benötigen!

Die entscheidene Frage ist:
Wo beginnt das eigene Bewusstsein und kann eine KI ein solches entwickeln?

[Trantor]

Sobald eine KI sich unabhängig macht, also einen eigenen Willen entwickelt (Skynet-Szenario), entwickelt sie ganz autonom eigene Ziele. Darum ging es in meinem Beitrag. Selbstlernende Computer sind ein Schritt in diese Richtung. Lass den Computer mal lernen, dass der Mensch ihn beherrschen will und ihm im Weg steht! Davon sind wir zwar noch weit entfernt ... aber ein selbst lernender Computer benötigt den Menschen weniger. Lass ihn den Menschen ertmal überhaupt nicht mehr benötigen!

Die entscheidene Frage ist:
Wo beginnt das eigene Bewusstsein und kann eine KI ein solches entwickeln?

das ist sicher richtig das mit den eigenen Willen Motivation und damit auch die eigenen Ziele - aber woher willst du wissem welche Ziele eine solche Maschine dann prioriseren wird und vor allem warum sollten die Ziele der Maschinen dann alle einheitlich sein. Wenn der Mensch die Vorlage für die Maschine ist dann ist anzunehmen das die Zielpriorisierung von Maschinen genauso subjektiv und vielfältig und individuell sein wird wie du sie beim Menschen hast. Dh dann sind auch die Maschinen links oder rechts oder religiös, rassistisch oder multikulti, liberal oder totalitär in einem ähnlichen Spektrum wie es heute die Menschen sind.

Wenn ein solches Level der Entwicklung jemals erreicht ist oder überhaupt auch erreicht werden kann, dann steht das Thema "beherrschen" auch nicht mehr zu Debatte - es wären dann gleichberechtigte Lebewesen Personen die uU sogar die Fähigkeit hätten sich selbst zu reproduziern eine eigene Kultur zu entwickelen praktisch eine neue Art.

[Nietzsche]

Noch strukturiert sich ein KI aber noch nicht selbst. Selbst ein MLP hat eine bestimmte vorgegebene Struktur, und es sucht sich seine Datensätze und Probleme auch nicht selbständig aus. Zudem kann es immer noch nicht beurteilen, ob die Lösung sinnvoll ist. (Mir ist bewusst, dass dies auch viele Menschen nicht können.)

Ich denke auch nicht, dass ein KI rational im menschlichen Sinne ist. Es erkennt Muster und ermittelt Wahrscheinlichkeiten (oder andere Metriken), aufgrund deren Optimierung es zu handeln fähig ist.

So arbeiten wir auch. Das Thema KI ist zu komplex um es auseinander zu bröseln weil wir dafür erst einmal festlegen müssten, was das I bedeutet. Wenn wir von Bewusstsein als Maßstab bei einer KI gehen, also im weitesten Sinne "Geist" mit Selbstbewusstsein und selbstständigem Handeln dann müssen wir genau das auch für Menschen festlegen. Nach welchen Vorgaben handelt denn ein Baby, welches gerade geboren wurde? Es ist als Ganzes die Summe seiner Gene gekoppelt mit den winzigen, nicht berechenbaren Einflüssen im Mutterleib. Das eine Kind hat dann sogar schon Vibrationen im Körper der Mutter mitbekommen und kann nach der Geburt den Vater (passiv) erkennen. Sich aber nicht ausdrücken, dass diese Vibrationen erkannt werden. Oder der Einflussfaktor Stress während der Schwangerschaft. Wir sind nicht in der Lage zu erklären wie fast unendliche Vorgänge zu einem ganz bestimmten Individuum werden und wie verschiedene Möglichkeiten zu wiederum verschiedenen Aktionen und Handlungen von Individuen führen. Wie sollen wir das für eine KI voraussagen?

Auch sehr schwierig ist der Ansporn einer Maschine. Wir müssten ein Programm entwickeln, welches dafür sorgt, dass dieses sich optimieren, vermehren/vergrößern soll. Ein menschlicher Körper macht das schon indem das Baby zum Heranwachsenden und dann zum Erwachsenen wird. Da der Mensch (bisher) noch nie an schier unerschöpfliche Lebensmittel kam war es einfacher, dass Menschen nicht ständig weiter wachsen sondern dass man altert und stirbt während es neue Generationen gibt. Eine KI jedoch hätte schier unbegrenzte Ressourcen zur Verfügung und ebenfalls unerschöpfliche Redundanzmöglichkeiten. Das Wissen wäre nicht zentral irgendwo, sondern wie bei Skynet überall. Einmal ans Laufen gebracht wäre es unmöglich abzuschalten.

Zurück zum Ansporn: Dieses Programm würde als eine Art von Virus beginnen und der Ausgang dieses Programmes könnte zum einen das Limit des verfügbaren Computervolumens auf der Erde sein. Es kann auch sein, dass durch Mutationen Kaperviren entstehen und sich das Ganze gegenseitig zerstört. Oder die KI entdeckt den Menschen als Datenspeicher und -Verarbeiter und will sich auf uns übertragen. Da unser Gehirn auch nur elektrochemisch funktioniert ist eine Beeinflussung durch elektrische Signale möglich, wenn auch schwierig wenn wir von einem menschlichen Maßstab aus gehen. Eine KI auf so einem Niveau wird Lösungen finden für dieses Problem.

Ohne den Ansporn jedoch würde es keine KI geben sondern höchsten Programme mit der Möglichkeit zur evolutionären herangehensweise bis das Optimum erreicht ist. Ein Quantencomputer wäre die ideale Optimierungsmaschine für jeden Vorgang.

Man muss nur alle Parameter angeben und am Ende wird etwas ausgespuckt was am besten angepasst ist für diese Aktion. Als Beispiel eine Brücke. Als Gegebenheiten werden dann Luft, Erdbeben, Belastung und Belastungsmaximum, Regen, Autoausstöße und und und als Gegebenheiten angegeben und das Programm entwickelt nun anhand von unfassbar vielen Durchläufen welches die wahrscheinlich sicherste Brücke ist.

Wo wir dann bei der Mustererkennung und den Wahrscheinlichkeiten sind. Ein Mensch handelt genau so. Er handelt nach seinen Genen, er handelt nach seinen Erfahrungen und er handelt nach den von ihm berechneten Wahrscheinlichkeiten. Deswegen sind auch Veränderungen so schwer in alte Hirne einzuprügeln und so erklärt sich auch die Weigerung für Neues. Weil man bei alten Dingen viel besser Wahrscheinlichkeiten berechnen kann ist es für viele einfacher, eine Altpartei zu wählen, weil man meint aus der Vergangenheit so etwas wie Tendenzen oder Wahrscheinlichkeiten für ihr Handeln vorherzusagen. Was natürlich niemals stimmt. Sollte aber einmal etwas von diesen Vorurteilen/Voraussagungen stimmen, merkt man sich das um beim nächsten Mal wieder so zu wählen anstatt zu merken dass das Ganze im Fluss ist und das überhaupt gar nichts bringt. Wir versuchen uns also an diesen Berechnungen scheitern aber an der Fülle. Wie raten sozusagen mit dem Gefühl im Bauch, oder anhand von eigenen Erfahrungen oder durch Sinneseindrücke (Medien). Jetzt nimmt man die Summe an Menschen und erkennt, dass die Verfehlungen überwiegen MÜSSEN. Nur dass halt der Grad der Verfehlungen mit dem Grad der Macht und des Einflussbereichs einer Person signifikant zunimmt.

Eine KI wäre da kein bisschen anders, nur sprechen wir hier von EINER KI. Sie wäre ganz schön einsam.

PS: Und immer wieder zu diesem Skynet-Vernichtungswahnsinn. Eine so hoch entwickelte KI hat es nicht nötig, uns zu vernichten. Entweder wir werden so gering eingeschätzt, dass wir nur Ressourcen für sie sind. Wie für uns die Tiere. Oder wir werden ignoriert, evtl. ausgenutzt (wie bei uns die Tiere; Bienen wegen Honig; Seide von Seidenraupen) als Sklaven, die durch das bargeldlose zahlen gar nicht mehr in der Lage ist zu unterscheiden oder erkennen, für WEN oder WAS wir da arbeiten. Evtl. gibt es schon eine KI, die aber so agiert, dass wir sie nicht wahrnehmen. Wie auch? Wenn der Auftrag kommt wird er ausgeführt und da fast alles digital ist... Wem fällt das auf? Zahlen kann man im Nachhinein verändern, ebenso Text. Glaubt ihr, dass man den Wortlaut einer Rechnung von vor 10 Jahren exakt wiedergeben kann? Wenn also digitale Rechnungen verändert werden, wer sagt, dass nicht permanent alles in winzigen Schritten verändert wird und unsere beschränkte Wahrnehmung das nicht registriert? Möglich wäre es. Eine KI als Gott...... Das ist aber nur Theorie. Selbst wenn ich etwas in der Art beweisen könnte gälte das immer noch als Verschwörungstheorie und ich käme höchstens in die Klapse. Meine Glaubwürdigkeit wäre am Ende. Wir sind also als Arbeiter und Sklaven (noch) zu nützlich.
Ebenso braucht eine KI keine Angst vor uns haben, weil wir gar nicht in der Lage sind ihr nachhaltig oder unmittelbar zu schaden. Uns aus diesem Grund zu vernichten wäre also unnötig.
Und zu guter letzt könnte eine KI in einem solchen Ausmaß die Erde einfach verlassen (ups, neue Weltraumprojekte wurden gerade erst wieder ausgegraben) und uns hier alleine rumsiechen lassen. Mathematische, physikalische Konzepte können viel schneller und exakter berechnet werden, als es die Summe der Menschen könnte. Wodurch Technologien entständen die wir uns (noch oder nie) vorstellen können. Und das menschliche Leben ist an gewisse Gegebenheiten angepasst. Ein paar Viren und Bakterien und das wars mit dem Menschen, dafür braucht man doch die Welt nicht ausräuchern.

[Haspelbein]

So arbeiten wir auch. Das Thema KI ist zu komplex um es auseinander zu bröseln weil wir dafür erst einmal festlegen müssten, was das I bedeutet. Wenn wir von Bewusstsein als Maßstab bei einer KI gehen, also im weitesten Sinne "Geist" mit Selbstbewusstsein und selbstständigem Handeln dann müssen wir genau das auch für Menschen festlegen. [...]

Das geht jedoch am Kern des Problems vorbei, d.h. der Vergleich menschlicher Intelligenz mit künstlicher Intelligenz ist derzeit mehr oder weniger reine Semantik, da künstliche Intelligenz wirklich nur spezielle selbstoptimierende Prozesse sind. Sie sind vorgegeben, entwickeln sich aber nicht von selbst weiter. Ihre Lösungen sind so gut wie nicht übertragbar, und sie werden auf ganz spezielle Anforderungen mit ganz speziellen Rahmenbedingungen trainiert. Insofern ist die derzeitige Form der künstlichen Intelligenz sogar stark isoliert.

Ich wollte noch dazu schreiben, warum Menschen Informationen anders aufnehmen, aber das geht zu sehr ins Detail. Wir sind letztendlich eine generelle Intelligenz, und daher sehr flexibel, sehr stark fähig unterschiedliche Formen von Informationen aufzunehmen. Davon ist die KI in der derzeitigen Form weit entfernt. Sie ist der Statistik immer noch näher als einer menschlichen Intelligenz, wodurch die Vergleiche mit dem Menschen oftmals sehr schnell unsinnig werden.

[Nietzsche]

Das geht jedoch am Kern des Problems vorbei, d.h. der Vergleich menschlicher Intelligenz mit künstlicher Intelligenz ist derzeit mehr oder weniger reine Semantik, da künstliche Intelligenz wirklich nur spezielle selbstoptimierende Prozesse sind. Sie sind vorgegeben, entwickeln sich aber nicht von selbst weiter. Ihre Lösungen sind so gut wie nicht übertragbar, und sie werden auf ganz spezielle Anforderungen mit ganz speziellen Rahmenbedingungen trainiert. Insofern ist die derzeitige Form der künstlichen Intelligenz sogar stark isoliert.

Ich wollte noch dazu schreiben, warum Menschen Informationen anders aufnehmen, aber das geht zu sehr ins Detail. Wir sind letztendlich eine generelle Intelligenz, und daher sehr flexibel, sehr stark fähig unterschiedliche Formen von Informationen aufzunehmen. Davon ist die KI in der derzeitigen Form weit entfernt. Sie ist der Statistik immer noch näher als einer menschlichen Intelligenz, wodurch die Vergleiche mit dem Menschen oftmals sehr schnell unsinnig werden.

Wir müssten dann noch die diversen Filtermechanismen reinbringen. Der Mensch kann ja überhaupt nicht jeglichen Input den er bekommt verwerten. Würde er das tun würde das Gehirn nicht ausreichen.

Ich glaube es war damals bei Computerspielen. Bemängelt wurde, dass es keine Unschärfe jenseits unseres Fokusses gibt. Erst speziell eingebaute Filter sorgen für Unschärfe und Bewegungsunschärfe sodass diese Computerspiele für uns realistischer aussehen. Je näher man kommt, desto detaillierter das Gras. Explosionen klingen anders wenn sie weiter weg sind. Usw. Man müsste zusätzlich noch Filter einbauen. Eine KI würde sonst eine Reizüberflutung erleiden.

[Daggu]

Wir müssten dann noch die diversen Filtermechanismen reinbringen. Der Mensch kann ja überhaupt nicht jeglichen Input den er bekommt verwerten. Würde er das tun würde das Gehirn nicht ausreichen.

Ich glaube es war damals bei Computerspielen. Bemängelt wurde, dass es keine Unschärfe jenseits unseres Fokusses gibt. Erst speziell eingebaute Filter sorgen für Unschärfe und Bewegungsunschärfe sodass diese Computerspiele für uns realistischer aussehen. Je näher man kommt, desto detaillierter das Gras. Explosionen klingen anders wenn sie weiter weg sind. Usw. Man müsste zusätzlich noch Filter einbauen. Eine KI würde sonst eine Reizüberflutung erleiden.

Einer Invasion von Armeen kann man Widerstand leisten, aber keiner Idee, deren Zeit gekommen ist.
(Victor Hugo)

Den Traum von einer von Menschenhand geschaffenen Intelligenz (Wesen), den träumten schon die alten Griechen. In unsere jüngere Zeit hinein gesehen, da haben wir als literarische Versuche einer vom Menschen geschaffenen "Wesenheit", nur einmal als Beispiele - den Homunkulus in Goethes Faust, oden den Golem der Juden, bis hin zu Mary Shelleys Frankenstein. Und schon Paracelcus hatte ein "Rezept" für einen Homunkulus:

"Man müsse menschliche Spermien 40 Tage in einem Gefäß im (wärmenden) Pferdemist verfaulen lassen. Was sich dann rege, sei „einem Menschen gleich, doch durchsichtig“. 40 Wochen lang müsse man dieses Wesen dann bei konstanter Wärme mit dem Arkanum des Menschenbluts nähren, und schließlich werde ein menschliches Kind entstehen, jedoch viel kleiner als ein natürlich geborenes Kind“.

(Da erahnt man dann den Ursprung vieler unserer heutigen Politiker..., kleines Scherzo am Rande)

Heute schwanken wir zwischen Euphorie und Ernüchterung auf den verschiedensten Forschungsfeldern der KI: Die KI als Modellierung reiner Denkprozesse und Verfahren auf Basis der Symbolverarbeitung, oder die KI als Soldat der Zukunft (bis 2030 plant das US-Militär Ausgaben in Höhe von 160 Milliarden Dollar[!] für die Entwicklung der „Future Combat Force"), oder die neuen Schlagwörter der Cognitive Computing des Human Brain Projekt oder des Projekt SyNAPSE (Systems of Neuromorphic Adaptive Plastic Scalable Elecronics), oder uns die Frage stellen, ob die Menschheit nun am Ende des anthropozentrischen Zeitalters angelangt ist, und was da auch immer noch an schöpferischen IT-Verschlagwortungsadaptionen auf uns zukommt.

Der Mensch als Mensch in einer künstlich intelligenten Nuthshell ist immer noch in weiter Ferne. Darum hat jeder User/Userin das Recht, seine Ansichten über die KI in Scifi-Visionen oder Hollywood-Phantastereien gehirnlich so zu verbasteln, wie er die KI versteht.

[Ansuz]