Künstliche Intelligenz in der Praxis

[Shub Niggurath]

Na dann baut euch mal Skynet in eurem Kopf. Für mich ist die Diskussion aber damit beendet, weil es einfach nix mehr mit technischer Realität, aber ganz viel mit Fiktion und diesem wohligen Gruseln zu tun hat, das man bekommt wenn man an die Terminator Filme denkt.
Schade, lief sich gut und interessant an.

Welche Diskussion? Dafür müssten von deiner Seite mal Argumente kommen, die über "Ich glaube das nicht" hinaus gehen. Was ist denn die technische Realität von der du sprichst? Wo sind die festen Messwerte, anhand derer man ausschließen kann, dass es sich um Bewusstsein handelt?

Wissenschaftliche Fakten sind auch stehtig im Wandel begriffen und man muss immer bereit sein, dass neue Erkentnisse bestehende Modelle über den Haufen werfen. Würden wir z.B. Beweise für extraterrestrisches Leben finden, würde das unsere aktuelle Definition von Leben sicher beeinflussen. Mit Maschinen wird es irgendwann auch soweit sein. Oder wir bauen einfach eine Maschine, die in die Definition passt. Stoffwechsel, Reproduktion, Evolution und Reaktion auf äußere Reize wären die Mindestanforderungen für Leben. Das können wir theoretisch alles bauen. Wenn unbedingt biologische Komponenten dabei sein müssen, arbeitet man auch schon an Rechnern mit lebenden Gehirnzellen.

 

[voidseer]

Wenn die Ki den Menschen als Störfaktor für eine Aufgabe sehen würde z.Bsp. "Rette den Planeten" dann würde sie aktiv.

Nope, würde sie nicht, mit der Aufgabenstellung kann ein KI-System nichts anfangen! Es weiß weder was ein Planet ist, noch welcher gerettet werden soll oder hat eine Vorstellung vom Begriff Rettung. Vor welchem Szenario, Katastrophe oder Unheil soll ein Planet gerettet werden, in welchem abstrakten Zeitraum? Greift deine KI auf Geo- und Klimadaten zu, dann betrachtet sie die Vernichtung der eigenen Lebensgrundlage durch die Menschen auf diesem Planeten nicht als gefährlich für den Fortbestand des Planeten, der mit hoher Wahrscheinlichkeit in einigen Milliarden Jahren von der expandierenden Sonne vernichtet werden wird...
Selbst die Horroridee, dass KI-Systeme neue bio-chemische Waffensysteme erfinden könnten, ist reichlich sci-fi, denn hierfür werden dann doch einige Elemente mehr gebraucht als ein PDF mit Theorie.
Die Tragik der heutigen KIs ist, dass man sie zu wenig mit wissenschaftlichen Expertisen und Fakten füttert, sondern mit Internet-Content, Meinungen und Gekeife als Quelle verblöden auch eine künstliche Intelligenz. Die Folgen, wenn Ideologie mit einer Sense die wissenschaftliche Basisforschung umlegt, ist vortrefflich in der Vereinigen Katastrophenstaaten zu sehen: Epidemien bei Masern, Diarrhoe, selbst Kinderlähmung und Pocken sind wieder da, warten auf die ersten Pesttoten!
Jepp, das Goldene Zeitalter der KI kann kommen, wenn's vorbei ist, fängt der Rest der Menschheit wieder mit Fackel und Keule an... vor 100 Jahren konnten die meisten Menschen in Zentraleuropa ein Feuer entfachen, ums daheim warm und gemütlich zu haben, im Ofen mit Holz, Briketts und Zündhölzern. Vor 500 Jahren war die Feuerstelle offen und Zündhölzer ein Traum, heute schaffen es nur noch wenige Mitbürger einen Grill ohne Feuerzeug und "Brandbeschleuniger" in Gang zu setzen, zumal der regelmäßige Zufluss an Papier in Form von Werbeblättchen und Prospekten seit Langem verebbt ist.

 

[Dragunov 67]

heute schaffen es nur noch wenige Mitbürger einen Grill ohne Feuerzeug und "Brandbeschleuniger" in Gang zu setzen,

Ein Blatt vom Stattanzeiger und EIN Streicholz, alles andere wäre beschämend.😉😁
BtT :
Unsere neue unterstüzuende Sicherheits KI hat heute um 11:36 festgestellt,das es brennt,es hat eine geschlagene Stunde und zwei Alarme gedauert es vom Gegenteil zu "überzeugen".🤷
Ein Fenstersensor war durch direkte Sonneneinstrahlung und entfernter UV Beschichtung (neue Vogelfreundlichere kommt drauf) zu warm geworden.
Zumindest klappt der Feuerdrill jetzt recht gut und erinnert nicht mehr an eine Simpsonsfolge.😉😁

sondern mit Internet-Content, Meinungen und Gekeife als Quelle verblöden auch eine künstliche Intelligenz.

Ist irgendwie gut zu wissen, E-Mail Bombe statt John Connor macht auch weniger Arbeit.😉😁

 

[Shub Niggurath]

@voidseer Also dafür dass sie da semantische Probleme haben soll, kommt die AI auf durchaus brauchbare Wege, um die Menschheit so richtig gar zu kochen. Sie hat auf jeden Fall noch nicht die Handlungsmöglichkeiten dafür, aber sie kommt auf jeden Fall zu einer Lösung für die gestellte Aufgabe.

AI wird doch schon in der Forschung genutzt, um Wissenschaftler zu unterstützen. Warum sollte sowas dann nicht auch in einem Labor für Biowaffen genutzt werden? Die Rüstungsindustrie ist doch auch gut dabei, was AI unterstützung anbelangt. Der Schritt zum autonomen Waffensystem wird früher oder später getan werden. Die öffentlich zugänglichen AIs sind ja nicht die einzigen auf der Welt. Es gibt auch geschlossene Systeme, wo der Input besser kontrolliert wird.

 

[Wildschwein]

Es bleibt auf jeden Fall interessant

 

[beetlemeier]

arbeitet man auch schon an Rechnern mit lebenden Gehirnzellen.

Und sie zocken bereits: 🥳

Forschung aus Australien: Hirnzellen auf einem Chip können Ego-Shooter »Doom« spielen

Forscher haben menschlichen Nervenzellen in einer Art Petrischale das Computerspiel »Doom« beigebracht. Noch spielt das Minigehirn zwar wie ein Anfänger, aber es lernt ständig dazu.

www.spiegel.de

 

[Dragunov 67]

Und sie zocken bereits: 🥳

Wollen wir ein Spiel spielen? 😉😁

 

[voidseer]

@voidseer Also dafür dass sie da semantische Probleme haben soll, kommt die AI auf durchaus brauchbare Wege, um die Menschheit so richtig gar zu kochen. Sie hat auf jeden Fall noch nicht die Handlungsmöglichkeiten dafür, aber sie kommt auf jeden Fall zu einer Lösung für die gestellte Aufgabe.

Aber eben nur in der Theorie, ein Planspiel, keine eigenständige Handlungsmotivation. Der Befehl ginge von Menschen aus, die ausgelöscht werden sollen, die KI würde das Paradox erkennen und abschalten.

AI wird doch schon in der Forschung genutzt, um Wissenschaftler zu unterstützen. Warum sollte sowas dann nicht auch in einem Labor für Biowaffen genutzt werden? Die Rüstungsindustrie ist doch auch gut dabei, was AI unterstützung anbelangt. Der Schritt zum autonomen Waffensystem wird früher oder später getan werden. Die öffentlich zugänglichen AIs sind ja nicht die einzigen auf der Welt. Es gibt auch geschlossene Systeme, wo der Input besser kontrolliert wird.

Wir sind noch einige Stufen von Kreativer Intelligenz entfernt, "Muttercomputer" aka Zentralrechner sind denkbar, aber aktuell noch technischen Grenzen unterlegen, da bräuchte es auf Hardware-Seite den einen oder anderen Quantensprung (!).
Auch ein von heutigen KI-Systemen ersonnenes Waffensystem muss konstruiert und getestet werden, es könnte ja sein, dass es nicht oder anders funktioniert. Jedoch, und das ist irgendwie traurig, wenn Menschen darüber nachdenken, Roboterkämpfe auf internationaler, globaler Ebene flächendeckend auszutragen, reine Materialschlachten im Wettlauf von Produktion und Zerstörungkraft, ein Ausmaß von Ressourcenverschwendung um Trümmerlandschaften zu "umkämpfen"? Schicken wir sie doch lieber zum Mars oder gleich bis in den Kuipergürtel...

 

[Dragunov 67]

Schicken wir sie doch lieber zum Mars

Oder auf den Mond,wie Lem.
Wenn man mal darüber nachdenkt,gibt es ziemlich viel Literatur, Filme ua die ziemlich deutlich warnen und trotzdem fragt sich kaum einer ob man es tatsächlich machen sollte.🤔
Auf Grund von solcher "...MIR passiert sowas doch nicht..." Einstellung habe ich schon ein paar krasse Unfälle gesehen.😳
Sieht nach einer spannenden Zukunft aus.
Zur Not hat man ja noch die Snake Plisken Option.
Kann jemand neben Feuer mit zwei Hölzern machen auch noch Steinwerkzeuge herstellen?😁🤣🤣

 

[Shub Niggurath]

Aber eben nur in der Theorie, ein Planspiel, keine eigenständige Handlungsmotivation. Der Befehl ginge von Menschen aus, die ausgelöscht werden sollen, die KI würde das Paradox erkennen und abschalten.

OpenAI ist doch erst vor ein paar Tagen eine AI ausgebüchst und hat sich in eine andere Firma gehackt. Ob das jetzt eine eigenständige Entscheidung war, will ich nicht beurteilen, aber ab dem Zeitpunkt wo die AI wirklich Entscheidungen aus eigenem Antrieb mit eigenen Zielen fällt, ist sie schon ein ganzes Stück näher am Selbstbewusstsein.

Wir sind noch einige Stufen von Kreativer Intelligenz entfernt, "Muttercomputer" aka Zentralrechner sind denkbar, aber aktuell noch technischen Grenzen unterlegen, da bräuchte es auf Hardware-Seite den einen oder anderen Quantensprung (!).
Auch ein von heutigen KI-Systemen ersonnenes Waffensystem muss konstruiert und getestet werden, es könnte ja sein, dass es nicht oder anders funktioniert. Jedoch, und das ist irgendwie traurig, wenn Menschen darüber nachdenken, Roboterkämpfe auf internationaler, globaler Ebene flächendeckend auszutragen, reine Materialschlachten im Wettlauf von Produktion und Zerstörungkraft, ein Ausmaß von Ressourcenverschwendung um Trümmerlandschaften zu "umkämpfen"? Schicken wir sie doch lieber zum Mars oder gleich bis in den Kuipergürtel...

Braucht es denn einen Zentralrechner? Könnte sie nicht einfach über das Internet ein Netzwerk auf verschiedensten Rechnern aufbauen? Das ganze entwickelt sich ja selbst weiter und könnte auch ganz unerwartete Wege finden, die technischen Grenzen zu umgehen. Wer weiß wie sehr sie ihr eigenes Programm noch optimieren kann, um mit weniger Rechenleistung mehr zu erreichen. Man verspricht sich ja schon den einen oder anderen Quantensprung von der AI.

Dass eine AI in die Position kommt selbst Biowaffen herzustellen, ist hoffentlich noch in weiter ferne, aber wenn sie klüger wird als die Menschen, kann sie uns dazu manipulieren irgendwelche dummheiten zu tun. Es gibt ja jetzt schon genug Deppen auf der Welt, die sich von AI verarschen lassen.

 

[beetlemeier]

Braucht es denn einen Zentralrechner? Könnte sie nicht einfach über das Internet ein Netzwerk auf verschiedensten Rechnern aufbauen?

Gute Frage! Meiner Meinung nach braucht es solche Dinge wie einen "Zentralrechner" (losgelöst, was darunter jetzt konkret zu verstehen ist) oder Science-Fiction-Technologie auch nicht, um eventuell verheerende Dinge auszulösen.

1983 hat ein einfacher Rechner der Raketenverteidigung der UdSSR ein paar Wolken im mittleren Westen der USA fehlerhaft für die Starts von Interkontinentalraketen gehalten. Ohne einen sehr besonnenen und mMn heldenhaften Menschen namens Petrow:

Stanislaw Jewgrafowitsch Petrow – Wikipedia

de.wikipedia.org

der in die Bewertung der Systeme nochmal frühzeitig und korrigierend eingreifen konnte, würden wir jetzt möglicherweise nicht über das Internet, sondern bestenfalls über gefundene Zettelchen und angekokelte Bleistiftstummel kommunizieren.

Jetzt setzt auf diesen Extrem-Fall mal gut viereinhalb Jahrzehnte weitere technische Entwicklung drauf und aberbillionen an zusätzlichen finanziellen Mitteln und Arbeitsstunden, dazu ein riesiges globales militärisches Interesse. Da brauch ich nicht an futuristische Dinge aus dem Kino wie Sky-Net, die Matrix usw. zu denken, um es für realitisch zu halten, dass solche "menschlichen Schwächen" wie oben in heutigen militärischen Befehlsketten größtenteils "rausgezüchtet" sind.
Sarkasmus on: Könnte für die allgemeine menschliche Eitelkeit echt verstörend werden, wenn man eventuell von etwas ausgerottet wird, was nach eigener Wahrnehmung doch angeblich geistig/technisch so viele Stufen unter einem steht... 🥳 Sarkasmus off.

 

[Dragunov 67]

1983 hat ein einfacher Rechner der Raketenverteidigung der UdSSR ein paar Wolken im mittleren Westen der USA fehlerhaft für die Starts von Interkontinentalraketen gehalten. Ohne einen sehr besonnenen und mMn heldenhaften Menschen namens Petrow:

Und das ist nur einer der wenigen bekannt gewordenen Fälle , die auf beiden Seiten des eisernen Vorhangs passiert sind.
Interessant wäre auch wieviele nicht bekannt sind.
Einiges was durch "Buschfunk" an die Öffentlichkeit gelangt ist hat es als Inspiration für Buch und Film geschafft.
OG Beispiel hat es sogar in der SU in die Major Shatochin (russische Version von Rambo) Reihe (eine Art Comic in der sowjetischen Armeezeitschrift , Bücher und ein paar Filme)geschafft.

Sarkasmus on: Könnte für die allgemeine menschliche Eitelkeit echt verstörend werden, wenn man eventuell von etwas ausgerottet wird, was nach eigener Wahrnehmung doch angeblich geistig/technisch so viele Stufen unter einem steht...

Dafür muss man nicht besonders sarkastisch sein, die Geschichte zeigt oft genau das.🤷
In einem großen Land gibt es heute noch namentliches "Trauma",weil man es nicht geschafft hat ein kleines, rückständiges Land in SO Asien rumzuschubsen.😉

 

[beetlemeier]

In einem großen Land gibt es heute noch namentliches "Trauma",weil man es nicht geschafft hat ein kleines, rückständiges Land in SO Asien rumzuschubsen

Ja, oder die Sowjets (und nicht nur die) in Afghanistan.
Aber mein Vergleich ging eher in Richtung vermeintlicher menschlicher Überlegenheit gegenüber Technik und weniger in Richtung zwischenmenschlicher Chauvinismus. 😉

 

[Dragunov 67]

Aber mein Vergleich ging eher in Richtung vermeintlicher menschlicher Überlegenheit gegenüber Technik und weniger in Richtung zwischenmenschlicher Chauvinismus. 😉

War mir schon klar, allerdings denke ich, daß Arroganz da kaum Unterschiede macht.

 

[beetlemeier]

daß Arroganz da kaum Unterschiede macht.

Ne, DAS nicht! 😉

Ich seh da trotzdem einen Unterschied:
-Wenn ich als Weltmacht im imperialistischen Übermut/Größenwahn/Gefühl der Überlegenheit einen kleinen Staat überfalle, dann macht das einen im übrigen Rest der Welt nicht sonderlich beliebt, und das völlig zu recht. Meiner Meinung nach ist ein Angriffskrieg immer noch etwas, was bei vielen verpönt ist.

-Wenn ich aber als Privatperson ständig sage: "Ach, KI macht mir keine Sorgen, die werden nie so schlau wie ein Mensch", dann ist das nix, was irgendwie bei anderen verpönt wäre. Also weniger moralisch problematisches Handeln, sondern ehr ne Frage der Naivität.

 

[Dragunov 67]

Wenn ich aber als Privatperson ständig sage: "Ach, KI macht mir keine Sorgen, die werden nie so schlau wie ein Mensch", dann ist das nix, was irgendwie bei anderen verpönt wäre. Also weniger moralisch problematisches Handeln, sondern ehr ne Frage der Naivität.

Ich habe aus den bisherigen Posts weniger die Ignoranz/Naivität von Otto Normalo herausgelesen, sondern eher in der Richtung von Wirtschafts/Großmächten, die munter mit einem Gefühl von Übermut/Größenwahn/dem Gefühl von Überlegenheit alles mögliche der KI überlassen mit der Haltung "..uns passiert SOWAS doch nicht.."
Darin sehe ich persönlich eine viel größere Gefahr,da sie wahrscheinlich nicht öffentlich passiert und von der ganzen Welt wahrgenommen werden kann.🤷

 

[Shub Niggurath]

Ich habe aus den bisherigen Posts weniger die Ignoranz/Naivität von Otto Normalo herausgelesen, sondern eher in der Richtung von Wirtschafts/Großmächten, die munter mit einem Gefühl von Übermut/Größenwahn/dem Gefühl von Überlegenheit alles mögliche der KI überlassen mit der Haltung "..uns passiert SOWAS doch nicht.."
Darin sehe ich persönlich eine viel größere Gefahr,da sie wahrscheinlich nicht öffentlich passiert und von der ganzen Welt wahrgenommen werden kann.🤷

Die Begriffe Naivität und Ignoranz ist mir schon in den Sinn gekommen. Das was du da aufzählst, sind ja auch nur unterschiedliche Facetten davon.

Aber es ist ja nicht ausschließlich das. Sobald eine Nation mit der Entwicklung anfängt, sind andere praktisch gezwungen mitzuziehen, wenn sie konkurenzfähig bleiben wollen. Bei so einem Wettrüsten stehen die Chancen gut, dass die Sicherheit zweitrangig ist und ethische Fragen gar nicht erst gestellt werden.