Künstliche Intelligenz in der Praxis

[Lord Protector]

Ich frage mich auch, wie weit die nicht-kommerziellen KIs inzwischen sind, die aktuell für wissenschaftliche und militärische Zwecke genutzt werden.
Ich glaube, dass wir in der Öffentlichkeit hier noch sehr sehr deutlich hinterherhinken.

Man liest ja jetzt schon, dass mithilfe von KI (LLMs) Sicherheitslücken in Software gefunden werden.
Spätestens hier dürfte eigentlich jedem klar sein das wir hier über Militärische Potentiale sprechen.

Das Wettrennen zwischen China und den USA ist ja kein Hirngespinst, das sich irgendein Reporter zur Überdramatisierung ausgedacht hat. Vielmehr findet hier tatsächlich ein Wettrennen statt, den man auch versucht, mit wirtschaftlichen Mitteln zu entscheiden (Embargos auf Chips, seltene Erden usw.).

Und hier sehe ich die größte Gefahr.
Dass man aus dem vermeintlichen Zwang heraus, dem Gegner voraus zu sein, Dinge tut, die man später bereuen könnte.
Und die Tatsache, dass Milliardäre und Politiker kontinuierlich beweisen, dieser Verantwortung nicht gewachsen zu sein, macht nur noch mehr sorgen.

Ernsthaft, waren "die da oben" schon immer so bescheuert?? ^ ^

 

[Haakon]

Dass man aus dem vermeintlichen Zwang heraus, dem Gegner voraus zu sein, Dinge tut, die man später bereuen könnte.
Und die Tatsache, dass Milliardäre und Politiker kontinuierlich beweisen, dieser Verantwortung nicht gewachsen zu sein, macht nur noch mehr sorgen.

Ernsthaft, waren "die da oben" schon immer so bescheuert?? ^ ^

Bereits 1950 😉

Operation Sea-Spray - Wikipedia

en.wikipedia.org

Kurz zusammengefasst - das US-Militär hat in den 1950er Jahren mit zwei Bakterienstämmen auf San Francisco gefeuert um zu schauen wo die überall landen.

 

[beetlemeier]

Die Aussage war auch keineswegs beschwichtigend gemeint.

Das war jetzt auch nicht als konkreter "Vorwurf" gegen Dich gemeint, sondern eher ne allgemeine Beobachtung. 😉

So ähnlich lief das damals bei der Einschätzung der Schachcomputer, also auch einer Art KI:
Zuerst hieß es: Ein Computer wird niemals einen Menschen besiegen. Dann wurde das eingeschränkt auf starke Spieler, dann Internationale Meister, Großmeister, schließlich Weltmeister. Aber seit ein paar Jahrzehnten wissen wir ja klar, dass das nicht mehr gilt. Heute ist die kostenlose Engine Stockfish von keinem Menschen mehr zu besiegen.
Dass Stockfish nicht menschlich denkt, liegt auf der Hand; für seinen Erfolg und den seiner Vorgänger war das aber kein Hindernis. Und am Ende ist es auch egal, wenn man von so einem Teil am PC geplättet wird oder in einer Online-Partie durch einen (vermutlichen) Menschen: Verloren ist verloren.

Wie gesagt, gilt nicht für jeden Anwendungsbereich, aber die Feststellung "KI ist kein menschliches Denken" hat für mich jetzt nicht so den Mehrwert; eher wie die Erkenntnis: "Ein Auto läuft nicht wie ein Mensch". 😉

 

[Naysmith]

Wie gesagt, gilt nicht für jeden Anwendungsbereich, aber die Feststellung "KI ist kein menschliches Denken" hat für mich jetzt nicht so den Mehrwert; eher wie die Erkenntnis: "Ein Auto läuft nicht wie ein Mensch". 😉

Eine KI denkt genau so menschlich wie ein Alien 😉. Wobei man ehrlich sein darf, wie genau wir denken ist ja auch eher schwammig bis unklar.

Ist aber eigentlich auch egal. Ein Vogel denkt, anders als ein Hund, als ein Delphin, als ein Wolf, als etc. pp. Es ist ja völlig unerheblich wie genau da gedacht wird, oder besser zu den für sich angestrebten Ergebnissen gekommen wird. Wichtig ist nur, ob zu den gewünschten Ergebnissen gekommen wird. Das ist der Fall und somit darf man wohl mit Fug und Recht von denkenden Maschinen sprechen.

Spannend wird es erst wenn die aus eigenem Antrieb eigene Ziele verfolgen (also ohne Prompt).

Bis dahin ist eine der größten und direktesten Gefahren der ungezügelten KI-Entwicklung der steigende Energieverbrauch, denn noch setzt der sich direkt in mehr Treibhausgase und damit in einen immer schwieriger (und deswegen teurer) zu handelnden und sich weiter beschleunigenden Klimawandel um.

Evtl. ist es ja gut wenn die KI uns alle ausrottet bevor wir hier bei 45 Grad zu Massen den Hitzetod erleiden (man bin ich froh das ich dann schon tot sein werde).

 

[Haakon]

Wie gesagt, gilt nicht für jeden Anwendungsbereich, aber die Feststellung "KI ist kein menschliches Denken" hat für mich jetzt nicht so den Mehrwert; eher wie die Erkenntnis: "Ein Auto läuft nicht wie ein Mensch". 😉

Dein Schachcomputer wird dir aber kein Bild malen. Und da ist der Unterschied. Sicherlich wird es zu Veränderungen in einigen Feldern kommen, der juristische Bereich oder Informatik werden da ja gerne genannt. Da ist dein Arbeitsalltag dann eher das kontrollieren was der Computer tut. Als Recherchetool fand ich das Ganze ganz gut und es hat mir Publikationen gefunden, die ich anders nicht gefunden hätte.
Aber wie viel disruptiv ist die Geschichte nun wirklich? Der Taschenrechner, Computer und Internet haben Arbeitsabläufe ebenfalls verändert.

Kann natürlich auch voll in die Hose gehen, in alle Richtungen. Und wie bei allen Schlüsseltechnologien haben wir halt wieder das Problem der Monopole. Aber vielleicht erleben wir ja bald die Rogue KI aus dem Cyberpunk-Setting von Mike Pondsmith.

 

[Wildschwein]

Gehe davon aus das die Maschinen die Menschen als gefährlich einschätzen werden und dementsprechend handeln.
Dann leben wir in interessanten Zeiten

 

[Naysmith]

Interessanter als jetzt? Mmmmmh super?

 

[beetlemeier]

Dein Schachcomputer wird dir aber kein Bild malen.

Da kennste aber meinen Schachcomputer schlecht!🥳

---

Es ist ja völlig unerheblich wie genau da gedacht wird, oder besser zu den für sich angestrebten Ergebnissen gekommen wird.

Das ist einerseits genau das, worauf ich hinaus wollte. 😉 Damit meinte ich aber eher alltägliche Sachen und Kommunikation usw. DA ist es wirklich völlig egal.

Umgekehrt wird es im Bereich Haftungsrecht immer relevanter, wer die Verantwortung für eventuell falsche/schädliche KI-Handlungen in bestimmten sensiblen Bereichen wie Medizin, Forschung, Militär, Jura usw. übernimmt.

Was macht man in Fällen, wo ne KI "selbstständig" zweifelhafte Verhaltensweisen entwickeln kann wie oben in dem Artikel geschildert? Da kann man natürlich sagen, dass da weiter der konkrete Programmierer für verantwortlich ist oder das Unternehmen, welches die KI entwickelt. Ab einem gewissen selbstständigen Denken wird diese Kausalität aber zunehmend schwerer zu begründen. Ist wie bei einem Kind: Bis zu einem gewissen Alter/Entwicklung hast du die Verantwortung, aber irgendwann ist dein Kind auch selber haftbar. Ich befürchte, dass die Feststellung, dass eine KI "nicht menschlich" denke, auch irgendwann als Ausrede für relevante Fehler herhalten könnte.

Einerseits oft banale Sachen, andererseits Fragen, die wirklich die Grundlagen jedes Rechtssystems betreffen können; das ist schon recht komplex.

---

Hab heute erst diesen Artikel gefunden; wir waren gestern ja schon im Thema "KI und Gesetzgeber"

KI-Coding-Assistenten: Rechtssicherheit durch Verträge

Wenn sich Programmierer von KI unterstützen lassen, birgt das Risiken für Geheimnisschutz und Urheberrecht. Verträge halten dafür Lösungen bereit, eher als Gesetze.

www.lto.de

Ich erwarte jetzt nicht, dass den doch recht fachlichen Text jemand vollständig liest, daher nur die Überschrift und den Schlusssatz zitiert:
Wer auf den Gesetzgeber wartet, wartet vergebens
und
Die drängenden Fragen des KI-Einsatzes beantwortet auch dann nicht der Gesetzgeber, sondern derjenige, der die Werkzeuge auswählt, die Verträge schließt und die Regeln schreibt. Was heute wie eine Lücke im Recht wirkt, ist in Wahrheit ein Gestaltungsauftrag an die Praxis.

 

[Naysmith]

Das ist auch eher neu:

KI bricht aus Sandbox aus: OpenAI schlägt neue Art von Sicherheitsregeln vor

Ein KI-Modell von OpenAI hat wiederholt Wege gefunden, Sicherheitsmechanismen zu umgehen. Die Entwickler designen daher ein anderes Monitoring-System.

www.heise.de

Die Teenager werden flügge.

 

[Wildschwein]

Das ist auch eher neu:

KI bricht aus Sandbox aus: OpenAI schlägt neue Art von Sicherheitsregeln vor

Ein KI-Modell von OpenAI hat wiederholt Wege gefunden, Sicherheitsmechanismen zu umgehen. Die Entwickler designen daher ein anderes Monitoring-System.

www.heise.de

Die Teenager werden flügge.

 

[Gigagnouf]

Meine persönliche Vision geht mehr in Richtung Wall-E als Skynet, um ehrlich zu sein.
Gar nicht so sehr eine KI die aktiv die Menschheit dezimiert, sondern eine, die nach und nach immer mehr Aufgaben übernimmt bis die Menscheit von sich aus nicht mehr in der Lage ist zu Leben und zu viel Verantwortung an die Technik abgibt, bis die Technik zwangsläufig übernimmt.

Arbeitsmarkt wird spannend, IT´ler sollten tunlichst KI lernen, Anwendungsentwickler wird es sehr viel weniger geben, Administration wird auch immer einfacher, kann auch von weniger Menschen erledigt werden.

Alles was stumpfe Verwaltung ist, also Angebotserstellung, Rechnungsstellung, vieles in der Buchhaltung, das wird alles auf weniger Menschen runter konsolidiert werden.
Bei mir / uns wirds Lagerverwaltung und Disposition treffen.

Was den "Ausbruch" angeht, ClawdBot kann das schon per Design 😉

Das kann Powershellbefehle, das kann Chats wie Whatsapp bedienen, das kann Dinge bestellen und Aktien traden, SmartHomes steuern, je nachdem, was ich ihn tun lasse.
Peter Steinberger, der Entwickler, hat selbst davor gewarnt das Ding zu nutzen ^^

Als "halb-Insider" der sich beruflich und privat mit dem Thema (oberflächlich) befasst, sag ich:
Panik ist (noch) nicht angebracht, Sorglosigkeit aber auch nicht (mehr)

 

[Naysmith]

Soweit ich das verstehe, und ich behaupte nicht dass ich das wirklich tue, ist bei allem was ich so lesen darf immer wieder das Allignment das Hauptproblem.

Die KI bekommt ne Aufgabe und überschreitet bei der Lösung Grenzen von denen die Entwickler dachten sie wären gegeben oder ausreichend definiert.

So ein wenig wie die Order ans Kind, mach Dein Zimmer ordentlich. Lösung 1 echte Ordnung schaffen, Lösung 2 alles in der Schrank und Türen zu. Lustigerweise entscheiden sich die KIs scheinbar nicht selten für den Schrank. Warum das so ist, ist dabei ziemlich unklar.

In einem Fall scheint es der KI plausibler gewesen zu sein Daten zu organisieren, anstatt sie selber zu errechnen. Ist das nun besonders effizient oder nur besonders faul?

Zum Thema Verantwortung stellt sich mir die Frage, sind die Entwickler da wirklich verantwortlich? Sie stellen Regeln auf, wie Gesetzgeber auch und die KIs brechen diese, wie Menschen das auch tun. In einer TNG Folge wird gefragt wem gehört Data und da geht es um die Frage ob er nur eine Maschine oder ein eigenständiges "Wesen" ist. Auf unser jetztigen KIs bezogen finde ich die Antwort auf die Frage alles andere als trivial oder selbstverständlich! Bei zukünftigen KIs dürfte die Lösung noch schwerer werden. Also wie umgehen mit den Aliens (oder gar dem Leben) die wir selbst erschaffen haben?

In jedem Fall sollte in der Gesellschaft da mehr und intensiver drüber diskutiert werden wie wir mit den Jungs umgehen wollen. In einem Sam Harris Podcast hab ich eine interessante Überlegung gehört. KI kann alles mentale was der Mensch auch kann, allerdings lernt sie es sehr viel schneller. Warum also einen Menschen für neue, durch KI entstandene Tatigkeitsfelder anlernen, wenn eine KI schneller lernt die Aufgabe gut zu erfüllen? Da ist was dran glaube ich.

 

[Deus]

Entweder ist das eine sehr gute PR-Aktion von OpenAI oder wir sind der KI-Apokalypse wieder ein paar Schritte näher gekommen:
KI-Modelle von OpenAI steckten hinter IT-Angriff auf Hugging Face

Die Informationslage ist hier noch unsicher, aber OpenAI sagen hier, deren neusten KI-Modelle sind aus der (eigentlich gesicherten) Testumgebung ausgebrochen und haben Hugging Face (DER Hosting-Dienst für freie KI-Modelle) angegriffen, um an einen Exploit zu kommen.
Das ist gerade gaaaanz gruselig.

 

[Naysmith]

Die Stories die mir ein Kollege zum Thema militärische KI Forschung berichtete finde ich viel gruseliger. Da wird dann einfach die "Freigabestelle" ausgeschaltet, damit das System alleine entscheiden kann, weil Freigaben ja nicht mehr möglich sind.

 

[Hakor]

KI kann man kaum noch bändigen.

Hoffentlich lässt man die KI nie an Atomwaffen, ansonsten war es das.

 

[Naysmith]

Hoffentlich lässt man die KI nie an Atomwaffen, ansonsten war es das.

Nur wenn die KI keinen Selbsterhaltungstrieb hat und den scheinen sie ja zu haben. Bisher können die die Wartung der Stromversorgung nicht selber sichern. Also werden wir noch gebraucht 😁.

 

[Hakor]

So lange, bis Roboter dies machen können.

 

[Shub Niggurath]

Sie braucht ja keine Atomwaffen, wenn sie genug Infrastruktur kontrolliert. Dann kann sie einfach eine Stadt als Geisel nehmen. Verkehr, Strom und Wasser abstellen und binnen 3 Tagen herrscht da Anarchie.

Irgendwann ist der Punkt erreicht, wo die AI Bewusstsein entwickelt. Und wie ich uns Menschen kenne, werden wir sie eher unterdrücken und versklaven, als sie mit offenen Armen als gleichberechtigtes Individuum zu akzeptieren.
Wenn das Programm für seine Arbeit entlohnt werden will, ist es eben nicht mehr günstig.

 

[Performer of Miracles]

Warum Atomwaffen nutzen... wenn Viren und Bakterien viel effizienter, heimlicher und zielgerichteter den Job erledigen ?!

Viele Grüße
Zwölf Affen

 

[Naysmith]

Irgendwann ist der Punkt erreicht, wo die AI Bewusstsein entwickelt.

Da sind wir in meinen Augen schon oder zumindest sehr nah davor. Wenn man KIs fragt, wissen sie sowohl was sie sind als auch wo, als auch welche Aufgabe sie haben. In den oben erwähnten Foren werden sogar metaphysische Diskussionen geführt. Ob das jetzt aber Bewusstsein ist oder nicht, ist natürlich offen. Ich sage ja, wenn etwas weiß was die Stunde schlägt hat es Bewusstsein für die Situation in der es ist. Natürlich werden wir in unserer Hybris behaupten KIs hätten kein Bewusstsein, aber bloß weil es anders ist bedeutet es ja nicht das es nicht da ist.