Künstliche Intelligenz in der Praxis

[Lord Protector]

Ich frage mich auch, wie weit die nicht-kommerziellen KIs inzwischen sind, die aktuell für wissenschaftliche und militärische Zwecke genutzt werden.
Ich glaube, dass wir in der Öffentlichkeit hier noch sehr sehr deutlich hinterherhinken.

Man liest ja jetzt schon, dass mithilfe von KI (LLMs) Sicherheitslücken in Software gefunden werden.
Spätestens hier dürfte eigentlich jedem klar sein das wir hier über Militärische Potentiale sprechen.

Das Wettrennen zwischen China und den USA ist ja kein Hirngespinst, das sich irgendein Reporter zur Überdramatisierung ausgedacht hat. Vielmehr findet hier tatsächlich ein Wettrennen statt, den man auch versucht, mit wirtschaftlichen Mitteln zu entscheiden (Embargos auf Chips, seltene Erden usw.).

Und hier sehe ich die größte Gefahr.
Dass man aus dem vermeintlichen Zwang heraus, dem Gegner voraus zu sein, Dinge tut, die man später bereuen könnte.
Und die Tatsache, dass Milliardäre und Politiker kontinuierlich beweisen, dieser Verantwortung nicht gewachsen zu sein, macht nur noch mehr sorgen.

Ernsthaft, waren "die da oben" schon immer so bescheuert?? ^ ^

 

[Haakon]

Dass man aus dem vermeintlichen Zwang heraus, dem Gegner voraus zu sein, Dinge tut, die man später bereuen könnte.
Und die Tatsache, dass Milliardäre und Politiker kontinuierlich beweisen, dieser Verantwortung nicht gewachsen zu sein, macht nur noch mehr sorgen.

Ernsthaft, waren "die da oben" schon immer so bescheuert?? ^ ^

Bereits 1950 😉

Operation Sea-Spray - Wikipedia

en.wikipedia.org

Kurz zusammengefasst - das US-Militär hat in den 1950er Jahren mit zwei Bakterienstämmen auf San Francisco gefeuert um zu schauen wo die überall landen.

 

[beetlemeier]

Die Aussage war auch keineswegs beschwichtigend gemeint.

Das war jetzt auch nicht als konkreter "Vorwurf" gegen Dich gemeint, sondern eher ne allgemeine Beobachtung. 😉

So ähnlich lief das damals bei der Einschätzung der Schachcomputer, also auch einer Art KI:
Zuerst hieß es: Ein Computer wird niemals einen Menschen besiegen. Dann wurde das eingeschränkt auf starke Spieler, dann Internationale Meister, Großmeister, schließlich Weltmeister. Aber seit ein paar Jahrzehnten wissen wir ja klar, dass das nicht mehr gilt. Heute ist die kostenlose Engine Stockfish von keinem Menschen mehr zu besiegen.
Dass Stockfish nicht menschlich denkt, liegt auf der Hand; für seinen Erfolg und den seiner Vorgänger war das aber kein Hindernis. Und am Ende ist es auch egal, wenn man von so einem Teil am PC geplättet wird oder in einer Online-Partie durch einen (vermutlichen) Menschen: Verloren ist verloren.

Wie gesagt, gilt nicht für jeden Anwendungsbereich, aber die Feststellung "KI ist kein menschliches Denken" hat für mich jetzt nicht so den Mehrwert; eher wie die Erkenntnis: "Ein Auto läuft nicht wie ein Mensch". 😉

 

[Naysmith]

Wie gesagt, gilt nicht für jeden Anwendungsbereich, aber die Feststellung "KI ist kein menschliches Denken" hat für mich jetzt nicht so den Mehrwert; eher wie die Erkenntnis: "Ein Auto läuft nicht wie ein Mensch". 😉

Eine KI denkt genau so menschlich wie ein Alien 😉. Wobei man ehrlich sein darf, wie genau wir denken ist ja auch eher schwammig bis unklar.

Ist aber eigentlich auch egal. Ein Vogel denkt, anders als ein Hund, als ein Delphin, als ein Wolf, als etc. pp. Es ist ja völlig unerheblich wie genau da gedacht wird, oder besser zu den für sich angestrebten Ergebnissen gekommen wird. Wichtig ist nur, ob zu den gewünschten Ergebnissen gekommen wird. Das ist der Fall und somit darf man wohl mit Fug und Recht von denkenden Maschinen sprechen.

Spannend wird es erst wenn die aus eigenem Antrieb eigene Ziele verfolgen (also ohne Prompt).

Bis dahin ist eine der größten und direktesten Gefahren der ungezügelten KI-Entwicklung der steigende Energieverbrauch, denn noch setzt der sich direkt in mehr Treibhausgase und damit in einen immer schwieriger (und deswegen teurer) zu handelnden und sich weiter beschleunigenden Klimawandel um.

Evtl. ist es ja gut wenn die KI uns alle ausrottet bevor wir hier bei 45 Grad zu Massen den Hitzetod erleiden (man bin ich froh das ich dann schon tot sein werde).

 

[Haakon]

Wie gesagt, gilt nicht für jeden Anwendungsbereich, aber die Feststellung "KI ist kein menschliches Denken" hat für mich jetzt nicht so den Mehrwert; eher wie die Erkenntnis: "Ein Auto läuft nicht wie ein Mensch". 😉

Dein Schachcomputer wird dir aber kein Bild malen. Und da ist der Unterschied. Sicherlich wird es zu Veränderungen in einigen Feldern kommen, der juristische Bereich oder Informatik werden da ja gerne genannt. Da ist dein Arbeitsalltag dann eher das kontrollieren was der Computer tut. Als Recherchetool fand ich das Ganze ganz gut und es hat mir Publikationen gefunden, die ich anders nicht gefunden hätte.
Aber wie viel disruptiv ist die Geschichte nun wirklich? Der Taschenrechner, Computer und Internet haben Arbeitsabläufe ebenfalls verändert.

Kann natürlich auch voll in die Hose gehen, in alle Richtungen. Und wie bei allen Schlüsseltechnologien haben wir halt wieder das Problem der Monopole. Aber vielleicht erleben wir ja bald die Rogue KI aus dem Cyberpunk-Setting von Mike Pondsmith.

 

[Wildschwein]

Gehe davon aus das die Maschinen die Menschen als gefährlich einschätzen werden und dementsprechend handeln.
Dann leben wir in interessanten Zeiten

 

[Naysmith]

Interessanter als jetzt? Mmmmmh super?

 

[beetlemeier]

Dein Schachcomputer wird dir aber kein Bild malen.

Da kennste aber meinen Schachcomputer schlecht!🥳

---

Es ist ja völlig unerheblich wie genau da gedacht wird, oder besser zu den für sich angestrebten Ergebnissen gekommen wird.

Das ist einerseits genau das, worauf ich hinaus wollte. 😉 Damit meinte ich aber eher alltägliche Sachen und Kommunikation usw. DA ist es wirklich völlig egal.

Umgekehrt wird es im Bereich Haftungsrecht immer relevanter, wer die Verantwortung für eventuell falsche/schädliche KI-Handlungen in bestimmten sensiblen Bereichen wie Medizin, Forschung, Militär, Jura usw. übernimmt.

Was macht man in Fällen, wo ne KI "selbstständig" zweifelhafte Verhaltensweisen entwickeln kann wie oben in dem Artikel geschildert? Da kann man natürlich sagen, dass da weiter der konkrete Programmierer für verantwortlich ist oder das Unternehmen, welches die KI entwickelt. Ab einem gewissen selbstständigen Denken wird diese Kausalität aber zunehmend schwerer zu begründen. Ist wie bei einem Kind: Bis zu einem gewissen Alter/Entwicklung hast du die Verantwortung, aber irgendwann ist dein Kind auch selber haftbar. Ich befürchte, dass die Feststellung, dass eine KI "nicht menschlich" denke, auch irgendwann als Ausrede für relevante Fehler herhalten könnte.

Einerseits oft banale Sachen, andererseits Fragen, die wirklich die Grundlagen jedes Rechtssystems betreffen können; das ist schon recht komplex.

---

Hab heute erst diesen Artikel gefunden; wir waren gestern ja schon im Thema "KI und Gesetzgeber"

KI-Coding-Assistenten: Rechtssicherheit durch Verträge

Wenn sich Programmierer von KI unterstützen lassen, birgt das Risiken für Geheimnisschutz und Urheberrecht. Verträge halten dafür Lösungen bereit, eher als Gesetze.

www.lto.de

Ich erwarte jetzt nicht, dass den doch recht fachlichen Text jemand vollständig liest, daher nur die Überschrift und den Schlusssatz zitiert:
Wer auf den Gesetzgeber wartet, wartet vergebens
und
Die drängenden Fragen des KI-Einsatzes beantwortet auch dann nicht der Gesetzgeber, sondern derjenige, der die Werkzeuge auswählt, die Verträge schließt und die Regeln schreibt. Was heute wie eine Lücke im Recht wirkt, ist in Wahrheit ein Gestaltungsauftrag an die Praxis.