Künstliche Intelligenz in der Praxis

[Performer of Miracles]

Die Apple Serie Silo zeigt ja im Grunde auch sehr anschaulich, wie man die Menschheit bis auf kurze Phasen von punktueller Rebellion unter Kontrolle halten könnte.

 

[beetlemeier]

KI bricht aus Sandbox aus: OpenAI schlägt neue Art von Sicherheitsregeln vor​

Ein KI-Modell von OpenAI hat wiederholt Wege gefunden, Sicherheitsmechanismen zu umgehen. Die Entwickler designen daher ein anderes Monitoring-System.

Mir ist eine Sache noch unklar: War das "Ausbrechen" jetzt per se als Handlungsalternative ausdrücklich verboten, nicht thematisiert worden oder im Gegenteil erlaubt?
-Wenn das Ausbrechen erlaubt war, dann ist das zwar sicherheitstechnisch nicht schön, aber halt ein erwartbarer Effekt.
-Wenn das Ausbrechen nicht programmiert wurde, ist es zwar hinsichtlich Kreativität der KI beunruhigend, aber eher noch ein Entwicklerfehler.
-Wenn das Ausbrechen trotz "Verbot" erfolgte, dann ist das -menschlich gedacht- schon eine selbstständige Handlung mit klar negativen Effekten. Wenn eine KI sich selber für andere schädliche Handlungsmechanismen trotz gegenteiliger Vorgaben erlaubt, dann wäre das wirklich eine verstörende Nachricht.

---

Also wie umgehen mit den Aliens (oder gar dem Leben) die wir selbst erschaffen haben?

Tja, ist halt die Frage, wo Du jemandem eine Art "Schuld/Verantwortung" konkret zurechnen kannst:
Wenn eine KI Mist baut, beginnst und endest Du da bei der KI selbst? D.h. eventuelle Programmierfehler bleiben unberücksichtigt? Oder wie seriös der Eigentümer einer solchen Firma mit Sicherheitsvorschriften umgegangen ist? Nach meiner Kenntnis gibt es noch keine konkreten Pläne irgendwo auf der Welt, einer KI eine zivil- oder gar strafrechtliche Verantwortlichkeit zu übertragen. Und das dürfte auch nach meiner Einschätzung nur schwer bis unmöglich zu begründen sein.
Es gibt im deutschen Strafrecht den bekannten Spruch: "Schuld ist staatsnotwendige Fiktion". Damit wird zum Ausdruck gebracht, dass es bereits beim Menschen ziemlich heikel ist, eine Schuld klar zu belegen oder zu definieren. Und es gibt ja neurologische Forschung, wonach Handlungen erfolgen, bevor im Gehirn überhaupt der "Befehl" zur Ausführung dieser Handlungen gegeben wurde. Da bleibt eigentlich nicht viel Schuld im Sinne von "Vorwerfbarkeit der Handlung" übrig, wenn Dein Körper vor Deinem Bewusstsei/Gehirn handelt. Wie soll das erst bei KI funktionieren? 🤷‍♂️
Und mal angenommen, man bejaht irgendwann die Strafmündigkeit von sowas: Wie sollten Strafen aussehen und wer vollstreckt diese?

Wirklich interessantes Thema mit vielen Aspekten. Ich wünschte mir nur, das Ganze wäre rein theoretischer Art und nicht mit so nem enormen praktischen Bezug...😵

 

[Xawebor]

KIs sind schon beeindruckend und auf jeden Fall die dann dritte oder vierte Disruption des Arbeitsmarktes, je nach Zählung, die ich in meinem Leben erlebe. Die Welt wird sich auch hier weiter drehen.
Allerdings sind da einige Fixes für niedergehende Demographien jetzt stark zu prüfen, denn der Bedarf an Arbeitern wird stark sinken.
Neu ist, das es zum ersten Mal in der neueren Wirtschaftsgeschichte den "white collar" Jobs, insbesondere den Bullshit Jobs, massiv an den Kragen gehen wird. Ich als Exportkaufmann bin prinzipiell auch betroffen. Aber mein AG ist ein KMU, d.h. die KI ersetzt mich nicht, da ich der einzige bin der die entsprechende Stelle besetzt. Ich krieg nur keinen Kollegen, das hat der Eigentümer bereits bekannt gemacht. Mein Kollege in den nächsten Jahren wird die KI. Konzerner in (zu) gut bezahlten Verwaltungsjobs allerdings...........
Software wird erstmal heftige Entlassungswellen sehen, läuft ja schon, dann wird man in den 2040ern verzweifelt die alten Hasen zurückholen, weil keiner mehr durch die dann geschaffenen KI Softwarewelten durchblickt. War/Ist bis vor kurzem in den Bereichen Aerospace, Space und Versicherungen (COBOL) gut zu besichtigen wie das läuft.

Bis jetzt sind KIs in meinen Augen nicht einmal im Ansatz auch nur Lichtjahre in der Nähe des nur Gedankens an Bewustsein und echte Kreativität. Ich stecke seit September letzten Jahres in einer dicken KI Fortbildung für KMUs, das geht noch bis Ende Q1/2027. Einmal die Woche 3h Druckbetankung sowie alles mögliche drumrum. KIs sind richtig gute Statistiker, je größer ihr Trainingsdatensatz und Analysedatensatz, desto besser sind sie im berechnen der Wahrscheinlichkeit des nächsten Wortes oder Bildpixels, oder dessen Erkennen.
"Mehr" ist es aber nicht. Das erscheint "nur" auf uns Menschen wie das I in KI.

Und eigenständiges Leben ist das schonmal garnicht, wird es auch niemals sein.
KIs sind Werkzeuge, wie alle anderen Werkzeuge. Die bisher wohl mächtigsten, aber am Ende nur Werkzeuge. Spielt das Werkzeug verrückt oder braucht man es nicht mehr, schaltet man es ab und baut es zurück.

 

[Shub Niggurath]

Und eigenständiges Leben ist das schonmal garnicht, wird es auch niemals sein.
KIs sind Werkzeuge, wie alle anderen Werkzeuge. Die bisher wohl mächtigsten, aber am Ende nur Werkzeuge. Spielt das Werkzeug verrückt oder braucht man es nicht mehr, schaltet man es ab und baut es zurück.

Wir wissen ja nichtmal, was genau unser menschliches Bewusstsein ausmacht. Da kann man nicht sagen, dass eine Maschine niemals diesen unbestimmten Zustand erreichen kann. Aber genau so hat sich die Menschheit immer die Sklaverei schön geredet.

 

[Naysmith]

Zugegeben der Gastgeber ist ziemlich speziell. Aber ansonsten ein wirklich aufschlussreiches "Gespräch" mit jemandem der tiefen Einblick in die aktuellsten Entwicklungen besitzt.